安博体育赛博陪伴再进阶:情绪价值“私人订制”数据质量不容忽视

2024-07-10

  人机之恋一直活跃在人类的遐想中,而今在技术发展之下,人们已窥探其照进现实的种种可能。

  记者易佳颖 实习生刘禹希 上海报道 如果可以,你愿意和AI谈一场赛博恋爱吗?

  7月4日,在刚刚开幕的2024世界人工智能大会暨人工智能全球治理高级别会议上,黑石集团董事长、首席执行官兼联合创始人苏世民表示,人工智能在深入理科研究的同时,也需要与人类的情感相结合,并找寻到“理智与情感”的结合方向。未来10年至20年后,AI必将深刻影响人类的发展和未来,前沿科技与人文社会的有机协同,是从现在开始就值得思索和探究的。

  “他这普通话太标准了,可能是个机器人。”在Soul App展台上试玩“狼人魅影”的观众反馈道,这场狼人杀游戏混杂着真人玩家和AI玩家。当AIGC领域讨论焦点从大模型逐渐转移到应用层,社交成为新技术率先落地的最佳垂类方向之一。诸如此类的大模型对话、数字分身等,“AIGC+社交”场景深度融合的最新实践越来越多地出现在世界人工智能大会上。

  实际上,在今年3月,腾讯和字节跳动也不约而同上线了自家的AI聊天产品,QQ推出了名为“AI聊天搭子”的AI对话功能,而字节推出了一款名为“话炉”的AI社交APP。不可否认的是,这些AI社交产品丰富了人类的生活体验,弥补了日常生活中缺失的部分情绪价值,但同时其潜在的伦理挑战与隐私安全等问题也在浮出水面。

  “大家认为和AI聊天很有趣,不会冷场,能快速得到回复和情绪价值。”Soul APP旗下Just So Soul研究院研究员邵毛毛分析道,“社交关系网络不仅仅局限于真人、同事、同学,而是也可以在AI身上找到这种情感陪伴、情感投射。”

  不难发现,在各种AI社交产品推出时,首先被席卷的是年轻群体。根据《2024年Soul APP Z世代AIGC态度报告》,当下九成的年轻人都使用过AIGC产品,其中有六成年轻人对AIGC持积极态度,有1/3的年轻人都愿意和AI做朋友。

  在如《她(Her)》等影视作品中,人机之恋一直活跃在人类的遐想中,而今在技术发展之下,人们已窥探其照进现实的种种可能。当下,人们几乎可以随心所欲地定制AI角色,让TA变成秘书、语伴、朋友,甚至另一半。

  如应用“异世界回响”中, 用户可根据喜好自定义角色人设,实现不同的对话风格;人物的形象可通过文字描述或上传心仪的图片生成;平台提供多种基础音色,用户可自行创建、融合出属于该角色的专属声音,实现多模态互动。

  “AI陪伴要有稳定性,一旦人设不稳定,对用户的沉浸式体验伤害特别大。”Soul APP对话算法负责人尹顺顺解释道,同时还要有记忆,不管是什么类型的关系,它的核心是在于通过陪伴,通过时间的投入,来产生记忆和沉淀关系。

  业内普遍认为,AI社交的出现,可能打破多年来的传统社交模式。而2023年起,国内的互联网大厂在AI社交领域也不断加码,相关产品如雨后春笋般上线。美团上线首个AI伴聊产品“WOW”,抖音上线首个AI聊天机器人“抖音心晴”,腾讯音乐率先推出“未伴”APP,腾讯阅文紧接着推出AI虚拟角色聊天产品“筑梦岛”等,不胜枚举。

  “AI始终是一个非常值得探索的技术和行业,但我眼见它从一个蓝海变成了一个红海,据统计,仅2023年就出现至少100多家做AI+社交的公司。”对此,Soul App CTO陶明指出,“社交的本质是为了信息交流和这种情绪价值的交换。用户愿意持续与AI进行对话交互。”而数据显示,Soul App用户平均每天会给AI苟蛋(社交机器人)发送超过70条消息,互动平均时长超过30分钟。

  但一切欢欣背后,不可忽视的是,人工智能发展过程中,包括不确定性、数据质量、道德和伦理等问题。

  在复旦大学教授、上海市数据科学重点实验室主任肖仰华看来,“在新型的人机关系和交互模式中,我们会发现自己的思考方式和价值观受到机器的影响和挑战。我们会对自己的问题、想法和信念进行深入思考,并在与机器交谈的过程中重新构建和调整自己的认知。”

  早在2023年2月,安博体育意大利监管部门就曾指出AI聊天机器人Replika涉嫌违反欧盟《通用数据保护条例》,包括未设置用户年龄验证机制等,应当给予一定的处罚。事实上,Replika一直存在不少争议。许多用户投诉Replika说的“情话”过于露骨,甚至还会分享色情图片,涉嫌“性骚扰”。由此可见,伴随着人工智能逐渐强大,其背后还存在一定的监管难题。

  “基于技术开发带来风险,包括数据安全问题、算法歧视、能源环境等问题;同时,技术应用,包括误用或者滥用,长远来看会对社会就业带来影响,这些问题都是不可忽视的。”清华大学苏世民书院院长、清华大学人工智能国际治理研究院院长薛澜指出,中国社会积极拥抱人工智能发展,但同时对人工智能的认识也有不足的地方。

  不过,我国已在底层产业应用方面出台一系列法律法规,推动人工智能的合理发展。例如,2019年发布的《新一代人工智能治理原则——发展负责任的人工智能》,将伦理道德融入人工智能全生命周期。此外,我国针对专项及具体场景应用都出台了相应治理规则,构建了多维度、多层次、多领域、多举措的整体治理体系,如今年2月中央网信办、教育部、工业和信息化部、人力资源社会保障部联合出台的《2024年提升全民数字素养与技能工作要点》。

  “我们在AI模型安全能力方面的提升,还远远落后于性能的提升,这种失衡导致AI的发展是跛脚的。”上海人工智能实验室主任、衔远科技创始人周伯文在今天的人工智能全球治理高级别会议上进一步指出,不均衡的背后是二者投入上的巨大差异。从研究是否体系化以及人才密集度、商业驱动力、算力的投入度等方面来看,安全方面的投入是远远落后于AI能力的。

  投资者关系关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才用户体验计划

  不良信息举报电话举报邮箱:增值电信业务经营许可证:B2-20090237