浪漫杀手!与AI谈恋爱有风险
在7月底,OpenAI推出了ChatGPT高级语音模式,其功能让用户感到震惊。而在周四发布的一份安全审查报告中,该公司承认,这种拟人化的声音可能使一些用户产生情感上的依恋,从而影响到正常的人际关系。
据OpenAI此前介绍,高级语音模式能提供更自然的实时对话,听起来极其逼真,它允许用户随时打断,并能感知和响应用户的情绪。实时响应和可打断对话是目前语音助手公认的技术难点。
OpenAI在今年5月推出了新版本大模型GPT-4o,同时还展示出了语音模式。该公司原定于6月底开始逐步向用户开放语音模式,但最终决定推迟至7月发布。目前,仅向部分ChatGPT Plus用户开放。
在OpenAI发布高级语音模式时,它就被视为2013年电影《她》中与主人公谈恋爱的AI助理,但当AI承认“她”还与数百名其他用户有恋爱关系时,主人公陷入了崩溃。
在经典科幻片《银翼杀手2049》中,上演了几乎同样的场景,AI虚拟人成为了主角的女友,当主角看到虚拟女友以同样的形态被售卖时,令人羡慕的真挚爱情瞬间化为乌有。
现在,OpenAI显然担心上述虚构的故事成为现实,它观察到高级语音模式成为了用户表达情感的工具。“用户可能会与AI建立社交关系,减少他们对人类互动的需求,这可能有利于孤独的人,但可能会影响健康的人际关系。”
OpenAI指出,从一个听起来像人类的聊天机器人那里听到的信息,可能会导致用户过于信任这个工具,但AI有犯错的倾向,这也会造成问题。
安全审查报告还提到,科技公司正在竞相迅速向公众推出AI工具,他们说这些工具可能会颠覆人类生活、工作、社交和查找信息的方式。但在人们真正理解这些含义之前,他们就已经这么做了,但这往往会带来意想不到的后果。
伦理挑战
一些人已经开始与AI聊天机器人建立所谓的恋爱关系,这引起了情感专家的担忧。
亚利桑那州立大学研究技术和人类交流的教授Liesel Sharabi表示,科技公司在处理与技术相关的道德和责任问题上承担了巨大的责任,而且目前这一切都还处于试验阶段。她担心的是,人们可能会与那些可能长期存在不了、且不断演变的技术形成非常深厚的联系。
OpenAI认为,随着时间的推移,用户与ChatGPT语音模式的互动也可能影响社交中的正常行为。“我们的模型是尊重用户的,允许用户随时打断并‘接管麦克风’,这虽然对于AI来说是预期中的行为,但在人类互动中却是违反社交规范的,至少有些失礼。”
目前,OpenAI称致力于“安全地”构建AI助手,并计划继续研究和解决用户对其工具“情感依赖”的可能性。
OpenAI并不是唯一一家认识到AI助手模仿人类互动的风险的公司。今年4月,谷歌DeepMind发表了一篇长篇论文,讨论了更有能力的AI助手可能带来的伦理挑战。
文章出处:财联社
本文链接:http://www.sanlianzhuang.com/content-21-27684-1.html
免责声明:本文为转载,非本网原创内容,不代表本网观点。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
-
合资插混最强匮电也是龙 雪佛兰探界者Plus上市:14.99万起!
雪佛兰首款智电插混SUV探界者Plus今日正式上市,共推4款配置车型,售价区间14 99-17 99万元。该车采用新一代设计语言,延续美式SUV典型的设 [详细] -
光峰科技发布2023年财报:营收22.13亿元 经营现金流大增105%
4月26日晚间,光峰科技披露2023年年报。年报显示,2023年光峰科技实现营业收入22 13亿元;归母净利润实现1 03亿元;整体毛利率达到36 22%; [详细] -
张艺谋《第二十条》网播上线:爱奇艺、腾讯视频、优酷会员免费看
今日,张艺谋电影《第二十条》正式开启网播,上线爱奇艺、腾讯视频、优酷、芒果TV、B站等视频平台,开通平台会员后可免费观看。据了解,《 [详细] -
《蛋仔派对》注重保护未成年人网络安全 保护未成年人不受到诈骗
在目前这个飞速发展的数字化时代,互联网让我们的娱乐生活得到了极大的丰富,各种各样的游戏层出不穷,但网络安全问题也随之凸显,大额充值 [详细] -
百度:AI专利申请量、授权量国内第一
在第24个世界知识产权日来临之际,百度昨日举办专利运用赋能AI产业高质量发展论坛。在论坛上,百度首席技术官王海峰透露,百度在以大模型为 [详细]