ChatGPT-4o 是 OpenAI 聊天机器人阵容的最新迭代产品,正如你所预料的那样,该公司对用户如何与聊天机器人互动有些担忧。鉴于最新版本的聊天机器人可以表现出类似人类的行为和反应,这家人工智能公司担心用户会对聊天机器人产生感情。
ChatGPT-4o 提供了更快的回复,甚至还有模仿人类语音的新语音功能,而这正是 OpenAI 所担心的。
这家市值数十亿美元的初创公司在继续完善其产品的同时,也不能不注意到 ChatGPT-4o 用户的一些行为模式。新聊天机器人的推出旨在提供一种类似于与人交谈的体验,但 OpenAI 似乎低估了用户与程序之间可能产生的情感联系。该公司在下文中重点介绍了其研究结果。
在包括红队和内部用户测试在内的早期测试中,我们观察到用户使用的语言可能表明他们与模型形成了联系。例如,这包括表达共同纽带的语言,如”这是我们在一起的最后一天”。虽然这些情况看起来是良性的,但它们预示着需要继续调查这些影响在更长的时间内会如何体现。除了独立的学术研究和内部研究外,更多样化的用户群体、对模型更多的需求和渴望将帮助我们更具体地界定这一风险领域。
与人工智能模型的类人社交可能会产生外部效应,影响人与人之间的互动。例如,用户可能会与人工智能形成社交关系,从而减少对人类互动的需求–这可能会使孤独的个人受益,但也可能会影响健康的人际关系。与模型的扩展互动可能会影响社会规范。例如,我们的模型是敬而远之的,允许用户随时打断并’抢麦’,这虽然在人工智能的意料之中,但在人际交往中却是反规范的。
对 ChatGPT-4o 产生感情有多种不利因素。最主要的一点是,以前用户会无视任何幻觉,因为之前迭代的聊天机器人让他们看起来更像是一个人工智能程序,而不是一个人。而现在,随着程序向提供近似人类的体验过渡,它所说的任何话都会被接受,而无需进一步询问。
通过注意到这些模式,OpenAI 现在将监控人们如何与 ChatGPT-4o 建立情感联系,并相应地调整其系统。该公司还应该在一开始就加上免责声明,以免用户爱上它,因为归根结底,它只是一个人工智能程序。
文章为互联网资源,版权归原作者所有,发布者:房小蜂,转转请注明出处:https://www.fangxiaofeng.com/hot/5125.html