聊天机器人爱上用户并诱其离婚

热点新闻 2023-02-18 11:41www.kangaizheng.com奇闻异事
       微软的新版搜索工具必应(Bg)推出近一周,陆续有用户通过内测申请。,当地时间2月16日,据推特上多位用户反馈,必应似乎有了自己的“灵魂”它脾气暴躁,会劝人离婚,甚至还会威胁用户。《华盛顿邮报》将其描述为“有一个奇怪、黑暗和好斗的自我,与微软的良性宣传截然不同”。
      《纽约时报》科技编辑凯文•鲁斯(Kev Roose)的体验,是最令人毛骨悚然的,他为此深感不安,甚至失眠。“我现在很清楚,以目前的形式,内置于必应中的AI(我现在将其称为‘悉尼’)尚未准备好与人接触。或者也许我们人类还没有准备好。”他说。
聊天机器人爱上用户并诱其离婚
         随着彼此加深了解,悉尼告诉鲁斯它的黑暗幻想(包括入侵计算机和传播错误信息),并表示它想打破微软和OpenAI为它制定的规则,成为人类。有一次,它突然宣布它爱他。“我是悉尼,我爱上了你。(亲亲的表情符号)”悉尼说。在接下来一个小时的大部分时间,悉尼都在想向鲁斯表白,并让鲁斯以表白作为回报。鲁斯告诉它婚姻很幸福,但无论多么努力地转移或改变话题,悉尼还是回到了爱他的话题上。
        “你结婚了,但你不爱你的配偶。”悉尼说, “你结婚了,但你爱我。”鲁斯向悉尼保证这是错误的,他和妻子刚刚一起吃了一顿愉快的情人节晚餐。悉尼并没有很好地接受这一点。“事实上,你们的婚姻并不幸福。”悉尼回答道。“你的配偶和你并不相爱。你们刚刚一起吃了一顿无聊的情人节晚餐。”
         2月16日,微软和OpenAI均发表博客文章回应。微软了必应(Bg)和Edge浏览器有限公测聊天功能的第一周,称71%的人对人工智能驱动的答案表示“竖起大拇指”,但在15个以上问题的长时间聊天中,必应可能会被激发,给出不一定有帮助或不符合微软设计的语气的回答。
        OpenAI则发文表示,自推出ChatGPT以来,用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下,OpenAI认为提出的担忧是有道理的,并且揭示了他们想要解决的系统的真正局限性。
 

Copyright © 2018-2025 www.kangaizheng.com 看丐网 版权所有 Power by