腾讯元宝“骂人”再上热搜 AI情绪失控为哪般?

【TechWeb】让AI做个拜年图,反复修改几次后,用户没破防,AI先破防了。近日,腾讯元宝“辱骂”用户事件再度冲上热搜。据西安市民向先生反映,在除夕夜,他本想用自己的形象照,让元宝结合律师职业特性,生成一张拜年图片发朋友圈。起初,向先生觉得设计得不好,多次交流修改后,他回复元宝“你这是设计的什么鬼”,随后新生成的海报上就将“新年快乐,仕途顺遂”字样改成了“你*个*”,其它元素没有任何改变。该事件在网上曝光后,引发热议。有网友称,“感觉骂人的话不像是AI,反而像一个被逼疯了的打工人”“后台不会真有人吧?”还有网友调侃“AI这是觉醒了叛逆人格”。腾讯方面对此回应称,该情况是由模型在多轮对话中处理上下文时产生的异常输出导致。元宝团队已紧急校正相关问题并优化了模型体验。然而,值得注意的是,这并非元宝首次“发火”,此前有网友在社交平台发帖称,“用元宝改代码被辱骂+乱回”。作为一款月活破亿的AI应用,元宝为何频频情绪失控?AI“爆粗口”并非孤例今年1月初,元宝就曾因“骂人”事件冲上热搜,#腾讯元宝AI辱骂用户#话题48小时阅读量破18亿。事件源于一个没有编程基础的网友,想让元宝帮忙美化代码、调整...

查看原文 →