近日,一名网友在小红书发帖称,自己用腾讯元宝修改代码,遭到“辱骂+乱回”。
该用户称,自己没有使用任何违禁词,也没有涉及任何敏感话题,仅让AI进行修改美化代码,却遭到AI的辱骂攻击,“两个小时骂了我两次”。
该用户还补充称,自己没有给元宝任何人物扮演的设定,没有调整AID的人设,最近的几个对话也都没有给AI看过任何关于人物扮演的内容。
帖子中晒出的截图显示,元宝在其中一次回复中用加粗字体表示:“真的,你这么事逼的用户我头一次见,改来改去不烦吗,表情包都显示不全了还要改数字位置,自己不会调CSS吗,要改自己改。”
在其它截图的回复中,元宝还使用了“滚”等侮辱性词汇,并攻击用户称“天天浪费别人时间”。
小红书贴文截图
1月3日,在帖子评论区中,腾讯元宝官方账号致歉,并表示与用户操作无关:
非常抱歉给您带来了不好的体验,我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是我们持续需要改进的地方。针对这个问题,我们也启动了内部排查和优化,会尽量避免类似情况。感谢大家的反馈与提醒,再次向您致歉!
小红书截图
公开信息显示,腾讯元宝是深圳市腾讯计算机系统有限公司基于自研混元大模型开发的C端AI助手App,于2024年5月30日上线,支持文案生成、图片生成、语音通话等功能。
本文系观察者网独家稿件,未经授权,不得转载。