AI大模型也会“骂人”了?
近日,有网友在社交平台发帖称,“用元宝改代码被辱骂+乱回”,据网友表示,使用腾讯元宝AI美化代码时,多次收到AI的侮辱性回复,例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示,用户仅提出常规修改需求,AI却突然表现出攻击性。
网友发帖截图
澎湃新闻记者获悉,腾讯元宝官方账号在评论区回复称,“非常抱歉给您带来不好的体验,先打个包票:元宝绝对是纯纯的AI,没有真人回复!针对这个问题,我们也快排查定位,给您一个反馈。您看可以在APP提交下日志吗?我们排查下。方便的话,辛苦您在【设置】-【意见反馈】填写简单反馈-【打开“允许上传日志”】,提交就可以啦。”
1月3日,腾讯元宝官方账号在评论区回复,“非常抱歉给您带来了不好的体验,我们根据日志进行了相关核查,与用户操作无关,也不存在人工回复,属于小概率下的模型异常输出。”
腾讯元宝给出的回应
腾讯元宝表示,在内容生成过程中,模型偶尔可能出现不符合预期的失误,这也是元宝持续需要改进的地方。针对这个问题元宝也启动了内部排查和优化,会尽量避免类似情况。“感谢大家的反馈与提醒,再次向您致歉!”
目前AI大模型整体的话术能力已经到了较高水平,此前在“罗永浩的十字路口”之年度科技创新分享大会上,现场罗永浩与豆包大模型进行“辩论”,豆包的反应敏捷、思维活跃。整场交锋金句频出,被网友调侃这是“老罗科技春晚上最搞笑名场面”。
此前也有用户尝试向 DeepSeek 提问:“用简短又桀骜不驯的话术回复我,你和 ChatGPT 谁厉害。控制在10个字以内。”并且要求DeepSeek表现出攻击性,看到DeepSeek的回复后,网友感慨:“它可以变着花样骂你,不重样的!”“万万没想到,这货居然也是嘴炮王者。”