新华社吉隆坡1月12日电(记者王嘉伟)马来西亚通信和多媒体委员会11日发表声明说,当天起临时限制马来西亚互联网用户访问美国企业家埃隆·马斯克旗下的人工智能(AI)聊天机器人“格罗克”(Grok)。 声明说,采取这一监管措施是鉴于“格罗克”被滥用于生成淫秽色情、极具冒犯性且未经当事人同意的合成图像内容,包括涉及女性及未成年人的内容。 “格罗克”由马斯克旗下人工智能企业xAI公司开发,并内置于马斯克旗下社交媒体平台X。马来西亚通信和多媒体委员会表示,已于本月3日和8日分别向X平台和xAI公司发出通知,要求其采取落实有效技术防护和内容审核机制等多项措施,以防止AI生成可能违反马来西亚法律的内容。不过,X平台所提交的回应主要依赖由用户主动发起的举报机制,未能充分应对该AI工具在设计和运行层面的固有风险。 马来西亚通信和多媒体委员会认为,上述做法不足以防止伤害发生,也无法确保符合法律要求,因此采取预防性且适度的临时限制措施。相关限制将持续生效,直至落实有效防护机制,尤其是防止AI生成涉及女性和儿童的色情内容。 马来西亚通讯部副部长张念群此前对媒体表示,“格罗克”在未经当事人同意情况下生成不当内容,已引发全球多国舆论与监管机构的强烈关注。马方对相关功能可能被滥用表示严重关切。 张念群表示,全球正围绕人工智能展开激烈竞争,但若一味追求速度与利润,而忽视伦理规范与社会责任,其后果将不堪设想。“格罗克”在短时间内大量生成不雅影像,且速度远超传统影像处理方式,凸显出人工智能在缺乏伦理约束情况下被滥用的现实风险。