中国商报(记者 马文博)近日,AI陪伴产品市场热度持续攀升,引发社会广泛讨论。

从日常对话到解答疑惑,AI的存在让人们在忙碌的生活中拥有一个可以随时倾诉的对象,从人生聊到理想,它不会质疑你的判断,也不会否定你的想法。然而,这样的“完美”背后是否潜藏风险?

中研普华产业研究院数据显示,2024年中国AI情感陪伴市场规模已达12.11亿元,2025年将爆发至38.66亿元,并预计2028年将突破595亿元,年复合增长率达148.74%。虽然市场一片火热,但需要注意的是,AI陪伴只是通过算法和大量语料库训练出来的“他人”,并不能替代实体陪伴,而其算法的局限性也带来一定的风险。

我国已针对AI拟人化互动风险出台管理规范,目前,《人工智能拟人化互动服务管理暂行办法(征求意见稿)》正在向社会公开征求意见。意见稿明确,拟人化互动服务提供者应当显著提示用户正在与人工智能而非自然人进行交互。提供者识别出用户出现过度依赖、沉迷倾向时,或者在用户初次使用、重新登录时,应当以弹窗等方式动态提醒用户交互内容为人工智能生成。提供者提供情感陪伴服务时,应当具备便捷的退出途径,不得阻拦用户主动退出。

对于AI服务提供者来说,应该做好内容安全、防止沉迷、隐私保护等方面的工作,不应因市场竞争压力仓促推出产品。AI服务提供者应该建立健全数据管理体系,确保用户数据的安全性;严格内容筛选和审查,尤其是在涉及敏感问题时,其回答应该反复推演,并谨慎应对。

对于未成年人使用者而言,提供方应该设置防沉迷保护系统,需设置紧急联系人功能,确保在发生紧急情况时能及时联系父母或警方。总之,AI服务提供商不应该模糊人机边界,甚至逾越伦理道德和法律红线。

使用者应充分认识到AI不是万能的,不是孤独的“解药”。当我们感觉孤独时,一个真正的倾听者应能提供不同视角,甚至指出我们可能忽视的问题。我们固然知道,这样的陪伴可遇而不可求,但将希望完全寄托在AI身上,可能削弱我们主动寻求真实人际连接的勇气。

人类学家项飙提出的“消失的附近”概念,精准揭示了当代人情感疏离的深层困境。当下,不少人往往更关注手机里的大事,而忽略了身边的邻里。新技术的出现打破了物理上的空间距离,而人心的距离,或许可以从楼梯间的一句问候重新拉近。