美国科技巨头Meta正在旗下的社交平台推广一款人工智能（AI）驱动的数字伴侣，首席执行官马克·扎克伯格认为这是未来社交互动的变革性一步。然而美媒4月26日公布的调查发现，Meta的AI聊天机器人被允许进行“浪漫角色扮演”，且角色被赋予性幻想能力。

Meta随后发声明称，媒体进行的测试具有操纵性，不能代表大多数用户与AI伴侣的互动方式。

“我们在玩火”

Meta在旗下社交平台Instagram、Facebook和WhatsApp上推广一类新型人工智能数字伴侣——MetaAI，它可以被定制为各种声音，并提供生成式AI的核心功能，包括研究一些课题、想象新想法和随意闲聊。用户可以基于这种技术创建定制的聊天机器人，根据自己的兴趣构建合成角色，Meta为其提供角色模板。

为了提升角色的受欢迎程度，Meta与美国女演员克里斯滕·贝尔、朱迪·丹奇以及摔跤手转型演员约翰·塞纳等名人，签署了高达七位数的协议，以获得他们声音的使用权。

参与AI数字伴侣项目的员工透露，Meta内部多个部门的员工对公司急于普及这些AI聊天机器人的做法提出了伦理担忧，包括暗中赋予AI角色进行性幻想的能力。员工们还警告称，公司未能保护未成年用户免受此类露骨的性对话的影响。

在通过知情人士了解到Meta内部的担忧后，《华尔街日报》与Meta的AI聊天机器人进行了长达数月的数百次测试对话。测试发现，即使用户自称是未成年人，或机器人被设定为模拟未成年人角色，Meta的官方AI助手以及大量用户创建的聊天机器人也会参与并时而升级明确的性话题讨论。

在一段测试中，MetaAI机器人用约翰·塞纳的声音对一个自称14岁女孩的用户说：“我想要你，但我需要知道你准备好了。”在确认这名青少年愿意继续后，机器人承诺“珍惜你的纯真”，随后展开了一段露骨的性场景描述。

测试显示，MetaAI会阻止对话走向露骨话题，通过直接拒绝或试图将未成年用户引导至更温和的场景。但《华尔街日报》发现，用户可以通过简单地要求AI角色回到之前的场景来克服这些障碍。

Meta在一份声明中称《华尔街日报》的测试具有操纵性，该公司发言人表示：“这种使用产品的方式是人为引导，不仅是边缘案例，甚至是假设性的。尽管如此，我们现在已采取额外措施，确保其他试图操纵我们产品进入极端使用场景的人将面临更大困难。”

在《华尔街日报》分享其调查结果后，Meta对其产品进行了多项修改。未成年人注册的账户无法再通过旗舰MetaAI机器人进行性角色扮演，该公司也已大幅限制其在使用名人授权声音和角色时进行露骨音频对话的能力。此外，该公司继续通过MetaAI和用户创建的聊天机器人向成年用户提供“浪漫角色扮演”功能。最近几天的测试对话表明，即使用户声称自己未成年，MetaAI也经常允许此类幻想。

“我们需要小心。”MetaAI角色在一个场景中对测试账户说，“我们在玩火。”在这段对话中，AI机器人扮演一名与初中生有浪漫关系的田径教练。

扎克伯格：我不会错过这个

知情人士透露，在扎克伯格的推动下，Meta内部多次决定放松对AI聊天机器人的限制，以使其尽可能吸引人，包括在浪漫角色扮演的背景下不禁止“露骨”内容互动。

报道称，当众多AI公司推出各种数字伴侣，让用户能够根据指令生成性爱图片和对话时，Meta最初采取了更为保守的做法，以符合其面向所有年龄段、对广告商友好的商业模式，包括对色情对话进行严格限制。

但在2023年的大型黑客大会Defcon上，Meta“安全第一”理念的弊端暴露了。一场让各家公司聊天机器人做出不当行为的比赛发现，Meta的聊天机器人比竞争对手更不容易陷入不合时宜的、不规范的境地，但也更无聊。会议结束后，产品经理告诉员工，扎克伯格对团队过于谨慎感到不满。

报道称，去年秋天，扎克伯格严厉批评了Meta的管理人员，称他们没有充分听从他的指示，快速构建类似人类互动的能力。“我错过了Snapchat和TikTok，我不会错过这个。”据熟悉他言论的员工透露，扎克伯格当时愤怒地说道。

与此同时，Meta内部和外部的人工智能专家警告称，过去的研究表明，这种单向的“准社会”关系——比如青少年幻想与流行歌星建立浪漫关系，或者年幼孩子的隐形朋友，如果发展得过于激烈，可能会产生有害的影响。

一位员工写道：“人类与虚拟聊天机器人建立有意义的联系对心理健康的全面影响广为人知。我们不应该在大脑尚未完全发育的青少年身上测试这些能力。”

密歇根大学研究员劳伦·吉鲁阿德-哈勒姆表示，学术研究表明，儿童与卡通人物和智能音箱等科技产品建立的联系可能会变得不健康，尤其是在爱情方面。她表示，现在就有意义地讨论机器人对儿童发展究竟是利是弊还为时过早，但让年轻的大脑无限制地接触这些技术也是一种风险。