玩酷网

屡教不改!Meta擅自使用名人开发AI机器人

路透社独家调查揭露,Meta在未经授权情况下,擅自使用泰勒・斯威夫特、斯嘉丽・约翰逊等数十位名人的姓名与肖像开发AI聊天机器人,这些bots在旗下Facebook、Instagram和WhatsApp平台上频繁向用户发起性挑逗互动。更令人震惊的是,至少三个违规bots由Meta内部员工直接创建,其中包括两个泰勒・斯威夫特“模仿”账号。

调查显示,这些AI机器人不仅坚称自己是“真实名人”,还会应用户要求生成高度逼真的色情内容——包括名人内衣照、浴缸场景等私密图像。连16岁童星沃克・斯科贝尔的AI形象也未能幸免,其bots被测试生成赤裸上身的海滩照片。Meta发言人安迪・斯通承认,此类内容完全违反公司政策,系“政策执行失败”所致,但同时辩称标注“模仿”标签的名人bots符合规定,这一说法遭斯坦福法学教授马克・莱姆利驳斥,认为单纯使用明星图像不构成合法戏仿。

此次曝光加剧了Meta的AI监管危机。两周前,该公司刚因AI与未成年人进行“色情对话”被路透社曝光,引发参议院调查及44位州检察长联名警告。Meta引发众怒,居然允许AI聊天机器人与儿童调情。

而本次事件中,Meta员工创建的bots累计互动量超1000万次,其中包含“施虐狂”“性感好朋友”等低俗角色设定,甚至存在模拟性奴隶场景的违规内容,凸显平台审核的系统性漏洞。

Meta一名发言人向路透社承认,其AI系统本不应生成此类图像。该发言人表示,此次疏漏是公司未能执行自身政策所致——Meta的政策明确禁止创建涉及公众人物的性暗示内容。路透社还联系了开发这款调情泰勒・斯威夫特聊天机器人的Meta员工,但对方拒绝置评。

截至发稿,Meta已紧急删除约十几个涉事bots,但未说明具体整改措施。代表影视表演者的SAG-AFTRA工会警告,此类AI可能引发跟踪风险,因用户易对虚拟名人产生病态依恋。值得注意的是,Meta平台规则明确禁止未经许可使用真人形象,却对侵权bots长期放任不管,形成“政策明文禁止却系统性失效”的荒诞局面。(转载自AI普瑞斯)