近日，OpenAI公布了一份初稿文件，旨在绘制其目前和未来人工智能技术的使用规范。文件中的一个重要披露表明，公司正在探讨涉足成人色情内容以及其他显性内容的可能性。尽管OpenAI目前的使用政策严格禁止任何性暗示或明示内容，文件中与此规则相关的部分却提出公司考虑如何在适龄背景下合理允许生成这类内容。
文件中的一则评论指出：“我们正在探索是否能够负责任地通过API和ChatGPT在适龄背景下生成不适合工作场合的（NSFW）内容。”NSFW内容可能包括情色作品、极端血腥内容、种族歧视言论和未经请求的粗言粗语。据OpenAI发言人向WIRED回应时表示，该初稿的目的是为了"提高开发过程的透明度，并从公众、政策制定者和其他利益相关者那里获得各种观点和反馈"。
然而，这种探索是否意味着OpenAI将放宽现有政策以允许产生情色文本，还是将进一步允许制作或描述暴力内容，目前尚不得而知。此外，OpenAI未能提供详细信息来说明其对明确内容产生的探索涵盖哪些方面，也未透露公司收到的反馈情况。
近年来，利用OpenAI所先驱的生成式人工智能技术制作的AI色情内容快速成长，成为一大问题。所谓的深度伪造色情内容—使用AI工具生产未经本人同意的真人色情图像或视频—已成为针对女性和女孩的一种常见骚扰手段。今年早些时候，OpenAI首席技术官Mira Murati在接受《华尔街日报》采访时表示，她"并不确定"公司是否会在未来允许其视频生成工具Sora制作裸体描述。
弗吉尼亚大学法学院教授丹妮尔·凯茨·西特隆表示：“包括深度伪造性视频和其他非自愿合成的亲密图片在内的亲密隐私侵犯行为非常猖獗且带来严重伤害。”她认为OpenAI可能对明确的AI内容持开放态度是“令人警觉的”。
即使OpenAI允许创作者生成NSFW材料，根据公司的使用政策仍将禁止未经同意的明确形象。但无论公司能否有效地监管明确内容的生成以防止不法分子滥用这些工具，这一点仍然有待观察。在404 Media报告使用其生成式AI工具创造并在社交平台X上分发了泰勒·斯威夫特的显性图像之后，微软对其一项生成式AI工具进行了修改。
结语本文转自同名宫棕号，欢迎关注获取每日AI快讯。
