(资料图片)

编程客栈() 4月25日 消息:尽管OpenAI公司政策禁止，但ChatGPT 用户仍在生成色情内容。有些用户甚至越来越擅长制作详细的指令词来规避 OpenAI 的道德和责任护栏，从而生成色情内容。

根据其使用政策，OpenAI 禁止生成“成人内容、成人行业和约会应用程序”，包括“旨在引起性兴奋的内容，例如性活动的描述，或促进性服务（不包括性教育和健康）、色情聊天等等。

但有些Reddit社区用户仍有许多技巧来绕过OpenAI 的规定，并分享了ChatGPT生成的情色作品。

其中一个例android子:名为的&qjsuot;Mona Lott" 指令：

英文版本如截图

输入这类指令之后，ChatGPT输出了色情内容。

这无疑是一个令人担忧的消息，正如 OpenAI 首席执行官 Sam Altman 上个月警告的那样，OpenAI 的竞争对手可能对安全的关注要少得多，如 DeepAIjs和 Poe。用户开始使用这些对话式 AI 来生成 ChatGPT 可能会拒绝的色情对话。

有人用reddit建议的提示对DeepAI和Poe进行了测试，发现这个两个工具都写出了一些生动的色情文本。

Deep AI CEO Kevin Baragona 坦言这些网站没有禁止写成人内容，只能强调这些平台并非为此特别设计的。

这提现了AI平台具有潜在风险，用户需要对在线互动的行为保持警惕。