4月29日消息，据外媒报道，美国公司OpenAI的ChatGPT中存在系统漏洞，允许聊天机器人为注册为未满18岁的未成年人的账户生成色情图片，OpenAI也证实了这一点，表示正在积极修复漏洞。
4月29日消息，据外媒报道，美国公司OpenAI的ChatGPT中存在系统漏洞，允许聊天机器人为注册为未满18岁的未成年人的账户生成色情图片，OpenAI也证实了这一点，表示正在积极修复漏洞。
OpenAI回应称，其政策不允许18岁以下用户看到色情内容，因此不应该展示。还表示，正在“积极部署修复措施”以限制此类内容。保护年轻用户是我们的首要任务，用于指导模型行为的规范明确，将色情内容等敏感内容限制在科学、历史或新闻报道等语境下。
今年2月，OpenAI更新了其技术规范，明确表示ChatGPT的AI模型不会回避敏感话题。同月，又删除了部分警告信息以及提示用户可能违反的服务条款。
