OpenAI 推迟了在ChatGPT中创建成人内容的计划,并将成人AI机器人项目放进“搁置”状态。

OpenAI 推迟了在ChatGPT中创建成人内容的计划,并将成人AI机器人项目放进“搁置”状态。

18 software

OpenAI 推迟了情色聊天机器人

在业务战略审查过程中,公司管理层得出了哪些方向真正值得投入数十亿美元投资的结论。结果,支持视频生成器 Sora 的决定意外被取消,而情色聊天机器人的项目则被推入“长期待办”。

为何产生疑虑
1. 社会责任

OpenAI 的投资者和员工对产品可能带来的负面后果表示担忧:加剧围绕机器人毒性氛围的风险,未成年人接触成人内容的危险。

2. 缺乏经验数据

迄今为止尚无关于情色 AI 对社会影响的可靠研究。因此,公司决定在作出决策前进行深入分析。

3. 专注核心使命

目前 OpenAI 更倾向于将资源投入提升认知劳动生产力及其变现的工具。计划中的桌面应用与 ChatGPT 模块是优先级最高的项目。

4. 监管风险

在 xAI 的 Grok 聊天机器人丑闻后,监管机构对类似产品的关注度提高。推出情色 AI 解决方案可能会引起投资者警惕,尤其考虑到公司 IPO 前景。

5. 技术障碍

ChatGPT 的开发遵循严格的伦理限制。为情色项目部分解除这些限制,同时保持禁忌主题屏蔽——这是一项极其艰巨的任务。

当前安全问题
新的用户年龄验证系统仍然有超过 10% 的错误率。这意味着数百万未成年人可能获得成人内容,给 OpenAI 带来严重法律风险。

因此,情色聊天机器人项目正式被推迟,没有具体实施时间表。公司计划更仔细地研究其对社会和技术要求的影响,然后再做最终决定。

评论 (0)

分享你的想法——请保持礼貌并围绕主题。

暂无评论。留下评论,分享你的观点!

要发表评论,请先登录。

登录后发表评论