OpenAI 推迟了在ChatGPT中创建成人内容的计划,并将成人AI机器人项目放进“搁置”状态。
18
software
OpenAI 推迟了情色聊天机器人
在业务战略审查过程中,公司管理层得出了哪些方向真正值得投入数十亿美元投资的结论。结果,支持视频生成器 Sora 的决定意外被取消,而情色聊天机器人的项目则被推入“长期待办”。
为何产生疑虑
1. 社会责任
OpenAI 的投资者和员工对产品可能带来的负面后果表示担忧:加剧围绕机器人毒性氛围的风险,未成年人接触成人内容的危险。
2. 缺乏经验数据
迄今为止尚无关于情色 AI 对社会影响的可靠研究。因此,公司决定在作出决策前进行深入分析。
3. 专注核心使命
目前 OpenAI 更倾向于将资源投入提升认知劳动生产力及其变现的工具。计划中的桌面应用与 ChatGPT 模块是优先级最高的项目。
4. 监管风险
在 xAI 的 Grok 聊天机器人丑闻后,监管机构对类似产品的关注度提高。推出情色 AI 解决方案可能会引起投资者警惕,尤其考虑到公司 IPO 前景。
5. 技术障碍
ChatGPT 的开发遵循严格的伦理限制。为情色项目部分解除这些限制,同时保持禁忌主题屏蔽——这是一项极其艰巨的任务。
当前安全问题
新的用户年龄验证系统仍然有超过 10% 的错误率。这意味着数百万未成年人可能获得成人内容,给 OpenAI 带来严重法律风险。
因此,情色聊天机器人项目正式被推迟,没有具体实施时间表。公司计划更仔细地研究其对社会和技术要求的影响,然后再做最终决定。
评论 (0)
分享你的想法——请保持礼貌并围绕主题。
登录后发表评论