OpenAI 为了盈利而关闭了两个人工智能安全部门,前一家初创公司员工透露。

OpenAI 为了盈利而关闭了两个人工智能安全部门,前一家初创公司员工透露。

31 software

前OpenAI员工在伊隆·马斯克案法庭作证

在加州奥克兰联邦法院,前两名OpenAI员工就伊隆·马斯克对该公司的诉讼提供了证词。他们声称,对人工智能产品的商业化追求破坏了初创公司关于安全的承诺,而首席执行官山姆·阿尔特曼则系统性地误导董事会。

1. 罗西·坎贝尔案
- 任职期间:2021‑2024,参与AGI(通用人工智能)准备团队。
- 关键论点:OpenAI已从研究机构转变为商业实体。她领导的团队被解散,而负责确保AI符合人类价值观的“超级对齐”小组也被关闭。
- 安全违规示例:微软在未获得OpenAI部署安全部门(DSB)批准的情况下,通过必应将GPT‑4推向印度市场。
- OpenAI律师回应:在交叉询问中,坎贝尔承认“据她估计”,公司在安全方面仍优于xAI——马斯克旗下的人工智能公司,而SpaceX已于2026年初收购了该公司。

2. 阿尔特曼被解雇事件
- 原因:2023年,董事会暂时解雇阿尔特曼,原因是员工对其管理风格提出投诉。批评者包括前首席科学家伊利亚·苏茨克维尔和技术总监米拉·穆拉特,他们声称CEO回避冲突。
- 塔莎·麦考利(当时的董事会成员)描述阿尔特曼如何误导董事会:
- 对解雇海伦·通纳(安全分析批评者)的意图撒谎。
- 未向董事会通报ChatGPT公开发布。
- 隐瞒潜在利益冲突。
- 结果:董事会失去信心,认为所获信息不足以做出明智决策。

3. 后果与反应
- 阿尔特曼被解雇与为员工提供股票回购方案同时发生。
- OpenAI员工支持前CEO,而微软则要求恢复原有秩序。最终董事会让步,阿尔特曼的支持者辞职。
- 马斯克将此事件用作证据,证明OpenAI从研究项目转变为大型私营公司违反了创始人的“默示协议”。

4. 专家观点
前哥伦比亚大学法学院院长、马斯克邀请专家戴维·谢泽强调:
> “OpenAI声称安全是其使命的核心,优先于利润。如果某事需要通过安全审查,它就必须完成。关键在于程序。”

5. 塔莎·麦考利立场
麦考利认为OpenAI管理失误凸显了对人工智能进行国家监管的必要性:
> “如果决策由单一CEO做出,而公共利益处于风险之中,这是一种极其糟糕的结构。”

简述:前员工向法庭揭露商业导向和管理层操纵如何破坏OpenAI关于安全的承诺。他们的证词强化了马斯克关于公司违背自身原则的论点,并支持对人工智能实施更严格监管的呼声。

评论 (0)

分享你的想法——请保持礼貌并围绕主题。

暂无评论。留下评论,分享你的观点!

要发表评论,请先登录。

登录后发表评论