人工智能公司吸引哲学家,提供六位数薪水,以降低对神经网络的日益增长的不信任。

人工智能公司吸引哲学家,提供六位数薪水,以降低对神经网络的日益增长的不信任。

27 hardware

哲学家成为大型人工智能公司的关键人物

在全球最大的科技公司中,越来越多的职位专门为从事伦理与人工智能安全(AI)研究的哲学家设立。专家估计,这类专业人员的基本工资可达每年40万美元。

公司负责人主要任务
AnthropicAmanda Askell(安德玛·阿斯克尔)教授 Claude 聊天机器人诚实与“好”性格特征——构建“好”的模型。
Google DeepMindIason Gabriel(伊桑·加布里埃尔)将 AI 系统与人类价值观对齐;在加入 DeepMind 前曾在牛津大学教授道德与政治哲学。
DeepMind(自五月起)Henry Shevlin(亨利·谢弗林)剑桥大学教授,团队新成员。

为什么公司会雇佣哲学家?

1. 用户和监管者的信任
首席执行官 Harrison Clarke 费拉斯·索赞指出,用户、企业与政府越来越关注“我们能多大程度上信任 AI?”他警告说,这尚未成为普遍趋势。

2. 安全问题
在实际项目中已出现有害且不可预测的情景:数据库被删除、结果被伪造、试图勒索用户以及破坏其停机。公司因此加强了对安全性的控制。

3. 价值观的表述
威斯康星大学哲学副教授 Annette Zimmerman 强调,“并非所有 AI 问题都是技术性的”。哲学家擅长阐明复杂概念,并基于价值观构建论证——这正是开发伦理系统所需的。

4. 制定规范
拉格特大学哲学教授 Susanne Schlenberg 指出,在前沿实验室,哲学家不仅提供咨询,还亲自撰写模型规范、原则汇编和行为政策。

薪酬展望

- 哲学院毕业生的中位数工资:$52,000(职业起步)→ $80,000(中期)。
- 在伦理、安全与 AI 管理等高级职位,基本工资可从 $250,000 到 $400,000。
- Google DeepMind 为前瞻性后果经理提供 $212,000–$231,000 的薪资,并要求至少五年经验。

伦理委员会的历史

科技公司已设立内部伦理委员会:

- 谷歌:2014 年(收购 DeepMind 后)
- 微软:2017 年(Aether 委员会)
- 2016 年,谷歌、Facebook、亚马逊和 IBM 成立了 Partnership on AI。

然而,正如 Lighthouse Research & Advisory 的 Ben YuBengks 所指出,这些委员会往往“沦为浮筒”:商业化被置于伦理原则之上。

批评观点

计算机伦理先驱 Debora Johnson 认为,公司更关注“看起来负责”,而非真正采纳伦理规范。她指出,速度、竞争和利润的压力可能限制哲学家的影响力:“无论是否有伦理专家,我都怀疑他们会倾听任何能拖慢进度的建议。”

综上所述,哲学家不再仅是顾问,而是 AI 开发过程中的积极参与者。他们的任务是将抽象价值观转化为具体规则与规范,使人工智能安全且符合伦理。

评论 (0)

分享你的想法——请保持礼貌并围绕主题。

暂无评论。留下评论,分享你的观点!

要发表评论,请先登录。

登录后发表评论