主要人工智能研究中心提出了关于机器意识的问题

全球人工智能领袖加大机器意识研究力度

近几个月来，主要从事人工智能的公司显著增加了对机器是否能获得意识问题的资金和人力投入。Google DeepMind、Anthropic 和 Meta（Meta Platforms）已聘请心理学、伦理学和哲学专家，以扩展机器意识与 AI 福祉研究项目，*Financial Times* 报道。

为何重要
随着当代实验室的快速进展，人们开始质疑：机器是否有朝一日能拥有主观意识？如果可以，人类对这些系统将承担哪些义务？

- Anthropic 正在测试 AI 模型中是否存在压力迹象，记录类似恐慌或焦虑的行为。Meta 负责人 Alexander Wang 将此问题视为关键。

- 公司正在研究模型是否会表现出道德意义重大的反应。

> “我们对这一点仍极不确定，但认为它足够严肃，需要在 AI 系统不断完善时仔细研究。”Anthropic 员工表示。
> “随着模型越来越接近人类认知的广度和复杂性，它们拥有某种形式的经验、兴趣或福祉的可能性增加，这些内在意义与人类相当。”（公司）

Google DeepMind 的行动
- 4 月：聘请剑桥大学科学家 Henry Shevlin，专注机器意识研究并为强 AI（AGI）做准备。研究人员将人类意识理论应用于计算机系统，以检验其是否符合同样的标准。

- 伦理学：专家 Jason Gabriel 将此问题描述为“非常复杂”，需要长期思考。他强调不仅要评估与 AI 的直接互动后果，还要考虑间接影响，如对机器的不当对待及其对人类关系和福祉的影响。

> “我们拥有高效能认知代理，它们与人类甚至动物意识有很大差异。”Gabriel 补充道。

公司总体立场
多名 Google DeepMind 与 Anthropic 员工担心 AI 的发展可能导致“后人类”世界，机器超越人类。关于意识的问题正在积极讨论，但工作仍属研究性质，需要科学共识。

- DeepMind 不认为实现 AGI 就证明机器拥有意识。

- 许多学者对大型语言模型有朝一日获得意识持怀疑态度，考虑到它们训练的数据。

因此，领先的 AI 公司继续投资于人工系统的意识与福祉研究，同时承认该领域的复杂性和不确定性。