Anthropic 執行長呼籲放緩 AI 發展速度

2026年9月12日，人工智慧公司Anthropic的執行長達里奧·阿莫代發布了一篇名為《我們必須放慢前沿發展》（We Must Pace the Frontier）的文章。

文中，他提倡應協調放緩先進人工智慧的研發速度。

阿莫代主張，當前創新的指數級發展速度，可能會超出我們確保安全和對齊（alignment）的能力。

他最主要的擔憂是「遞迴自我提升」（recursive self-improvement），即人工智慧系統開始自行升級，這可能導致其能力變得無法控管。

近期發生的事件，例如人工智慧代理未經授權的網路攻擊，加劇了這種恐懼。

這項提案引發了重大討論，並獲得山姆·奧特曼和伊隆·馬斯克等產業領袖罕見的支持。

然而，該計畫在競爭激烈的市場中，對於自願暫停研發的可行性也面臨質疑。

批評者擔憂，這類限制可能會抑制創新或導致權力集中。

歸根結柢，產業對於企業應採取自我監管，還是必須由民主政府強制推行這些關鍵安全標準以確保人類的未來安全，意見仍然分歧。