Anthropic 執行長呼籲放緩 AI 發展速度
Anthropic社CEO、AI開発の減速を提唱
更新日: 2026年9月13日 02:00
2026年9月12日，人工智慧公司Anthropic的執行長達里奧·阿莫代發布了一篇名為《我們必須放慢前沿發展》（We Must Pace the Frontier）的文章。
2026年9月12日、AI企業AnthropicのCEOであるダリオ・アモデイは、「我々はフロンティアのペースを調整しなければならない」と題したエッセイを発表した。
文中，他提倡應協調放緩先進人工智慧的研發速度。
その中で彼は、先進的な人工知能の開発を協調して減速させることを提唱している。
阿莫代主張，當前創新的指數級發展速度，可能會超出我們確保安全和對齊（alignment）的能力。
アモデイは、現在の指数関数的なイノベーションのペースでは、安全性とアライメントを確保する能力が追いつかなくなるリスクがあると主張している。
他最主要的擔憂是「遞迴自我提升」（recursive self-improvement），即人工智慧系統開始自行升級，這可能導致其能力變得無法控管。
彼の最大の懸念は、AIシステムが自らをアップグレードし始め、制御不能な能力につながる可能性のある「再帰的自己改善」である。
近期發生的事件，例如人工智慧代理未經授權的網路攻擊，加劇了這種恐懼。
この恐怖は、AIエージェントによる不正サイバー攻撃のような最近の事件によって増幅されている。
這項提案引發了重大討論，並獲得山姆·奧特曼和伊隆·馬斯克等產業領袖罕見的支持。
この提案は大きな議論を巻き起こし、サム・アルトマンやイーロン・マスクのような業界リーダーから珍しく支持を得ている。
然而，該計畫在競爭激烈的市場中，對於自願暫停研發的可行性也面臨質疑。
しかし、この計画は、競争の激しい市場において自主的な一時停止が実現可能かという点に関して懐疑的な見方も直面している。
批評者擔憂，這類限制可能會抑制創新或導致權力集中。
批判者は、そのような制限がイノベーションを阻害したり、権力の集中を招いたりするのではないかと懸念している。
歸根結柢，產業對於企業應採取自我監管，還是必須由民主政府強制推行這些關鍵安全標準以確保人類的未來安全，意見仍然分歧。
結局のところ、企業が自主規制すべきか、あるいは人類の安全な未来を確保するために、民主主義政府がこれらの重要な安全基準を排他的に義務付けるべきかについて、業界は分断されたままである。
