Anthropic社CEO、AI開発の減速を提唱
Anthropic 執行長呼籲放緩 AI 發展速度
更新於: 2026年9月13日 上午02:00
2026年9月12日、AI企業AnthropicのCEOであるダリオ・アモデイは、「我々はフロンティアのペースを調整しなければならない」と題したエッセイを発表した。
2026年9月12日，人工智慧公司Anthropic的執行長達里奧·阿莫代發布了一篇名為《我們必須放慢前沿發展》（We Must Pace the Frontier）的文章。
その中で彼は、先進的な人工知能の開発を協調して減速させることを提唱している。
文中，他提倡應協調放緩先進人工智慧的研發速度。
アモデイは、現在の指数関数的なイノベーションのペースでは、安全性とアライメントを確保する能力が追いつかなくなるリスクがあると主張している。
阿莫代主張，當前創新的指數級發展速度，可能會超出我們確保安全和對齊（alignment）的能力。
彼の最大の懸念は、AIシステムが自らをアップグレードし始め、制御不能な能力につながる可能性のある「再帰的自己改善」である。
他最主要的擔憂是「遞迴自我提升」（recursive self-improvement），即人工智慧系統開始自行升級，這可能導致其能力變得無法控管。
これらのリスクを管理するために、アモデイは、独立した第三者による監視の許可、業界全体の安全基準の確立、そしてグローバルな協力の促進という3部構成の計画を提案している。
為了控管這些風險，阿莫代提出了一項三階段計畫：允許獨立的第三方監督、建立全產業的安全標準，以及促進全球合作。
この提案は大きな議論を巻き起こし、サム・アルトマンやイーロン・マスクのような業界リーダーから珍しく支持を得ている。
這項提案引發了重大討論，並獲得山姆·奧特曼和伊隆·馬斯克等產業領袖罕見的支持。
批判者は、そのような制限がイノベーションを阻害したり、権力の集中を招いたりするのではないかと懸念している。
批評者擔憂，這類限制可能會抑制創新或導致權力集中。
結局のところ、企業が自主規制すべきか、あるいは人類の安全な未来を確保するために、民主主義政府がこれらの重要な安全基準を排他的に義務付けるべきかについて、業界は分断されたままである。
歸根結柢，產業對於企業應採取自我監管，還是必須由民主政府強制推行這些關鍵安全標準以確保人類的未來安全，意見仍然分歧。
