Anthropic社CEO、AI開発の減速を提唱

2026年9月12日、AI企業AnthropicアンスロピックのCEOしーいーおーであるダリオ・アモデイは、「我々はフロンティアのペースを調整しなければならない」と題したエッセイを発表した。

その中で彼は、先進的な人工知能じんこうちのうの開発を協調して減速させることを提唱している。

アモデイは、現在の指数関数的しすうかんすうてきなイノベーションのペースでは、安全性とアライメントを確保する能力が追いつかなくなるリスクがあると主張している。

彼の最大の懸念は、AIシステムが自らをアップグレードし始め、制御不能な能力につながる可能性のある「再帰的さいきてき自己改善」である。

これらのリスクを管理するために、アモデイは、独立した第三者による監視の許可、業界全体の安全基準の確立、そしてグローバルな協力の促進という3部構成の計画を提案している。

この提案は大きな議論を巻き起こし、サム・アルトマンやイーロン・マスクのような業界リーダーから珍しく支持を得ている。

批判者は、そのような制限がイノベーションを阻害したり、権力の集中を招いたりするのではないかと懸念している。

結局のところ、企業が自主規制すべきか、あるいは人類の安全な未来を確保するために、民主主義政府がこれらの重要な安全基準を排他的はいたてきに義務付けるべきかについて、業界は分断されたままである。