科技領袖呼籲放緩人工智慧開發並設置安全開關
テクノロジー業界のリーダーたちがAI開発の減速と安全スイッチの導入を要請
更新日: 2026年9月15日 03:30
人工智慧的快速發展引發了產業領導者對於該技術發展軌跡看法的重大轉變。
人工知能の急速な進歩は、業界のリーダーたちがテクノロジーの軌跡をどう捉えるかに重大な変化をもたらした。
2023年，生命未來研究所發表了一封具有里程碑意義的公開信，由伊隆·馬斯克和史蒂夫·沃茲尼亞克等人簽署，呼籲暫停訓練比GPT-4更強大的系統六個月。
2023年、フューチャー・オブ・ライフ・インスティテュートは、イーロン・マスク氏やスティーブ・ウォズニアック氏らのような著名人が署名した記念碑的な公開書簡を発表し、GPT-4より強力なシステム開発を半年間停止するよう求めた。
此舉源於對無法控制建構超越人類監管模型競賽的擔憂。
この運動は、人間の監視を超えかねないモデルを構築しようとする制御不能な競争への懸念に根差していた。
到2026年，對話已從自願暫停演變為對系統性法規「煞車」的呼籲。
2026年までには、対話は自主的な停止から、システム的な規制という「ブレーキ」を求める声へと発展した。
安特羅皮克和 OpenAI等公司的傑出人士目前提倡「框架控制」，這涉及整合第三方監督和政府授權的危險模型「停機開關」(kill switches)。
アンスロピックやオープンエーアイなどの企業の著名人たちは現在、「フロンティアのペース配分」を提唱しており、これには第三者による監視や、危険なモデルに対する政府が義務付ける「キルスイッチ」の導入が含まれる。
批評者認為，這些關於安全的呼籲可能掩蓋了「監管俘獲」(regulatory capture)的欲望，即主導企業為較小的競爭對手設置高門檻。
批判者は、こうした安全を求める声が、支配的な企業がより小規模な競合他社の参入障壁を強める「規制の虜」という状況を隠しているのではないかと主張している。
隨著產業努力應對存在性威脅及網路漏洞等即時運作風險，挑戰仍在於平衡激烈的全球競爭與構建安全、對齊導向技術的必要性之間的關係。
業界が実存的な脅威と、サイバー脆弱性のような目前の運営リスクの両方と取り組む中で、世界的な激しい競争と、安全で整合性を重視した技術を構築する必要性のバランスをとることが依然として課題となっている。
