科技領袖呼籲放緩人工智慧開發並設置安全開關

人ㄖㄣˊ工ㄍㄨㄥ智ㄓˋ慧ㄏㄨㄟˋ的ㄉㄜ˙快ㄎㄨㄞˋ速ㄙㄨˋ發ㄈㄚ展ㄓㄢˇ引ㄧㄣˇ發ㄈㄚ了ㄌㄜ˙產ㄔㄢˇ業ㄧㄝˋ領ㄌㄧㄥˇ導ㄉㄠˇ者ㄓㄜˇ對ㄉㄨㄟˋ於ㄩˊ該ㄍㄞ技ㄐㄧˋ術ㄕㄨˋ發ㄈㄚ展ㄓㄢˇ軌ㄍㄨㄟˇ跡ㄐㄧˋ看ㄎㄢˋ法ㄈㄚˇ的ㄉㄜ˙重ㄓㄨㄥˋ大ㄉㄚˋ轉ㄓㄨㄢˇ變ㄅㄧㄢˋ。

2023年ㄋㄧㄢˊ，生ㄕㄥ命ㄇㄧㄥˋ未ㄨㄟˋ來ㄌㄞˊ研ㄧㄢˊ究ㄐㄧㄡˋ所ㄙㄨㄛˇ發ㄈㄚ表ㄅㄧㄠˇ了ㄌㄜ˙一ㄧ封ㄈㄥ具ㄐㄩˋ有ㄧㄡˇ里ㄌㄧˇ程ㄔㄥˊ碑ㄅㄟ意ㄧˋ義ㄧˋ的ㄉㄜ˙公ㄍㄨㄥ開ㄎㄞ信ㄒㄧㄣˋ，由ㄧㄡˊ伊ㄧ隆ㄌㄨㄥˊ·馬ㄇㄚˇ斯ㄙ克ㄎㄜˋ和ㄏㄜˊ史ㄕˇ蒂ㄉㄧˋ夫ㄈㄨ·沃ㄨㄛˋ茲ㄗ尼ㄋㄧˊ亞ㄧㄚˋ克ㄎㄜˋ等ㄉㄥˇ人ㄖㄣˊ簽ㄑㄧㄢ署ㄕㄨˇ，呼ㄏㄨ籲ㄩˋ暫ㄗㄢˋ停ㄊㄧㄥˊ訓ㄒㄩㄣˋ練ㄌㄧㄢˋ比ㄅㄧˇGPT-4更ㄍㄥˋ強ㄑㄧㄤˊ大ㄉㄚˋ的ㄉㄜ˙系ㄒㄧˋ統ㄊㄨㄥˇ六ㄌㄧㄡˋ個ㄍㄜˋ月ㄩㄝˋ。

此ㄘˇ舉ㄐㄩˇ源ㄩㄢˊ於ㄩˊ對ㄉㄨㄟˋ無ㄨˊ法ㄈㄚˇ控ㄎㄨㄥˋ制ㄓˋ建ㄐㄧㄢˋ構ㄍㄡˋ超ㄔㄠ越ㄩㄝˋ人ㄖㄣˊ類ㄌㄟˋ監ㄐㄧㄢ管ㄍㄨㄢˇ模ㄇㄛˊ型ㄒㄧㄥˊ競ㄐㄧㄥˋ賽ㄙㄞˋ的ㄉㄜ˙擔ㄉㄢ憂ㄧㄡ。

到ㄉㄠˋ2026年ㄋㄧㄢˊ，對ㄉㄨㄟˋ話ㄏㄨㄚˋ已ㄧˇ從ㄘㄨㄥˊ自ㄗˋ願ㄩㄢˋ暫ㄗㄢˋ停ㄊㄧㄥˊ演ㄧㄢˇ變ㄅㄧㄢˋ為ㄨㄟˊ對ㄉㄨㄟˋ系ㄒㄧˋ統ㄊㄨㄥˇ性ㄒㄧㄥˋ法ㄈㄚˇ規ㄍㄨㄟ「煞ㄕㄚˋ車ㄔㄜ」的ㄉㄜ˙呼ㄏㄨ籲ㄩˋ。

安ㄢ特ㄊㄜˋ羅ㄌㄨㄛˊ皮ㄆㄧˊ克ㄎㄜˋ和ㄏㄜˊ OpenAI等ㄉㄥˇ公ㄍㄨㄥ司ㄙ的ㄉㄜ˙傑ㄐㄧㄝˊ出ㄔㄨ人ㄖㄣˊ士ㄕˋ目ㄇㄨˋ前ㄑㄧㄢˊ提ㄊㄧˊ倡ㄔㄤˋ「框ㄎㄨㄤ架ㄐㄧㄚˋ控ㄎㄨㄥˋ制ㄓˋ」，這ㄓㄜˋ涉ㄕㄜˋ及ㄐㄧˊ整ㄓㄥˇ合ㄏㄜˊ第ㄉㄧˋ三ㄙㄢ方ㄈㄤ監ㄐㄧㄢ督ㄉㄨ和ㄏㄜˊ政ㄓㄥˋ府ㄈㄨˇ授ㄕㄡˋ權ㄑㄩㄢˊ的ㄉㄜ˙危ㄨㄟˊ險ㄒㄧㄢˇ模ㄇㄛˊ型ㄒㄧㄥˊ「停ㄊㄧㄥˊ機ㄐㄧ開ㄎㄞ關ㄍㄨㄢ」(kill switches)。

批ㄆㄧ評ㄆㄧㄥˊ者ㄓㄜˇ認ㄖㄣˋ為ㄨㄟˊ，這ㄓㄜˋ些ㄒㄧㄝ關ㄍㄨㄢ於ㄩˊ安ㄢ全ㄑㄩㄢˊ的ㄉㄜ˙呼ㄏㄨ籲ㄩˋ可ㄎㄜˇ能ㄋㄥˊ掩ㄧㄢˇ蓋ㄍㄞˋ了ㄌㄜ˙「監ㄐㄧㄢ管ㄍㄨㄢˇ俘ㄈㄨˊ獲ㄏㄨㄛˋ」(regulatory capture)的ㄉㄜ˙欲ㄩˋ望ㄨㄤˋ，即ㄐㄧˊ主ㄓㄨˇ導ㄉㄠˇ企ㄑㄧˋ業ㄧㄝˋ為ㄨㄟˊ較ㄐㄧㄠˋ小ㄒㄧㄠˇ的ㄉㄜ˙競ㄐㄧㄥˋ爭ㄓㄥ對ㄉㄨㄟˋ手ㄕㄡˇ設ㄕㄜˋ置ㄓˋ高ㄍㄠ門ㄇㄣˊ檻ㄎㄢˇ。

隨ㄙㄨㄟˊ著ㄓㄜ˙產ㄔㄢˇ業ㄧㄝˋ努ㄋㄨˇ力ㄌㄧˋ應ㄧㄥˋ對ㄉㄨㄟˋ存ㄘㄨㄣˊ在ㄗㄞˋ性ㄒㄧㄥˋ威ㄨㄟ脅ㄒㄧㄝˊ及ㄐㄧˊ網ㄨㄤˇ路ㄌㄨˋ漏ㄌㄡˋ洞ㄉㄨㄥˋ等ㄉㄥˇ即ㄐㄧˊ時ㄕˊ運ㄩㄣˋ作ㄗㄨㄛˋ風ㄈㄥ險ㄒㄧㄢˇ，挑ㄊㄧㄠ戰ㄓㄢˋ仍ㄖㄥˊ在ㄗㄞˋ於ㄩˊ平ㄆㄧㄥˊ衡ㄏㄥˊ激ㄐㄧ烈ㄌㄧㄝˋ的ㄉㄜ˙全ㄑㄩㄢˊ球ㄑㄧㄡˊ競ㄐㄧㄥˋ爭ㄓㄥ與ㄩˇ構ㄍㄡˋ建ㄐㄧㄢˋ安ㄢ全ㄑㄩㄢˊ、對ㄉㄨㄟˋ齊ㄑㄧˊ導ㄉㄠˇ向ㄒㄧㄤˋ技ㄐㄧˋ術ㄕㄨˋ的ㄉㄜ˙必ㄅㄧˋ要ㄧㄠˋ性ㄒㄧㄥˋ之ㄓ間ㄐㄧㄢ的ㄉㄜ˙關ㄍㄨㄢ係ㄒㄧˋ。