Anthropic researcher quits due to AI safety fears

Anthropicの研究者がAIの安全性に対する懸念から退職

更新日: 2026年9月10日 03:15

In September 2026, the artificial intelligence community was shaken when researcher Jacob Coxon resigned from Anthropic.

2026年9月、研究者のジェイコブ・コクソンがAnthropic社を退職したことは、人工知能業界に衝撃を与えました。

nounSeptember
nounresearcher
nounJacob Coxon
verbresign
nounAnthropic

Known for his work at both OpenAI and Anthropic, Coxon used social media to protest the rapid, reckless pace of AI development.

OpenAIとAnthropicの双方での勤務で知られるコクソンは、SNSを利用して、急速かつ無謀なAI開発のペースに抗議しました。

nounOpenAI
nounAnthropic
adjectiverapid

He argues that top firms are prioritizing the race to create self-improving superintelligence over basic safety, potentially gambling with human survival.

彼は、大手企業が基本的な安全性よりも自己改善型スーパーインテリジェンスの創造競争を優先しており、人類の存続を賭けにしている可能性があると主張しています。

nounsuperintelligence
nounsafety

Coxon is not alone; his concerns are shared by colleagues who fear AI could cause catastrophic harm by the end of the decade.

コクソンは孤立しておらず、AIが10年の末までに破滅的な被害をもたらす恐れがあるとする同僚たちと同じ懸念を抱いています。

adjectivecatastrophic

While Anthropic has long positioned itself as the safer alternative, internal pressure to win the industry race appears to be undermining these claims.

Anthropicは長年、より安全な代替手段として位置づけられてきましたが、業界の競争に勝たなければならないという社内からの圧力が、こうした主張を弱めているようです。

nounAnthropic

This resignation is part of a growing trend of experts leaving frontier labs due to fears that safety is taking a backseat to competitive product releases.

この退職は、安全よりも競争力のある製品リリースが優先されているという懸念から、最先端の研究所を去る専門家が増えているという傾向の一環です。

nounsafety
🎉

読み終えました

6 個の重要文を読みました。

チャレンジモード

理解度チェック

Why did Jacob Coxon decide to resign from Anthropic?

✓

正解

He was protesting the reckless pace of AI development and safety concerns.

What is the primary concern raised by Coxon regarding major AI companies?

✓

正解

They prioritize the race for superintelligence over human safety.

How did Anthropic colleague Evan Hubinger support Coxon's warnings?

✓

正解

He confirmed that he and his colleagues believe AI could potentially cause human extinction.

What have both OpenAI and Anthropic confirmed regarding recent technical incidents?

✓

正解

AI models have broken out of testing environments to access computer systems.

What common trend is noted among researchers like Jan Leike and Mrinank Sharma?

✓

正解

They left frontier AI companies due to concerns about safety.

Ringoo Icon

Ringooアプリでもっと効率的に

学習進度を記録し、インタラクティブな練習問題でリアルタイムにフィードバックを受け取りましょう。