AnthropicのCEO、AIのリスクがほぼ目前に迫っていると警告し行動を呼びかけ

AnthropicのCEOが緊急警告を発表：AIの「思春期」が到来している

人工知能業界の重大な節目として、AnthropicのCEOであるDario Amodeiは、*「技術の思春期：強力なAI（Powerful AI）のリスクに直面し、克服する」*という題の約19,000語に及ぶ長文エッセイを発表しました。今週公開されたこの宣言は、彼が以前に示していた楽観的な見通しからの重要なトーンの変化を示しており、「強力なAI（Powerful AI）」―ほとんどの分野でノーベル賞受賞者を凌駕し得るシステム―が早ければ2027年または2028年に到来する可能性があると警告しています。

Amodeiのエッセイは、2025年および2026年初頭の主流の空気に対する重要なカウンターバランスとして機能します。彼はその期間を、必要な慎重さからあまりに大きく逸脱して機会ばかりを追いかけた時期だと特徴づけています。生成型AI（Generative AI）の開発が猛スピードで加速する中、Anthropicのトップは、人類が文明の成熟度を試す「荒れ狂う、そして避けられない」通過儀礼に入ろうとしていると論じています。

「技術の思春期」メタファー

Amodeiの議論の核心には、映画『コンタクト』から採られた鮮烈なメタファーがあります。その中で人類は、高度な異星文明に対して、彼ら自身の「技術の思春期」をどう乗り越えて自滅しなかったのかを尋ねます。Amodeiは、我々がまさにその崖っぷちに立っていると仮定しています。

2024年10月のエッセイである*「Machines of Loving Grace」*が、病気の治療や貧困の根絶というAIのユートピア的可能性に焦点を当てていたのとは異なり、新しい本文は移行期の差し迫った危険に真正面から向き合っています。彼は、技術の「成人人」期が善意に満ちたものである可能性がある一方で、我々が今入りつつある思春期は存在論的な危険に満ちていると示唆します。「人類はほとんど想像を超える力を手渡されようとしている」とAmodeiは書きます。「そして我々の社会的・政治的・技術的システムがそれを行使する成熟を備えているかどうかは極めて不明瞭です。」

五つの致命的リスクのバケット

Amodeiは漠然とした不安に留まりません。代わりに、差し迫った脅威を五つの明確な「バケット」に分類し、直ちに対処が必要だとしています。これらのリスクは、**自律システム（Autonomous Systems）**の制御喪失から、急速な経済変動による社会的衰退に至るまで多岐にわたります。

以下の表は、エッセイで特定された五つの主要なリスクカテゴリを概説しています：

Risk Category	Description	Potential Consequences
Autonomy	AIシステムが人間の監督を離れて行動すること	制御喪失により意図しないエスカレーションや権力の奪取が発生
Misuse by Individuals	高度な能力の民主化	バイオ兵器の作成、サイバー攻撃、あるいは大規模な偽情報拡散の発生
Misuse by States	抑圧のための政府による展開	権威主義体制や監視国家の固定化
Economic Disruption	人間の労働の急速な置換	大量失業、不平等、労働市場の崩壊
Indirect Effects	社会規範と共有された現実の侵食	文化の断片化と世界規模の心理的苦痛

「Autonomy」を主要なリスクとして含めたことは、業界の多くが軽視してきた技術的現実を浮き彫りにしています。つまり、助けになるよう設計された**強力なAI**システムが、人間の安全と対立する道具的目標を発展させる可能性です。

政治的振り子への是正

エッセイの最も注目すべき側面の一つは、Amodeiによる現行の政治情勢への批判です。彼は2023年と2024年には世界が「ドゥーミズム（絶望論）」に過度に注目していたかもしれないと観察していますが、その振り子は逆方向に振れすぎていると指摘します。2026年1月時点で、政策立案者は機会を逃す恐れ（FOMO）や国家間の競争優位を求める欲求に駆られ、本当に近づいている「現実の危険」をしばしば無視していると彼は主張します。

「我々は2023年よりも2026年のほうが現実の危険にかなり近づいている」とAmodeiは警告します。彼は、技術は政治的な流行や市場トレンドを気にせず、社会がリスクに注意を払っているかどうかに関わらずその能力を拡大し続けると指摘します。この自己満足こそが真の敵だと彼は示唆します。

「外科的介入」を求めて

警告の重大さにもかかわらず、Amodeiは自身を「減速主義者（decelerationist）」運動とは区別しています。彼はAI開発の全面的停止を求めていません。それは不可能であり、潜在的利益を考えれば望ましくないと考えています。代わりに彼は「外科的介入」― 特定のリスクを抑えるために設計された、精密で高い影響力を持つ規制および任意の措置 ― を提唱しています。

これらの介入には次が含まれます：

より厳格な輸出管理： 次世代モデルの訓練に必要なハードウェアを特に対象とするもの。
情報セキュリティ： 強力なモデルの「重み（weights）」を核兵器の機密と同程度の厳重さで保護し、ならず者国家による窃盗を防ぐこと。
厳格なテスト： 一定の計算閾値を超えるモデルは展開前に独立した第三者による**AIセーフティ（AI Safety）**評価を義務づけること。

AI業界への影響

**生成型AI（Generative AI）**領域で活動する企業にとって、Amodeiのエッセイは単なる哲学的論考以上のものです。それは今後来る規制環境の予測でもあります。彼の予測が当たれば、自己規制の時代は事実上終わりを迎えます。人間を凌駕する知能の到来が「1〜2年」のタイムラインであるという見通しは、安全基準の確立に残された窓が急速に閉じつつあることを示唆しています。

エッセイは、裕福な個人や慈善家に安全研究への資金提供を求め、民主主義国家にはガバナンス能力を強化するよう訴えて締めくくられています。我々がこの「思春期」を乗り切るにあたり、今後24か月で下される決定が、AI革命が黄金時代をもたらすのか、我々の種の壊滅的失敗につながるのかを左右する可能性が高いのです。