AI開発大手のAnthropicは2026年6月12日、アメリカ政府から輸出管理に関する指示を受け、最新AIモデルである「Fable 5」および「Mythos 5」のサービス提供を一時的に停止したと発表しました。
政府の指示は「アメリカ国籍を持たないユーザー（国内外の利用者や、同社で働く外国籍の従業員も含む）」へのアクセスを禁止するという内容です。しかし、特定の国籍のユーザーだけをシステムから排除することは技術的に難しいため、同社はやむを得ず、すべての顧客に対して両モデルの機能を一時的に無効化する措置を取っています。なお、同社が提供している他のAIモデルには影響はありません。
政府からの指示の経緯と「安全対策の突破」を巡る主張にズレ
Anthropicによると、政府からの指示書は米東部時間の6月12日午後5時21分に届いたとのこと。書簡には国家安全保障上の具体的な危険性は書かれていませんでしたが、政府側は「Fable 5の安全対策を意図的に突破して、悪用できる抜け道（ジェイルブレイク）が見つかった」と判断している模様です。
これに対しAnthropicが確認したところ、見つかったのは他社の市販AIにも普通に存在するような、比較的軽い弱点に過ぎなかったと説明しています。Anthropicからしてみると政府からの指示は過剰でこじつけだと言いたいところでしょう。
Fable 5の安全対策に関するAnthropicの見解
Anthropicは、Fable 5の安全性について以下のような見解を示し、自社の対策は十分であったと主張しています。
- 徹底した悪用対策： サイバー攻撃などに悪用されないよう非常に強力な制限をかけており、利用者からは「制限が厳しすぎる」と不満が出るほどに対策を行っている。
- 事前の大量テスト： 発売前に米英の政府機関や民間の専門家集団、社内チームが数千時間をかけて「悪意のある攻撃者」の役割を演じ、システムに欠陥がないか検証するテスト（レッドチーム演習）を実施した。その結果、あらゆる制限を完全に無効化してしまうような「万能な突破法」は見つからなかった。
- 完璧な防御の不可能性と「多層防御」： 現時点で、人間のあらゆる意図的な誘導（特定の状況下で一部の制限をすり抜ける行為）を100%防げるAIは存在しない。そのため、同社はいくつかの防御壁を重ねる「多層防御」戦略をとっている。具体的には、不正な操作を完全に防ぐのではなく、すり抜けられる範囲を狭くしたり、すり抜けに必要な手間やコストを大幅に引き上げたりする対策である。さらに、怪しい動きを検知して遮断する監視体制も敷いている。顧客のデータを30日間保管するという規約変更（顧客に負担を強いる措置）を行ったのも、この監視を徹底するためである。
同社は、これらの戦略によってFable 5のリスクは他社のAIと同等かそれ以下に抑えられているとしています。Fable 5はそもそも、あまりに脆弱性発見への性能が高く、悪用されれば危険なMythosモデルをより倫理的にするための安全策を盛り込んだモデルです。能力の高さと安全性は担保されているAIだという認識なわけです。
報告された「安全対策の突破」の具体的内容
Anthropic側には、これまで重大な悪用につながるようなすり抜け報告は一件も届いていないとしています。今回、政府から口頭で指摘された具体的な事例は、「特定のプログラムコードを読み込ませて、ソフトウェアの欠陥を修正させる」というものでした。
同社がこの内容を精査したところ、このレベルの処理能力は競合であるOpenAI社の「GPT-5.5」などを含め、現在の主要なAIであればどれでも実行できる標準的なものであると結論づけました。むしろ、システムの防御を担当するエンジニアが日常業務で使うような、安全な用途の範囲内であるとしています。Anthropicは詳細については、24時間以内に追加の情報を公開すると宣言しています。
今後の対応と業界への懸念
Anthropicは政府の法的な指示には従うものの、限定的な弱点が見つかったという理由だけで、すでに数億人規模で利用されている商業サービスを停止させるべきではないという立場をとっています。もしこのような厳しい基準が業界全体に適用されれば、今後の新しいAIの開発や公開が事実上ストップしてしまうと懸念を示しました。
同社は「政府が危険なAIの公開を止める権限を持つこと自体には賛成だが、その手続きは透明で、公平で、明確な技術的兆候に基づくべきだ」とし、今回の政府の対応はその原則に反していると批判しています。
今後、場合によっては高性能なLLMへの米国外からのアクセスや利用がこれからどんどん制限されてしまうかもしれません。筆者としてはそんな状態になってしまうことを懸念しています。ぺネストレーションテストや脆弱性診断でもはや必須となった高性能LLMが突然使えなくなってしまうと、アメリカと比べ相対的に各国のインフラ、金融システムは脆弱になってしまうという懸念が現実の問題となっています。ますます自国内で動かせるMythos級モデルの必要性が高まっています。
Anthropicは顧客に対してサービスの停止を謝罪するとともに、今回の件は政府側の誤解によるものであるとして、1日も早いFableやMythosモデルの提供再開に向けて対応を進めると宣言しています。
