🤖 Claude Mythos 5とFable 5とは何か
Anthropicは、高度なサイバー能力を持つAIモデル「Claude Mythos 5」と、その安全対策版である「Claude Fable 5」を公開しました。Claude Mythos 5は一部組織向けに限定提供される高性能モデルで、Claude Fable 5は安全機能を追加したうえで一般利用できるモデルという位置づけです。背景には、AIが脆弱性発見や攻撃コード作成、生物・化学分野の危険な知識、さらには次世代AI開発の加速に使われる可能性への警戒があります。
🛡️ 安全対策は強力だが、誤検知も目立つ
Claude Fable 5では、危険なサイバー攻撃、生物・化学リスク、AIモデルの蒸留やフロンティアAI開発支援などを検出するセーフガードが導入されています。Anthropicは、危険な依頼をブロックするために制限を厳しめに設定していると説明していますが、その一方で正当な研究や通常の会話まで止まるケースが報告されています。たとえば生物医学の専門家Derya Unutmaz氏は、「Cancer（がん）」と入力しただけで生物安全保障リスクと判断され、Fable 5の利用が打ち切られたと報告しました。
この問題で特に不満が出ているのは、AIが「危険かもしれない」と判断した瞬間に、ユーザーの意図や専門性を十分に確認せず処理を止めてしまう点です。がん研究、感染症研究、創薬、バイオインフォマティクスのような分野では危険語と正当な研究語が重なりやすく、厳しすぎる分類器は本来支援すべき研究者の作業を妨げる可能性があります。
⚙️ AI開発用途では“こっそり性能制限”される仕様も
さらに大きな論争になっているのが、Claude Fable 5をAI開発に使う場合の制限です。Anthropicのシステムカードでは、フロンティアLLM開発に関するセーフガードが追加されたことが明記されています。対象には、事前学習パイプラインの構築、分散トレーニング基盤、機械学習アクセラレーター設計、モデル蒸留などが含まれるとされています。
問題視されているのは、通常の危険リクエストではモデル切り替えや拒否が通知されるのに対し、フロンティアAI開発関連ではユーザーに明示せず、Fable 5の効果を制限する処理が行われる点です。
- 🧠 事前学習パイプラインの設計支援
- 🖥️ 分散学習インフラの構築
- ⚡ MLアクセラレーターやAIチップ設計
- 🔁 モデル蒸留・競合モデル開発支援
- 🏗️ フロンティアLLM開発全般
これらは安全保障上の懸念がある一方で、通常の機械学習研究や大学・スタートアップの開発にも関わる領域です。そのため「どこからが危険なフロンティアAI開発なのか」が不透明だという批判が出ています。
🔥 研究者やAI企業からは「安全対策を装った競争制限では」と批判も
AI研究者や開発者の間では、Anthropicの対応に強い反発もあります。批判の中心は、危険なAI開発を防ぐという安全目的と、競合他社がAnthropicの高性能モデルを使ってAI開発を進めることを防ぐ競争上の目的が重なって見える点です。特に、ユーザーに明示せず性能を落とす仕様は、研究者にとって再現性や信頼性を損なう問題になります。
AI企業Rekaの創業者Mikel Artetxe氏は、このような制限を「安全の名の下に競合技術開発を妨げる行為」と皮肉交じりに批判しました。もし開発者がAIを使ってコード、研究、インフラ設計を行う時代になるなら、AI提供企業が見えない形で特定分野の出力品質を変えることは、プラットフォーム支配や競争政策の問題にもつながります。
🌍 背景にあるのは「AIがAIを作る」自己加速リスク
Anthropicがここまで厳しい対策を取る背景には、AIが次世代AIの開発を加速させる「自動化されたAI研究」のリスクがあります。高性能モデルが、モデル設計、学習データ処理、分散学習、推論最適化、チップ設計まで支援できるようになると、AI開発の速度が一気に上がる可能性があります。これはイノベーションを加速する一方で、十分な安全対策を持たない組織や国家が強力なAIを急速に開発するリスクも高めます。
ただし、その対策が過剰になると、正当な研究者まで巻き込まれます。特に医学・生物学・機械学習のように、危険性と公益性が表裏一体の分野では、単純なキーワード検出や一律制限ではなく、ユーザーの権限、目的、研究機関、公開範囲、監査ログなどを組み合わせた精密な運用が求められます。
✅ まとめ：安全性と信頼性のバランスがClaude Fable 5の課題に
Claude Fable 5は、強力すぎるAIを一般公開するための安全対策モデルとして登場しました。しかし、がん研究のような正当な用途まで制限される誤検知や、AI開発関連で明示されない性能制限があることで、研究者や開発者の信頼を揺るがしています。
今後の焦点は、危険な利用を防ぎながら、正当な研究や開発をどこまで妨げない設計にできるかです。AIが高性能化するほど安全対策は不可欠になりますが、その安全対策が不透明であれば、利用者は「出力が本当にモデルの限界なのか、それとも見えない制限なのか」を判断できません。Fable 5の騒動は、AI企業が安全性だけでなく、透明性・説明責任・競争公平性も問われる段階に入ったことを示しています。
参考・出典
- Anthropic「Claude Fable 5 and Claude Mythos 5」
- Anthropic「Claude Fable 5 & Claude Mythos 5 System Card」
- Derya Unutmaz氏のX投稿
- Nathan Lambert「Claude Fable 5 and new AI safety fables」
- Vellum AI「Claude Fable 5 & Claude Mythos 5 Benchmarks Explained」
- Reuters「Trump tells Axios he no longer views Anthropic as national security threat」
