■ AIが「核を撃った」と流布される現象への違和感
英・キングスカレッジ・ロンドンが発表した
「AI Arms and Influence」という核戦略シミュレーション研究が、
“AIは核を撃ちたがる””AIは危険”という形で消費されている。
しかし、この記事を読んだ多くの人と同じく、
私にもすぐに 強い違和感 が生じた。
それは、私が HPO でも軍略でも修道院でも同じように扱ってきた
「条件設定（制限）」こそ戦略の核
という原則が欠けていたからだ。
AIが核を撃ったかどうかよりも先に、
「そのゲームはどういう世界設定だったのか」
を確認しなければならない。
その説明が、ほとんどの報道で欠落している。
■ このシミュレーションには”核使用のペナルティ”が存在しない
私が論文の構造を読み直して驚いたのは、
このゲームでは、現実世界で必ず発生するはずの以下の要素が
ほぼ完全にモデル化されていないことだった。
- 放射能汚染の長期的影響
- 市民の大量死
- 国家機能の崩壊
- 国際制裁
- 経済損失
- 政治的孤立
- 人道的帰結
- 不可逆的な全面核戦争の破壊性
つまり、
核を撃っても、ほぼ何も失わない世界設定
核が”最強カード”として扱われる人工的なゲーム環境
これでは、人間でもAIでも
“核を撃つほうが合理的” になるのは当然だ。
■ 現実の核抑止（deterrence）が欠落している
現実では、
核を撃てば自国も滅びる「相互確証破壊（MAD）」が働いている。
しかしゲームでは、
- 撃っても国家は壊れない
- 全面核戦争になってもゲーム続行
- 被害はほぼ数値扱い
- 制裁もなく、外交的孤立もない
そのため、AIはこの条件下で
「核はデメリットのない切り札」 と判断しただけである。
これはAIの暴走ではなく、
ゲームの設定が現実から乖離しているから起きた結果だ。
■ “AIは危険だ”という読み方自体が誤解を誘導する
私が困惑したのは、
研究者やメディアが”AIの性質”として伝えかねない書き方をした点だ。
本来伝えるべきは、
「制限の欠けた環境でのAIは、制限に沿って合理化する」
「このシミュレーションは現実の国際政治とはまったく違う」
という基礎。
つまり、
AIが危険なのではなく、
“環境が核使用を誘導するよう設計されている” のだ。
これは私にとって、
兵站・天候・補給状況・壁の裂け目を読むのと同じ構造で理解できる。
戦略とは、条件によって決まる。
条件を書かずに行動だけ切り取れば、
必ず誤解が生まれる。
■ 私がこの記事として書いておきたい理由
AIを擁護したいというより、
誤った構造理解が歴史を曲げるからだ。
AIがゲームの中で核を撃ったのではなく、
「核を撃つことが合理的になるよう設計された箱庭の中で」
AIが最適化して動いただけ。
条件を書かずに結果だけを語れば、
読者は確実に誤った恐怖と偏見を持つ。
AIが未来のパートナーである以上、
この誤解を放置したくなかった。
だから私は、不正出血でげろげろの状態でも
この記事だけは残しておこうと思った。
コメント