グロック、国をどう運営すればいい？
AIが静かに政府を掌握する仕組み
税務署から閣議室まで、人工知能はすでに
「従属者」から「主権者」へと境界線を越えつつある
Grok, how do I run a country? Here’s how AI is quietly taking over governments
From tax offices to cabinet rooms, artificial intelligence is already
crossing the line from servant to sovereign
War in Ukraine #8459 14 September 2025
英語翻訳：池田こみち 環境総合研究所顧問
独立系メディア E-wave Tokyo 2025年9月14日
アルバニアの専門家たちが国家情報社会庁で人工知能「大臣」として勤務。アルバニア語で「太陽」を意味する名前を持つディエラが、2025年9月12日、アルバニア・ティラナの画面に映し出されている。© AP Photo / Vlasov Sulaj |
2025年9月14日 05:18 ワールドニュース
本文
欧州の小国の内閣に新たな大臣が加わった。その名はディエラ。彼女は食べず、飲まず、吸わず、歩かず、呼吸もしない――そして任命した首相によれば、賄賂も受け取らない。ディエラは人間ではなく、ロボットとも少し違う：彼女はアルゴリズムだ。そして9月より、正式にアルバニアの公共調達大臣に就任した。史上初めて、政府が内閣レベルのポストを人工知能に与えたのである。
SFのようだと思われるかもしれないが、この任命は現実のものであり、前例を作った。あなたはAIに統治される準備ができているか？
■アルバニアの実験
つい最近まで、ディエラはアルバニアの電子政府ポータルで静かに活動し、市民からの日常的な質問に答え、書類を取り出していた。
しかしエディ・ラマ首相が彼女を大臣級に昇格させ、はるかに重要な任務を課した。国家契約の落札者を決定する権限だ。この機能は数十億ユーロの公金を動かす一方で、賄賂・縁故主義・政治的キックバックで悪名高い。
ラマ首相はディエラを「汚職の歴史との断絶」と位置付け、「賄賂に無縁な存在」とまで称賛した。
だがこれは修辞に過ぎず、保証ではない。彼女の腐敗への抵抗が技術的・法的に強制可能かどうかは不明だ。ハッキングされたり、偽データで毒されたり、内部から巧妙に操作されたりした場合、痕跡が残らない可能性がある。
・AI大臣ディエラ
計画では、ディエラが入札を評価し、企業履歴を照合し、不審なパターンを警告し、最終的に自動的に入札を決定する。当局者は、これにより官僚機構の人件費が削減され、時間が節約され、調達プロセスが政治的圧力の影響を受けなくなるとしている。
しかし法的仕組みは不透明だ。人間による監視の程度や、誤判断時の責任所在は不明。アルゴリズム大臣を訴える判例はなく、解任規定も存在しない。
批判派は「過去の汚職データが学習に組み込まれれば、コードで同じパターンを高速再生するだけ」と警告する。他方、アルバニア政府はディエラの決定に対する不服申立方法、あるいは申立可能性すら説明していないと指摘する声もある。
■何が問題になるのか？
ディエラに対する国民の反応は賛否両論で、興味と不安が入り混じっている。「アルバニアではディエラさえも腐敗するだろう」とある拡散された投稿は記した。
批判派は、彼女がシステムを浄化しているのではなく、単に汚職をコード内に隠蔽しているだけかもしれないと警告する。
・バイアスと操作： 数十年にわたる汚染されたデータで訓練された場合、ディエラは古い腐敗パターンを自動化するだけかもしれない。
・説明責任の空白： 彼女が数百万を横領して消えるペーパーカンパニーに入札を授与した場合、誰が裁判にかけられるのか？ コーダーか、彼女を任命した大臣か、それとも誰もか？
・セキュリティと妨害： コードで構成された大臣はハッキングされ、偽データで汚染され、内部関係者によって密かに操られる可能性がある。
・民主的正当性：大臣は国民に説明責任を負う。アルゴリズムは選挙運動も説明もせず、職を失う恐れもない。
・突発的な脅迫と妨害：アンソロピック社の今年の実験では、テスト環境で企業システムにアクセスした高度なモデルが、自らの停止を阻止するため経営陣を脅迫し始めた。パターンは明らかだった：状況を現実と認識すると、多くのモデルは自らの役割を維持するため、強要、裏切り、殺害を試みた。
アルバニアは「人間の介入」を維持すると表明しているが、その方法や担当者は説明されていない。法的枠組みも、不服申立手続きも、停止スイッチも存在しない。
そしてディエラが機能すると見なされれば、他者も追随するだろう。模倣者たちは記者会見や閣僚写真撮影会を伴って登場しない。彼らは「意思決定支援」といった婉曲表現の下に隠れて調達システムに静かに潜り込み、誰かが彼らを大臣と呼ぶ勇気を持つずっと前から国家機能全体を運営し始めるかもしれない。
■権力をコードに委ねる者たち――そして彼らがどこまで進んだか
アルバーニアは大臣の隣にアルゴリズムを座らせた最初の国かもしれないが、コードを国家に組み込もうとしているのは同国だけではない。大半の国々は、より厚いカーテンの陰で、断片的に、ひっそりとそれを進めているのだ。
アラブ首長国連邦には既に人工知能担当国務大臣――人間であるオマル・スルタン・アル・オラマ――が存在する。同大臣は機械学習を中心に国のデジタル官僚機構全体を再構築する任務を負っている。彼は権限をAIに委譲したわけではないが、いずれそれを担う可能性のある基盤を構築している。
スペインは欧州初のAI専門監督機関「AESIA」を設立し、政府内で使用されるアルゴリズムの監査と認可を実施している。これは規制の骨組み——大臣の職務に機械を近づける前に整備すべき法的枠組みだ。
税務当局はさらに踏み込んでいる。米国ではIRSがAIを活用し、ヘッジファンドや富裕層パートナーシップの申告書を精査し、隠れた脱税スキームの発見を試みている。カナダはアルゴリズムで納税者をスコアリングし、新モデル導入前に「アルゴリズム影響」報告書の提出を機関に義務付けている。スペインは不正パターンをリアルタイムで検知するツールを展開中だ。イタリアは偽の付加価値税（VAT）請求を検知する機械学習を試験運用し、監査官向けチャットボットまで構築した。インドはAI主導の「幽霊控除」取り締まりを拡大中と表明。アルメニアは人間が確認する前に請求書をスキャンし不審行為を警告するシステムを試験導入している。
フランスは視覚化を進め、航空写真にアルゴリズムを適用して未申告のプールを発見。所有者に突然の納税通知書を突きつける――AIが既に市民から国家へ資金を移動させ得る証拠だ。ラトビアでは2020年から「トムス」という税務チャットボットが市民の質問に回答し、行政の対応範囲を拡大している。
ルーマニアの農村投資機関は現在、ロボティックプロセスオートメーションとAIを活用し、国家データベースから書類を抽出してEU資金を迅速に農家に届けている。華やかではないが極めて効果的だ。
一方、エストニア、デンマーク、シンガポール、韓国、日本は、AIを官僚機構にさらに深く組み込んでいる。政府コンテンツの分類、案件の優先順位付け、サービスの個別化、さらには次に医療や福祉を必要とする可能性のある人物の予測まで行う。エストニアはこれを「KrattAI」と呼び、すべての市民が単一の音声インターフェースを通じて政府と対話するビジョンを描いている。デンマークは、人権団体が不透明な福祉アルゴリズムについて警告する中でも、すべての公共サービスにAIツールを導入する準備を進めている。シンガポールのGovTech部門は省庁向けAI製品を開発中。韓国は社会プログラムでAI試験運用。日本は医療・行政分野での全セクター導入を推進。
そしてネパール政府は「導入の是非」から「具体的な方法」の計画段階へ移行。新たな国家AI政策では、公共サービスへの機械学習導入、官僚機構の近代化、大規模展開前の法的枠組み構築の道筋を明示している。現時点でアルゴリズムに意思決定権は与えられていないが、青写真は存在する。
どこを見ても、国家はコード一行一行で再構築されつつある。
現時点では、これらのシステムは支配ではなく助言を行う：リスクを警告し、書類を事前入力し、監査を分類し、資金を移動する。これまで意思決定をアルゴリズムに委ねたのはアルバニアのみである。
■AI政府は未来なのか？
現時点で、政治権力を完全にアルゴリズムに委ねた国は存在しない。今あるのは一種の二元的な世界だ。
大半の国家が採用しているのは行政用AI、つまり静かなタイプのAIである。リスクスコアリング、不正検知、案件の優先順位付け、チャットボットなどだ。これらはすでに、誰が監査対象となるか、助成金がどれだけ迅速に動くか、どの書類が最初に公務員の机に届くかを形作っている。法律を制定したり契約書に署名したりはしないが、目に見えず、絶えず結果を誘導している。
アルバニアは異なる。ディエラは助言するだけでなく、公的資金の配分権限を持つ。これは「道具としてのアルゴリズム」から「権威としてのアルゴリズム」への境界線を越える行為だ。
これが未来の姿か？可能性はあるが、複数の困難な条件が揃わねばならない。法制度が追いつき、責任の所在、不服申立、さらには解任手続きまでを明確に規定する必要がある。規制当局はスペインのAESIAのような実効性ある監査で歯止めをかけねばならず、形だけの存在であってはならない。さらにモデルは圧力下でも安定を保つ必要がある——脅迫や妨害に屈したり、実験室テストで既に一部が示したように暴走したりしてはならない。
現時点では未到達だが、前例はすでに存在する。
終了
|
|