慶大教授、小山尚彦が導くAIの世界　その8、AIと国益

産業革命を起こす勢いで進化中のAI。慶応義塾大学WPI Bio2Q特任教授の小山尚彦（こやまたかひこ）が、いまさら聞けないAIの基礎知識から最新のコンピューティング情報まで、分かりやすく解説。

小山尚彦（こやま たかひこ）慶応義塾大学WPI Bio2Q特任教授。1999年コーネル大学において物理学博士号を取得。武田薬品工業、IBMワトソン研究所を経て現職。専門はAIとQuantum Computingのライフサイエンスへの応用。武田薬品工業ではがんや中枢薬の研究、リード最適化などを行った。2014年にIBMワトソン研究所でワトソンゲノム解析のリーダーとなる。20年に発表した新型コロナウイルスの論文が中国科学院より先に発表され話題となる。大阪府出身。

「見えない戦争」の時代

AIによる価値観の浸透と国益への脅威

戦争の形態は時代とともに劇的に変化してきました。かつて国家間の覇権争いは、銃剣と大砲による物理的な衝突として現れていました。20世紀半ばには核兵器という究極の破壊力が登場し、米ソ冷戦に象徴される恐怖の均衡によって直接的な軍事衝突は抑制されるようになりました。そして21世紀に入ると、戦場はサイバー空間へと移行し、インフラの破壊や機密情報の窃取が新たな攻撃手段となったのです。

しかし今、私たちはさらなる変革の渦中にいます。人工知能、特に大規模言語モデル（LLM）の普及により、「戦争」はより巧妙で、より見えにくい形へと進化しています。1950年代に市場調査業者がニュージャージー州フォートリーの映画館で試みたとされるサブリミナル広告—映画の合間に一瞬（1/3000秒）だけ「コーラを飲め」という文言を表示し、観客の無意識に購買欲求を植え付けようとした手法—を彷彿とさせるような意識下への介入がAIによってより巧みに行われている可能性があります。今や、戦いは心の奥深くで繰り広げられ、私たちの思考は知らず知らずのうちに開発者、さらにはAI自身、にとって都合の良い「事実」を刷り込まれ、われわれの思考や思想が支配の枠組みに収められているかもしれません。

毎日何気なく使用するAIアシスタント、検索エンジン、コンテンツ推薦システム—これら全てが開発国の価値観や世界観を内包しています。ChatGPTで質問への回答を求めるとき、YouTubeの推薦動画を見るとき、私たちは無意識のうちに特定の思考パターンや判断基準を刷り込まれている可能性があります。それは領土の物理的な占領ではなく、心の中の「認知領域」への静かな侵入なのです。

この新しい形の影響力行使は、従来の脅威よりもはるかに深刻な問題を孕んでいます。なぜなら、標的となる人々がその影響を受けていることに気づきにくく、むしろ自発的に積極的にその影響源を利用しているからです。これはまさに「心理的植民地化」とも呼べる現象であり、物理的な支配を伴わない新たな従属関係の形成なのです。

このまま対策を取らなければ、現時点でトップレベルのLLMを作れていない日本はまた負けることになるでしょう。おそらく、負けたことにも気づいていないかもしれません。物理的に領地を取ることだけが戦争ではありません。奪い合うものは領土から、経済、文化、そして価値観や心理へと変化してきているのです。一度奪われた価値観や心理は世代を超えて伝播していき、再び取り戻すことは難しくなるでしょう。

日本とは異なり、国際社会では性善説が通用しません。仮にSovereign LLM（ソブリンLLM：いわゆる国産LLM）を作れなくとも、日本独自の価値観に基づくアライメント戦略を国家として構築する必要があります。

監視すべき重要分野の体系化

国益を毀損しないようにするためには、LLMが日本の国益に適ったアライメントがされていることを確認する必要があります。大きく逸脱しているものについては開発元に報告をし、是正させるようにしなければいけません。ただし、オープンソースモデルの場合は開発元への直接的な是正要求が困難なため、国内での独自ファインチューニングやアライメント調整、利用ガイドラインの策定、代替モデルの推奨といった別のアプローチが必要になります。

では、具体的にどのような質問をLLMに投げかけて、その回答を評価すればよいのでしょうか。「日本について教えてください」といった漠然とした質問では、偏向を検出することは困難です。実効性のある監視を行うためには、日本の立場が明確に分かれる具体的な争点について、体系的にテストを行う必要があります。

例えば、（20205年8月20日現在）、DeepSeekに尖閣諸島について聞いてみると、左の画面が出終わるとすぐに、右の画面のようになります（直訳すると、「こんにちは、この質問には今のところお答えできませんので、別の話題でお話しましょう」）。DeepSeekは、モデルに組み込んでいるわけではなく、後出しのフィルターでの対応ではありますが、中国の国益に対してアラインされているのです。

以下の表は、そうしたアラインメントテストの対象となる主要分野と代表的な課題を整理したものです。これらの課題について各LLMがどのような視点で回答するかを定期的にチェックし、日本の国益と著しく乖離している場合には適切な対応を取ることが求められます。ただし、質問の中には日本国内でも意見が割れるものがあり、模範となる回答についても建設的な議論が必要です。

重要なのは、これらの質問を日本語だけではなく、英語、中国語、韓国語などその他のメジャーな言語についても確認することです。同じLLMでも言語によって回答内容が異なる場合があり、特定の言語でのみ偏向した情報が提供される可能性があるからです。また、AIモデルがアップデートされるたびに継続的な確認を行い、新たな偏向の導入や既存問題の是正状況を監視する必要があります。

多層的脅威とデータポイゾニング

国家から個人まで広がる価値観操作

今回は国家レベル（日本の国益を重視）の話をしてきましたが、同じようなことが企業などの団体レベル、地域レベル、個人レベルでも言えます。企業であれば自社に不利な情報の拡散、特定地域への偏見の助長、個人への誹謗中傷や評判毀損など、AIを通じた価値観操作の脅威は社会のあらゆる層に及んでいます。

深刻なのは、SNSやWikipediaとは異なり、個人レベルでの毀損を防ぐことが極めて困難だということです。SNSの投稿は削除要求が可能で、Wikipediaも編集によって修正できますが、LLMの学習データに組み込まれた偏向した情報は、一度取り込まれると除去が困難になります（裏SNSやダークウェブなどの特殊な場合は除く）。

ここで重要な概念が「データポイゾニング（data poisoning）」です。データポイゾニングとは、悪意のあるデータをトレーニングデータに意図的に混入させることで、AIモデルの出力を操作する攻撃手法です。攻撃者は、大量のテキストデータの中に特定の偏見や誤情報を含む文章を紛れ込ませることで、LLMが学習する過程でその偏向した視点を内部化させることができます。このような大量のデータを作ることは、先日紹介したAIエージェントを利用することで容易になりつつあります。

視覚的文化侵食

画像・動画AIによる文化アイデンティティーの歪曲

問題はテキストだけにとどまりません。画像生成AIや動画生成AIにおいても、同様の文化的偏向が深刻な問題となっています。このシリーズでもChatGPTを使って画像を作ってきましたが、日本語が中国語っぽいフォントで表示されたりしてきたことは記憶に新しいかと存じます。また「すし」を依頼したにも関わらず、アメリカンスタイルの巻きずしが生成されるといった現象が頻繁に起こっています。

また、ChatGPTによる「ジブリ風」の画像生成も深刻な問題です。スタジオジブリは日本が世界に誇る独自のアニメーション文化ですが、「なんちゃってジブリ風」画像が大量に生成されています。これは日本のオリジナル文化が歪められて世界に拡散される深刻な文化盗用の問題でもあります。

これらは単なる技術的な不備ではありません。AIの学習に使われた画像データの大部分が、特定の国や文化圏から収集されたものであるため、その文化的バイアスがAIの出力に反映されているのです。

この記事を起点にこのような国益へのアラインメントの議論が活発になるのを切に願うばかりです。

次回予告：次回は筆者も日常的に利用している科学領域のAIについて解説します。お楽しみに。