OpenAI の Disrupting a new covert influence campaign from Russia は、ロシア発とみられるアカウント群を停止した事例を報告しています。これらのアカウントは、イスラエル拠点を名乗る偽のシンクタンクや、ロシアを好意的に見せる「主権」指数の宣伝に AI を使っていました。到達規模は限定的だった一方で、学術的な体裁や専門家名、複数SNSを組み合わせた仕組みが特徴です。
この事例で見るべき点は、AI が偽情報を大量生産したかどうかだけではありません。むしろ重要なのは、AI が「もっともらしい権威」を支える部品として使われていることです。
影響工作は、露骨なプロパガンダだけで成立するわけではありません。読者が判断を預けたくなる形式が必要です。シンクタンク、専門家、指数、研究レポート、国際比較。これらは本来、複雑な世界を理解するための道具です。しかし同じ形式は、出所を隠した主張に信頼感をまとわせるためにも使えます。
生成AIは、この工程のコストを下げます。投稿文を作る、複数言語に合わせる、SNSごとに文体を変える、コメント欄で自然に見える反応を書く。ひとつひとつは小さな作業でも、組み合わさると「活動している組織」の気配を作れます。AIの脅威は、単体の文章の巧妙さより、運用全体を薄く広く支える点にあります。
これは企業や開発組織にとっても無関係ではありません。AI利用のリスク管理を、生成物の真偽判定だけに置くと見落としが生まれます。見るべき対象は、コンテンツ、アカウント、引用元、ドメイン、配布経路がどのように結びついているかです。
AI時代の信頼性確認は、「この文章はAI製か」から「この権威はどう作られたか」へ移っています。公開情報を扱う組織ほど、出典の透明性、著者実在性、引用の真正性、配布経路の整合性を確認する仕組みが必要になります。今回の件は、AIが情報戦の主役になったというより、権威を装うインフラの維持費を下げた事例として読むべきです。
関連記事
- Wire It, Run It, Deploy It: AI Workflows in Gradio
- 週刊 AI 懐疑論 #18
- Advancing price-performance for developers with GPT‑5.6 in Kiro
参考文献
コメント