偽の記者とシンクタンクは見抜けるか。AI時代の「看板」検証

署名つきの記事や専門機関のレポートを、見た目だけで信頼してよいのでしょうか。

OpenAI は Disrupting AI-enabled “false front” operations で、AI を使った2件の影響工作を阻止したと公表しました。どちらも架空のジャーナリストやシンクタンクを表看板にして、地政学的なメッセージを広めようとしたものです。

看板づくりのコストが下がった

これまで記者名や研究機関という体裁は、それだけで信頼の手がかりとして働いてきました。偽の看板を用意して維持するには、相応の人手が必要でした。AI は文章の量産と体裁づくりを安くします。その結果、看板と中身の両方を偽装することが現実的になりつつあります。

Before は「人手がかかるので大規模には難しい」、After は「少人数でも説得力のある発信が続けられる」という変化です。

このニュースには前向きな面もあります。AI を提供する事業者は、自社サービスの使われ方を観測できる立場にあり、悪用を見つけたら止めて公表できます。今回の阻止と公表は、その実例です。

攻撃側が AI を使うほど、手口が痕跡として残る場面も増えます。防御側が検知や共有の経験を積めば、見えない脅威が見える脅威に変わっていきます。

冒頭の問いの答えは、見た目だけでは見抜けない、です。ただし、見抜くための仕組みは事業者側から整い始めています。

実務者にできることもあります。引用する情報源は、署名や機関名で判断せず、一次情報までたどって確認する。この習慣を技術判断や社内の情報収集に組み込むことが、これからの基本動作になります。

関連記事

参考文献