第8回

AIで深刻化するデマやフェイク情報

イノベーションズアイ編集局経済ジャーナリストA

2024年8月20日

あっという間に、AI（人工知能）がいろんなところで活用されている。数年前に危惧されたフェイク情報はもちろん、詐欺犯罪などにも大いに使われ始めた。これは本物なのか、はたまた…。その判断も、いよいよ難しい。

中国では、AIを使ったいわゆるオレオレ詐欺の被害が急増している。というか、毎日のようにマスメディアを賑わせているという。

被害は、電話がきて、その声は知人のもので、送られた画像にも知人が写り込んでいたが、後にこれらはすべてAIで生成されたものだと判明し、金銭はだまし取られた、というのが多いらしい。

ビデオ電話が使われた例もある。相手は声も画像も知人だったというが、やはりAIで生成されたものだったとか。

おそらく、そうした電話やメールは発信元の番号やアドレスが怪しかったのではないかと思うが、コミュニケーションをとってしまうと、先方は声も画像も本物と同じなだけに悩ましい。

米国では選挙関連でもAIの活用が話題になっている。

大統領選の偽動画やフェイク情報などにはじまり、地方選では事実上AIが市長選に立候補するケースもでている。もちろん立候補するにはいろいろな条件があるため、実際の立候補者は“AIの開発者”となるようだが、この開発者は当選したらすべての判断をAIに任せるとか。なにやらものすごく違和感を感じる。

ただ、政策の立案やさまざまな判断に際してはAIを活用しない手はない。AIは、人間には不可能な量の情報を収集し、不可能なスピードで分析することができる。これまでは、その判断はあくまでも人間がすることになっていた。

しかし、考えてみれば人間が判断するからいいのだろうか。人間の判断はそもそも安心なのだろうか。そんなことも考えさせられる。

AIは人間に替わっていろんなところで活躍するようになってきたが、現下のAIはあくまでも与えられたミッションを遂行している。誰かが与えたミッションをこなしているに過ぎないのだ。

米国で地方選に立候補するAIには、開発者が地方の課題解決というミッションを与ている。同様に、前述のような、誰かに成りすまして金品をだまし取るミッションを課せられたAIもある。軍事や企業経営、日々の生活など、あらゆるところでなんらかのミッションを遂行するAIが活動している。

AIは便利だ。効率的に情報を集めて分析したり、必要なモノやサービスを探したり、言語や文化の壁を越えたコミュニケーションもできる。

半面で危険だ。例えば、お金をだまし取られるかもしれない。騙されないようにするにはどうしたらいいのか。特殊詐欺はただでさえ増加しているが、AIの活用などでさらなる被害拡大も心配されている。

その対策にもAIが活用され始めている。詐欺やフェイクを見破るミッションを与えられたAIだ。が、その活用には課題も多い。被害者側の情報は不足がちで、AIの活用はおろか、デジタル機器の活用自体に課題を抱えているケースも少なくないからだ。

AI時代ははじまったばかりだが、今後ますます浸透していく。人口減少下では、人間に代わってさまざまな事務作業をAIがこなしていくことになる。人手不足が深刻化している地方では、AIやドローンなどの活用による省人化は大きなテーマだ。

一方で、インターネットを介して発信される情報は、真偽を見極めることが難しいものばかりだが、AIの活用でこうした傾向はますます強まることだろう。

8月8日。宮崎県で震度6弱の地震が発生した。と同時に、この地震の震源地が南海トラフの南端付近だったことから、気象庁は心配されている東南海地震等との関連を調査し、「南海トラフ地震臨時情報(巨大地震注意)」を発表した。臨時情報の発表は、2017年に制度ができて以来初めてだ。

この発表に伴い、震度7クラスの地震が起きる可能性が通常よりも高まったとされるエリアでは「地震や津波への備え」とともに「デマやフェイク情報への注意喚起」が行われている。

そんな中、静岡市では早速、水やカセットコンロのガスなどがスーパーなどの店頭から消えた。県や市町は買い占めなどをしないよう要請し、知事も「過剰に反応せず、冷静に普段通りの生活を!」と呼びかけるが、ネットでは水などの在庫情報が飛び交う。案の定、地震雲が出たとの写真付き投稿や、不安を煽るフェイク情報もたくさん発信されている。

日頃からの水や食料等の備えは災害対策の基本だが、こうした機会なので、これからのAI時代に思索を巡らせ、信頼すべき情報の入手ルートや飛び交う情報の真偽の確認方法などを整理しておきたい。

実際に始めてはみたが、これは案外難しい。と同時に、それらは日ごろのアップデートも必要となる。なんだか大変な時代だ。