第16回

不安だらけのAI時代到来

イノベーションズアイ編集局経済ジャーナリストA

2024年12月11日

個人用のスマホは米アップル社のものを使っているのだが、たびたびOSのアップデートが行われる。その都度、セキュリティーの強化とともに、いろいろな機能が付加されたりもする。今回のアップデートではAI活用の機能が強化された。

使っていてどこがどう変わったのかはあまりよく分からないが、なにかを調べるときなどはAIの関与も感じられる。しかしこのAI、そういうもんだと知った上じゃないと使えない。意外にも間違いが多いからだ。

早くも用途は多岐に渡るようだが、そもそもAIが得ている元の情報が正しくないことも多いとか。その理由もいろいろあるようだが、困ったことにAIがなぜこうした答えを導きだしたのかというプロセスもわからないという。

AIは、ヒトには不可能な量の情報を瞬時に検索し、答えを導き出していく。が、何をどこで調べるのか、どう分析するのか、という前提条件によっては、そうした間違い(求めているものとは違う答え)になることもあるのだろう。

サイバー空間にはさまざまな情報が飛び交っているが、それらの情報は玉石混交で真偽さえ怪しいものも多い。それらを総括されても困りものなのだ。

しかし、前提条件などがしっかりしていれば、ヒトには不可能な量の情報を処理することができる。

最近は、AIを活用して不正などを見分ける取り組みが進んでいる。例えば組織のセキュリティー体制を強化するために活用しているケースがある。おかしなことをしている社員をAIが見張っている、ということか。

NTT東日本は、オレオレ詐欺などの対策にもAIを活用している。同社が提供している「特殊詐欺対策アダプタ」は、電話機に取り付けるだけで通話内容を自動録音し、AIが解析するのだという。

一方で、犯罪者もAIの活用に熱心だ。中国では、AIを使って写真や動画、音声を本物そっくりに加工できる「ディープフェイク」という技術が特殊詐欺に使われるケースも増えている。AIで詐欺の対象を絞ったり、詐欺の口上を生成したり、AIを使ったサイバー攻撃や情報の盗用などもある。

まさに、AIとAIの化かし合いだ。

ビジネスの世界では活用しない手はない、と考えられているAIだが、犯罪の世界でも本格的に利用され始めている。ただ、この流れを止めることはできそうにない。

先般、警察関係者と懇談した際にも、このAIが話題になった。ある関係者は「新しい技術やツールがが普及するときには、こういう状況がよく生まれる」という。

それはその通りだ。自動車でも電話でも、普及期にはその最新技術なりツールを活用した犯罪が問題になってきた。かといって、危ないからやめよう、という話にはならない。そりゃそうだ。自動車は犯罪にも使われるし、いまでも数千人オーダーの死亡事故が起きている。が、危ないから無くそうという議論はない。

もちろん危険な部分に対する対策も日夜進められてきた。

AIも同様に、いけない使い方を防ぐ対策は進むに違いない。しかし、AIはこれまでの技術やツールとはちょっと違うような気もする。ヒトの思索では理解できないレベルのことをしかねない。導き出される施策や判断には、ヒトの思索が及ばない、理解が伴わない可能性がある。

活用するのはヒトでも、その結果や効果は予定や想定と異なり兼ねないのではないか。そう考えると、AIの普及はやはり大きな危機としてもとらえる必要がありそうだ。そしてそれらがもたらす危機があったとしても、防げる気があまりしない。

少なくとも、これまでの知識や対策でなんとかなるようには思えない。老害かも知れないが、ちょっと不安だ。

イノベーションズアイ編集局では、経済ジャーナリストや専門家などが、さまざまな角度からビジネス情報を発信しています。

同じカテゴリのコラム