東京都知事選を7月に控えた2024年6月13日、小池百合子都知事がAIゆりこを発表し、大きな話題となりました。現職の政治家によって活用されるということは、AIによる動画生成が一般に広く普及してきたことのあらわれと言えるのではないでしょうか（Youtube 【2024 AI YURIKO NEWS】）。

一方で、2023年11月頃には、岸田首相が卑猥な言葉を話している動画が生成され、X（旧Twitter）に投稿されたことで波紋を呼びました。

AIゆりこについてはそれが生成物であることが小池都知事自身から発信されており、岸田首相の動画については、その発言の内容などから本物ではないことが見分けられます。また両者とも、動画のクオリティは高くなく、注意してみれば本物と間違うことはないと思われます。  

しかし、動画に付随する情報や動画のクオリティ等によっては、AIによって生成された動画であると見破れない場合も発生します。そしてもちろん、動画だけではなく音声や文章も生成可能なことにも注意が必要です。

革新的な技術の普及は社会に大きなメリットをもたらすとともに、大きな害をももたらします。  

米投資会社バークシャー・ハサウェイＣＥＯのウォーレン・バフェット氏は、2024年の年次株主総会で、AIについて以下の発言をしています（CNN 2024年5月7日）。

「核兵器を開発したとき、我々は精霊を瓶から出してしまった。AIも似たようなものだ。瓶から飛び出しつつある」 

日本ではフェイク動画等を利用した投資詐欺等が発生していますが、事業者に対する詐欺についてはまだ報道が見受けられないようです。

しかし海外では、フェイク動画、フェイク音声等による事業者の被害がすでに発生しています。代表的といえる報道を以下に手短にご紹介します。

今後日本でも、事業者に対する詐欺にフェイク技術が利用されてくると思われます。ご注意ください。

フェイク動画による詐欺被害の例

2024年、イギリスの国際的なエンジニアリング会社のアラップは、フェイクビデオ会議を利用した詐欺によって約20億円の詐欺被害を受けました（the Guardian 2024年5月17日）。

同社の香港オフィスの従業員は、CFOになりすましたフェイクビデオ会議にだまされ、15件に渡り、総額は2億香港ドルの送金を行っています。

攻撃者（詐欺師）多数の参加者がいるビデオ会議で騙した、と報道されており、フェイク技術の高さが伺えます（the Guardian 2024年2月5日）。

フェイク音声による詐欺被害の例

イギリスの大手エネルギー会社がフェイク音声を利用した電話によって詐欺の被害を受けています。

この企業のCEOがドイツの親会社のCEOと電話で話していたところ、ハンガリーのサプライヤーに22万ユーロを至急送金するように頼まれ、送金したところ、実際は詐欺師からのフェイク電話であったといういうものです。

フェイク音声はメディアへの露出時等にCEOが発した音声をモデルに構築され、ドイツ訛り等も再現され、本物と区別がつけられなかったと推測されます。

電話を受けたCEOは一度は騙されて送信してしまいましたが、2度目の依頼があった際に疑念を抱き、被害の拡大は防げたということです（ZDNET Japan 2019年9月5日）。