口座開設は無料。オンラインで簡単にお申し込みいただけます。
最短3分で入力完了！
生成AIによるディープフェイクが国家安全保障の危機を招く
Peter Garnry
Chief Investment Strategist
サマリー: 生産性向上の手段として期待されている生成AIが、先進国の高官を狙った大胆なAIディープフェイク情報窃取事件を受け、国家安全保障上の脅威となります。政府が新たな規制でAIを取り締まり、ベンチャーキャピタルが業界に背を向ける中、AIへの期待度は急速に低下します。AIが生成したニュースに対して一般市民からの不信感が高まり、政府は新法を制定し、公共のニュースを発信できるのは一部の機関に限られるようになりました。
マッキンゼーから企業部門、さらには一流のエコノミストまで、生成AIは生産性向上の優れたツールとして今後数十年の成長をけん引すると誰もが考える一方、新たな武器になりうると考える人もいます。そのような中、ハイリスクな賭けに出た犯罪グループが、かつてないほど精巧な生成AIディープフェイクを使用し、先進国の政府高官をフィッシングして国家最高機密情報を引き渡させるという事件が起きます。この大胆な行為とその成功は、第二次世界大戦以降最大の国家安全保障上の危機を引き起こし、広範囲に及ぶAI規制の新時代を招くことになりました。
米国とEUは、生成AIの致命的な副作用に対処するための歴史的措置として、生成AIが作成したすべてのコンテンツに「Made by AI」という表示を付けるべきであり、従わない場合は厳しい処罰が科されると宣言します。生成AIへの期待度はさらに大きなダメージを受けます。政府がOpenAIとGoogleに対し、国家安全保障を理由として、基礎となる大規模言語モデルへの第三者アクセスを制限するよう強く命じたためです。つまり、政府が承認した組織のみが、これらの新しい生成AIシステムの使用を認められることになります。新たな規制を受け、生成AIの商業化が困難になるという懸念からベンチャーキャピタルによる投資がすっかり減少し、生成AIへの期待度は消失します。
生成AIのディープフェイクが起こした事件は、国家安全保障上の危機から、インターネット上で配信される情報に対する本格的な国民の不信へと拡大します。AIが作成したコンテンツは、全情報の90％に膨れ上がっているためです。すべての先進国で、政府が厳格な法律を制定し、政府が認めた報道機関だけが国民にニュースを発信することを許されるようになりました。これは、SNSプラットフォームや「非遵守」の報道機関にとって大打撃です。マネーロンダリング防止目的で銀行業界で一般的となっている「本人確認（Know-your-customers）」規制が、特定の国・団体が技術にアクセスすることを避けるため、生成AIアプリケーションを提供するテクノロジー企業に強制されるようになりました。
市場へのインパクト：ニューヨーク・タイムズ・カンパニーの株価が2倍になるなど、各国政府から公共ニュースの配信を認められた従来型メディア企業の価値が急上昇します。大事件を引き起こしたディープフェイクはアドビのソフトウェアで作成されていたため、政府に処罰を課された同社の株価は急落しました。