動画生成AIの悪用
そして、今後は動画や音声等にも悪用される可能性が高まるので注意が必要です。
例えば、生成AIを用いた動画は、本人の動画をわずか数分程度、生成AIに覚え込ませることによって、あたかも本人が喋っているであろう動画の作成が容易になりました。
東京都知事選で小池都知事が「AIゆりこ」を出現させたことで一躍有名にもなりましたが、あのような本人動画を素人でも簡単に作成することができるようになりました。
これは、有名芸能人の動画が悪用されて「投資詐欺」のような形態で広く利用される可能性がありますし、会社の中でも最高権限に近い役職（社長等）の動画があれば、それを悪用して財務担当メンバーに動画を送りつけて指定口座への振り込みを急かす等と、よりリアリティを持って金銭窃取行為ができてしまうことにもなります。音声メッセージをLINEやWhatsApp等へ送り、本人の音声であると信じ込ませる悪用もできてしまいます。
このように一般利用者のみならず、攻撃者や詐欺者などの悪意のあるものにも福音をもたらしている生成AIですが、これを応用してセキュリティ強化していくことも、もちろん可能です。
