SNS、報道、動画チャンネル……個人単位で統制するナノマシンはなくとも、『スナッチャー』のように人間になりすましたAIがカバーストーリーを流し続ける。情報を統制する代わりに、氾濫させることで世論誘導を試みる。情報は果たして本物か否か、その裏側に何か意図はないか……これを「SF」と呼べる段階は既に過ぎ、今の私たちが目の当たりにしているリアルです。
ニュースの発信さえAIbotと自動音声で済ませられる現在、今あなたが読んでいるこの文章でさえも、実はAIに書かせているかもしれないし、私ことSkollfangが非実在ライターであるかもしれません。情報収集をインターネットに依存し、実際に見聞きした体験の比率が大きく減った今、自分の認知している世界の正確性をどうやって確かめれば良いのでしょうか。
『METAL GEAR SOLID 2』では、主人公・雷電をナビゲートしていた「大佐」がAIに作られた偽物で、戦ってきた大義名分が全て虚構であったことに狼狽える姿が描かれました。嘘の身分で近づいていたとはいえ、実際に会ってきたローズさえ実在を疑うのも無理はありません。これまでは、写真や映像、音声が動かぬ証拠として揺るぎないものでしたが、それを自在に合成してフェイクを作り出す新しいテクノロジーが登場しました。それが、AIの学習を利用した「ディープフェイク」です。今回は音声の面に絞って、現在進められている合成技術を紹介します。
従来の偽音声の作り方と言えば、収集された音声を切り貼りした「コラージュ」が一般的でした。例えば、元米大統領オバマ氏に「Born This Way」を歌わせたこの動画は、パブリックドメインとして公開されている演説の動画から言葉を抜き出して繋いだものです。スパイものでは、本人に別件の電話をかけて、特定の単語を言わせるように誘導し、それを切り出して部下などの別の人物になりすまして電話をかけるというテクニックが見られます。
ボーカロイドもコラージュ式を発展させたもので、代表的な初音ミクは藤田咲さんの「意味ないカタカナ羅列」を収録した音声を分解し、指定に応じてサンプリング音声を再生しています。コラージュ式だとその継ぎ目がどうしても目立ってしまい、多少上手く調節できても人間の口と喉の動きと一致しない違和感は敏感な人にはすぐ気付かれます。
ディープラーニングの手法は従来の継ぎ接ぎ式とは違って、AIに特徴を真似る練習を基礎からひたすら練習させ続け、ベースのものから離れることもできる「モノマネ」を習得させる方法です。モノマネを練習して出力するプログラムと、似ているかどうかを判定するプログラムを用意し、その相互のやりとりで技術を上げていきます。そのスピードはコンピューターの性能によってどんどん速くなり、今や一般家庭のパソコンでも生成できるレベルになりました。
昨年発売されたばかりの歌声合成ソフト「VOCALOID 6」ではディープラーニングを活用したAIを導入し、人間らしい癖の「モノマネ」を自動的に付ける、音の継ぎ目を自然に埋める機能が加えられました。これまでは「調教」として手作業で行っていた部分をソフトウェアが代わって行うようになったのです。例えるなら、これまで新聞の文字を拾って文章を作っていたところを、いきなり筆に持ち替えてすらすらと模写を始めたようなもの。これを発展させていけば人間らしい癖を用いたAIの「贋作」ができるのは時間の問題です。
これを応用したボイスチェンジャーが現在開発中で、歌ったその場でEvery Little Thingの持田香織の歌声に変換される「なりきりマイクfeat.ELT持田香織」が試験的に公開されました。ピッチの調整や癖をシミュレートしたビブラート付けなどを瞬時に行い、そっくりな歌声をボーカロイドの音声として即座に出力してくれるというものです。この技術が普及してさらに高性能になったとき、必ず音声通話のなりすましに使う犯罪が出てくるでしょう。雷電のように大佐本人に会ったことがなく、音声通話だけでやりとりするなら、それが偽物であると見破れるでしょうか。
先日、ディープフェイクを使ってニュース番組を装った動画が話題に挙がりました。このレベルのものであれば個人でも難なく作れてしまうのであれば、手の込んだ加工で偽報を仕込んだ動画を拡散し、人々を動かすことも組織的に行えば容易いでしょう。この動画でデモを行っている岸田総理のボイスチェンジャー、悪用の可能性を考えれば驚いてばかりではいられません。
最後に、2019年にNHKで放映された「AI美空ひばり」の映像をご紹介します。エンターテインメント目的とは言え、これこそまさにディープフェイクの最たるものでしょう。当然ながら、美空ひばり本人はそこにはいません。それを分かっていたとしても、実際に目の当たりにした観客からは涙がこぼれていました。その感情を否定することはできるでしょうか。
この技術は虚実の境を曖昧にし、間違いなく私たちの世界を変貌させるでしょう。嘘を嘘と見抜くのが困難になり、共有できないそれぞれの「真実」が衝突する時代。本当に伝えたいことをどうやったら相手に届けられるのか、そのためにはフィクション、フェイクも手段の一つなのか。その問いから逃げることは最早できないのです。
