「ディープフェイク」自動検知、チャットＧＰＴ見破るサービスも　生成ＡＩリスクに技術で挑む【けいざい百景】

　５月に広島市で開かれた先進７カ国首脳会議（Ｇ７広島サミット）で決まった生成ＡＩの国際的なルール作りを検討する枠組み「広島ＡＩプロセス」のＧ７作業部会でも、生成ＡＩによる偽情報拡大への懸念が各国から示された。

　政府のＡＩ戦略会議（座長・松尾豊東大大学院教授）が５月にまとめた論点整理でも、生成ＡＩのリスクの一つとして偽情報による社会の混乱を挙げ、対策としてＡＩが作った生成物を判定できるソフトウエアなどの開発や研究を奨励すると明記した。

チャットＧＰＴ利用の「コピペ」検出

　「チャットＧＰＴを使ったリポートや論文作成の抑止につなげたい」。リポートなどにチャットＧＰＴの文章が使われていることを判定する支援ソフト「コピペルナーＶ６（仮称）」を国内で初めて開発したアンク（東京都新宿区）の担当者は、狙いをこう強調する。

　チャットＧＰＴの急速な普及で、学生がリポート作成などの際に生成した文章をそのまま利用する「コピペ」の懸念が高まっている。担当者は「顧客や販売会社からチャットＧＰＴで作られた文章をチェックできるものを作ってほしいとの声があった」と話す。

　開発したソフトでは、論文のタイトルなど複数のキーワードを利用者が設定すると、チャットＧＰＴが１０～２０の文章を作成し、チェック対象のリポートと比較する。表現が類似する箇所は、視覚的に分かりやすく伝えるため色付けして表示。コピペの割合はパーセントで示され、その数字などを基に利用者が判断する仕組みだ。１文書当たり最大約１０５万字までチェックができ、５分ほどで判定可能だ。

　同社はインターネット上の文章からの引用や、他の学生のリポートと比較し盗用などを判定できるソフト「コピペルナーＶ５」を以前から提供してきたが、Ｖ６は最新バージョンの位置付けとなる。従来の機能に加えて、チャットＧＰＴにも対応することで、論文の判定以外にも企業での文書や報告書のチェックにも活用が可能だ。

　担当者は、Ｖ６を今年１２月にも販売する予定であることを明らかにした上で、チャットＧＰＴ以外の文章生成ＡＩにも順次対応し、判定できる幅を広げることも見据える。

ＡＩ生成のフェイク「顔」を自動検知

　生成ＡＩが作り出した文章以外にも、実在の人物が話しているかのような偽の顔映像「ディープフェイク」を自動検知する技術開発も進む。国立情報学研究所（ＮＩＩ、東京都千代田区）の越前功教授と山岸順一教授の研究チームが２０２１年に開発したプログラム「シンセティック・ビジョン」だ。

　越前氏は「（ＡＩの中核技術の）機械学習が進展してフェイク映像などが作れるようになる未来を先に予測し、対策が必要だと考えた」と開発理由を説明。ディープフェイクはネット上のアプリなどで簡単に作ることができ、最近では文章で指示するだけで画像を生成するなど年々技術が高度化している。ロシアによるウクライナ侵攻を巡り、ゼレンスキー大統領が市民に降伏を呼び掛ける動画が拡散されるなど重大な悪用例も出ている。

　開発したプログラムでは、大量のフェイクの顔画像などを含む映像データを学習させ、それを基に、人間の目では判別がつかないような偽動画の特徴を見極めて真偽を自動で判定する。判定したい動画をアップロードし、ディープフェイクを検出した場合、警告や真偽結果を利用者に伝える。

　今年１月にはサイバーエージェントが同プログラムを自社サービスに採用すると発表した。サイバーではタレントの３次元ＣＧ（コンピューターグラフィックス）モデルを作成し、ネット広告に活用するサービスを展開している。一方で、ＣＧモデルの画像が加工されて悪用されるケースも想定され、サイバーの担当者は「意図しない活用のされ方を発見し、抑制する対応策が必要になる」と同プログラム導入の背景を説明する。

　ＮＩＩは５月から、さらなる社会実装の広がりを目指し、同プログラムを活用したサービスを考える国内企業の募集を開始した。企業に技術提供し、商品化やサービス展開につなげてもらう考えだ。一方で、生成ＡＩの技術は日進月歩。「今まで想定していない手法でフェイク画像が作れるようになった場合は、プログラム更新などでフォローしていく必要がある」（山岸氏）と指摘しており、「技術」対「技術」のいたちごっこは続く。