ディープフェイクを見破るグロック：マスク氏、XのAIがビデオの起源を追跡すると語る

イーロン・マスクによれば、xAIのGrokは間もなくAIが生成した動画を検出し、その出所を追跡するようになるという。

マスクの発表内容

イーロン・マスクはXで、自身のxAIユニットによって開発されXに統合されたAIチャットボットGrokが、動画をスキャンしてビットストリームに技術的な「AIシグネチャ」を見つけ、オンラインの痕跡を調査してクリップの出所を特定する機能を獲得するとユーザーに伝えた。この機能は、ディープフェイクを特定し、AIによるなりすましや中傷的なコンテンツを阻止するためのツールとして提供される。

システムの仕組み

MuskとGrokのアカウントからの投稿によると、検出プロセスは、低レベルの信号分析（例えば、圧縮の不規則性や機械が残す生成パターンなど）を、メタデータやウェブ検索と組み合わせて、可能性の高いソースまで遡る痕跡をたどる。研究チームによれば、この方法は、合成生成を示すビデオビットストリーム内のパターンを調べることで、人間による検査を超えるものだという。

重要な理由と注意すべき限界

マスク氏は、リアルなAI動画が人々の中傷に利用されるのではないかという懸念が高まっていることへの対応として、この機能を説明した。専門家やジャーナリストはこのアイデアを歓迎しているが、技術的・法医学的な限界が残っていることに留意してほしい。高度な合成メディアの検出と帰属は発展途上の課題であり、どの方法も確実ではない。マスクの発表には、確固とした公開予定表や技術文書が含まれておらず、重要な詳細や性能に関する主張は未検証のままである。