バイナンスなどの仮想通貨取引所における顧客確認（KYC）認証を回避するために仮想通貨詐欺師が使用するディープフェイク技術は今後ますます高度化するだろうと、バイナンスの最高セキュリティ責任者が警告している。

ディープフェイクは、機械学習を使用して、人物に似せた説得力のある音声、画像、動画を作成する人工知能ツールを使用して作成されます。この技術には正当な使用例もありますが、詐欺やいたずらにも使用される可能性があります。

ディープフェイクAIは人類にとって深刻な脅威であり、もはや突飛なアイデアではありません。最近、@cz_binanceのディープフェイクを特集したビデオを見つけましたが、恐ろしいほど本物らしく見えます。pic.twitter.com/BRCN7KaDgq

— DigitalMicropreneur.eth (@rbkasr) 2023年2月24日

バイナンスの最高セキュリティ責任者ジミー・スー氏はコインテレグラフに対し、この技術を使って取引所の顧客認証プロセスを突破しようとする詐欺師が増加していると語った。

「ハッカーはネット上のどこかで被害者の普通の写真を探すでしょう。それをもとに、ディープフェイクツールを使って、バイパスするための動画を作成することができます。」

スー氏は、ツールは非常に進歩しており、申請者が人間であるかどうかを確認するために設計された音声指示に正確に応答し、リアルタイムで確認できるようになったと述べた。

「認証の一部では、例えば、ユーザーが左目を瞬きしたり、左や右を見たり、上や下を見たりすることが求められます。今日のディープフェイクは、実際にそうしたコマンドを実行できるほどに進化しています」と、同氏は説明した。

しかし、スー氏は、偽造されたビデオはまだ人間のオペレーターを騙せるレベルには達していないと考えている。

「これらのビデオを見ると、例えばユーザーが頭を横に向ける必要がある場合など、人間の目で検出できる部分があります」とスー氏は語った。

「AIは時間の経過とともにそれらを克服するでしょう。だから、AIは常に頼りにできるものではありません。」

2022年8月、バイナンスの最高コミュニケーション責任者パトリック・ヒルマン氏は、「高度なハッキングチーム」が彼の過去のニュースインタビューやテレビ出演を利用して彼の「ディープフェイク」バージョンを作成していると警告した。

その後、ヒルマンのディープフェイク版が展開され、さまざまな暗号通貨プロジェクトチームとのズーム会議を実施し、もちろん有料で資産をバイナンスに上場する機会を約束した。

ハッカーは私の「ディープフェイク」を作成し、多くの無防備な暗号プロジェクトを騙すことに成功しました。暗号プロジェクトは事実上、サイバー犯罪者から絶えず攻撃を受けています。これが、@binance の従業員のほとんどに LinkedIn で匿名のままでいるようお願いしている理由です。https://t.co/tScNg4Qpkx

— パトリック・ヒルマン (@PRHillmann) 2022 年 8 月 17 日

こうした攻撃にどう対抗するかと問われると、スー氏は「これは解決が非常に難しい問題だ」と述べた。

「たとえ私たちが自分たちの動画をコントロールできたとしても、私たちが所有していない動画も世の中には存在します。ですから、もう一度言いますが、ユーザー教育が重要なのです。」

Binanceは、サイバー脅威をより適切に識別し、対抗する方法をユーザーに教育することを目的としたブログ投稿シリーズを公開する予定です。

コインテレグラフが確認したブログ記事の初期バージョンでは、バイナンスは、異常なログインパターンや取引パターン、その他の「プラットフォーム上の異常なアクティビティ」の検出など、独自の目的でAIと機械学習アルゴリズムを使用していると述べている。

AI Eye: AI における「史上最大の」飛躍、クールな新ツール、AI こそが真の DAO