ChatGPT がリリースされてから 1 年半以上が経過しましたが、この間、Transmit Security Research Lab の詐欺アナリストは、詐欺状況の劇的な変化に先手を打つためにダーク ウェブを調査してきました。同社の新しいダーク ウェブ脅威レポートには、FraudGPT や DarkBard などのブラックハット生成 AI (GenAI) プラットフォームについて知っておくべき情報を含む重要な調査結果が含まれています。
これらのサブスクリプションベースの GenAI サービスは、あらゆるスキルレベルの詐欺師に、セキュリティの脆弱性を調査し、悪意のあるコードやカスタム構成 (コンフィギュレーション) ファイルを生成し、ディープフェイクを作成し、前例のないスピードで新しい詐欺キャンペーンを大量生産することを可能にし、膨大な量と多様な新しい亜種を生み出しています。
当社の研究者は、最近の侵害に遭っていない企業も含め、ほとんどのフォーチュン 500 企業がダーク ウェブ上で公開されており、大量の顧客アカウントが売りに出されているため、ターンキー アカウント乗っ取り (ATO) 詐欺が可能になっていることを発見しました。サプライ チェーンは、ターゲットの保護を回避するためにカスタマイズされた特殊なツールと自動化を作成する脅威アクターから始まります。
この記事とレポートでは、詐欺ツールを含むダークウェブのスクリーンショットを提供しています。 販売用の「製品」なので、安全に オンラインで犯罪行為を目撃する。さらに、この詳細なレポートには、この新しい種類の詐欺に対抗するための重要なセキュリティ推奨事項が記載されています。
この怪しげな裏社会についてもっと知りたいという職業上の責任（または暗い好奇心）がある場合は、レポート全文「 GenAI による脅威の状況: Transmit Security Research Lab によるダーク ウェブの調査レポート」をお読みください。
セキュリティ対策のない GenAI の危険性
Transmit Security Research Lab は、GenAI が地下経済を活性化させる新たな方法を見つけ続けています。ハッカーは日々、防御を回避または突破し、被害者を騙し、個人情報を盗み、アカウントを乗っ取るための新しいツールや戦術を開発しています。
彼らの悪質な活動は、売り手が利益を上げる詐欺フォーラムによってさらにサポートされており、買い手は、認証されたアカウントやクレジット カード番号と信用格付けが組み合わされた盗まれた ID データの絶え間ない流れを貪り、優れた信用を持つ人に対してより高い価格を要求します。
上位 8 つの調査結果と顧客 ID セキュリティへの影響の概要:
- GenAI はダークウェブでの販売を促進します: GenAI はダークウェブでの消費者アカウントの販売を促進し、詐欺師が攻撃を拡大するのを支援します。
- AI 強化型ペネトレーションテスト: AI を搭載したツールはペネトレーションテストを自動化し、企業の脆弱性に関する情報を迅速に収集し、セキュリティ プロトコルを回避します。
- 構成ファイル市場: アカウントの検証に使用される構成ファイルは 6 ～ 400 米ドルの価格で販売されており、高度な構成ファイルでは 1 分あたり最大 500 の資格情報を検証できます。
- 強化された不正ツール: リモート デスクトップ プロトコル (RDP) やクレジットカード チェッカーなどのバンドル サービスは AI によって強化され、攻撃の作成を効率化します。カスタム機能付きは 2,200 ドル、ソース コード付きは 428 ドルでご利用いただけます。
- 合成 ID: GenAI は、実際の ID または合成 ID データを迅速に生成し、8 年以上の注文履歴を持つ、検出が困難な不正アカウントを作成して、正当なアカウントのように見せかけます。
- 高度な偽造 ID : GenAI を使用すると、ほとんどの AI 駆動型 ID 検証を含むセキュリティ チェックを回避できる高品質の偽造 ID を簡単に作成できます。
- ディープフェイク詐欺と音声クローン: わずか 3 秒の音声録音で、ビデオと音声のディープフェイクが被害者を詐欺に誘い込み、音声クローンはコール センターの音声認証システムを騙すために利用されます。
- ダーク ウェブ マーケット サービス: ダーク ウェブ マーケットでは、購入者に製品の有効性を保証するために、24 時間 365 日のエスクローと最大 4.99/5 の高い販売者評価を提供しています。
不正行為を自動化するためのカスタム設定ファイル
設定ファイルは通常、プレーンテキスト スクリプトの形式をとり、詐欺師はこれを OpenBullet や SilverBullet などの自動化フレームワークを使用して実行し、大規模な攻撃を可能にします。研究者が発見した構成のほとんどは、ユーザー名と関連するパスワードのリストを含むコンボ ファイルの大量検証に使用されるログイン API 攻撃です。
認証情報の検証を自動化するスクリプトを作成することは、詐欺師にとってますます簡単な作業になっています。GenAI の侵入テスト ツールを使用すると、最初のスクリプトを記述してから、フォローアップの質問をすることができるためです。次の例では、研究者が追加のプロンプトを使用して、より回避的なコードを生成できました。会話の抜粋は次のとおりです。
図 1: 顧客の資格情報の検証をより回避するために GenAI 侵入テスト ツールによって生成された悪意のあるコードの抜粋。
詐欺師は、設定、コンボ リスト、プロキシ リストを駆使して、検出を回避するために IP アドレス全体に攻撃を自動的に分散するクレデンシャル スタッフィング キャンペーンを実行および拡大します。数千の資格情報が数分で検証される可能性がありますが、攻撃者はレート制限やその他の速度チェックを回避することができます。
このようなジョブでは、クレジットカード番号などのデータも取得でき、その有効性やマイレージポイントなどのデータをテストできます。このプロセスで、攻撃者は、ヒット数（つまり、成功した攻撃）、失敗数、エラー数、CAPTCHA 要求数、プロキシの成功率を示す統計情報とログにアクセスできるようになります。禁止されたプロキシのリストがあれば、攻撃者はそれらのプロキシを今後の使用から排除し、検出をさらに回避できます。
ダークウェブで販売されているアカウント
当社の研究者は、販売されている銀行、決済サービス、暗号通貨アカウントのリストを大量に発見しました。これらのリストには、ユーザーデータ、シェルスクリプト、写真付き身分証明書が付属していることが多いです。仮想通貨アカウントが金銭的価値の10分の1以下の価格でリストされているのも見かけました。
販売されているアカウントは、ダーク ウェブ マーケットプレイスで販売されている航空マイルのスクリーンショットに示されているように、支払い方法、プリペイド カード、航空マイル、ロイヤルティ ポイントに関連付けられている場合があります。
図 2: ダーク ウェブ マーケットプレイスで販売されている航空マイル(ブランド名をぼかした実際のスクリーンショット)
AI時代の詐欺防止のためのセキュリティ推奨事項
これらの攻撃から保護するために何が必要かを判断するために、当社の研究者はダークウェブで見つかった攻撃をリバースエンジニアリングして実験を行い、疑わしい活動の兆候がないかその特性を調べました。主な推奨事項の簡単な要約:
- パスキーやパスワードレス認証などのフィッシング耐性のある認証情報は第一の防御線となりますが、それだけでは十分ではありません。
- AI を活用した不正防止は、カスタム構成ファイル、プロキシを使用した IP ローテーション、さらに高度な難読化手法を検出するために不可欠です。リアルタイム検出では、GenAI によって加速される新しい不正行為の手口を積極的に発見するために、一般的なユーザーの幅広いリクエスト属性と個々のユーザーの過去の行動における異常を分析できる必要があります。
- オーケストレーションにより、複数のソリューションからのリスク スコアが調和され、データ サイロと盲点が排除されるため、不正検出の有効性が向上します。パワーと使いやすさの両方を必要とする組織では、ドラッグ アンド ドロップ ジャーニー クリエーターを含む、成熟した実績のあるオーケストレーション エンジンを探してください。これにより、開発者だけでなく誰でも、リスクと信頼にリアルタイムで適応するユーザー ジャーニーを構築、テスト、展開できるようになります。
- 大規模なデータセットのオフライン バッチ分析により、新しい詐欺パターンの検出と大規模な並列攻撃のクラスター アラートが強化され、アナリストが個々のケースを相互に相関させる必要性が軽減されます。これにより、企業の偵察、カスタム構成、ダークウェブで販売される消費者アカウントに対する、より迅速かつ正確な防御が可能になります。
- フィッシング耐性認証や API セキュリティなどの不正防止、本人確認、顧客 ID 管理を単一の統合ソリューションに融合することで、コンテキスト認識型インテリジェンスを活用し、急速に進化する今日の不正行為をより高い精度とスピードで検出し、阻止することができます。
今日の高度な GenAI を利用した詐欺を防止するための 7 つの主要戦略を使用して、上記のすべてを実装する方法の詳細については、 GenAI を利用した詐欺に関するダーク ウェブ レポートの全文をお読みください。
