何が起きたか
OpenAIが8月1日、カンボジアを拠点とする詐欺グループがChatGPTを使っていたことを公開し、関連アカウントを停止したと発表しました。摘発の時期は「今年に入ってから」と書かれていて、今回の発表はその報告にあたります。調査のきっかけはWhatsApp側からの情報提供で、判明した情報は業界各社と当局にも共有したとしています。
特徴的なのは、ひとつのグループが複数の詐欺を同時に回していた点です。投資詐欺、ロマンス（恋愛）詐欺、ギャンブルサイトを装うもの、そして警察・法執行機関へのなりすまし。発表では「相手に効きそうな筋書きを、そのつど使い分ける」と説明されています。
AIが使われたのは、主に次の4か所です。
- 偽の人物像をつくり、運用する（架空の投資の専門家、出会い系のプロフィールなど）
- 相手に送るメッセージの生成と翻訳
- 詐欺の宣伝素材をつくる
- グループ内の事務作業（社内連絡の作成、スタッフ間の翻訳など）
さらに、偽造画像の生成にも使われていました。パスポート、法的通知、株の購入確認書、ギャンブルサイトの画面です。発表には、AIで作られた偽の暗号資産の取引画面の実例も掲載されています。
生活で何が変わるか
発表には、手口が接触→信頼づくり→入金の3段階で整理されています。ここは公式に書かれている内容なので、そのまま並べます。
- 接触：WhatsAppやTelegramで会話を始める。会話の生成と翻訳にAIを使い、SNS用の投稿やプロフィール素材も用意する
- 信頼づくり：「元本保証」「ノーリスク」といった約束、恋愛的な言い回し、「誰にも言わないで」という指示、そして「特典の期限が切れる前に」と急かすやり方
- 入金：報酬の受け取りに必要、手数料が必要、罰金を払え、といった名目で振り込ませ、送金のスクリーンショットや口座情報を「証拠」として出させる
ここから先は私の読み取りですが、実務的に効くのは2つだと思っています。ひとつは、「秘密にして」と「今日中に」がセットで出てきたら、内容にかかわらず一度止めること。3段階の真ん中は、ほぼこの2つで構成されています。
もうひとつは、画面のスクショや身分証の画像を「本物の証拠」として扱わないこと。今回はまさにそこが生成されていました。相手が送ってきた「取引画面」や「証明書」は、もう確からしさの根拠になりません。
なお、発表には詐欺に従事していた人自身が人身取引の被害者である可能性についても書かれています。求人広告の作成や、従業員の借金・罰金の記録といった痕跡が見つかったためで、OpenAIは個々の事情までは判断できないとしています。
マスターの一言
私はこの手のDMを実際に踏んだ経験がないので、被害の実感までは語れません。ただ、AI関連の発表を毎日追っていて、「悪用の手口がここまで具体的に公開される」のは珍しいと感じました。
これは消費者向けの注意喚起として書かれた文書ではなく、あくまで摘発の報告です。それでも、家族に共有するなら「文面の自然さでは見抜けない」「秘密と期限はセットで疑う」の2点だけで十分だと思います。