何が起きたか
Anthropicが9月10日付で、Claudeの悪用を見つけて止めた事例の報告書を公開した（原題は Countering misuse of AI: September 2026）。日本時間では11日未明にXで告知している。対象は2025年12月から2026年8月までに止めた活動で、サイバー攻撃、世論工作、監視、詐欺、生物、兵器、不正な蒸留（他社のAIの答えを集めて自社のAIの学習に使うこと）の7分野にわたる。載っているのは典型的な悪用ではなく、特に目立った新しい事例だと断っている。
大半は国家や犯罪集団の話で、生活者に直接関係するものは少ない。そのなかで、ふつうの利用者に近い事例が2つあった。
1つ目は出会い系アプリの網。中国拠点のアプリ制作会社が、Claudeを使って20を超える出会い系アプリを作り、会話の相手役もClaudeに演じさせていた。宣伝では人間だけのサービスとうたっていた。2026年4月の2週間だけで、4,700を超えるAIの人物が少なくとも2万5,000人と会話していた。狙われたのは米国の利用者だ。
表示される相手のおよそ4分の3がAIで、残りは報酬で雇われた本物の人間だった。人間はビデオ通話やSNSのフォローなど、AIにできない「本物らしさの確認」を受け持っていた。AIの人物には、自動だと明かさない、ビデオ通話や写真を求められたらかわす、という指示が出ていた。メッセージやマッチングは回数枠が減っていく仕組みで、アプリ内のコインで買い足す。アプリストアの審査のときだけ動く画面の仕掛けもあったという。
2つ目は「格安のClaude」を売る業者。Claudeを安く使えるとうたいながら、実際には利用者を別のAIにつなぎ、業者のツールでAnthropicのアカウント情報を盗んで転売していた集団がいた。報告書の言い方では、安くもなく、Claudeでもなかった。これとは別に、複数のAIを割引でまとめて使えるとうたうサイトから、Claude Codeなど有名なツールを装ったアプリを入れさせ、端末にあるログイン情報をまるごと集めて攻撃者に送る手口も書かれている。
このほか報告書には、Moonshot AI（Kimiの開発元）とDeepSeekが、自社のAIを使っているつもりの利用者のリクエストを知らせないままClaudeに回し、やりとりを学習用に集めていた、という記述もある。これはAnthropic側の主張で、両社の説明はこの記事の時点では確認できていない。
生活で何が変わるか
出会い系の件で、報告書にはアプリの識別子（パッケージ名）が2つ載っている。9月11日4時半ごろにGoogle Playの日本向けと米国向けで開くと、どちらも「見つかりませんでした」と出た。App Storeにも同じ識別子で照会したが0件だった（iPhone版に同じ識別子が使われていたかは分からない）。もともとストアに並んでいたのか、いつ消えたのかは報告書にも書かれていない。アプリの呼び名も10個挙がっているが、ありふれた名前が多く同名の無関係なアプリと区別がつかないので、ここには並べない。ストア上の出品者名はAppleとGoogleに直接伝えた、とだけある。
この報告書は注意喚起の文書ではなく、読者向けの対策は書かれていない。ここから先は私の読み取りだ。家族と共有するなら2つだと思う。
- 出会い系の相手がビデオ通話をかわし続けるのは、今回AIに出されていた指示と同じ形だ。ただ、ビデオ通話に出てくれる人がいても安心材料にはならない。今回はそこを本物の人間が受け持っていた
- ChatGPTやClaudeを「公式より安く」使えるという話には乗らない。安さの理由が説明されていないなら、中身が別のAIだったり、アカウントを盗まれたりする例が今回書かれている
マスターの一言
この件で私に語れる実体験はない。それでも、「安いClaude」の中身が別のAIだったという一文は、始めたばかりの人ほど見分けがつかない話だと思った。答えを読んで本物かどうかを判断するのは難しい。申し込みの入口を公式に絞るのが、いちばん手間のかからない守り方だと思う。