詐欺団地の半数以上の仕事を、たった一つのChatGPTアカウントでこなしている。著者：クリー、深潮 TechFlowOpenAIはこの数日、ある報告を発表した。内容は、誰かがChatGPTを悪用して犯罪を行い、彼らに捕まったというものだ。報告は長く、多数のAI乱用事例を列挙している。ロシア人による偽宣伝や、スパイと思しき者による社会工学の事例もあるが、今日はその中の一つに焦点を当てたい。カンボジアの殺猪盤（殺し猪ゲーム）だ。殺猪盤自体は珍しくない。カンボジアの園区の話はもう飽きるほど聞かされている。珍しいのは、その中でAIが果たす役割だ。この詐欺団体では、ChatGPTは恋愛の仲介役、翻訳の指示役、日々の業務報告書作成、そして被害者一人ひとりの見積もりに使われている。殺猪盤では、内部用語で「kill value（殺し値）」と呼ばれる、最終的にその人から絞り取れる金額の予測値がある。一連の流れの中で、ChatGPTはおそらく最も忙しい社員だ。OpenAIはこのケースにコードネームを付けている。Operation Date Bait（デート釣り作戦）だ。流れはこうだ。詐欺団はまず、偽の高級デートサービス「Klub Romantis」を作り、そのロゴもChatGPTに生成させる。次に、ソーシャルメディアに有料広告を出す。キーワードはゴルフ、ヨット、高級レストランなどで、ターゲットはインドネシアの若い男性だ。広告をクリックすると、最初にAIチャットボットと会話を始める。ロボットはセクシーな受付役を演じ、好みの女性タイプを選ばせ、選び終わるとTelegramのリンクと専用招待コードを渡す。Telegramに入ると、実人が対応を始める。受付係はChatGPTを使って曖昧なメッセージを生成し、会話をエスカレートさせ、最終的には二つの偽デートプラットフォーム、「LoveCode」と「SexAction」へ誘導する。そこには偽の女性プロフィールが山のようにあり、スクロール式のメッセージ欄には「○○さんがミッションを完了し、ボーナスを解放」などの架空の通知が流れる。これらはすべて作り話だ。ネットサーフィンに慣れたあなたなら一目で見抜けるだろうが、すべてのターゲットが騙されるわけではない。会話が盛り上がると、受付はあなたを「メンター」に引き渡す。メンターは「ミッション」を始めさせる。各ミッションにはお金が必要で、金額は次第に大きくなる。VIPカードの購入、気に入った女性への投票、ホテルのデポジット支払いなど、多くの名目がある。最後の段階は、彼らの内部用語で「kill（殺す）」と呼ばれる。理由を作り、データ処理の誤りや保証金の検証などを理由に、一度に多額の送金をさせるのだ。OpenAIの報告には、詐欺団が被害者に送った手紙も掲載されている。インドネシア通貨の2050万ルピア（約1.2万ドル）を支払わせ、支払い後には35％のボーナスを返すと謳っている。資金が入金されると、Telegram上の詐欺師はあなたをブロックし、「案件完了」とメモを残す。ここまで見て、「別に普通の詐欺じゃないか」と思うかもしれない。確かに、詐欺の手口自体は新鮮味がない。殺猪盤の手口はこの数年で何度も暴かれてきた。しかし、最も驚かされるのは、その裏側の管理体制だ。OpenAIの調査員は、これらのChatGPTアカウントの使用記録から、完全な企業構造を読み解いている。詐欺団地は三つの部署に分かれている。引流（広告投下）、接待（信頼構築）、管理（最終収穫）だ。毎日、日報が作成され、そこには処理中の被害者一人ひとりの情報と、その担当者、進行状況、そして次の数字が記されている。#### **kill value（殺し値）** これは管理者が予測した、その人から最終的に絞り取れる金額だ。さらに、ChatGPTを使って財務の分析や業務報告を生成し、APIの接続方法やデートサイトのコード修正まで質問している。管理者が中国語を話し、スタッフはインドネシア語を話す場合も、ChatGPTが両者の翻訳を担当している。面白いのは、ある電信詐欺のスタッフがChatGPTに「OpenAIのAPIをどう使うか」と質問し、「詐欺師（scammer）」と正直に職業欄を書いている点だ。OpenAIの報告は控えめな表現を用いているが、詐欺団の入力記録から、彼らは同時に数百のターゲットを処理し、毎日数千ドルの収入を得ている可能性があると推測している。ただし、これらの数字の真偽については独立した検証はできていない。しかし、私個人は数字の正確さにこだわる必要はないと思う。管理体制だけ見れば十分だ。引流、転換、客単価、日報、部署分担――用語を変えれば、まるでSaaS企業の運営マニュアルのようだ。そして、恋愛、翻訳、日報作成、コード修正、会計処理… この園区の大半の仕事は、たった一つのChatGPTアカウントでできてしまう。話はこれで終わらない。OpenAIは同じ報告の中で、もう一つのラインも解説している。コードネームはOperation False Witness（被害者二次詐欺）だ。こちらもカンボジアからの事例だ。このラインは、普通の人ではなく、すでに騙された経験のある人を狙っている。論理は単純だ。殺猪盤に騙されて金を失った人が、「取り戻したい」とネットで検索する。すると、弁護士事務所の広告が目に入る。そこをクリックすると、サイトは非常に本物らしく作られている。弁護士の写真はソーシャルメディアから盗用したものやAI生成のものもある。各事務所には住所や免許番号、プロフィールも記載されている。ChatGPTはニューヨーク州弁護士協会の会員証や、偽の弁護士登録記録も生成している。OpenAIは少なくとも六つの偽弁護士事務所を発見している。また、FBIのインターネット犯罪苦情センターを模倣したサイトも存在し、「苦情提出」ボタンをクリックするとTelegramのアカウントに飛ぶ仕組みだ。Telegramに入ると、「弁護士」が登場し、ChatGPTが生成した専門的な英語の話し方でやり取りを始める。彼らは「国際刑事裁判所と連携しており、資金回収前に料金は不要」と語る。しかし、最も巧妙なのは、サービス開始前に15％の手数料を支払わせ、暗号通貨でアカウントを有効化させる点だ。さらに、秘密保持契約書もChatGPTに作らせている。これにより、被害者は他人に相談しないように仕向けている。FBIは後にこの詐欺について警告を出し、特に高齢者を狙ったもので、被害者の「早く取り戻したい」という心理を突いていると指摘した。この二つの事例を見て、AIが標準装備となった今の環境で最も笑えるのはここだ。最初に騙されたとき、あなたはただのターゲットだった。二度目に騙されたとき、あなたはより良いターゲットになる——すでに騙されやすいことを証明してしまったからだ。最後に、OpenAIは報告の中で詐欺の流れを三段階にまとめている。第一段階は「ping（冷触）」。ターゲットに気づかせる段階だ。第二段階は「zing（感情喚起）」。興奮や恐怖を煽る。第三段階は「sting（収穫）」。金を巻き上げる。このフレームワークは非常に良くまとまっている。よく見てほしい。この三段階のどこにAIができない部分があるだろうか。以前の殺猪盤では、人件費が最大のコストだった。人を雇い、パソコンの前に座らせ、ターゲットの言語を話せる必要があった。カンボジアの園区は早くから人材を募集し、英語が堪能な人を選び、高給を出していた。今、報告に出てくるデート詐欺の例では、管理者は中国語を話し、スタッフはインドネシア語を話す。ターゲットもインドネシア人だ。三者の言語が通じない状況では、従来ならこの仕事は成り立たない。そこにChatGPTを導入すれば、すべて解決だ。言語だけではない。報告にはもう一つの詳細もある。詐欺のスタッフはChatGPTに「OpenAIのAPIをどう使うか」と質問し、チャットの自動化を目指している。つまり、AIは詐欺の手口を高度化させたのではなく、むしろ「安く」しているのだ。OpenAIの見解によれば、この団体は同時に数百の詐欺案件を処理している可能性がある。規模が拡大すれば、1人あたりのコストは下がり、より多くのターゲットに手を出せる。もう一つ、考えるべき重要な点がある。OpenAIがこれを発見できたのは、詐欺団がChatGPTを使い、会話記録をOpenAIのサーバーに保存していたからだ。では、ローカルにオープンソースのモデルを展開している場合はどうか？この報告書が示すのは、OpenAIが見つけられる範囲の一部にすぎない。見えない部分はどれほど広いのか、誰にもわからない。
この殺猪盘では、AIが恋愛を担当し、偽の弁護士免許証も作成しています。
詐欺団地の半数以上の仕事を、たった一つのChatGPTアカウントでこなしている。
著者：クリー、深潮 TechFlow
OpenAIはこの数日、ある報告を発表した。内容は、誰かがChatGPTを悪用して犯罪を行い、彼らに捕まったというものだ。
報告は長く、多数のAI乱用事例を列挙している。ロシア人による偽宣伝や、スパイと思しき者による社会工学の事例もあるが、今日はその中の一つに焦点を当てたい。
カンボジアの殺猪盤（殺し猪ゲーム）だ。
殺猪盤自体は珍しくない。カンボジアの園区の話はもう飽きるほど聞かされている。珍しいのは、その中でAIが果たす役割だ。
この詐欺団体では、ChatGPTは恋愛の仲介役、翻訳の指示役、日々の業務報告書作成、そして被害者一人ひとりの見積もりに使われている。
殺猪盤では、内部用語で「kill value（殺し値）」と呼ばれる、最終的にその人から絞り取れる金額の予測値がある。
一連の流れの中で、ChatGPTはおそらく最も忙しい社員だ。
OpenAIはこのケースにコードネームを付けている。Operation Date Bait（デート釣り作戦）だ。
流れはこうだ。
詐欺団はまず、偽の高級デートサービス「Klub Romantis」を作り、そのロゴもChatGPTに生成させる。次に、ソーシャルメディアに有料広告を出す。キーワードはゴルフ、ヨット、高級レストランなどで、ターゲットはインドネシアの若い男性だ。
広告をクリックすると、最初にAIチャットボットと会話を始める。ロボットはセクシーな受付役を演じ、好みの女性タイプを選ばせ、選び終わるとTelegramのリンクと専用招待コードを渡す。
Telegramに入ると、実人が対応を始める。
受付係はChatGPTを使って曖昧なメッセージを生成し、会話をエスカレートさせ、最終的には二つの偽デートプラットフォーム、「LoveCode」と「SexAction」へ誘導する。
そこには偽の女性プロフィールが山のようにあり、スクロール式のメッセージ欄には「○○さんがミッションを完了し、ボーナスを解放」などの架空の通知が流れる。これらはすべて作り話だ。ネットサーフィンに慣れたあなたなら一目で見抜けるだろうが、すべてのターゲットが騙されるわけではない。
会話が盛り上がると、受付はあなたを「メンター」に引き渡す。メンターは「ミッション」を始めさせる。各ミッションにはお金が必要で、金額は次第に大きくなる。VIPカードの購入、気に入った女性への投票、ホテルのデポジット支払いなど、多くの名目がある。
最後の段階は、彼らの内部用語で「kill（殺す）」と呼ばれる。
理由を作り、データ処理の誤りや保証金の検証などを理由に、一度に多額の送金をさせるのだ。OpenAIの報告には、詐欺団が被害者に送った手紙も掲載されている。インドネシア通貨の2050万ルピア（約1.2万ドル）を支払わせ、支払い後には35％のボーナスを返すと謳っている。
資金が入金されると、Telegram上の詐欺師はあなたをブロックし、「案件完了」とメモを残す。
ここまで見て、「別に普通の詐欺じゃないか」と思うかもしれない。
確かに、詐欺の手口自体は新鮮味がない。殺猪盤の手口はこの数年で何度も暴かれてきた。しかし、最も驚かされるのは、その裏側の管理体制だ。
OpenAIの調査員は、これらのChatGPTアカウントの使用記録から、完全な企業構造を読み解いている。
詐欺団地は三つの部署に分かれている。引流（広告投下）、接待（信頼構築）、管理（最終収穫）だ。毎日、日報が作成され、そこには処理中の被害者一人ひとりの情報と、その担当者、進行状況、そして次の数字が記されている。
kill value（殺し値）
これは管理者が予測した、その人から最終的に絞り取れる金額だ。
さらに、ChatGPTを使って財務の分析や業務報告を生成し、APIの接続方法やデートサイトのコード修正まで質問している。管理者が中国語を話し、スタッフはインドネシア語を話す場合も、ChatGPTが両者の翻訳を担当している。
面白いのは、ある電信詐欺のスタッフがChatGPTに「OpenAIのAPIをどう使うか」と質問し、「詐欺師（scammer）」と正直に職業欄を書いている点だ。
OpenAIの報告は控えめな表現を用いているが、詐欺団の入力記録から、彼らは同時に数百のターゲットを処理し、毎日数千ドルの収入を得ている可能性があると推測している。ただし、これらの数字の真偽については独立した検証はできていない。
しかし、私個人は数字の正確さにこだわる必要はないと思う。管理体制だけ見れば十分だ。
引流、転換、客単価、日報、部署分担――用語を変えれば、まるでSaaS企業の運営マニュアルのようだ。
そして、恋愛、翻訳、日報作成、コード修正、会計処理… この園区の大半の仕事は、たった一つのChatGPTアカウントでできてしまう。
話はこれで終わらない。
OpenAIは同じ報告の中で、もう一つのラインも解説している。コードネームはOperation False Witness（被害者二次詐欺）だ。こちらもカンボジアからの事例だ。
このラインは、普通の人ではなく、すでに騙された経験のある人を狙っている。
論理は単純だ。殺猪盤に騙されて金を失った人が、「取り戻したい」とネットで検索する。すると、弁護士事務所の広告が目に入る。
そこをクリックすると、サイトは非常に本物らしく作られている。弁護士の写真はソーシャルメディアから盗用したものやAI生成のものもある。各事務所には住所や免許番号、プロフィールも記載されている。ChatGPTはニューヨーク州弁護士協会の会員証や、偽の弁護士登録記録も生成している。
OpenAIは少なくとも六つの偽弁護士事務所を発見している。
また、FBIのインターネット犯罪苦情センターを模倣したサイトも存在し、「苦情提出」ボタンをクリックするとTelegramのアカウントに飛ぶ仕組みだ。
Telegramに入ると、「弁護士」が登場し、ChatGPTが生成した専門的な英語の話し方でやり取りを始める。彼らは「国際刑事裁判所と連携しており、資金回収前に料金は不要」と語る。
しかし、最も巧妙なのは、サービス開始前に15％の手数料を支払わせ、暗号通貨でアカウントを有効化させる点だ。
さらに、秘密保持契約書もChatGPTに作らせている。これにより、被害者は他人に相談しないように仕向けている。
FBIは後にこの詐欺について警告を出し、特に高齢者を狙ったもので、被害者の「早く取り戻したい」という心理を突いていると指摘した。
この二つの事例を見て、AIが標準装備となった今の環境で最も笑えるのはここだ。
最初に騙されたとき、あなたはただのターゲットだった。二度目に騙されたとき、あなたはより良いターゲットになる——すでに騙されやすいことを証明してしまったからだ。
最後に、OpenAIは報告の中で詐欺の流れを三段階にまとめている。
第一段階は「ping（冷触）」。ターゲットに気づかせる段階だ。第二段階は「zing（感情喚起）」。興奮や恐怖を煽る。第三段階は「sting（収穫）」。金を巻き上げる。
このフレームワークは非常に良くまとまっている。よく見てほしい。この三段階のどこにAIができない部分があるだろうか。
以前の殺猪盤では、人件費が最大のコストだった。人を雇い、パソコンの前に座らせ、ターゲットの言語を話せる必要があった。カンボジアの園区は早くから人材を募集し、英語が堪能な人を選び、高給を出していた。
今、報告に出てくるデート詐欺の例では、管理者は中国語を話し、スタッフはインドネシア語を話す。ターゲットもインドネシア人だ。三者の言語が通じない状況では、従来ならこの仕事は成り立たない。そこにChatGPTを導入すれば、すべて解決だ。
言語だけではない。
報告にはもう一つの詳細もある。詐欺のスタッフはChatGPTに「OpenAIのAPIをどう使うか」と質問し、チャットの自動化を目指している。
つまり、AIは詐欺の手口を高度化させたのではなく、むしろ「安く」しているのだ。
OpenAIの見解によれば、この団体は同時に数百の詐欺案件を処理している可能性がある。規模が拡大すれば、1人あたりのコストは下がり、より多くのターゲットに手を出せる。
もう一つ、考えるべき重要な点がある。
OpenAIがこれを発見できたのは、詐欺団がChatGPTを使い、会話記録をOpenAIのサーバーに保存していたからだ。
では、ローカルにオープンソースのモデルを展開している場合はどうか？
この報告書が示すのは、OpenAIが見つけられる範囲の一部にすぎない。見えない部分はどれほど広いのか、誰にもわからない。