У цій шахрайській схемі AI відповідає за закоханість, а також за підробку ліцензій на адвокатську діяльність

Більшість роботи в парку шахрайства виконується акаунтом ChatGPT.

Каррі, Deep Tide TechFlow

OpenAI опублікував звіт за останні два дні, що когось заарештували за погані дії з ChatGPT.

Звіт довгий і містить перелік великої кількості випадків зловживання ШІ. Є росіяни, які займаються неправдивою пропагандою, і підозрюваними шпигунами, які займаються соціальною інженерією, але сьогодні я хочу поговорити про один із випадків:

Тарілка для вбивства камбоджійських свиней.

Тарілки для вбивства свиней — не рідкість, і всі чули надто багато історій про камбоджійські парки. Дивно те, якою є роль ШІ в цьому.

У цій шахрайській банді ChatGPT відповідає за закоханість, переклад інструкцій керівника, щоденне написання звітів у будні та цінування кожної жертви.

У плиті для вбивства свиней внутрішній член називається значенням вбивства, що є оцінкою того, скільки грошей можна витиснути з вас.

На всій конвеєрі ChatGPT, мабуть, є найзайнятішим працівником.

OpenAI надав проєкту кодову назву Operation Date Bait.

Ось процес.

Шахрайська банда спочатку створила фальшивий елітний сервіс знайомств під назвою Klub Romantis із логотипом із ChatGPT. Потім вони розмістили платні оголошення в соцмережах з ключовими словами гольф, яхти та елітні ресторани, спеціально орієнтовані на молодих індонезійських чоловіків.

Ви натискаєте на рекламу і починаєте з розмови з чат-ботом на основі ШІ. Робот прикидається сексуальним на рецепції, дозволяє вибрати, яка дівчина тобі подобається, і дає посилання на Telegram з ексклюзивним кодом запрошення.

Опинившись у Telegram, реальні люди почали захоплювати ситуацію.

Рецепціоніст продовжує використовувати ChatGPT для створення неоднозначних повідомлень, стаючи дедалі відвертішим у міру вашого спілкування, а потім направляє вас на дві фейкові платформи знайомств: одну під назвою LoveCode і іншу під назвою SexAction.

На платформі є купа фальшивої інформації про дівчат, а також є прокручувана панель повідомлень, яка постійно показує: «Вітаємо такого-то з виконанням завдання та розблокуванням бонусу». Це все вигадка, і ви можете побачити це з першого погляду, якщо маєте досвід серфінгу в інтернеті, але не всі цільові групи не піддадуться обману.

Розмова вже на місці, і рецепціоністка переводить вас до «наставника». Наставник почав просити тебе виконувати «завдання», кожне завдання потрібно було платити грошима, і сума з кожним разом ставала все більшою і більшою. Купуйте VIP-картки, голосуйте за «улюблених дівчат», сплачуйте внески в готель, і там багато імен.

Останній крок — це внутрішньо вбивство.

Вигадайте причину, які помилки при обробці даних, який депозит для верифікації, щоб ви могли перевести велику суму за один раз. OpenAI включила у звіт лист, надісланий жертвам шахрайської групи, з проханням виплатити 20,5 мільйона рупій, що еквівалентно приблизно $12,000, і зазначати, що 35% бонусу буде повернуто після сплати.

Коли гроші надійдуть, шахрай у Telegram заблокує вас і повідомить, що справу закрито.

Дивлячись на це, ви можете подумати, що це нічого.

Сам трюк не новий, і рутина вбивства свиней неодноразово повторювалася останніми роками. Що справді вразило людей — це закулісся.

Дослідники OpenAI створили повну корпоративну архітектуру на основі записів використання цих облікових записів ChatGPT:

Парк шахрайства поділений на три відділи: дренажну групу, приймальну та наглядову групу. Команда дренажу відповідає за рекламу та залучення людей, рецепція відповідає за спілкування для зміцнення довіри, а наглядова команда відповідає за фінальний врожай.

Є щоденна газета. У щоденному звіті вказано кожну жертву, яка обробляється, поруч із тим, хто несе відповідальність, де просувався прогрес, і кількість:

Значення вбивства.

Це сума, яку оцінює керівник, яку може отримати з цієї особи.

Вони також використовують ChatGPT для аналізу фінансових рахунків, створення робочих звітів і навіть запитують ChatGPT, як підключатися до API та змінювати код сайтів знайомств. У випадках, коли керівники говорять китайською, а працівники — індонезійською, ChatGPT відповідає за переклад з обох сторін.

Смішно, що працівник із шахрайства з електронними справами використав ChatGPT, щоб запитати про податки після отримання доходу, і колонка про професію була відверто заповнена шахраєм.

Звіт OpenAI був стримуваний, зазначивши, що, виходячи з власних записів шахраїв, вони можуть одночасно обробляти сотні цілей і заробляти тисячі доларів на день. Але у звіті також зазначено, що неможливо незалежно перевірити, чи ці цифри є правдивими.

Однак, я вважаю, що немає причин хвилюватися, чи правдиві ці цифри, достатньо просто подивитися на цей набір управлінських процесів:

Дренаж, конвертація, ціна одиниці клієнта, щоденний звіт, розподіл праці між відділами, зміна термінології — ви думаєте, що дивитеся на керівництво SaaS-компанії.

І закохатися, перекладати, писати щоденні газети, змінювати коди, розв’язувати рахунки… Більшість роботи на цьому кампусі виконується через обліковий запис ChatGPT.

Історія на цьому не закінчується.

OpenAI також видалив другу лінію з того ж звіту під кодовою назвою Operation False Witness (вторинне шахрайство жертви), також з Камбоджі.

Ця фраза не спрямована на звичайних людей, а на тих, кого вже обманули.

Логіка дуже проста: вас обдурили на гроші тарілкою для вбивства свиней, ви хочете її повернути, що робити, якщо шукаєте в Інтернеті.

Потім ви бачите рекламу, яка спеціалізується на допомозі жертвам шахрайства у відшкодуванні збитків. Ти натискаєш.

Сайт робить багато чого. Деякі фотографії юристів — це реальні аватари, викрадені з соціальних мереж, а інші створені штучним інтелектом. Кожна юридична фірма має адресу, ліцензію та профіль. ChatGPT генерував членські картки для Асоціації адвокатів штату Нью-Йорк, а також створював фальшиві реєстраційні записи адвокатів.

OpenAI виявив щонайменше шість фейкових юридичних фірм.

Існує також вебсайт, який безпосередньо видає себе за Центр скарг на інтернет-злочини ФБР. На сторінці є кнопка «Подати скаргу», і ви можете натиснути на неї, щоб перейти до акаунта Telegram.

У Telegram «адвокат» починає з вами говорити. Промова створена ChatGPT і спеціально просить бути написана «американською англійською» у тоні, що імітує тон професійного юриста. Вони повідомляють, що ми співпрацюємо з Міжнародним кримінальним судом і не накладається стягнення коштів до повернення коштів.

Але для активації акаунта та оплати криптовалютою потрібно сплатити 15% сервісної комісії.

Вони також дозволяють підписати угоду про нерозголошення. Ця угода про нерозголошення також була написана ChatGPT, щоб не дати вам перевірити.

Пізніше ФБР оприлюднило публічне попередження саме щодо інциденту, заявивши, що шахрайство було спрямоване переважно на літніх людей і скористалося прагненням жертв відшкодувати свої втрати.

Після прочитання цих двох випадків, думаю, у сучасному середовищі, де ШІ став стандартом, ось найіронічніша усмішка:

Перший раз, коли ти збрешеш собі, ти стаєш мішенню. Другий раз, коли ти збрешеш, ти краща мішень,Бо ти довів, що тебе обдурять.

Нарешті, OpenAI підсумував процес шахрайства у три етапи у звіті.

Перший крок називається пінгом, холодним досяжем і пошуком способу привернути увагу цілі до вас. Другий етап називається «зінг», який створює емоції, що збуджують, збуджують або лякають. Третій крок називається жало, збирання врожаю, забирання грошей.

Ця структура дуже добре підсумована, подивіться уважніше, який із цих трьох кроків не може виконати ШІ?

Раніше найбільша ціна від вбивства свиней була у людей. Потрібно найняти кімнату людей, які сидітимуть за комп’ютером і спілкуються, і треба говорити цільовою мовою. Камбоджійський парк у перші роки набирав людей, також обирав хорошу англійську, а зарплата також була високою.

Тепер, розглядаючи справу про шахрайство зі стосунками, згадану у звіті, керівник говорить китайською, працівник — індонезійською, а ціль також індонезійська. Три сторони не розуміли мови, тому раніше не могли виконувати цю роботу. Додайте ChatGPT — і все готово.

Мова — це лише одна з таких речей.

У звіті також є деталь, що шахрай навіть запитав ChatGPT, як підключитися до API OpenAI, намагаючись повністю автоматизувати чат-сесію.

Інакше кажучи, ШІ не робить обман розумним, обман — це все одно ці обмани.ШІ робить обман дешевшим.

Тепер, за даними OpenAI, банда може мати справу з сотнями шахрайських справ одночасно. Зі збільшенням масштабу вартість праці, яку розподіляє одна жертва, зменшується, що природно обманює більше людей через менші ціни на одиниці.

Є ще одне питання, яке, на мою думку, варто замислитися.

OpenAI змогла це виявити, оскільки шахрайська група використовувала ChatGPT, а записи чату зберігалися на серверах OpenAI.

А як щодо тих, хто використовує локальні моделі з відкритим кодом?

Те, що може показати цей звіт, може бути лише невеликою частиною головоломки, яку бачить OpenAI. Ніхто не знає, наскільки велике це місце, яке не можна освітлити.