في عملية الاحتيال هذه، تتولى الذكاء الاصطناعي مسؤولية الحب، وأيضًا إصدار رخصة محامٍ مزورة

بقلم كاري، ديب تايد تيكفلو

أصدرت OpenAI تقريرا خلال اليومين الماضيين يفيد بأن شخصا تم اعتقاله بسبب قيامه بأفعال سيئة باستخدام ChatGPT.

التقرير طويل ويسرد عددا كبيرا من حالات سوء استخدام الذكاء الاصطناعي. هناك روس يشاركون في دعاية كاذبة، وهناك مشتبه بهم في جواسيس يعملون في الهندسة الاجتماعية، لكنني أود أن أتحدث عن إحدى الحالات اليوم:

طبق قتل الخنازير الكمبودية.

أطباق ذبح الخنازير ليست نادرة، وقد سمع الجميع الكثير من القصص عن الحدائق الكمبودية. الغريب هو دور الذكاء الاصطناعي فيه.

في هذه العصابة المحتالة، يتولى ChatGPT مسؤولية الوقوع في الحب، وترجمة تعليمات المشرف، وكتابة تقارير أيام الأسبوع يوميا، وتقييم كل ضحية.

في لوحة قتل الخنازير، يسمى المصطلح الداخلي قيمة القتل، وهو تقدير لمقدار المال الذي يمكن استخراجه منك.

على طول خط الإنتاج بأكمله، ChatGPT ربما يكون أكثر الموظفين انشغالا فيه.

أعطت OpenAI المشروع اسما رمزيا يسمى Operation Date Bait.

إليك العملية.

أنشأت عصابة الاحتيال أولا خدمة مواعدة وهمية راقية تدعى Klub Romantis، بشعار مصنوع من ChatGPT. ثم وضعوا إعلانات مدفوعة على وسائل التواصل الاجتماعي، مع كلمات مفتاحية مثل الغولف، واليخوت، والمطاعم الراقية، واستهدفت بشكل خاص الشباب الإندونيسيين.

تنقر على الإعلان وتبدأ بالتحدث إلى روبوت دردشة ذكي اصطناعي. يتظاهر الروبوت بأنه جذاب عند مكتب الاستقبال، ويتيح لك اختيار نوع الفتاة التي تحبها، ويعطيك رابط تيليجرام مع رمز دعوة حصري.

بمجرد وصولهم إلى تيليجرام، بدأ أشخاص حقيقيون يتولون على الأمر.

تواصل موظفة الاستقبال استخدام ChatGPT لتوليد رسائل غامضة، وتصبح أكثر وضوحا أثناء الدردشة، ثم توجهك إلى منصتين مواعدة مزيفتين، واحدة تسمى LoveCode والأخرى تسمى SexAction.

هناك الكثير من المعلومات المزيفة عن الفتيات على المنصة، وهناك شريط رسائل متحرك يستمر في بث “تهانينا لفلانه على إكمال المهمة وفتح المكافأة”. كل شيء مختلق، وقد تراه من النظرة الأولى إذا كان لديك خبرة في تصفح الإنترنت، لكن ليس كل المجموعات المستهدفة لن تنخدع.

المحادثة جاهزة، وتقوم موظفة الاستقبال بتحويلك إلى “مرشد”. بدأ المرشد يطلب منك أداء “مهام”، وكل مهمة كان يجب أن تتحمل مالا، وكان المبلغ يزداد يوما بعد يوم. اشتر بطاقات VIP، صوت ل “الفتيات المفضلات”، ادفع ودائع الفنادق، وهناك العديد من الأسماء.

الخطوة الأخيرة، تسمى القتل داخليا.

اخترع سببا، ما هي أخطاء معالجة البيانات، وأي إيداع تحقق يسمح لك بتحويل مبلغ كبير دفعة واحدة. أدرجت OpenAI رسالة أرسلتها عصابة احتيال إلى الضحايا في التقرير، تطلب دفع مبلغ 20.5 مليون روبية، أي ما يعادل حوالي 12,000 دولار، وتقول إن 35٪ من المكافأة ستعاد بعد الدفع.

عندما تصل المال، يقوم المحتال على تيليجرام بحظرك ويعطيك ملاحظة بأن القضية قد أغلقت.

عند رؤية هذا، قد تعتقد أنه لا شيء.

الحيلة نفسها ليست جديدة، وقد تم تبني روتين قتل الخنازير عدة مرات في السنوات الأخيرة. ما أدهش الناس حقا هو الكواليس.

قام باحثو OpenAI بإنشاء هيكلية مؤسسية كاملة من سجلات استخدام هذه الحسابات في ChatGPT:

تنقسم حديقة الاحتيال إلى ثلاثة أقسام: مجموعة الصرف، مجموعة الاستقبال، ومجموعة الإشراف. فريق الصرف مسؤول عن الإعلان وجذب الناس، وفريق الاستقبال مسؤول عن الدردشة لبناء الثقة، وفريق الإشراف مسؤول عن الحصاد النهائي.

هناك صحيفة يومية. يسرد التقرير اليومي كل ضحية يتم معالجتها، بجانب المسؤول، وأين تم التقدم في الأحداث، والرقم:

قيمة القتل.

المبلغ الذي يقدره المشرف هو ما يمكن استخراجه من هذا الشخص.

كما يستخدمون ChatGPT لتحليل الحسابات المالية، وإنشاء تقارير العمل، وحتى سؤال ChatGPT عن كيفية الاتصال بواجهات برمجة التطبيقات وتغيير كود مواقع المواعدة. في الحالات التي يتحدث فيها المشرفون الصينية والموظفون الإندونيسية، يكون ChatGPT مسؤولا عن الترجمة من كلا الجانبين.

المضحك أن موظفا في مجال الاحتيال الإلكتروني استخدم ChatGPT للسؤال عن الضرائب بعد كسب الدخل، وعمود الوظائف كان صريحا في الكشف عن محتال.

تم تقييد تقرير OpenAI، قائلا إنه بناء على سجلات إدخال المحتالين أنفسهم، قد يكونون يعالجون مئات الأهداف في نفس الوقت، محققين آلاف الدولارات يوميا. لكن التقرير قال أيضا إنه من المستحيل التحقق بشكل مستقل من صحة هذه الأرقام.

ومع ذلك، أعتقد أنه لا داعي للقلق بشأن صحة الأرقام أم لا، فقط النظر إلى هذه المجموعة من عمليات الإدارة يكفي:

الصرف، التحويل، سعر وحدة العميل، التقرير اليومي، تقسيم العمل على الأقسام، تغيير المصطلحات، تعتقد أنك تنظر إلى دليل تشغيل شركة SaaS.

والوقوع في الحب، الترجمة، كتابة الصحف اليومية، تغيير الشفرة، تسوية الحسابات… معظم العمل في هذا الحرم يتم باستخدام حساب ChatGPT.

القصة لا تنتهي هنا.

كما أزالت OpenAI سطرا ثانيا في نفس التقرير، أطلق عليه الاسم الرمزي عملية الشاهد الكاذب (احتيال ثانوي للضحية)، أيضا من كمبوديا.

هذا العبارة ليست موجها للأشخاص العاديين، بل إلى الأشخاص الذين تم خداعهم بالفعل.

المنطق بسيط جدا: لقد تم خداعك من قبل طبق قتل الخنازير، تريد استعادته، ماذا يجب أن تفعل إذا بحثت على الإنترنت.

ثم ترى إعلانا يقول إنه متخصص في مساعدة ضحايا الاحتيال على استرداد خسائرهم. تضغط على الداخل.

الموقع يقوم بالكثير من الأشياء. بعض صور المحامين هي صور رمزية حقيقية مسروقة من وسائل التواصل الاجتماعي، بينما صور أخرى مولدة بالذكاء الاصطناعي. كل مكتب محاماة له عنوان ورخصة وملف شخصي. قام ChatGPT بإنشاء بطاقات عضوية لجمعية المحامين في ولاية نيويورك كما أنشأ سجلات تسجيل محامين مزيفة.

اكتشفت OpenAI ما لا يقل عن ستة شركات محاماة مزيفة.

هناك أيضا موقع إلكتروني ينتحل مباشرة صفة مركز شكاوى الجرائم على الإنترنت التابع لمكتب التحقيقات الفيدرالي. هناك زر “تقديم شكوى” في الصفحة، ويمكنك النقر عليه للانتقال إلى حساب تيليجرام.

على تيليجرام، يبدأ “المحامي” بالتحدث إليك. يتم إنتاج الخطاب بواسطة ChatGPT ويطلب منه تحديدا أن يكتب باللغة الإنجليزية الأمريكية بنبرة تحاكي نبرة محام محترف. يخبرونك أننا نتعاون مع المحكمة الجنائية الدولية ولا توجد تهمة قبل استرداد الأموال.

لكن عليك دفع رسوم خدمة بنسبة 15٪ لتفعيل الحساب والدفع بالعملات الرقمية.

كما يسمحون لك بتوقيع اتفاقية عدم إفشاء. تم أيضا كتابة اتفاقية عدم الإفشاء هذه من قبل ChatGPT لمنعك من التحقق.

لاحقا، أصدر مكتب التحقيقات الفيدرالي تحذيرا علنيا تحديدا بشأن الحادث، قائلا إن الاحتيال استهدف بشكل رئيسي كبار السن واستغل حماس الضحايا لاسترداد خسائرهم.

بعد قراءة هاتين الحالتين، أعتقد أنه في البيئة الحالية التي أصبح فيها الذكاء الاصطناعي معيارا، إليكم أكثر ابتسامة ساخرة:

في المرة الأولى التي تكذب فيها على نفسك، تكون هدفا. أنت هدف أفضل في المرة الثانية التي تتعرض فيها للاحتيال لأنك أثبت أنك ستنخدع.

وأخيرا، لخصت OpenAI عملية الاحتيال في ثلاث خطوات في التقرير.

الخطوة الأولى تسمى التنبيه، الوصول البارد، وإيجاد طريقة لجعل الهدف يلاحظك. الخطوة الثانية تسمى الزينغ، وهي تخلق مشاعر تجعلك متحمسا أو متحمسا أو خائفا. الخطوة الثالثة تسمى اللسعة، الحصاد، أخذ المال.

هذا الإطار ملخص بشكل جيد جدا، ألق نظرة أقرب، أي من هذه الخطوات الثلاث لا يمكن للذكاء الاصطناعي تنفيذها؟

في الماضي، كان أكبر تكلفة لقتل الخنازير هي البشر. عليك أن تستأجر غرفة من الناس للجلوس أمام الكمبيوتر والدردشة، ويجب أن تتحدث اللغة المستهدفة. كان المنتزه الكمبودي يجند الناس في السنوات الأولى، واختار أيضا الإنجليزية الجيدة، وكان الراتب مرتفعا أيضا.

والآن بالنظر إلى قضية الاحتيال في المواعدة المذكورة في التقرير، المشرف يتحدث الصينية، والموظف يتحدث الإندونيسية، والهدف أيضا إندونيسية. الأطراف الثلاثة لم تكن تفهم اللغة، لذا لم يكن بإمكانهم القيام بهذا العمل من قبل. أضف ChatGPT، وكل شيء يكمل.

اللغة مجرد واحدة من تلك الأشياء.

هناك أيضا تفصيل في التقرير أن المحتال سأل ChatGPT حتى عن كيفية الاتصال بواجهة برمجة تطبيقات OpenAI، محاولا أتمتة جلسة الدردشة بالكامل.

بعبارة أخرى، لا يجعل الذكاء الاصطناعي الخداع ذكيا، بل الخداع لا يزال كذلك. الذكاء الاصطناعي يجعل الخداع أرخص.

الآن، وفقا ل OpenAI، قد تتعامل العصابة مع مئات حالات الاحتيال في آن واحد. ومع زيادة الحجم، تقل تكلفة العمالة التي يشاركها الضحية الواحدة، مما يخدع بطبيعة الحال المزيد من الناس بأسعار وحدات أقل.

هناك سؤال آخر أعتقد أنه يستحق التفكير.

تمكنت OpenAI من اكتشاف ذلك لأن عصابة الاحتيال استخدمت ChatGPT، وكانت سجلات الدردشة مخزنة على خوادم OpenAI.

ماذا عن أولئك الذين يستخدمون نماذج المصدر المفتوح في الموقع؟

ما يمكن أن يقدمه هذا التقرير قد يكون مجرد جزء صغير من اللغز الذي يمكن ل OpenAI رؤيته. لا أحد يعرف حجم المكان الذي لا يمكن إضاءته.