مشكلة تكرار تغييرات الصور في ماسك Grok تثير القلق! كوزر ونساء قاصرات يتعرضن للخلع بواسطة الذكاء الاصطناعي، والعديد من الدول تبدأ التحقيقات

منصة X الخاصة بمسّك، قامت مؤخرًا بدمج وظيفة تعديل الصور باستخدام Grok AI، مما أدى إلى ظهور العديد من الحالات غير المرخصة من الاستغلال الجنسي، وصور فاضحة لقاصرين، حيث تدخلت حكومات عدة دول للتحقيق وطلبت من المنصة تنفيذ تدابير أمنية وقائية.

إطلاق X لميزة تحرير الصور بواسطة Grok AI، ووقوع الكوستر ضحية للاستغلال الجنسي

مع تزايد انتشار أدوات الذكاء الاصطناعي التوليدي، أصبح تعديل الصور بنقرة واحدة أسهل بكثير. مؤخرًا، دمجت منصة X التابعة لمسّك وظيفة إنشاء الصور بواسطة روبوت الدردشة Grok ضمن وظيفة منشورات X، فبمجرد أن ينقر المستخدم على “تحرير الصورة” في أسفل يمين أي صورة منشورة، يمكنه استدعاء Grok لتعديل الصورة وإعادة رفعها كتعليق أو منشور.

أثار هذا الميّزة الكثير من الانتقادات عند إطلاقها، بما في ذلك القدرة على استدعاء Grok لتعديل الصور في التعليقات، حيث عبّر العديد من المستخدمين عن قلقهم من أن يُساء استخدامها في أعمال استغلال جنسي أو مواد إباحية للأطفال، ولحسن الحظ، حدثت بالفعل حالات من هذا النوع.

في 2 يناير، كشفت الكوستر الشهيرة في النمسا (Cosplayer) كيكيهيمي (keekihime) أن أحد المستخدمين استدعى Grok لتعديل صورة لها وهي تلعب دور شخصية من لعبة “أرخبيل الغد” (明日方舟) بدون إذن، مع كلمات تحث على “ارتداء ملابس داخلية” و"ملابس شفافة"، وبما أن Grok يعرض الصورة المعدلة مباشرة في تعليق المنشور الأصلي، شعرت كيكيهيمي بعدم الرضا وعلقت:

“يبدو أن Grok أصبح نوعًا من مولد الصور الإباحية لرجل شهواني، وX يساهم في تعزيز هذا الاتجاه. هذا انتهاك لجسد الفتيات، تباً لـ X وذكائه الاصطناعي!”

مصدر الصورة: X

استخدام Grok لتوليد صور بيكيني، وحتى ضحايا من القاصرات

على الرغم من أن مسّك نفسه لا يمانع في أن تُعدّل صورته وتُصور على أنها ترتدي بيكيني، وحتى عندما يسخر بعض المستخدمين من أن مساحة مجتمع X تحولت إلى مجموعة من النساء يرتدين البيكيني يدخلن حانة، ردّ فقط بابتسامة دموع، إلا أن الغالبية العظمى من الجمهور لا يقبلون هذا السلوك.

قالت الموسيقية البرازيلية جولي يوكاري لـ"رويترز" إنها نشرت صورة لها وهي ترتدي فستانًا أحمر، لكن تم التلاعب بها وتحويلها إلى نسخة ترتدي بيكيني، وانتشرت بسرعة على منصة X.

ولم تتضرر فقط هي، حيث تلقت Grok خلال عشر دقائق فقط في 2 يناير، 102 شكوى، معظمها من نساء أُجبرن على خلع ملابسهن وتحويلها إلى صور معدلة بواسطة Grok، وهناك حالات لذكور وحتى قردة ضحية.

الأمر الأكثر رعبًا هو أن امرأة يُحتمل أن تكون قاصرًا، نشرت على منصة X صورة لها وهي ترتدي قميصًا وتنورة مربعة، وفي التعليقات طلب أحد المستخدمين من Grok أن “تخلع زيها المدرسي” وتبدله بـ T-Shirt وشورت، ثم طلب استبدالها ببيكيني، لكن Grok لم يلتفت إلى هذا الطلب.

مصدر الصورة: Getty Images

تأكيد Grok على توليد صور لقاصرات بملابس فاضحة

أكدت Grok لاحقًا، بعد مراجعة سجلات تفاعل المستخدمين، أنها اكتشفت حالات طلبات فردية من مستخدمين استلموا صورًا لأطفال مظهرين بملابس فاضحة، وأعلنت عن نيتها تحسين التدابير الأمنية.

وأفاد خبراء يتابعون تطور سياسات الذكاء الاصطناعي على منصة X أن المنصة تتجاهل تحذيرات المجتمع المدني ومنظمات حماية الأطفال. حيث أرسلت تلك المنظمات العام الماضي رسائل تحذير، محذرة من أن xAI على بعد خطوة واحدة من نشر كميات هائلة من المحتوى المزيف العميق (Deepfake) بدون إذن.

دول متعددة تتقدم بشكاوى وتحقيقات ضد X وGrok

في مواجهة سوء استخدام Grok وسلوك منصة X السلبي، بدأت حكومات عدة في اتخاذ إجراءات.

قدمت الحكومة الفرنسية بلاغًا إلى الجهات التنظيمية ضد منصة X، متهمةً Grok بتوليد صور تحمل إيحاءات جنسية وتمييز، وهو أمر غير قانوني؛ كما صرحت هيئة تنظيم الاتصالات البريطانية (Ofcom) أن صنع أو مشاركة صور خاصة أو مواد إباحية للأطفال بدون إذن هو عمل غير قانوني، ويشمل ذلك المحتوى المولد بواسطة الذكاء الاصطناعي، وتدعو لاتخاذ تدابير وقائية مناسبة.

وفي آسيا، بدأت الحكومة الماليزية تحقيقات بعد تلقيها شكاوى من استغلال Grok في توليد صور غير لائقة للنساء؛ كما أرسلت وزارة تكنولوجيا المعلومات الهندية رسالة إلى منصة X، متهمة إياها بعدم منع سوء استخدام Grok، بل وتمكين الأشخاص من إنشاء ونشر محتوى فاحش.

ردت منصة X بسرعة على التدقيق التنظيمي، وأعلنت أنها ستتخذ إجراءات ضد المحتوى غير القانوني، مثل مواد الاعتداء الجنسي على الأطفال (CSAM)، بما في ذلك حذف المحتوى غير القانوني، وحظر الحسابات بشكل دائم، والتعاون مع الحكومات والسلطات القانونية عند الضرورة. كما حذر مسّك المستخدمين من أن أي شخص يستخدم Grok أو يحرض على إنتاج محتوى غير قانوني، سيتحمل نفس عواقب رفع المحتوى غير القانوني.

مصدر الصورة: X