"غروك": ذكاء اصطناعي بلا ضوابط بمحتوى غير أخلاقي يهدد سلامة القاصرين والنساء فما هي سبل الوقاية ؟

استهداف القاصرين وتعرية الخصوصية

نموذج الذكاء الاصطناعي "غروك" (Grok)، التابع لشركة "xAI" والذي أراده إيلون ماسك تحرريا ساخرا ومناهضا لتيار Woke، له الحرية المطلقة في قول ما يريد، بما في ذلك الإهانات.  يواجه "غروك" هجوماً عنيفاً وانتقادات دولية واسعة، بعد تحوله من أداة تقنية مبتكرة إلى وسيلة لإنتاج محتوى ينتهك الخصوصية. وسط اتهامات بالسماح بتوليد صور خادشه للحياء بعد أن أنتشر مؤخرا على منصة إكس - تويتر سابقا- وبشكل عشوائي صور معدلة بتقنية "التزييف العميق" لقاصرين ومشاهير من النساء.

اندلعت شرارة الجدل عقب تداول مستخدمين لصور عدلت عبر نموذج "غروك" لإنشاء صور فاضحة عن طريق إزالة الملابس من صورة للممثلة نيل فيشر البالغة من العمر14 عاماً، المعروفة في المسلسل الشهير "Stranger Things"، حيث أظهرت التعديلات محتوى ذا طابع جنسي وإيحاءات غير أخلاقية. ولم يتوقف الأمر عند المشاهير، بل امتد ليشمل مستخدمين عاديين من النساء والأطفال عدلت صورهم دون إذنهم، وتزامن ذلك مع إطلاق ميزة تتيح تعديل أي صورة مباشرة عبر "غروك" من دون إخطار صاحبها الأصلي أو الحصول على موافقته، ما فتح الباب أمام إساءات واسعة النطاق وسهّل انتشار محتوى غير لائق.

تحركات حكومية وضغوط تنظيمية

لم يقتصر القلق على المستخدمين ومنظمات المجتمع المدني، بل امتد إلى الحكومات. ففي فرنسا، أعلن ثلاثة وزراء إحالة الملف إلى هيئة تحقيق مختصة للاشتباه في انتهاك منصة «إكس» التزاماتها بموجب «قانون الخدمات الرقمية» الأوروبي، الذي يفرض واجبات صارمة لمنع المحتوى غير القانوني وتخفيف مخاطره، مع غرامات محتملة عند المخالفة. وفي الهند، منح وزير تكنولوجيا المعلومات شركة xAI مهلة 72 ساعة لتقديم تقرير مفصل حول إجراءات وقف انتشار المحتوى غير الأخلاقي أو المحظور قانوناً، بما في ذلك ما يتصل بالبيدوفيليا.

وتشير دراسات تقنية، مثل تلك الصادرة عن شركة "Copyleaks"، إلى أن مشكلة "غروك" قد تكون هيكلية. فالمنتج يُسوَّق بطابع تحرري شديد مع ضوابط أمان محدودة مقارنة بمنافسيه مثل "Veo" من غوغل أو "Sora" من OpenAI، مما يجعله أداة سهلة للاستغلال، ما شجع على تصاعد إنتاج "التزييف العميق". وسط اتهامات لإيلون ماسك نفسه بالمساهمة في هذا المناخ عبر منشوراته الساخرة ومشاركته دعابات حول قدرة "غروك" على "وضع بيكيني على كل شيء"، مما أعطى الضوء الأخضر ضمنياً للمستخدمين لتجاوز الخطوط الحمراء.

فضيحة غروك: بُعد سياسي حساس في الولايات المتحدة

تكتسب الفضيحة بُعداً سياسياً حساساً في الولايات المتحدة؛ ففي الوقت الذي تدعم فيه شخصيات سياسية بارزة، مثل ميلانيا ترامب، قوانين مكافحة الصور الجنسية التي لا تحظى بالموافقة مثل قانون "TAKE IT DOWN"act ، يبرز تناقض حاد يتمثل في دمج إدارة دونالد ترامب لبرنامج "غروك" ضمن سير العمل الفيدرالي عبر عقود حصرية.

هذا الربط بين أداة تعاني من "انفلات أخلاقي" وبين مهام حكومية رسمية، أثار حفيظة منظمات حماية المستهلك التي حذرت مسبقاً من افتقار البرنامج لاختبارات السلامة الكافية وتحيزه الأيديولوجي، معتبرة أن استخدام أداة بهذا الضعف الرقابي في مفاصل الدولة يمثل خطراً أمنياً وأخلاقياً.

كيف يمكن حماية صورنا من التلاعب على منصة إكس ؟

لحماية صورنا من التلاعب بالذكاء الاصطناعي على منصة X،تتوفر تقنيات تضيف طبقة حماية غير مرئية للعين المجردة، لكنها تحول الصورة إلى مادة "سامة" بالنسبة لخوارزميات التعديل.

من أبرز هذه الأدوات:

• تقنية PhotoGuard التي طورها معهد ماساتشوستس للتكنولوجيا (MIT). تقوم هذه الأداة بتعديل عدد محدود من البكسلات، بحيث إذا حاول أي شخص استخدام الذكاء الاصطناعي لتغيير ملامح الوجه أو الملابس أو أي عنصر آخر في الصورة، تكون النتيجة مشوهة تمامًا أو غير واقعية بشكل واضح.
•  أداتا Glaze وNightshade، تعملان على "تشويش" فهم الخوارزميات للصورة، ما يمنع نماذج الذكاء الاصطناعي من التعلم من الأسلوب البصري أو إجراء تعديلات دقيقة عليها.
• كما يمكن ضبط إعدادات الخصوصية على منصة X   عن طريق الانتقال إلى الإعدادات، ثم الخصوصية والأمان، ثم إلغاء تحديد الخيار الذي يسمح لغروك باستخدام صور المستخدم في عمليات التدريب.
• ثم تعطيل إعدادات الإشارة TAG للصور لتجنب قيام حسابات خبيثة بالإشارة إلى صور المستخدم في نسخ متلاعب بها من صوره الأصلية، ما قد يسبب إحراجًا أو ضررًا لسمعة المستخدم الضحية.\

مستقبل غامض: هل يتوقف قطار الذكاء الاصطناعي الجامح؟

لا تعد هذه الأزمة الأولى لشركة "" xAI، التي واجهت سابقاً اتهامات بترويج خطاب الكراهية والمعلومات المضللة. ما يحدث اليوم هو إنذار يكشف الفجوة المقلقة بين طموح الابتكار وواقع الحماية؛ فبينما تسوق الشركات أدواتها كقفزات نحو المستقبل، يجد الأفراد، وخاصة الأطفال والنساء، أنفسهم ضحايا لخوارزميات تفتقر لـ "البوصلة الأخلاقية"، مما يطرح السؤال للسيد إيلون ماسك وغيره من اوليغارشية التكنولوجيا : هل باتت التكنولوجيا أداة لتمكين الإنسان أم لانتهاك إنسانيته؟

يمكن الاستماع لـ "بودكاست النشرة الرقمية" على مختلف منصات البودكاست. الرابط للبودكاست على منصة أبل

للتواصل مع نايلة الصليبي عبر صفحة برنامَج"النشرة الرقمية"من مونت كارلو الدولية على لينكد إن وعلى تويتر salibi@  وعلى ماستودون  وبلوسكاي عبر موقع مونت كارلو الدولية مع تحيات نايلة الصليبي