حظرت إندونيسيا مؤقتاً برنامج الدردشة الآلي “جروك” التابع لإيلون ماسك يوم السبت بسبب خطر المحتوى الإباحي الذي يولده الذكاء الاصطناعي، لتصبح بذلك أول دولة تمنع الوصول إلى أداة الذكاء الاصطناعي هذه.

وتأتي هذه الخطوة بعد أن أدانت الحكومات والهيئات التنظيمية من أوروبا إلى آسيا المحتوى الجنسي الموجود على التطبيق، وقامت بعضها بفتح تحقيقات بشأنه.

أعلنت شركة xAI الناشئة، التي تقف وراء تطبيق Grok، يوم الخميس أنها ستقيد إنشاء الصور وتحريرها للمشتركين الذين يدفوعون فقط، وذلك في محاولة منها لإصلاح الثغرات الأمنية التي سمحت بظهور مواد ذات طابع جنسي، بما في ذلك صور لصغار يرتدون ملابس فاضحة.

وذكرت “تعتبر الحكومة ممارسة التزييف العميق الجنسي غير الرضائي انتهاكاً خطيراً لحقوق الإنسان وكرامته وأمن المواطنين في الفضاء الرقمي”، هذا ما صرح به وزير الاتصالات والشؤون الرقمية موتيا حفيد في بيان.

فيما قال ماسك، إن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيعاني من نفس العواقب كما لو كان قد قام بتحميل محتوى غير قانوني.

كما طالبت الحكومة البريطانية، منصة إكس المملوكة للمليادير الأمريكي إيلون ماسك بمعالجة موجة الصور الإباحية التي تم إنشاؤها بالذكاء الاصطناعي مؤخرًا والتي استهدفت فتيات حقيقيات وأطفال، في أزمة طالت عدد من الفتيات اللواتي وقعن ضحية إنشاء صور عارية باستخدام الـAI.

وبحسب صحيفة الجارديان، هددت الحكومة البريطانية منصة إكس بأنها ستواجه حظرًا فعليًا، بعد أن وصف أحد الخبراء المنصة بأنها لم تعد مكانًا آمنًا للنساء.

وقالت ضحايا حملة تعديل الصور باستخدام جروك Grok التابعة للمنصة، والتي تناولتها وسائل الإعلام العالمية حيث أحدثت ضجة كبري، أن القيود الجزئية التي فرضتها المنصة جاءت متأخرة جدًا، إذ ما زال بإمكان المشتركين المدفوعين إنشاء صور مسيئة، وهو ما يزيد من الضرر النفسي والإحباط.

وأكدت هيئة مراقبة الإعلام في المملكة المتحدة، أوفكوم،  بحسب صحيفة الجارديان أنها ستسرع التحقيق في منصة إكس وسط تزايد ردود الفعل الغاضبة تجاه الموقع، الذي استضاف كمًا هائلًا من الصور التي تظهر نساءً وأطفالًا شبه عراة.

وأعلنت إكس عن تقييد إمكانية إنشاء الصور عبر أداة Grok AI ، استجابةً للغضب العالمي.

وذكرت المنصة أن القدرة على توليد وتحرير الصور ستقتصر الآن على المشتركين المدفوعين، الذين يتعين عليهم تقديم بيانات شخصية، ما يعني إمكانية تحديد هويتهم في حال إساءة استخدام الوظيفة.