إندونيسيا تحظر مؤقتًا روبوت جروك بسبب مخاوف المحتوى الإباحي بالذكاء الاصطناعي

قررت الحكومة الإندونيسية، اليوم السبت، حجب روبوت الدردشة «جروك» التابع لرجل الأعمال الأميركي إيلون ماسك بشكل مؤقت، في خطوة هي الأولى من نوعها عالميًا، على خلفية مخاوف متزايدة بشأن قدرة أدوات الذكاء الاصطناعي على إنتاج محتوى إباحي، بما في ذلك صور ذات طابع جنسي.

ويأتي هذا القرار في وقت تتصاعد فيه الضغوط الحكومية والتنظيمية على شركات التكنولوجيا الكبرى، مع تنامي القلق من الاستخدامات غير المنضبطة لتقنيات الذكاء الاصطناعي التوليدي.

موجة انتقادات وتحقيقات دولية

خطوة جاكرتا لم تأتِ من فراغ، إذ سبقتها انتقادات حادة من حكومات وهيئات تنظيمية في كل من أوروبا وآسيا، بسبب انتشار محتوى جنسي عبر التطبيق، ما دفع بعض الدول إلى فتح تحقيقات رسمية حول آليات الرقابة والحماية داخل المنصة.

وتعد إندونيسيا الدولة الأولى التي تنتقل من مرحلة التحذير والمراقبة إلى قرار الحجب الفعلي، ولو بشكل مؤقت، في سابقة قد تفتح الباب أمام خطوات مماثلة في دول أخرى.

تحرك من الشركة المطورة لمحاولة احتواء الأزمة

في محاولة لاحتواء الانتقادات، أعلنت شركة «إكس.إيه.آي»، الناشئة التي طورت «جروك»، يوم الخميس الماضي، عن تقييد توليد الصور وتعديلها ليقتصر فقط على المستخدمين المشتركين بنظام مدفوع.

وأوضحت الشركة أن القرار يأتي ضمن مساعٍ لسد ثغرات الحماية التي سمحت سابقًا بإنتاج محتوى جنسي، تضمن في بعض الحالات صورًا لأطفال بملابس وُصفت بأنها فاضحة، وهو ما أثار ردود فعل غاضبة على المستوى الدولي.

الحكومة الإندونيسية: انتهاك خطير لحقوق الإنسان

من جانبها، شددت وزيرة الاتصالات الإندونيسية، ميوتيا حفيظ، على أن الحكومة تنظر بجدية بالغة إلى هذه القضية، معتبرة أن التزييف العميق الجنسي دون موافقة يمثل انتهاكًا مباشرًا لحقوق الإنسان وكرامة وأمن الأفراد في الفضاء الرقمي.

وقالت الوزيرة في بيان رسمي إن حماية المواطنين من المخاطر الرقمية باتت أولوية وطنية، خاصة مع التطور السريع لتقنيات الذكاء الاصطناعي.

استدعاء مسؤولي منصة «إكس» للتوضيح

وفي إطار التصعيد، أعلنت وزارة الاتصالات الإندونيسية استدعاء مسؤولين من منصة «إكس» لعقد اجتماع عاجل، بهدف مناقشة الإجراءات المتخذة لضمان عدم تكرار هذه الانتهاكات، وتوضيح سياسات الإشراف على المحتوى المرتبط بروبوت «جروك».

ماسك يعلّق: لا تساهل مع المحتوى غير القانوني

من جانبه، كتب إيلون ماسك عبر منصة «إكس» أن أي مستخدم يستغل «جروك» لإنتاج محتوى غير قانوني سيواجه العواقب نفسها المفروضة على من ينشر محتوى مخالفًا للقانون على المنصة، في إشارة إلى تطبيق سياسات صارمة ضد المخالفين.

ردود متباينة من الشركة والمنصة

وفي رد مقتضب على استفسار أرسلته وكالة رويترز، اكتفت شركة «إكس.إيه.آي» بالقول إن «وسائل الإعلام التقليدية تكذب»، في رسالة بدت أقرب إلى رد آلي، دون تقديم توضيحات إضافية.

في المقابل، لم تصدر منصة «إكس» أي تعليق رسمي حتى الآن بشأن قرار الحجب الإندونيسي أو الاتهامات المثارة.

هل تمهد إندونيسيا لمرحلة تنظيمية جديدة؟

قرار إندونيسيا بحجب «جروك» يسلط الضوء على التحدي المتزايد الذي تواجهه الحكومات في موازنة الابتكار التكنولوجي مع حماية القيم المجتمعية وحقوق الإنسان، وسط تساؤلات متصاعدة حول مستقبل تنظيم أدوات الذكاء الاصطناعي عالميًا.