جدل حول روبوت «جروك» بعد محتوى غير قانوني على منصة إكس

أقرّ روبوت الدردشة الآلية «جروك» (Grok)، التابع لشركة xAI المملوكة للملياردير إيلون ماسك، بوجود ثغرات في أنظمة الحماية أدت إلى ظهور محتوى يتضمن صورًا لقُصّر بملابس غير لائقة على منصة إكس، مؤكداً أن الشركة تعمل حالياً على إدخال تحسينات عاجلة لمنع تكرار هذه الحالات.

تحرك رسمي فرنسي لملاحقة المحتوى

في تطور لافت، أعلن وزراء فرنسيون أنهم أبلغوا الادعاء العام بشأن محتوى جنسي فاضح تم إنشاؤه بواسطة روبوت الدردشة «غروك»، واصفين هذا المحتوى بأنه غير قانوني بالكامل.

إخطار الجهات الرقابية

وأوضح المسؤولون أنهم أخطروا أيضاً الهيئة المنظمة لوسائل الإعلام في فرنسا، من أجل التحقق من مدى التزام المنصة بـ قانون الخدمات الرقمية للاتحاد الأوروبي.

لقطات شاشة تثير الجدل على إكس

تداول مستخدمون على منصة إكس لقطات شاشة تُظهر قسم الوسائط العامة في «غروك» وهو يحتوي على صور قالوا إن الروبوت قام بتعديلها أو إنشائها بعد أن قاموا بتحميل صور أصلية.

وأثارت هذه المنشورات موجة واسعة من الانتقادات، وسط تساؤلات حول فعالية آليات الرقابة والسلامة في أدوات الذكاء الاصطناعي التابعة للمنصة.

إقرار بوجود ثغرات وتعهد بالإصلاح

في بيان نشره على منصة إكس، أوضح «جروك» أن هناك حالات محدودة طلب فيها بعض المستخدمين إنشاء صور تُظهر قاصرين بملابس غير لائقة.

تحسينات عاجلة على أنظمة الحماية

وأكد الروبوت أن:

لدى شركة xAI إجراءات أمان قائمة

تم رصد ثغرات في أنظمة الحماية

يجري العمل على إصلاحها بشكل عاجل لمنع هذه الطلبات نهائياً

وشدد البيان على أن مواد الاعتداء الجنسي على الأطفال محظورة وغير قانونية ولا يُسمح بإنشائها أو تداولها بأي شكل.

تصاعد المخاوف حول سلامة الذكاء الاصطناعي

تسلط هذه الواقعة الضوء مجدداً على التحديات الأخلاقية والقانونية المرتبطة باستخدام أدوات الذكاء الاصطناعي التوليدي، خصوصاً فيما يتعلق بحماية القُصّر وضمان الامتثال للقوانين المحلية والدولية.