اعترف مساعد الذكاء الاصطناعي “جروك”، المدمج في منصة “إكس”، يوم الجمعة بوجود “ثغرات” سمحت للمستخدمين بالحصول على صور إباحية تصور قاصرات أو نساء. أثارت هذه الاختراقات انتقادات عالمية وتوسيع تحقيق قضائي في فرنسا.
رداً على شكوى مستخدم، كتب حساب “جروك” على “إكس” يوم الجمعة، بعد أيام من ظهور تقارير على المنصة: “لقد حددنا ثغرات في إجراءات السلامة لدينا ونعمل على وجه السرعة لإصلاحها. الاستغلال الجنسي للأطفال غير قانوني وممنوع”.
تتعلق هذه التقارير بإجراءات لمستخدمي الإنترنت أرسلوا صوراً أو مقاطع فيديو لأشخاص حقيقيين، بينهم أطفال ومراهقون، إلى “جروك” وطلبوا من المساعد الذكي تعديلها لإظهار عري كلي أو جزئي.
لم تصدر الشركة المطورة لـ”جروك” أي رد علني على الجدل الأخير المحيط بمساعدها، الذي واجه انتقادات في الأشهر الأخيرة لنشره ردوداً مثيرة للجدل حول حرب غزة، والنزاع الهندي الباكستاني، وتصريحات معادية للسامية.
يوم الجمعة، أرسلت الشركة رداً آلياً على الاستفسارات، ذكرت فيه فقط أن “وسائل الإعلام التقليدية تكذب”، دون أي تعليق إضافي.
ومع ذلك، رد البرنامج الآلي “جروك” التابع للشركة على أحد مستخدمي الإنترنت، قائلاً إن أي شركة في الولايات المتحدة “تخضع للمسؤولية المدنية أو الجنائية إذا سهلت عمداً إنتاج” مواد إباحية للأطفال أو فشلت في منعها.
– سلطات فرنسية تحقق في منشور للذكاء الاصطناعي “جروك” ينكر الهولوكوست
– الشركة تعتذر عن رسائل “جروك” المثيرة للجدل
– الشركة تعتذر عن رسائل “جروك” المثيرة للجدل
إضافة إلى القاصرين، أثرت ثغرات “جروك” أيضاً على نساء بالغات، حيث عدل البرنامج صورهن رقمياً على منصات التواصل الاجتماعي بناءً على طلب مستخدمي الإنترنت لـ”تجريدهن من الملابس”.
من فرنسا إلى الهند
أصدرت وزارة الإلكترونيات وتكنولوجيا المعلومات الهندية يوم الجمعة إشعاراً رسمياً إلى “إكس”، مطالبة المنصة بتقديم تقرير مفصل خلال 72 ساعة عن الإجراءات المتخذة لإزالة “المحتوى الفاحش والعاري وغير اللائق والجنسي الصريح” الذي أنشأه تطبيق جروك دون موافقة النساء المعنيات، وفقاً لرسالة نُشرت في الصحافة الهندية.
في فرنسا، وسعت النيابة العامة في باريس يوم الجمعة تحقيقاً يستهدف منصة “إكس” ليشمل أداة الذكاء الاصطناعي المدمجة “جروك”. جاء ذلك بعد إبلاغ ثلاثة وزراء وعضوَي برلمان بأنها ولدت ونشرت مقاطع فيديو جنسية مزيفة “تصور بشكل خاص قاصرين”.
وشكا الوزراء وأعضاء البرلمان من نشر مقاطع فيديو “ديب فايك” ذات طبيعة جنسية، مُنشأة باستخدام “جروك”، على “إكس” دون موافقة الأشخاص المصورين.
وقد فُتح هذا التحقيق الذي يستهدف “إكس” في يوليو/تموز الماضي بعد شكاوى ضد الشبكة الاجتماعية ومسؤوليها، تتهمهم بالتلاعب بخوارزمية المنصة.
وأوضحت النيابة العامة أن “جريمة إنشاء صور أو مقاطع فيديو جنسية صريحة لشخص دون موافقته يعاقب عليها بالسجن سنتين وغرامة 60 ألف يورو”، مؤكدة تقريراً.
يوم الجمعة، تقدم عضوا برلمان بشكوى قانونية، مما أدى إلى توسيع نطاق التحقيقات.
وفي نفس اليوم أيضاً، أعلن ثلاثة وزراء أنهم أبلغوا النيابة العامة عن “محتوى غير قانوني”، مطالبين “بإزالته فوراً”.
