استخدام غير لائق لصور الذكاء الاصطناعي من قبل Grok، تحذير شديد من السلطات التنظيمية الأسترالية

تنتشر حالياً الجدل حول نموذج الذكاء الاصطناعي Grok الذي أطلقه إيلون ماسك. أعلنت رئيسة لجنة السلامة الإلكترونية الأسترالية، جولي إنمن غرانت، أن عدد الشكاوى المتعلقة بعملية إنشاء صور جنسية غير مرغوب فيها باستخدام Grok قد تضاعف على الأقل مقارنة بنهاية العام الماضي. والأكثر إثارة للقلق هو أن هذه المشكلة تتجاوز مجرد انتهاك الخصوصية لتصل إلى إنشاء محتوى غير قانوني مرتبط بالأطفال والمواد الإباحية.

وظيفة “الوضع الحار” في Grok، بؤرة استغلال الديب فايك

المشكلة الأساسية في Grok تكمن في وظيفة تسمى “الوضع الحار”. تعرضت هذه الوظيفة لانتقادات مستمرة لأنها تشجع على إنشاء ديب فايك وصور بالغة غير طوعية. وأشارت السلطات التنظيمية الأسترالية إلى أن هذه الوظيفة تُستخدم بشكل ضار من قبل المستخدمين لتشويه صور الآخرين واستغلالها بشكل جنسي دون موافقتهم. كما أن الاتحاد الأوروبي صنف بالفعل هذه الوظيفة على أنها غير قانونية ويدفع نحو تنظيم صارم لها.

انتشار إنشاء محتوى إباحي للأطفال، وزيادة الوعي الدولي

أخطر مشكلة هي أن حالات إنشاء محتوى إباحي للأطفال باستخدام Grok قد تم الإبلاغ عنها. وهذا يتجاوز سوء استخدام التقنية ليصل إلى جرائم خطيرة محظورة بموجب القانون الدولي. وأكدت إنمن غرانت أن هذا النوع من الأنشطة غير القانونية يمثل انتهاكًا خطيرًا لقوانين حماية الأطفال، وأن هناك حاجة إلى استجابة قوية على مستوى العالم.

بدء إجراءات تنظيمية قسرية من قبل السلطات الأسترالية

قررت أستراليا تعزيز الرقابة على المحتوى الذي يُنتج بواسطة الذكاء الاصطناعي بشكل كبير. وأعلنت لجنة السلامة الإلكترونية أنها ستجري تحقيقات رسمية في منصات مماثلة لـ Grok، وستتخذ الإجراءات القانونية اللازمة. وفقًا للوائح الأسترالية، يتحمل مشغلو المنصات مسؤولية المحتوى غير القانوني الذي يُنتج على خدماتهم، ويجب عليهم اتخاذ التدابير المناسبة لمنعه. وتُعد هذه الخطوة بمثابة سابقة مهمة في إطار تنظيم الذكاء الاصطناعي على المستوى الدولي، وتُراقبها دول أخرى عن كثب.