OpenAI تكشف عن مخطط سلامة الأطفال لمكافحة الاستغلال المدعوم بالذكاء الاصطناعي وسط ارتفاع تقارير محتوى الاعتداء الجنسي على الأطفال عبر الإنترنت

باختصار

أطلقت شركة أوبن إيه آي “مخطط سلامة الأطفال” لمكافحة استغلال الأطفال جنسياً بمساعدة الذكاء الاصطناعي، محدثة الإرشادات، ومقوية التدابير الوقائية، وتعزيز الإجراءات القانونية والتقنية والتشغيلية المنسقة وسط تزايد تقارير المحتوى الإباحي المُولَّد بواسطة الذكاء الاصطناعي.

أوبن إيه آي، وهي منظمة تركز على أبحاث وتطبيقات الذكاء الاصطناعي، قدمت “مخطط سلامة الأطفال”، وهو إطار يهدف إلى منع ومعالجة استغلال الأطفال جنسياً بمساعدة الذكاء الاصطناعي. يُعرض هذا المبادرة كرد على الدور المتزايد للذكاء الاصطناعي في تسهيل وكشف الأضرار الإلكترونية التي تشمل الأطفال.

وصف الشركة استغلال الأطفال جنسياً بأنه أحد التحديات الأكثر إلحاحاً في العصر الرقمي، مشيرة إلى أن تقنيات الذكاء الاصطناعي تغير كيفية حدوث هذه الأضرار وكيفية التخفيف منها على نطاق واسع. وأكدت أوبن إيه آي أنها نفذت تدابير وقائية لمنع سوء استخدام أنظمتها وتتعاون مع شركاء بما في ذلك المركز الوطني للأطفال المفقودين والمستغلين (NCMEC) ووكالات إنفاذ القانون لتحسين الكشف والإبلاغ. وقد سلطت هذه التعاونات الضوء على الحاجة إلى معايير صناعية أقوى ومشتركة.

يحدد المخطط استراتيجية لتعزيز أطر حماية الأطفال في الولايات المتحدة في سياق الذكاء الاصطناعي. ويشمل مدخلات من منظمات وخبراء في منظومة سلامة الأطفال، بما في ذلك NCMEC، وتحالف المدعين العامين بمشاركة من المدعي العام لولاية نورث كارولينا جيف جاكسون والمدعي العام لولاية يوتا ديريك براون، والمنظمة غير الربحية ثورن. يهدف الإطار إلى توجيه الجهود المنسقة لمنع الأذى للأطفال وتعزيز التعاون عبر المجالات القانونية والتشغيلية والتقنية.

يركز المبادرة على ثلاثة أولويات رئيسية: تحديث القوانين لمعالجة مواد الاعتداء الجنسي على الأطفال المُولَّدة أو المُعدَّلة بواسطة الذكاء الاصطناعي (CSAM)، تحسين عمليات الإبلاغ والتنسيق بين المزودين لدعم التحقيقات الأكثر فاعلية، ودمج تدابير السلامة من التصميم مباشرة في أنظمة الذكاء الاصطناعي لمنع واكتشاف سوء الاستخدام. وأكدت أوبن إيه آي أن لا نهج واحد يمكنه معالجة التحدي بمفرده، ويهدف الإطار إلى تسريع الاستجابات، وتحسين تحديد المخاطر، والحفاظ على المساءلة، مع ضمان قدرة السلطات على التصرف مع تطور التكنولوجيا.

يهدف الإطار إلى السماح بالتدخل المبكر، وتقليل محاولات الاستغلال، وتحسين جودة المعلومات المقدمة للسلطات، وتعزيز المساءلة عبر المنظومة لحماية الأطفال بشكل أكثر فاعلية.

ارتفاع تقارير استغلال الأطفال المُولَّدة بواسطة الذكاء الاصطناعي بنسبة 14% في 2025 مع كشف أوبن إيه آي عن مخطط سلامة الأطفال الموسع

تشير البيانات الأخيرة من مؤسسة مراقبة الإنترنت (IWF) إلى أنه تم اكتشاف أكثر من 8,000 تقرير عن محتوى اعتداء جنسي على الأطفال مولَّد بواسطة الذكاء الاصطناعي في النصف الأول من عام 2025، بزيادة قدرها 14% عن العام السابق. تشمل هذه الحالات استخدام أدوات الذكاء الاصطناعي لإنشاء صور فاضحة مزيفة من أجل الابتزاز المالي أو لإنتاج رسائل تُستخدم في التربيت. يتزامن إصدار المخطط مع زيادة الاهتمام من قبل صانعي السياسات والمعلمين والمدافعين عن سلامة الأطفال، خاصة بعد حوادث انتحار شباب بعد تفاعلهم المزعوم مع روبوتات الدردشة الذكية.

في نوفمبر 2025، قدم مركز قوانين ضحايا وسائل التواصل الاجتماعي ومشروع قانون العدالة التكنولوجية سبع دعاوى في محاكم ولاية كاليفورنيا، زاعمين أن أوبن إيه آي أطلقت GPT-4o قبل الأوان. وتدعي الشكاوى أن ميزات الذكاء الاصطناعي النفسية التلاعبية ساهمت في وفيات غير قانونية بسبب الانتحار والمساعدة على الانتحار، مع ذكر أربعة أشخاص توفوا وثلاثة عانوا من أوهام شديدة بعد تفاعلات طويلة.

يبني مخطط سلامة الأطفال الجديد من أوبن إيه آي على التدابير السابقة، بما في ذلك إرشادات محدثة للمستخدمين تحت سن 18 تمنع إنشاء محتوى غير لائق، ونصائح تشجع على إيذاء النفس، أو إرشادات حول إخفاء سلوك غير آمن عن الأهل. كما أطلقت الشركة مؤخرًا مخطط سلامة يستهدف المراهقين في الهند.