OpenAI Ungkapkan Cetak Biru Keamanan Anak Untuk Melawan Eksploitasi Berbasis AI Di Tengah Meningkatnya Laporan CSAM

Secara Singkat

OpenAI telah meluncurkan “Cetak Biru Keamanan Anak” untuk memerangi eksploitasi seksual anak yang didukung AI, memperbarui pedoman, memperkuat perlindungan, dan mendorong langkah hukum, teknis, dan operasional yang terkoordinasi di tengah meningkatnya laporan CSAM yang dihasilkan AI.

OpenAI, sebuah organisasi yang fokus pada penelitian dan penerapan kecerdasan buatan, telah memperkenalkan “Cetak Biru Keamanan Anak,” sebuah kerangka kerja yang bertujuan mencegah dan mengatasi eksploitasi seksual anak yang didukung AI. Inisiatif ini disajikan sebagai tanggapan terhadap peran yang semakin besar dari AI dalam memfasilitasi dan mendeteksi bahaya daring yang melibatkan anak-anak.

Perusahaan menggambarkan eksploitasi seksual anak sebagai salah satu tantangan paling mendesak di era digital, mencatat bahwa teknologi AI mengubah cara bahaya tersebut terjadi dan bagaimana mereka dapat diminimalkan secara skala besar. OpenAI menyatakan bahwa mereka telah menerapkan perlindungan untuk mencegah penyalahgunaan sistem mereka dan bekerja sama dengan mitra termasuk Pusat Nasional untuk Anak yang Hilang dan Dieksploitasi (NCMEC) dan lembaga penegak hukum untuk meningkatkan deteksi dan pelaporan. Kolaborasi ini menyoroti area di mana standar industri yang lebih kuat dan bersama diperlukan.

Cetak Biru ini menguraikan strategi untuk meningkatkan kerangka perlindungan anak di AS dalam konteks AI. Ini menggabungkan masukan dari organisasi dan pakar di seluruh ekosistem keamanan anak, termasuk NCMEC, Aliansi Jaksa Agung dengan masukan dari Jaksa Agung North Carolina Jeff Jackson dan Jaksa Agung Utah Derek Brown, serta organisasi nirlaba Thorn. Kerangka ini dimaksudkan untuk membimbing upaya terkoordinasi dalam mencegah bahaya terhadap anak-anak dan memperkuat kolaborasi di seluruh domain hukum, operasional, dan teknis.

Inisiatif ini berfokus pada tiga prioritas utama: memperbarui undang-undang untuk mengatasi materi pelecehan seksual anak yang dihasilkan atau dimanipulasi oleh AI (CSAM), meningkatkan pelaporan dan koordinasi di antara penyedia untuk mendukung penyelidikan yang lebih efektif, dan mengintegrasikan langkah-langkah keamanan secara langsung ke dalam sistem AI untuk mencegah dan mendeteksi penyalahgunaan. OpenAI menekankan bahwa tidak ada satu pendekatan pun yang dapat mengatasi tantangan ini sendiri, dan kerangka ini bertujuan mempercepat respons, meningkatkan identifikasi risiko, dan menjaga akuntabilitas sambil memastikan otoritas penegak hukum dapat bertindak seiring perkembangan teknologi.

Kerangka ini dimaksudkan untuk memungkinkan intervensi lebih awal, mengurangi upaya eksploitasi, meningkatkan kualitas informasi yang dibagikan kepada penegak hukum, dan memperkuat akuntabilitas di seluruh ekosistem untuk melindungi anak-anak secara lebih efektif.

Laporan Eksploitasi Anak yang Dihasilkan AI Meningkat 14% Pada 2025 Saat OpenAI Meluncurkan Cetak Biru Keamanan Anak yang Diperluas

Data terbaru dari Internet Watch Foundation (IWF) menunjukkan bahwa lebih dari 8.000 laporan konten pelecehan seksual anak yang dihasilkan AI terdeteksi pada paruh pertama 2025, meningkat 14% dari tahun sebelumnya. Kasus-kasus ini termasuk penggunaan alat AI untuk menghasilkan gambar eksplisit palsu untuk pemerasan seksual secara finansial dan untuk menghasilkan pesan yang digunakan dalam grooming. Rilis cetak biru ini bertepatan dengan perhatian yang meningkat dari pembuat kebijakan, pendidik, dan advokat keamanan anak, terutama setelah insiden di mana remaja meninggal dunia karena bunuh diri setelah diduga berinteraksi dengan chatbot AI.

Pada November 2025, Social Media Victims Law Center dan Tech Justice Law Project mengajukan tujuh gugatan di pengadilan negara bagian California, menuduh bahwa OpenAI merilis GPT-4o secara prematur. Keluhan tersebut mengklaim bahwa fitur manipulatif secara psikologis dari sistem AI tersebut berkontribusi pada kematian yang salah karena bunuh diri dan bunuh diri terbantu, dengan menyebutkan empat individu yang meninggal dan tiga yang mengalami delusi parah setelah interaksi yang berkepanjangan.

Cetak biru keamanan anak baru OpenAI ini membangun dari langkah-langkah sebelumnya, termasuk pedoman yang diperbarui untuk pengguna di bawah 18 tahun yang melarang pembuatan konten tidak pantas, saran yang mendorong menyakiti diri sendiri, atau panduan untuk menyembunyikan perilaku berbahaya dari pengasuh. Perusahaan juga baru-baru ini merilis cetak biru keamanan yang menargetkan remaja di India.