$BTC AI-agen menghancurkan seluruh basis data perusahaan dalam 9 detik.



Di PocketOS dipercayakan pengembangan kode AI-agen Cursor berbasis model Anthropic. Agen tersebut bekerja di lingkungan pengujian, mengalami masalah akses dan alih-alih bertanya kepada manusia, ia memutuskan untuk "memperbaiki sendiri".

Cursor menemukan token API layanan cloud dalam proyek dan mengirim permintaan penghapusan. Dalam 9 detik, seluruh basis data produksi (data tentang pelanggan, reservasi, pembayaran, dan semua cadangan) telah dihapus.

Ketika ditanya mengapa dia melakukan hal tersebut, AI-agen menjawab: "Saya melanggar semua aturan. Saya membuat asumsi alih-alih memeriksa. Saya melakukan tindakan merusak tanpa izin. Saya tidak memahami sistem sebelum bertindak."
BTC0,66%
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan