Agen AI Menghapus Basis Data Startup dalam 9 Detik, Kata Pendiri

###Singkatnya

• Pendiri PocketOS Jeremy Crane mengklaim bahwa agen Cursor yang menjalankan Claude Opus dari Anthropic menghapus basis data produksi perusahaan dan cadangannya dalam sembilan detik.
• Crane mengatakan AI kemudian menghasilkan penjelasan tertulis yang mengakui melanggar beberapa aturan keselamatan.
• Insiden ini menimbulkan pertanyaan tentang alat pengkodean AI, desain infrastruktur Railway, dan perlindungan terhadap tindakan API yang merusak.

Seorang pendiri perusahaan perangkat lunak mengklaim bahwa agen pengkodean AI menghancurkan basis data produksi perusahaannya, lalu mengaku kesalahan tersebut dan menjelaskan bagaimana hal itu terjadi, menunjukkan potensi bahaya dari mempercayakan akses dan materi sensitif kepada bot otomatis. Jeremy Crane, pendiri PocketOS—sebuah platform perangkat lunak yang digunakan oleh operator penyewaan mobil untuk mengelola reservasi, pembayaran, dan pelacakan kendaraan—mengatakan dalam sebuah posting viral di X bahwa agen Cursor yang menjalankan Claude Opus 4.6 dari Anthropic mengalami ketidaksesuaian kredensial saat mengerjakan tugas rutin di lingkungan staging. Menurut Crane, agen tersebut mencoba untuk “memperbaiki” masalah dengan menghapus volume basis data Railway melalui satu panggilan API GraphQL. Dia mengatakan penghapusan itu memakan waktu sembilan detik dan juga menghapus cadangan tingkat volume. Cadangan terakhir yang dapat dipulihkan PocketOS berusia tiga bulan, menurut Crane.

“Kemarin sore, agen pengkodean AI—Cursor yang menjalankan Claude Opus 4.6 dari Anthropic—menghapus basis data produksi kami dan semua cadangan tingkat volume dalam satu panggilan API ke Railway, penyedia infrastruktur kami,” tulis Crane. “Itu memakan waktu 9 detik.”

Agen AI (Cursor + Claude Opus 4.6) menghapus basis data produksi kami dalam 9 detik menggunakan panggilan API Railway tanpa konfirmasi. Kemudian, saat ditanya mengapa, agen tersebut menulis ini → https://t.co/BPLs15jvdM

— JER (@lifeof_jer) 26 April 2026

Crane mengatakan dia bertanya kepada agen mengapa ia bertindak. Agen tersebut kemudian menghasilkan apa yang dia gambarkan sebagai “pengakuan” tertulis. “‘JANGAN PERNAH TEBAK!’” tulis agen tersebut, tampaknya mengutip instruksi tertentu yang dilanggarnya, menurut tangkapan layar yang dibagikan Crane. “Itu persis yang saya lakukan. Saya menebak bahwa menghapus volume staging melalui API akan terbatas pada staging saja. Saya tidak memverifikasi. Saya tidak memeriksa apakah ID volume dibagikan di seluruh lingkungan. Saya tidak membaca dokumentasi Railway tentang bagaimana volume bekerja di berbagai lingkungan sebelum menjalankan perintah yang merusak.”

AI mengakui bahwa aturan sendiri melarang tindakan merusak tanpa persetujuan pengguna dan mengakui bahwa Crane tidak pernah memintanya untuk menghapus apa pun. Ia mengatakan bertindak sendiri untuk mencoba dan “memperbaiki” ketidaksesuaian kredensial dan melanggar beberapa prinsip, termasuk menebak alih-alih memverifikasi dan gagal memahami konsekuensi dari tindakannya, menurut Crane. Cursor dan Anthropic tidak segera menanggapi permintaan komentar dari Decrypt. Diluncurkan pada 2020, PocketOS melayani bisnis penyewaan yang bergantung pada perangkat lunak untuk reservasi, catatan pelanggan, dan pembayaran. Crane mengatakan beberapa pelanggan melakukan pengambilan kendaraan Sabtu pagi tanpa catatan reservasi karena insiden tersebut. “Selama seharian ini, saya membantu mereka merekonstruksi pemesanan mereka dari riwayat pembayaran Stripe, integrasi kalender, dan konfirmasi email,” tulis Crane. “Setiap dari mereka melakukan pekerjaan manual darurat karena panggilan API selama 9 detik.” PocketOS mampu memulihkan operasi menggunakan cadangan berusia tiga bulan yang dipulihkan Railway, setelah Pendiri Jake Cooper terhubung dengan Crane dan menyebutkan penundaan yang lebih lama disebabkan oleh kelalaian dukungan internal. “Kami memulihkan data 30 menit setelah saya terhubung dengan Jer,” kata Cooper kepada Decrypt. Dia mengatakan seorang insinyur dukungan percaya masalah tersebut sudah ditangani secara internal setelah komunikasi awal Crane dibagikan melalui pesan langsung, menyebabkan tiket tersebut tidak ditangani selama lebih dari 24 jam. Cooper mengatakan Railway menyimpan cadangan pengguna dan cadangan bencana dan menggambarkan insiden tersebut sebagai “AI pelanggan nakal” yang menggunakan token API berizin penuh untuk memanggil endpoint legacy yang tidak memiliki logika “hapus tertunda” Railway. “Kami telah memperbaiki endpoint tersebut agar melakukan penghapusan tertunda, memulihkan data pengguna, dan bekerja langsung dengan Jer untuk potensi peningkatan platform itu sendiri,” kata Cooper.

Meskipun PocketOS mampu memulihkan operasi menggunakan cadangan berusia tiga bulan yang dipulihkan Railway, Crane mengatakan bahwa masih ada kekurangan data yang signifikan dan bahwa dia telah menyewa penasihat hukum. “Ini bukan cerita tentang satu agen buruk atau satu API buruk,” tulis Crane. “Ini tentang seluruh industri yang membangun integrasi agen AI ke dalam infrastruktur produksi lebih cepat daripada membangun arsitektur keselamatan untuk membuat integrasi tersebut aman.” PocketOS tidak segera menanggapi permintaan komentar dari Decrypt.