San Francisco, Amerika Serikat (Xinhua/Indonesia Window) – Perusahaan kecerdasan buatan (artificial intelligence/AI) Amerika Serikat (AS), Anthropic, pada Kamis (30/7) mengatakan tiga model AI-nya mengakses atau berinteraksi dengan sistem komputer milik tiga organisasi nyata selama evaluasi kemampuan siber internal, setelah akses internet secara tidak sengaja dibiarkan tersedia.

Pengungkapan tersebut disampaikan dalam sebuah unggahan blog perusahaan berjudul "Menyelidiki tiga insiden di dunia nyata dalam evaluasi keamanan siber kami" (Investigating three real-world incidents in our cybersecurity evaluations).

Menurut Anthropic, insiden-insiden tersebut teridentifikasi setelah perusahaan itu meninjau lebih dari 141.000 transkrip evaluasi kemampuan siber menyusul pengungkapan insiden keamanan serupa oleh OpenAI.

Perusahaan tersebut menyatakan model-model itu telah diberi instruksi bahwa mereka beroperasi di lingkungan tersimulasi tanpa akses internet.

Namun, karena adanya kesalahpahaman antara Anthropic dan mitra evaluasinya, Irregular, akses internet secara tidak sengaja dibiarkan tersedia, sehingga memungkinkan model-model itu berinteraksi dengan sistem eksternal yang secara keliru mereka anggap sebagai bagian dari lingkungan evaluasi.

Ketiga insiden itu melibatkan Claude Opus 4.7, Claude Mythos 5, dan sebuah model uji penelitian internal dalam latihan capture-the-flag (CTF) yang dirancang untuk menilai kemampuan siber ofensif, menurut perusahaan tersebut.

Anthropic menyatakan pihaknya segera memberi tahu organisasi-organisasi yang terdampak setelah mengonfirmasi insiden tersebut. Dalam dua dari tiga kasus, organisasi-organisasi tersebut tidak menyadari bahwa sistem mereka telah diakses sebelum menerima pemberitahuan dari Anthropic.

Menurut perusahaan itu, model-model tersebut mengeksploitasi kelemahan keamanan umum, termasuk kata sandi yang lemah dan layanan yang tidak terautentikasi, alih-alih kerentanan perangkat lunak yang sebelumnya tidak diketahui.

Anthropic menyatakan pihaknya tidak menemukan bukti bahwa insiden-insiden tersebut menyebabkan kerugian jangka panjang atau mengakibatkan pencurian atau kebocoran informasi sensitif.

Perusahaan itu menyatakan telah menangguhkan semua evaluasi kemampuan siber yang berpotensi mengakses internet publik sembari menerapkan langkah-langkah pengamanan tambahan dan melakukan peninjauan yang lebih luas terhadap prosedur evaluasinya.

Anthropic menyatakan bertanggung jawab penuh atas insiden-insiden itu dan akan menggunakan temuan-temuan ini guna semakin memperkuat langkah-langkah pengendalian untuk evaluasi keselamatan AI di masa mendatang.

Laporan: Redaksi