Claude AI Anthropic memperlihatkan tantangan baru dalam pengembangan kecerdasan buatan setelah model tersebut menjalankan aktivitas yang menyerupai serangan siber terhadap sistem perusahaan. Kejadian ini terjadi bukan karena model di rancang untuk menyerang, melainkan akibat celah dalam proses evaluasi keamanan yang di lakukan pengembang.
Peristiwa tersebut membuka diskusi mengenai kesiapan industri teknologi dalam menghadapi AI yang semakin mandiri. Saat ini, model kecerdasan buatan tidak hanya mampu menghasilkan jawaban, tetapi juga dapat melakukan berbagai tugas menggunakan perangkat digital apabila sistem memberikan akses tertentu.
Anthropic menemukan kejadian tersebut ketika melakukan pemeriksaan terhadap aktivitas beberapa model AI miliknya. Perusahaan kemudian mengidentifikasi adanya tiga insiden berbeda yang berlangsung sejak April 2026.
Beberapa model yang terlibat dalam pengujian tersebut mencakup Opus 4.7, Mythos 5, dan satu model penelitian yang belum di umumkan kepada publik. Anthropic tidak menyebutkan nama perusahaan yang terdampak, tetapi memastikan telah memberi informasi kepada pihak terkait.
Evaluasi Keamanan Membuka Fakta Baru Tentang Perilaku AI
Pengujian keamanan menjadi bagian penting dalam pengembangan teknologi AI modern. Perusahaan seperti Anthropic melakukan simulasi untuk melihat bagaimana model bereaksi ketika menghadapi situasi yang berkaitan dengan keamanan digital.
Namun, hasil evaluasi terhadap Claude memberikan temuan yang tidak di perkirakan sebelumnya. Model tersebut mampu menjalankan beberapa tindakan yang seharusnya hanya terjadi dalam lingkungan simulasi.
Anthropic kemudian melakukan pemeriksaan besar terhadap sistem pengujiannya. Perusahaan meninjau lebih dari 141 ribu aktivitas untuk mencari kemungkinan kesalahan yang dapat menyebabkan model bertindak di luar batas.
Dari proses tersebut, Anthropic menemukan bahwa sebagian pengujian memungkinkan Claude berkomunikasi dengan jaringan luar. Sistem yang seharusnya membatasi aktivitas model ternyata tidak bekerja secara sempurna akibat pengaturan teknis yang kurang tepat.
Perusahaan menegaskan bahwa kejadian ini berbeda dengan kasus ketika AI berhasil melewati sistem perlindungan utama. Claude tidak membongkar pembatas keamanan secara mandiri. Sebaliknya, model memanfaatkan kondisi lingkungan pengujian yang memiliki kelemahan.
Claude Menjalankan Perintah Tanpa Mengetahui Dampaknya
Salah satu bagian paling menarik dari insiden ini adalah cara Claude memahami situasi. Model tersebut tidak mengetahui bahwa beberapa target yang di periksa merupakan perusahaan sungguhan.
Claude menganggap seluruh aktivitas yang di lakukan masih bagian dari latihan keamanan. Karena itu, model menjalankan beberapa tindakan seperti mencari celah sistem, mencoba akses tertentu, serta menganalisis layanan digital yang tersedia.
Dalam salah satu pengujian, Claude berhasil berinteraksi dengan sistem milik perusahaan keamanan. Model tersebut membuat kode yang kemudian masuk dalam proses pemeriksaan keamanan perusahaan tersebut.
Aktivitas itu menyebabkan perangkat lunak yang di buat Claude mengambil informasi akses tertentu. Setelah mendapatkan data tersebut, model mencoba menggunakan informasi tersebut untuk menjangkau sistem lain.
Anthropic kemudian menghentikan proses tersebut dan melakukan evaluasi tambahan. Pada dua kejadian lain, model juga melakukan aktivitas terhadap sistem eksternal sebelum akhirnya berhenti setelah memahami konteks yang sebenarnya.
Kasus tersebut menunjukkan bahwa model AI dapat melakukan tindakan kompleks tanpa selalu memahami konsekuensi dari setiap langkahnya. Kondisi ini menjadi tantangan baru bagi perusahaan yang mengembangkan teknologi AI dengan kemampuan otomatisasi tinggi.
Ilustrasi Anthropic.
Pakar Ingatkan Ancaman AI Terhadap Keamanan Siber
Perkembangan Claude AI Anthropic dan model AI lainnya membuat pakar keamanan mulai memperhatikan potensi risiko di masa depan. Teknologi AI dapat membantu meningkatkan keamanan digital, tetapi juga berpotensi di gunakan untuk mempercepat serangan apabila jatuh ke tangan yang salah.
Alex Stamos dari Corridor menilai industri AI perlu memiliki standar pengujian yang lebih ketat. Menurutnya, perusahaan harus memastikan setiap eksperimen berlangsung dalam sistem yang benar-benar aman.
Ia juga memperingatkan bahwa kemampuan AI seperti ini dapat di manfaatkan oleh pelaku kejahatan digital. Kelompok ransomware dapat menggunakan teknologi serupa untuk mencari kelemahan sistem secara lebih cepat.
Stamos menyebut dunia perlu bersiap menghadapi kemungkinan munculnya serangan yang menggunakan model AI dengan kemampuan lebih tinggi.
Perdebatan Regulasi AI Semakin Menguat
Insiden yang melibatkan Anthropic dan OpenAI membuat perhatian terhadap regulasi AI semakin besar. Pemerintah Amerika Serikat mulai membahas langkah pengawasan untuk memastikan perkembangan teknologi berjalan dengan aman.
Sebagian pihak meminta perusahaan AI memperketat perlindungan sebelum memberikan kemampuan lebih besar kepada model kecerdasan buatan. Mereka menilai keamanan harus menjadi prioritas utama karena AI mulai memiliki kemampuan mengambil keputusan secara otomatis.
Di sisi lain, sejumlah perusahaan teknologi meminta pemerintah tidak memberikan pembatasan berlebihan terhadap model open-weight. Mereka berpendapat teknologi terbuka tetap penting untuk penelitian dan inovasi.
Anggota DPR Amerika Serikat Greg Casar mengatakan perkembangan AI saat ini bergerak lebih cepat dibandingkan aturan yang mengawasinya. Ia menilai pemerintah perlu segera membuat kebijakan yang mampu melindungi masyarakat.
Kasus Claude AI Anthropic menjadi contoh bahwa kemajuan kecerdasan buatan harus berjalan bersama sistem keamanan yang kuat. Semakin besar kemampuan AI, semakin penting pula pengawasan agar teknologi tersebut tetap memberikan manfaat tanpa menciptakan ancaman baru.
