Selular.ID – Kecerdasan buatan (AI) kembali memunculkan kekhawatiran serius.
Anthropic mengungkap telah memblokir lima upaya penggunaan model AI yang berpotensi membantu pengembangan senjata biologis, termasuk penelitian terkait chikungunya, flu burung, dan cacar.
Salah satu kasus melibatkan peneliti yang berafiliasi dengan institusi militer yang tidak disebutkan namanya, yang Selular kutip dari Anadolu Agency, Sabtu (12/9/2026).
Peneliti tersebut menggunakan chatbot Claude milik Anthropic ketika menyusun proposal penelitian mengenai chikungunya.
Anthropic mengakui penelitian chikungunya dapat mempunyai tujuan sah, seperti pengembangan vaksin.
Namun, sebagian permintaan pengguna memunculkan kekhawatiran karena berpotensi mengarah pada pembuatan varian virus yang lebih berbahaya.
Tonton juga:
Video Rekomendasi Untuk Anda
AI Diminta Tingkatkan Penularan Flu Burung
Kasus lain yang dideteksi Anthropic lebih mengkhawatirkan.
Pengguna mencoba memanfaatkan AI untuk mencari cara meningkatkan kemampuan penularan flu burung, serta mengumpulkan informasi mengenai racun hewan yang berpotensi disalahgunakan sebagai senjata.
Meski demikian, Anthropic menegaskan temuan tersebut tidak membuktikan pengguna benar-benar berniat membuat senjata biologis, apalagi memastikan mereka mampu mewujudkannya.
“Evaluasi memang berguna karena memberikan bukti mengenai kemampuan suatu sistem,” kata Anthropic.
Namun perusahaan mengingatkan bahwa evaluasi kemampuan AI tidak dapat membuktikan kemampuan tersebut benar-benar akan digunakan untuk mengembangkan senjata biologis di dunia nyata.
Baca juga:
- SilverFox Sebar Malware Lewat Aplikasi Claude Palsu, Indonesia hingga China Jadi Sasaran
- Awas BioShocking, Pakai ChatGPT hingga Claude AI Untuk Bobol Akun dan Curi Password
Pengguna Coba Tembus Pengamanan Claude
Anthropic juga menemukan adanya upaya untuk melewati sistem keamanan model AI.
Metodenya antara lain menggunakan akun palsu, jaringan privat, hingga penjual pihak ketiga.
Ancaman bahkan tidak terbatas pada senjata biologis. Anthropic turut mendeteksi potensi penyalahgunaan AI untuk membantu pengembangan senjata konvensional dan melakukan serangan siber.
Salah satu kasus disebut berasal dari Yaman dan berkaitan dengan permintaan bantuan untuk pengembangan roket berpemandu menggunakan teknologi seluler.
Temuan tersebut memperlihatkan sisi lain perkembangan AI generatif. Model AI yang semakin pintar berpotensi menurunkan hambatan pengetahuan terhadap aktivitas berbahaya yang sebelumnya membutuhkan keahlian khusus.
Anthropic Perketat Claude
Anthropic merespons risiko tersebut dengan memperkuat sistem pengamanan pada bidang sensitif, terutama biologi dan keamanan siber.
Akses terhadap sejumlah model Anthropic yang mempunyai kemampuan paling tinggi dalam bidang biologi juga dibatasi hanya untuk organisasi yang telah melewati proses pemeriksaan.
Kasus ini menunjukkan tantangan besar industri AI bukan lagi sebatas membuat model semakin pintar.
Perusahaan seperti Anthropic juga harus memastikan peningkatan kemampuan AI tidak berubah menjadi jalan pintas bagi pengguna untuk memperoleh pengetahuan yang dapat disalahgunakan menjadi ancaman di dunia nyata.
