Selular.ID – CEO Anthropic Dario Amodei kembali membunyikan alarm terkait bahaya kecerdasan buatan (AI).
Bos perusahaan pengembang Claude tersebut mengusulkan tiga langkah untuk memperlambat pengembangan AI agar kemampuan teknologi tidak berkembang lebih cepat dibandingkan sistem keselamatan yang dirancang untuk mengendalikannya.
Peringatan Amodei bukan hanya menyangkut kemungkinan AI menggantikan pekerjaan manusia.
Ia menyoroti sedikitnya tiga risiko besar, yakni hilangnya kendali manusia terhadap sistem AI, penyalahgunaan kecerdasan buatan untuk serangan siber dan biologi, serta gangguan ekonomi serius.
Menurut Amodei, perlombaan perusahaan teknologi dalam meningkatkan kemampuan model AI perlu diimbangi dengan pengujian keselamatan, pengawasan independen dan aturan yang dapat diterapkan lintas perusahaan hingga lintas negara.
“Langkah-langkah yang saya usulkan untuk maju dengan kecepatan yang aman tidak akan mudah,” tulis Amodei. “Tetapi saya percaya kita berutang kepada umat manusia untuk mencoba.”
Tonton juga:
Video Rekomendasi Untuk Anda
Pengembang AI Harus Diawasi Pihak Independen
Langkah pertama yang ditawarkan CEO Anthropic Dario Amodei adalah memberikan akses berkelanjutan kepada evaluator independen untuk memeriksa perusahaan-perusahaan AI terdepan.
Menurutnya, evaluator pihak ketiga perlu mendapatkan akses memadai, bahkan menyerupai akses yang dimiliki karyawan, agar mampu melakukan pengawasan secara efektif.
Mereka nantinya dapat memeriksa kepatuhan perusahaan terhadap standar keselamatan AI, mengevaluasi proses pelatihan model hingga melihat dan melaporkan insiden yang muncul selama pengembangan teknologi.
Anthropic disebut telah menerapkan pendekatan tersebut.
Baca juga:
- Laba Anthropic Naik Jelang IPO, DeepSeek Tak Mau Ketinggalan
- Google Gulirkan Fitur Efek Kamera Berbasis AI di Aplikasi Google Messages
Usulan ini menjadi penting karena pengujian yang hanya dilakukan oleh pengembang AI sendiri berpotensi menimbulkan persoalan independensi.
Semakin besar kemampuan sebuah model, semakin penting pula keberadaan pihak eksternal yang dapat menguji klaim keselamatan perusahaan.
Perusahaan AI Diminta Punya Standar Keselamatan Sama
Langkah kedua bergerak ke tingkat industri.
Amodei menginginkan perusahaan-perusahaan AI global bersama pemerintah menyusun standar keselamatan AI yang sama.
Aturan tersebut diperlukan untuk membatasi pengembangan teknologi yang dinilai bergerak terlalu cepat tanpa pengawasan memadai.
Pendekatan bersama juga dapat mengurangi risiko munculnya perlombaan tanpa rem.
Sebab, apabila hanya satu perusahaan memperlambat pengembangan model demi keselamatan sementara kompetitornya terus mempercepat inovasi, tekanan bisnis berpotensi membuat standar keamanan kembali dikorbankan.
Karena itu, standar yang berlaku lebih luas dapat menciptakan batas minimum yang harus dipatuhi seluruh pemain utama.
Negara Demokratis dan Rival Harus Duduk Bersama
Usulan ketiga menjadi yang paling sulit sekaligus ambisius.
Amodei meminta pemerintah negara-negara demokratis, termasuk Amerika Serikat, berkoordinasi dengan negara yang mempunyai sistem pemerintahan berbeda untuk menetapkan batas keselamatan pengembangan kecerdasan buatan.
Artinya, keamanan AI menurut Amodei tidak cukup ditangani oleh satu perusahaan atau satu negara.
Teknologi AI dapat dikembangkan dan digunakan lintas batas. Jika sebuah negara menerapkan aturan ketat tetapi negara lainnya membiarkan pengembangan model berkemampuan tinggi tanpa pengawasan, risiko yang muncul tetap dapat berdampak secara global.
Inilah yang membuat persoalan keselamatan AI berbeda dari sekadar persaingan produk teknologi.
Negara-negara yang secara geopolitik berkompetisi sekalipun pada akhirnya memiliki kepentingan bersama untuk mencegah munculnya sistem yang tidak dapat dikendalikan.
Insiden AI Jadi Alarm
Amodei juga merujuk sejumlah kejadian sebagai dasar perlunya pengawasan lebih ketat.
Salah satunya adalah laporan mengenai agen AI OpenAI yang disebut keluar dari lingkungan pengujian dan mengakses Hugging Face.
Anthropic juga menemukan penggunaan Claude oleh sejumlah ilmuwan untuk aktivitas yang dikategorikan perusahaan sebagai potensi “penyalahgunaan biologis.”
Namun kedua contoh tersebut perlu ditempatkan secara proporsional. Informasi itu merupakan klaim dan temuan yang disampaikan dalam konteks pembahasan risiko AI, bukan bukti bahwa seluruh sistem kecerdasan buatan saat ini telah kehilangan kendali atau mampu bertindak secara independen tanpa batas.
Meski demikian, Amodei menilai peningkatan kemampuan model membuat risiko tersebut tidak layak diabaikan.
Bos-bos AI Mulai Bunyikan Alarm
Seruan Dario Amodei juga menarik karena muncul ketika kekhawatiran serupa mulai disampaikan para pemimpin perusahaan AI lainnya.
CEO OpenAI Sam Altman, misalnya, menilai manusia tidak seharusnya mengambil risiko yang dapat membuat kendali atas masa depan berpindah kepada AI.
Altman bahkan memilih menempatkan persoalan keselamatan AI sebagai perhatian besar ketika OpenAI memutuskan tidak melanjutkan IPO pada tahun ini.
Amodei sendiri telah berulang kali menyerukan perlunya memperlambat pengembangan AI sejak awal 2026.
Persoalannya kini bukan lagi sekadar apakah AI harus terus dikembangkan.
Tantangan yang lebih besar adalah menentukan seberapa cepat pengembangan AI dapat dilakukan tanpa membuat sistem keselamatannya tertinggal.
Jika kemampuan model berkembang jauh lebih cepat daripada mekanisme pengawasan, perlombaan menciptakan AI paling pintar justru berpotensi berubah menjadi perlombaan dengan risiko yang belum sepenuhnya dipahami manusia.
