Selular.ID – Investasi kecerdasan buatan (AI) ternyata tidak otomatis menghasilkan keuntungan besar bagi perusahaan.
Studi terbaru SAS yang memuat riset International Data Corporation (IDC) menemukan organisasi yang menerapkan AI tepercaya memiliki peluang 15 kali lebih besar untuk mencatat return on investment (ROI) tinggi dari proyek AI.
Temuan tersebut menjadi penting di tengah perlombaan perusahaan mengadopsi AI generatif hingga AI berbasis agen atau agentic AI.
Persoalannya, kecanggihan teknologi saja ternyata tidak cukup apabila pengguna tidak mempercayai keputusan yang dihasilkan AI.
Baca juga:
- Baju Anti AI Bisa Kelabui Kamera Pengawas, Manusia Jadi “Tak Terlihat”
- 8 Cara Membuat Foto Bergerak dengan Gemini AI
Bahkan, studi menemukan 97,2% pengguna pernah mengabaikan rekomendasi AI setidaknya dalam beberapa kasus.
Salah satu alasan utamanya bukan semata-mata karena hasil AI dianggap salah, melainkan karena sistem tersebut tidak mampu menjelaskan alasan di balik keputusan atau rekomendasinya.
Tonton juga:
Video Rekomendasi Untuk Anda
Kondisi tersebut memperlihatkan paradoks dalam transformasi AI perusahaan.
Semakin besar investasi yang dikeluarkan untuk teknologi, semakin besar pula potensi manfaat yang hilang apabila karyawan akhirnya memilih melakukan koreksi secara manual karena tidak percaya terhadap sistem.
AI Tepercaya Jadi Kunci Dongkrak ROI
Laporan tahunan kedua bertajuk Data and AI Impact Report: The New Economics of Trust menunjukkan organisasi dengan tata kelola, kualitas data, serta kemampuan audit paling kuat secara konsisten memiliki kinerja lebih baik.
Kelompok organisasi tersebut mencatat ROI penerapan AI sedikitnya dua kali lebih tinggi.
Sebaliknya, kurang dari satu dari 20 organisasi yang tertinggal dalam penerapan AI tepercaya mampu memperoleh hasil serupa.
Perbedaannya bahkan semakin terlihat ketika tingkat keberhasilan proyek AI dibandingkan secara langsung.
Organisasi yang berinvestasi dalam penerapan AI tepercaya memiliki kemungkinan 15 kali lebih besar mencatat ROI tinggi, dengan perbandingan 62% berbanding hanya 4%.
Selain itu, perusahaan dengan penerapan AI tepercaya paling kuat memperoleh peningkatan 1,85 kali lebih besar pada 13 indikator hasil bisnis, termasuk pertumbuhan pendapatan, penghematan biaya hingga pengalaman pelanggan.
Sebanyak 85% pemimpin AI dalam kelompok tersebut bahkan meningkatkan investasi AI tepercaya lebih dari 10% pada tahun ini.
Dengan kata lain, pembeda antara perusahaan yang sukses dan gagal mendapatkan keuntungan dari AI bukan hanya terletak pada teknologi yang digunakan.
Cara perusahaan mengelola, mengawasi dan membangun kepercayaan terhadap AI justru menjadi faktor penting.
Makin Mandiri AI, Kepercayaan Justru Turun
Persoalan menjadi semakin kompleks ketika AI mulai bergerak dari sekadar teknologi pendukung menuju sistem yang dapat melakukan pekerjaan secara lebih mandiri.
Studi tersebut mencatat tingkat kepercayaan pengguna turun dari 76% pada AI generatif menjadi 66% pada AI berbasis agen.
Penurunan tersebut menunjukkan kekhawatiran meningkat seiring bertambahnya tingkat otonomi AI.
Chief Technology Officer SAS Bryan Harris mengatakan AI dapat memberikan dampak sangat besar ketika bekerja dengan baik.
Namun, ia mengingatkan berbagai penelitian menunjukkan agen AI mutakhir dapat memiliki tingkat kesalahan lebih dari 25% ketika menjalankan tugas kompleks.
Tingkat kesalahan tersebut dinilai tidak dapat diterima apabila AI digunakan untuk membantu pengambilan keputusan berisiko tinggi.
Karena itu, organisasi perlu memasukkan keahlian bidang terkait ke dalam alur kerja berbasis agen sekaligus mempertahankan manusia sebagai pusat tata kelola dan pengawasan AI.
Vice President IDC Chris Marshall juga menilai kemampuan menjelaskan keputusan, pengawasan, akuntabilitas dan fondasi data yang kuat semakin menjadi syarat untuk memperluas implementasi AI secara efektif.
Cuma 17,5% Perusahaan Punya Fondasi Data Optimal
Tantangan besar berikutnya justru berada di belakang layar, yakni data.
Di tengah pesatnya adopsi AI, sebagian besar organisasi ternyata masih menjalankan teknologi tersebut dengan dukungan data dan infrastruktur yang belum memadai atau sudah tertinggal.
Hanya 17,5% perusahaan yang mempunyai infrastruktur data sepenuhnya optimal dan cukup matang untuk memenuhi kebutuhan AI berbasis agen.
Padahal, organisasi dengan fondasi data optimal memiliki kemungkinan empat kali lebih besar mengharapkan ROI tinggi dari proyek AI dan enam kali lebih besar dalam menerapkan kontrol kualitas data serta kemampuan menjelaskan keputusan AI yang dibutuhkan untuk membangun kepercayaan.
Artinya, perusahaan yang terburu-buru mengadopsi AI tanpa memperbaiki kualitas dan tata kelola datanya berisiko menghadapi persoalan baru.
AI yang semakin canggih tetap bergantung pada fondasi data yang digunakan untuk menghasilkan keputusan.
Lima Syarat Menjadi Pemimpin AI Tepercaya
Riset SAS dan IDC dilakukan terhadap 2.699 pengambil keputusan di 28 negara, mencakup sektor perbankan, asuransi, ilmu hayati dan sektor publik.
Dalam studi tersebut, organisasi dinilai dengan skor 0-100 berdasarkan lima dimensi. Perusahaan dengan nilai rata-rata minimal 80 dikategorikan sebagai pemimpin AI tepercaya.
Lima kriterianya meliputi kualitas dan tata kelola data; tata kelola dan pengawasan model; kemampuan menjelaskan keputusan dan keadilan; kebijakan AI yang bertanggung jawab; serta audit dan akuntabilitas.
SAS mendefinisikan AI tepercaya sebagai AI yang dirancang agar andal, adil, aman, memenuhi standar regulasi, serta mampu menjelaskan secara jelas bagaimana sebuah keputusan dihasilkan.
Konsep tersebut juga menempatkan akuntabilitas sebagai elemen utama.
Pengguna maupun pengambil keputusan harus dapat meminta pertanggungjawaban sistem apabila AI memberikan keluaran yang salah atau tidak sesuai kebutuhan.
Pada akhirnya, studi ini memberikan pesan penting bagi perusahaan yang tengah berlomba menggelontorkan investasi untuk AI: ROI AI tidak semata-mata ditentukan oleh seberapa canggih model yang digunakan, tetapi seberapa besar teknologi tersebut dapat dipercaya, dijelaskan, diawasi dan dipertanggungjawabkan.
Ketika AI memasuki fase yang semakin otonom melalui agentic AI, kepercayaan bukan lagi sekadar persoalan etika.
Kepercayaan mulai menjadi faktor bisnis yang menentukan apakah investasi AI benar-benar menghasilkan keuntungan atau justru menjadi teknologi mahal yang rekomendasinya diabaikan pengguna.
