Perlombaan Industri AI Global Semakin Berisiko, Ahli Oxford Ingatkan Tragedi Hindenburg

AKURAT.CO Perlombaan perusahaan teknologi merilis produk kecerdasan buatan (AI) dinilai berisiko memicu insiden besar. Jika itu terjadi, kepercayaan publik terhadap teknologi AI bisa runtuh.

Peringatan tersebut disampaikan Prof Michael Wooldridge, pakar AI dari Universitas Oxford. Ia menilai tekanan bisnis yang tinggi membuat perusahaan terburu-buru membawa sistem AI ke pasar.

Menurutnya, banyak produk diluncurkan sebelum kemampuan dan celah risikonya dipahami sepenuhnya. Kondisi ini berpotensi memicu kejadian besar seperti tragedi Hindenburg pada 1937 yang mematikan industri kapal udara.

"Anda memiliki teknologi yang sangat, sangat menjanjikan, tetapi tidak diuji secara ketat seperti yang Anda inginkan, dan tekanan komersial di baliknya tak tertahankan," ujar Wooldridge, dikutip dari The Guardian, Rabu (18/2/2026).

Tekanan Komersial dan Risiko Sistemik

Wooldridge menilai maraknya chatbot berbasis large language models (LLM) menunjukkan dominasi kepentingan bisnis dibanding kehati-hatian. Banyak sistem dilepas ke publik dengan celah pengaman yang masih lemah dan pengujian yang belum optimal.

Ia memaparkan sejumlah skenario yang dianggap masuk akal, mulai dari pembaruan software mobil otonom yang berakibat fatal hingga serangan siber berbasis AI yang melumpuhkan maskapai. Ada pula risiko perusahaan besar kolaps akibat keputusan otomatis yang keliru.

Karena AI telah terintegrasi ke sektor transportasi, keuangan, kesehatan dan infrastruktur, dampaknya bisa meluas. Satu insiden besar saja berpotensi menjatuhkan kepercayaan global terhadap teknologi ini.

Masalah Fundamental Model AI Modern

Meski mengkritik arah pengembangan saat ini, Wooldridge tidak serta-merta menolak AI modern. Ia menilai ada jarak antara ekspektasi awal peneliti dan kenyataan di lapangan.

Banyak pihak membayangkan AI mampu menghitung solusi secara logis dengan jawaban yang akurat dan konsisten. Namun AI generatif bekerja dengan memprediksi kata berikutnya berdasarkan pola statistik dari data pelatihan.

Artinya, respons yang dihasilkan bersifat probabilistik, bukan hasil pemahaman utuh. Dampaknya, performanya bisa sangat baik di satu tugas tetapi keliru di konteks lain.

Masalahnya, AI tidak menyadari saat ia salah dan tetap menjawab dengan percaya diri. Ditambah lagi, tampilan percakapan yang mirip manusia membuat pengguna mudah menganggapnya sebagai entitas nyata, bukan sekadar alat digital.

Bahaya Antropomorfisme AI

Wooldridge menilai upaya perusahaan membuat AI terasa 'manusiawi' justru berbahaya. Ia menegaskan bahwa AI pada dasarnya adalah alat komputasi canggih, bukan entitas yang memiliki kesadaran atau pemahaman.

Menurutnya, pendekatan yang lebih transparan diperlukan. Alih-alih terdengar seperti manusia yang selalu yakin, AI seharusnya mampu menyatakan keterbatasannya secara jelas ketika data tidak mencukupi.

"Perusahaan ingin menyajikan AI dengan cara yang sangat mirip manusia, tetapi saya pikir itu adalah jalan yang sangat berbahaya untuk diambil," kata Wooldridge.

Industri AI Perlu Fase Kedewasaan

Peringatan ini muncul saat perusahaan teknologi global berlomba memperluas AI generatif. Perusahaan menghadirkan model multimodal, integrasi ke software produktivitas, hingga penerapan di kendaraan otonom.

Persaingan tersebut mempercepat adopsi AI di berbagai sektor industri. Namun, percepatan ini belum sepenuhnya diimbangi standar keamanan dan tata kelola yang kuat.

Tanpa regulasi dan pengawasan matang, risiko kegagalan besar tetap terbuka. Sejarah menunjukkan industri seperti penerbangan pun butuh waktu panjang dan reformasi sebelum benar-benar stabil.

Analisisnya, kepercayaan publik menjadi fondasi utama dalam perkembangan industri AI. Jika terjadi satu insiden besar, dampaknya bisa memicu regulasi yang lebih ketat, menekan arus investasi dan memperlambat inovasi teknologi ini.