Dr.rer.nat. Arli Aditya Parikesit, S.Si., M.Si.

Penulis adalah Wakil Rektor bidang Riset dan Kolaborasi Industri, dan Dosen Departemen Bioinformatika dari Indonesia International Institute for Life Sciences (i3L)
Tech

Robot Pembunuh dan Overman: Sebuah Persimpangan Jalan Kemanusiaan

Overman sendiri adalah konsep manusia paripurna yang sekuler, berbeda misalnya dengan konsep insan kamil para sufi yang religius


Robot Pembunuh dan Overman: Sebuah Persimpangan Jalan Kemanusiaan
Ilustrasi Artificial Intelligence (AI) (ISTIMEWA)

AKURAT.CO  Friedrich Nietzsche, sang filusuf Jerman, memperkenalkan konsep overman, menurut terjemahan Walter Kaufmann. Overman sendiri adalah konsep manusia paripurna yang sekuler, berbeda misalnya dengan konsep insan kamil para sufi yang religius. Overman adalah seorang pemimpin besar yang dikagumi oleh anak buahnya, kolega, atasan, maupun musuhnya sendiri. Supaya Konkrit, Nietzsche memberi contoh Napoleon Bonaparte, Kaisar Perancis yang mempersatukan Eropa daratan saat itu, sebagai overman par-excellence.

Nietzsche mengagumi Napoleon karena dia adalah seorang Jendral yang memimpin prajuritnya menuju kemenangan paripurna di setiap medan pertempuran. Sekarang, di awal abad-21, overman sudah bertransformasi menjadi konsep yang sama sekali berbeda. Tidak sama dengan Napoleon yang memimpin prajuritnya di Eropa dulu, sekarang overman adalah Jendral yang memimpin ‘robot pembunuh’ berbasis kecerdasan buatan untuk menuju kemenangan total di perang asimetris. 

Kecerdasan buatan atau artificial intelligence merupakan kajian rutin dalam ilmu komputer, dan merupakan upaya manusia untuk mengembangkan mesin yang meniru kecerdasan mereka. Diluar domain ilmu komputer, para sineas atau pekerja seni memperkenalkan kecerdasan buatan di Film fiksi ilmiah seperti 2001: a Space odyssey dengan komputer HAL 9000 yang dianggap sebagai all-time classic. Film besutan Stanley Kubric tersebut mempengaruhi perkembangan film lain seperti seri Transformers dengan saga antara autobots dan decepticon.

baca juga:

Tentu kita tidak lupa dengan seri Terminator dengan dystopia skynet yang berperang melawan umat manusia. Isaac Asimov, pengarang buku fiksi ilmiah “iRobot” yang sudah difilmkan, menulis tiga hukum robot yaitu: Robot tidak boleh melukai manusia, Robot harus melaksanakan apapun perintah manusia kecuali kalau melanggar perintah pertama, dan robot harus melindungi eksistensi dirinya selama tidak bertentangan hukum pertama dan kedua.

Episteme Asimov menjadi landasan etis utama pengembangan kecerdasan buatan, sampai akhirnya robot pembunuh (killer robot) tiba. Robot pembunuh adalah sistem persenjataan yang menggunakan kecerdasan buatan dalam beroperasi, dan secara otonom dapat menyerang musuh tanpa perintah atau kontrol dari manusia, menggunakan kecerdasan buatan untuk mengenali musuh. Para ahli persenjataan menyatakan bahwa robot pembunuh adalah ‘revolusi ketiga’ dalam medan pertempuran, setelah pengembangan mesiu dan nuklir.

Keprihatinan yang sering diwacanakan adalah robot pembunuh akan salah mengenali penduduk sipil, anak-anak, atau mereka yang tak terlibat dalam perang sebagai musuh yang harus diserang. Dalam keprihatinan aktivis gerakan sipil, robot pembunuh menjadi agen banalitas kejahatan perang. Sebenarnya, ada keprihatinan yang lebih besar lagi, yaitu skenario ‘Skynet’. Dalam seri ‘Terminator’, Skynet digambarkan sebagai sistem supercerdas buatan yang menjadi antagonis umat manusia dalam suatu perang besar.

Walaupun pakar kecerdasan buatan semua sepakat bahwa kemungkinan terjadi skenario ini mendekati mustahil, karena membutuhkan kolaborasi agen otonom yang sepenuhnya bebas dari intervensi manusia, dan agen-agen tersebut membutuhkan sumber daya yang masih dalam banyak hal dikendalikan oleh manusia. Namun, membayangkan kemungkinan terburuk akan membuat kita menjadi lebih waspada dan bijak dalam mempersiapkan masa depan.

Kita mengetahui adanya tiga matra senjata pemusnah massal yang dilarang dan dikendalikan PBB, yaitu kimia, biologi, dan nuklir. Ketiga persenjataan ini, seperti namanya, adalah pemusnah massal yang dapat memusnahkan peradaban manusia dalam sekejap. Oleh karena itu, semua negara menahan diri untuk menggunakan senjata pemusnah massal dalam medan pertempuran, karena mereka menahan diri supaya tidak dituduh sebagai ‘perpetrator’ pemusnah massal.

Cukup bagi kita tragedi pertempuran Ypres ketika senjata kimia digunakan di palagan perang dunia I, dan tragedi Hiroshima-Nagasaki yang mengakhiri perang dunia II. Senjata pemusnah massal juga memiliki kekurangan karena tidak spesifik, tidak cerdas. dan tidak targeted secara baik. Robot pembunuh mencoba memperbaiki kekurangan-kekurangan tersebut, dan hal ini menyebabkan PBB terpaksa harus menyiapkan konvensi baru untuk mengakomodasinya.

Sebenarnya PBB sudah memiliki konvensi CCW (The Convention on Certain Conventional Weapons), yang berisi pelarangan senjata konvensional berbahaya seperti ranjau, laser pembuta mata, perangkap (booby trap), bom cluster, dan senjata pembakar. Banyak diplomat berpendapat bahwa sebaiknya robot pembunuh dimoratorium produksinya, dan dilarang digunakan dalam medan pertempuran. Sehingga, ada upaya untuk memasukkan robot pembunuh kedalam daftar senjata yang dilarang konvensi CCW.

Namun,diskusi untuk memasukkan robot pembunuh ke dalam CCW diveto oleh hampir semua negara produsen senjata utama dunia, termasuk Amerika Serikat dan Rusia. Hal ini tidak mengherankan, karena diam-diam, robot pembunuh sudah memberikan potensi pengembangan bisnis persenjataan yang berpotensi untuk setara dengan senjata konvensional. Diduga keras bahwa robot pembunuh ‘smart drone’ sudah digunakan pada perang Armenia-Azerbaijan memperebutkan daerah Nagorno-Karabakh pada tahun 2020 dengan melibatkan perusahaan Israel MBT Israel Aerospace Industries yang menjual perangkat IAI Harop dronenya kepada militer Azerbaijan.

Drone cerdas besutan Israel tersebut diprogram untuk melakukan serangan kamikaze pada targetnya. Tidak mengherankan, karena bantuan drone cerdas tersebut, dan juga tentu saja karena kecerdasan Presiden Ilham Aliyev dalam mengarahkan dan memimpin para jendralnya secara langsung, Azerbaijan menjadi pemenang de facto dan de jure konflik itu. Bahkan Azerbaijan sudah menggunakan drone cerdas dari tahun 2016 sewaktu mereka perang perbatasan dengan Armenia sebelumnya.

Keberadaan pasar yang menggiurkan dalam bisnis ini akan semakin banyak diisi oleh berbagai perusahaan yang bergerak di bidang ini, tidak hanya dari Israel saja. Kita tentu saja tidak bisa tinggal diam, dan hanya menjadi penonton belaka dalam mencermati dinamika ini.Presiden Jokowi dengan bijak berkata ‘Siapa yang menguasai kecerdasan buatan, akan menguasai dunia’. Namun, siapapun yang melepas robot pembunuh ke medan perang, mereka akan memulai destruksi dan penihilan eksistensi kemanusiaan itu sendiri.

Banyak pihak yang tidak menyangka bahwa robot pembunuh akan menyebabkan kajian kecerdasan buatan berada di persimpangan jalan. Apakah robot pembunuh bisa dimintai pertanggungjawaban jika melakukan aksi kejahatan? Siapa yang harus dimintai pertanggungjawaban? Apa otomatis pemilik robot ini harus bertanggung jawab, padahal robot itu sendiri yang melakukan pembunuhan?

Masalah etis ini jadi pelik karena robot pembunuh bertindak secara otonom dengan belligerentnya, berbeda dengan senjata lain termasuk drone konvensional. Disonansi etis ini tidak jauh berbeda dengan kisah ‘Frankenstein’ yang dibesut oleh Mary Shelley. Di buku ‘Frankenstein’, sang makhluk ciptaan akhirnya melawan sang pencipta.

Dilema etis ini sebenarnya mengharuskan proliferasi robot pembunuh dimoratorium maupun dikendalikan dalam konvensi CCW. Absennya rezim non-proliferasi robot pembunuh dalam konvensi CCW, dan fakta bahwa dalam perang di Nagorno-Karabakh tahun 2020 sudah melibatkan robot pembunuh, menyebabkan kita sebagai bangsa harus menyikapi hal ini dengan sebaik-baiknya.

Saya menghimbau BRIN, perguruan tinggi, industri, kemenhan, maupun konsorsium keilmuan dan profesi terkait untuk mengkaji segi etis dan moral, maupun teknis deterrence (penangkalan) terhadap robot pembunuh. Jika pecah perang, dan musuh kita menurunkan robot seperti itu, kita harus memiliki teknologi dan ilmu untuk melumpuhkannya secara efektif dan efisien untuk melindungi tentara dan penduduk sipil kita. Kekalahan Armenia dalam perang melawan Azerbaijan mengajarkan kita bahwa teknologi deterrence robot pembunuh sangat penting untuk dikuasai dalam medan pertempuran.

Kecerdasan buatan adalah untuk menjunjung tinggi kemanusiaan secara beradab, bukan untuk banalitas brutalisme di medan perang. Kecerdasan buatan adalah instrumen bagi peningkatan kesejahteraan umat manusia, bukan instrumen untuk menciptakan Skynet yang menegasikan kemanusiaan.

Akhir kata, yang kurang digali oleh pengikut Nietzsche, Napoleon Bonaparte adalah inisiator codex Napoleon yang mendasari filosofi hukum Eropa daratan. Codex Napoleon menjadi kendaraan bagi semangat revolusi Perancis untuk disebarkan ke seluruh dunia, termasuk mempengaruhi semua bapak bangsa kita yang dididik oleh para humanis Belanda. Sehingga, overman adalah mereka yang melindungi kemanusiaan dengan memanfaatkan kecerdasan buatan secara baik, bukan mereka yang memulai konflik bersenjata untuk menegasikan semua yang kita miliki.[]