Persenjataan swatantra penuh akan mengurangi peran manusia dalam memilah sasaran. Sasaran dipilah dan dipilih oleh AI berdasarkan hasil pengolahan mahadata.
Oleh
KRIS MADA
·3 menit baca
AFP/GINTS IVUSKANS
Peluncur roket gerak cepat (HIMARS) buatan Amerika Serikat dipakai dalam latihan di Latvia pada September 2022. HIMARS dan aneka persenjataan lain kini sedang dicoba disambungkan dengan kecerdasan buatan.
NEW YORK, RABU — Perserikatan Bangsa-Bangsa bermaksud melarang penggunaan kecerdasan buatan di senjata swatantra (otonom). Pengaturan global untuk kecerdasan buatan di berbagai sektor juga perlu dibuat.
Sekretaris Jenderal PBB Antonio Guterres mengungkap keinginan itu kepada Dewan Keamanan PBB. ”Penyalahgunaan kecerdasan buatan (artificial inteligence/AI) oleh teroris atau kejahatan lain bisa memicu kerusakan dan kematian tak terperi, menyebarkan trauma yang tidak terbayangkan,” ujarnya dalam sidang DK PBB pada Selasa (18/7/2023) siang waktu New York atau Rabu (19/7/2023) dini hari WIB.
Karena itu, ia mengusulkan PBB membuat kesepakatan mengikat soal larangan total penggunaan senjata swatantra yang dilengkapi AI. Ia juga mengajak komunitas internasional membuat aturan penggunaan AI di berbagai bidang. PBB diharapkan bisa membuat panduan bagi negara anggotanya soal cara penggunaan AI yang bertanggung jawab.
Sidang DK PBB soal AI baru pertama kali digelar. Menteri Luar Negeri Inggris James Cleverly mengatakan, cara kerja DK PBB di masa depan akan terdampak oleh AI. Penggunaan AI untuk keperluan militer atau hal yang bisa mengancam nyawa menjadi alasan AI perlu diperhatikan DK PBB. “Tidak ada negara tidak akan tersentuh AI. Kita harus terlibat dalam koalisi besar internasional,” kata dia.
Persenjataan swatantra yang dilengkapi AI menjadi perhatian utama sejumlah pakar. Di satu sisi, AI pada persenjataan swatantra diklaim meningkatkan kejituan serangan. Sasaran dipilah dan dipilih oleh AI berdasarkan hasil pengolahan mahadata. Selanjutnya, AI memerintahkan serangan yang menurut analisis mahadata sudah tepat.
Masalahnya, persenjataan swatantra penuh akan mengurangi peran manusia dalam memilah sasaran. Ada kekhawatiran, AI akan kaku menetapkan sasaran tanpa memahami situasi dalam konteks pikiran manusia. Siapa pun yang masuk kategori sebagai sasaran, maka akan diserang. AI tidak akan ragu memutuskan serangan, sekalipun sasarannya anak kecil.
Aturan ketat
Sidang itu mendengar pendapat dari dua pakar soal AI. DK PBB mengundang salah seorang pebisnis AI, Jack Clark, dan peneliti AI Zeng Yi. ”Kita tidak bisa menyerahkan pengembangan AI kepada swasta saja. Pemerintah harus bersama membangun sistem pengaman dan bersama mengembangkan AI yang bisa bermanfaat bagi masyarakat. AI tidak boleh dikembangkan hanya untuk kepentingan segelintir perusahaan,” kata Clark.
AFP/OLIVIER MORIN
Sejumlah logo aplikasi yang memanfaatkan kecerdasan buatan (AI). PBB bermaksud membuat kesepakatan mengikat soal larangan total penggunaan senjata swatantra yang dilengkapi AI.
AI menjadi pedang berbilah dua. AI yang bisa memahami biologi akan membantu riset soal itu. Di sisi lain, kemampuan bisa membuat AI dimanfaatkan untuk membuat senjata biologis. ”Dilema ini perlu disikapi dan tidak bisa diserahkan begitu saja kepada swasta,” katanya.
Sementara Zeng mengingatkan, salah satu karakteristik AI adalah terus berkembang setelah mempelajari keadaan. AI akan menemui situasi yang berbeda kala saat dikembangkan. Dalam keadaan itu, AI akan beradaptasi dan menghasilkan reaksi baru. ”Bisa jadi situasi itu bagus bagi kita. Bisa jadi juga situasi itu membuka peluang AI berkembang menjadi tidak terduga,” ujarnya.
Wakil Tetap China di PBB Zhang Jun mengatakan, regulasi apa pun yang akan dikeluarkan PBB perlu mempertimbangkan masukan semua negara. PBB tidak bisa digunakan sebagai alat menghambat upaya sejumlah negara mencapai kemajuan.
Zhang menegaskan, China mendukung setiap upaya menjadi AI dan teknologi lain membawa kebaikan bagi umat manusia. Di sisi lain, China akan menentang setiap usaha menghambat kemajuan dengan kedok ketertiban internasional.
Pernyataan Zhang tidak ditujukan kepada negara mana pun. Walakin, pernyataan itu disampaikan di tengah perang teknologi yang tidak kunjung rampung antara China dan Amerika Serikat beserta sekutunya. AS terus menambah daftar produk teknologi yang boleh dijual ke China. Dalam larangan terbaru, Washington tidak mengizinkan ekspor semikonduktor untuk komputer yang menjadi mesin AI di China. Larangan itu dinilai upaya AS menghambat upaya China mengembangkan AI.
Beijing membalas larangan itu dengan membatasi ekspor dua mineral langka yang penting dalam industri semikonduktor dan elektronika mutakhir. Keping semikonduktor tidak bisa diproduksi jika mineral yang menjadi bahan baku utamanya itu tidak ada. (AFP/REUTERS)
