AI Bak Pedang Bermata Dua yang Bisa Memakan Tuannya

AI bisa membawa manfaat sekaligus bencana dan kerugian bagi manusia.Pemanfaatan AI harus sangat bijak dan teliti.

AFP/LIONEL BONAVENTURE

Gambar ini diambil pada 23 Januari 2023 di Toulouse, Prancis barat daya, menunjukkan layar yang menampilkan logo OpenAI dan ChatGPT. - ChatGPT adalah aplikasi perangkat lunak kecerdasan buatan percakapan yang dikembangkan oleh OpenAI.

Kecanggihan ChatGPT atau AI pada umumnya juga ada batasnya. Dua insiden yang cukup mencolok telah memperjelas batas dan tantangan yang dihadapi AI saat diterapkan dalam situasi dunia nyata.

Pada kasus pertama, Mark Walters, seorang pembawa acara radio dari negara bagian Georgia, Amerika Serikat merasa namanya dicemarkan oleh ChatGPT. Ia menemukan bahwa ChatGPT telah menyebarkan informasi palsu tentang dirinya, yang menuduhnya melakukan penggelapan dana.

Hal ini terkuak ketika seorang pemimpin redaksi sebuah perusahaan publikasi, meminta ChatGPT merangkum sebuah kasus gugatan penggelapan dana. ChatGPT memberikan rangkuman yang menyatakan bahwa Walters telah melakukan penggelapan dana dari SAF.

Baca juga : Potensi Masa Depan yang Terbuka oleh AI

KOMPAS/HENDRA A SETYAWAN

Pemanfaatan aplikasi berbasis kecerdasan buatan (Artificial intelligence/AI), ChatGPT, di sebuah kantor di Jakarta, Selasa (7/3/2023). ChatGPT adalah chatbot AI berupa model bahasa generatif yang menggunakan teknologi transformer untuk memprediksi probabilitas kalimat atau kata berikutnya dalam suatu percakapan ataupun perintah teks.

Padahal, menurut gugatan yang diajukan Walters, seluruh pernyataan dalam rangkuman yang dibuat ChatGPT tersebut adalah fiktif. Dalam upayanya mencari keadilan, Walters kini menggugat OpenAI untuk mendapatkan kompensasi. Ini adalah gugatan terhadap AI pertama di dunia. Gugatan ini dilayangkan awal Juni 2023.

Kasus kedua terjadi ketika seorang pengacara yang menjadi kuasa hukum suatu kasus melawan sebuah maskapai asal Kolombia, menggunakan ChatGPT untuk menyiapkan berkas gugatan. Steven Schwartz menggunakan ChatGPT untuk mengutip kasus-kasus sebelumnya yang dapat dijadikan preseden. Namun, ChatGPT justru ‘mengutip’ kasus-kasus fiktif, mengarang indah. Pada Jumat (23/6/2023) lalu Schwartz dihukum denda.

Dua kasus ini menggambarkan fenomena yang disebut komunitas pemerhati AI sebagai halusinasi. AI tidak memberikan fakta, namun serangkaian kalimat yang terkesan masuk akal dan enak dibaca.

Tak hanya itu, pada Oktober 2012, sebelum penggunaan ChatGPT, teknologi algoritma mesin pencari dan machine learning yang digunakan Google banyak dilaporkan masyarakat terkait kasus rasisme.

KOMPAS/ELSA EMIRIA LEBA

Seorang perempuan mencoba teknologi pengenalan wajah yang dimiliki oleh Oneconnect, sebuah perusahaan penyedia layanan teknologi bagi industri keuangan di Jakarta, Rabu (20/2/2019)

Mengutip laman lembaga publik independen yang mendorong transparansi dan keterbukaan sistem AI, The AI, Algorithmic and Automation Incidents and Controversies (AIAAIC), pada Oktober 2012, profesor komunikasi University of Southern California Anneberg, Safiya Noble dalam penelitiannya menemukan, ada diskriminasi perempuan kulit berwarna pada mesin pencari Google. Penelitiannya menyebut, pencarian di Google dengan kata kunci ‘Black Girls’ menghasilkan laman yang sebagian besar bersifat pornografi.

Saat itu Google menanggapi dengan mengatakan bahwa stereotipe rasial dan gender dalam produknya bersifat terisolasi. Google kemudian memperbaharui algoritma pencariannya agar stereotipe tersebut menjadi kurang terlihat.

Teknologi pengenalan wajah, suara, serta obyek juga dilaporkan membawa kerugian bagi masyarakat. Plastic Forte, sebuah perusahaan manufaktur yang berbasis di Alicante, Spanyol, pada April 2003 didenda oleh otoritas perlindungan data negara tersebut karena melanggar privasi pekerjanya menggunakan pengenalan wajah.

Selanjutnya, Amazon pada Mei 2023 telah didenda sebesar 31 juta dollar AS (Rp 466 miliar) oleh Komisi Perdagangan Federal (FTC) AS karena menyimpan data suara dan lokasi anak-anak menggunakan asisten pribadi Alexa untuk perbaikan algoritma pengenalan suara.

Teknologi kamera pemantauan lalu lintas di Negara Bagian Kerala, India untuk mendeteksi pelanggaran lalu lintas pada Juni 2023 juga tercatat banyak melaporkan kesalahan. Sistem ini sering keliru menganggap sekrup atau baut pada pelat nomor sebagai angka nol dan secara otomatis mengeluarkan denda.

Beberapa kasus ini menjadi semacam peringatan mengenai pentingnya bersikap hati-hati dan teliti dalam menggunakan sistem AI seperti ChatGPT, pengenalan wajah, suara, atau pun obyek terutama dalam situasi di mana akurasi dan kebenaran sangat penting. Meskipun AI bisa sangat bermanfaat, tetap ada keterbatasan dan risiko yang perlu dipertimbangkan.

Baca juga : Kecerdasan Artifisial : Antara Alat atau Ancaman?

Merujuk AI Index Report 2023 dari Direktori AIAAIC, jumlah insiden dan kontroversi AI yang dilaporkan pada 2021 meningkat 26 kali lipat dibandingkan tahun 2012. Tahun 2012 ada sekitar 10 laporan, tahun 2016 meningkat tiga kali lipat menjadi 31 kasus, hingga tahun 2021 menjadi 260 kasus.

Sejumlah negara telah mengeluarkan regulasi mengenai privasi dan keamanan. Latvia pada 2020 telah menetapkan pembatasan pengembangan kecerdasan buatan terhadap perusahaan komersial, asosiasi dan yayasan untuk keamanan nasional. Aturan tersebut tertuang dalam “Amendements to the National Security Law 2020”.

Dua kasus ini menggambarkan fenomena yang disebut komunitas pemerhati AI sebagai halusinasi. AI tidak memberikan fakta, namun serangkaian kalimat yang terkesan masuk akal dan enak dibaca

Pemerintah AS memberikan keleluasaan masing-masing negara bagian untuk membuat regulasi mengenai privasi dan keamanan berdasarkan potensi bahaya di masing-masing negara bagian. Alabama misalnya pada 2022, melarang instansi pemerintah menggunakan hasil pengenalan wajah sebagai satu-satunya dasar untuk melakukan penangkapan dalam penyelidikan pidana.

Akhir Maret 2023 lalu, pemerintah Italia melarang sementara penggunaan ChatGPT. Alasannya, Open.AI selaku pengembang ChatGPT tidak memiliki perlindungan privasi yang memadai untuk data pengguna dan tidak memiliki aturan untuk pengguna di bawah umur.

Namun pada April 2023, larangan tersebut dicabut. Open.AI telah menambahkan alat verifikasi usia untuk memastikan usia pengguna minimal 13 tahun. Kebijakan privasi ChatGPT pun sudah dapat diakses oleh pengguna sebelum mendaftar Chat GPT.

Baca juga : Manfaat AI Masih Rendah di Negara Berkembang

Mengurangi risiko

China menggunakan pendekatan transparansi untuk mengurangi risiko penyalahgunaan teknologi AI. Regulasi yang terbit pada 2022 tersebut mengatur penggunaan algoritma online untuk pemasaran pada perusahaan swasta.

Aturan tersebut mewajibkan perusahaan untuk memberi tahu pengguna tentang penggunaan AI untuk tujuan pemasaran. Juga melarang penggunaan data keuangan pelanggan untuk memasarkan produk yang sama dengan harga yang berbeda.

Kanada dalam aturan “The Artificial and Data Act” (Juni 2022) mengharuskan pengembang AI membuat rencana mitigasi untuk mengurangi risiko dan meningkatkan transparansi saat menggunakan AI dalam risiko tinggi. Rencana mitigasi tersebut harus memastikan teknologi yang digunakan tidak melanggar hukum dan anti diskriminasi.

Mitigasi risiko pengembangan AI diserukan oleh ribuan pakar, eksekutif, dan warga pemerhati industri teknologi melalui petisi yang ditandatangani pada 31 Maret 2023. Mereka menyerukan penangguhan pengembangan kecerdasan artifisial selama enam bulan ke depan, memberikan waktu untuk mengembangkan protokol keamanan bersama

KOMPAS/SATRIO PANGARSO WISANGGENI

(Dari kiri-kanan): CTO GDP Venture On Lee, CEO OpenAI Sam Altman, Menteri Pendidikan, Kebudayaan, Riset, dan Teknologi Indonesia Nadiem Makarim, dan Ketua Korika Prof Hammam Riza pasca acara "Conversation with Sam Altman" yang digelar di Jakarta pada Rabu (14/6/2023). Dalam acara ini, Altman memberikan pendapatnya tentang pengembangan AI.

Parlemen Uni Eropa (UE) pada 14 Juni 2023 telah menyetujui regulasi mengenai AI yang aman dan transparan. Regulasi itu melarang sistem AI dengan tingkat risiko tinggi yang bisa mengancam keselamatan manusia. Di antaranya, sistem yang menggunakan teknik manipulatif dengan sengaja mengeksploitasi kerentanan manusia, dan digunakan untuk skor sosial, status sosial ekonomi dan karakteristik pribadi. Aturan tersebut juga melarang sistem kategorisasi biometrik yang menggunakan karakteristik jenis kelamin, ras, etnisitas, status kewarganegaraan, agama, orientasi politik serta sistem penyidikan kepolisian berdasarkan profil, lokasi, atau perilaku kriminal masa lalu.

Regulasi UE juga mewajibkan pengembang AI melakukan uji publik dan mendaftarkan model pengembangan AI dalam basis data UE sebelum diluncurkan di pasar UE. Sistem AI generatif seperti ChatGPT harus mematuhi syarat transparansi dan membantu membedakan gambar palsu dan asli. Ringkasan tentang hak cipta data yang digunakan untuk pelatihan juga wajib dibuka untuk umum.

Namun untuk mendorong inovasi AI, pengecualian regulasi dilakukan untuk kegiatan penelitian dan komponen-komponen AI yang disediakan oleh laman open-sources berizin.

AI memang membantu beberapa pekerjaan sehingga efisien dan meningkatkan produktivitas manusia. Namun dalam banyak kasus, dibutuhkan kehati-hatian dan kecermatan serta tidak seratus persen menyerahkan semua pekerjaan pada mesin digital AI. Jangan sampai AI menjadi pedang bermata dua yang bisa menjadi senjata makan tuan.

Baca juga : Hidup "Leyeh-leyeh" dengan AI