Garante menyebut ChatGPT mengalami kebocoran data tentang percakapan pengguna dan informasi pembayaran pelanggan, menciptakan dan menyimpan informasi yang salah, serta tidak memberi penyaring usia.
Oleh
FRANSISCA ROMANA
·4 menit baca
AFP/MARCO BERTORELLO
Foto yang diambil pada 31 Maret 2023 di Manta, dekat Turin, Italia, menunjukkan layar komputer yang memuat halaman muka OpenAI, berisi ChatGPT. Otoritas Italia melarang ChatGPT untuk sementara dengan alasan keamanan data pribadi.
ROMA, SABTU — Otoritas Italia melarang operasional ChatGPT untuk sementara atas kekhawatiran penyalahgunaan data. Italia menjadi negara Barat pertama yang melarang platform kecerdasan buatan atau AI dalam skala nasional. Open AI, perusahaan pengembang ChatGPT, memiliki waktu 20 hari untuk membereskan persoalan itu atau berisiko didenda sebesar 20 juta euro atau 4 persen dari pendapatan tahunan di seluruh dunia.
Otoritas Perlindungan Data atau Garante, Jumat (31/3/2023) malam waktu setempat, menuding OpenAI tidak bisa menjelaskan dasar hukum apa pun yang membenarkan pengumpulan dan penyimpanan data personal secara masif untuk melatih algoritma chatbot. Garante mengutip Peraturan Perlindungan Data Umum Uni Eropa dan menyebut ChatGPT mengalami kebocoran data pada 20 Maret. Kebocoran ini meliputi percakapan pengguna dan informasi tentang pembayaran pelanggan.
Garante juga mengatakan, ChatGPT kadang-kadang bisa menciptakan dan menyimpan informasi yang salah tentang seseorang. Di samping itu, tidak ada sistem dalam ChatGPT yang bisa memverifikasi usia pengguna sehingga bisa membuat anak-anak terpapar respons yang tidak pantas bagi usia dan kesadaran mereka.
OpenAI telah mematikan ChatGPT bagi pengguna di Italia atas permintaan Garante. Laman ChatGPT tidak bisa dibuka oleh pengguna di Italia. Dalam pernyataan, OpenAI menyebut telah bekerja secara aktif untuk mengurangi penggunaan data pribadi dalam melatih sistem kecerdasan buatan seperti ChatGPT. ”Karena kami ingin AI kami belajar tentang dunia, bukan individu secara pribadi. Kami yakin regulasi AI diperlukan. Jadi, kami menantikan bekerja bersama Garante untuk mengedukasi mereka tentang bagaimana sistem kami dibuat dan digunakan,” sebut perusahaan itu.
Sejak dirilis tahun lalu, ChatGPT telah menimbulkan ”kegilaan” teknologi. Rival-rivalnya buru-buru meluncurkan produk serupa. Perusahaan-perusahaan berlomba mengintegrasikan ChatGPT atau teknologi sejenis ke dalam aplikasi dan produknya.
AFP/STEFANI REYNOLDS
Arsip foto pada 15 Maret 2023 menunjukkan logo ChatGPT di sebuah kantor di Washington DC, Amerika Serikat.
Cepatnya pengembangan teknologi kecerdasan buatan juga menarik perhatian para pembuat undang-undang di berbagai negara. Banyak pakar menyebut, aturan diperlukan untuk menata AI karena dampak potensialnya pada keamanan nasional, pekerjaan, dan pendidikan.
”Kami berharap semua perusahaan yang aktif di Uni Eropa untuk menghormati aturan perlindungan data UE. Penegakan aturan perlindungan data umum adalah tanggung jawab otoritas UE,” kata seorang juru bicara Komisi Eropa.
Komisi Eropa tengah menggodok AI Act dan sepertinya tidak akan melarang AI. ”Tidak peduli teknologi apa yang kita gunakan, kita harus terus mengembangkan kebebasan dan melindungi hak kita. Itulah sebabnya kami tidak mengatur teknologi AI, kami mengatur penggunaan AI. Mari kita tidak membuang capaian yang dibangun puluhan tahun hanya untuk (tindakan) beberapa tahun,” kata Wakil Presiden Eksekutif Komisi Eropa Margrethe Vestager lewat cuitan di Twitter.
Grup konsumen Eropa, BEUC, pada Kamis, menyerukan kepada otoritas UE dan negara-negara anggotanya untuk menyelidiki ChatGPT dan chatbot AI sejenis. Menurut BEUC, bisa makan waktu bertahun-tahun sebelum AI Act berlaku sehingga pihak berwenang perlu bertindak lebih cepat untuk melindungi konsumen dari risiko yang mungkin timbul.
”Hanya dalam beberapa bulan, kita telah melihat pengambilan (data) masif oleh ChatGPT dan ini baru permulaan. Menunggu AI Act tidak cukup karena banyak muncul kekhawatiran tentang bagaimana ChatGPT dan chatbot sejenis bisa menipu dan memanipulasi orang,” kata Wakil Direktur Umum BEUC Ursula Pachl.
AP PHOTO/MICHAEL DWYER
Logo OpenAI terlihat di sebuah layar ponsel di depan layar komputer yang berisi hasil dari ChatGPT di Boston, Amerika Serikat, 21 Maret 2023.
Banyak sekolah dan universitas di berbagai belahan dunia telah melarang ChatGPT dari jaringan lokal karena kekhawatiran terjadinya plagiat di kalangan pelajar. Sistem AI yang melandasi chatbot seperti ChatGPT mampu menirukan gaya penulisan manusia berdasarkan koleksi buku-buku digital dan karya tulis daring yang telah dipelajari.
Pada Rabu (29/3), pemilik Twitter, Elon Musk, bersama sekelompok pakar dan petinggi industri AI menyerukan penghentian sementara selama enam bulan dalam pengembangan sistem yang lebih kuat dari GPT-4 yang baru saja diluncurkan OpenAI. Petisi mereka menyebut potensi risiko yang berbahaya bagi masyarakat jika pengembangan diteruskan tanpa kajian lebih lanjut.
Kurangnya transparansi adalah masalah utamanya. Jika Anda melakukan penelitian AI, Anda harus sangat transparan tentang bagaimana melakukannya.
Salah satu penanda tangan petisi itu adalah Kepala Garante Pasquale Stanzione. Kepada televisi nasional Italia, Jumat malam, ia mengatakan, tidak jelas apa tujuan yang dikejar dengan mengembangkan AI. Ia juga menekankan tidak adanya penyaring bagi pengguna di bawah usia 13 tahun. ”Ini sangat berbahaya,” ujarnya.
OpenAI tidak menyediakan detail bagaimana melatih model AI yang dikembangkan. ”Kurangnya transparansi adalah masalah utamanya. Jika Anda melakukan penelitian AI, Anda harus sangat transparan tentang bagaimana melakukannya,” kata Johanna Bjorklund, peneliti AI dan dosen rekanan pada Umea University di Swedia.
Pengguna aktif ChatGPT diperkirakan telah mencapai 100 juta pada Januari 2023, hanya dua bulan setelah diluncurkan. Ini membuat ChatGPT menjadi aplikasi yang tumbuh tercepat dalam sejarah, menurut studi oleh UBS yang diterbitkan bulan lalu. (AP/AFP/REUTERS)
