Gambar Buatan Teknologi AI Kian Meresahkan
Ratusan seniman China memboikot medsos Xiaohongshu karena memakai karya mereka tanpa izin. Korsel memenjarakan orang yang memakai gambar seksual anak-anak yang dibuat AI. Dunia AI kian meresahkan dan butuh aturan ketat.
Perkembangan gambar yang dihasilkan oleh teknologi kecerdasan buatan menjadikan batas antara kenyataan dan fiksi semakin kabur. Berbagai terobosan dalam teknologi pembuatan gambar memungkinkan seseorang menjadi seniman dadakan dan menghasilkan karya yang menakjubkan dan terkadang menakutkan.
Seperti gambar Paus Fransiskus yang pernah viral pada awal tahun ini. Kalau itu, Fransiskus terlihat mengenakan mantel musim dingin berwarna putih. Ternyata, gambar itu sepenuhnya hasil dari kecerdasan buatan atau AI. Kualitas gambarnya meyakinkan sehingga membuat banyak orang kagum dan tidak percaya. Lalu batas antara apa yang nyata dan tidak menjadi kabur.
Baca juga: Sejenak Membayangkan Hidup Tanpa AI
Gambar-gambar yang dihasilkan oleh AI ini mengancam dan kian meresahkan masyarakat, termasuk para seniman. Bahkan seniman di seluruh China telah memboikot salah satu pelantar media sosial terbesar di China, Xiaohongshu.
Pemboikotan dilakukan karena Xiaohongshu menggunakan teknologi pembuat gambar AI. Dalam laporan pada Kamis (28/9/2023), CNN mengungkap kontroversi mengenai isu ini dimulai Agustus.
Kala itu, ilustrator yang dikenal dengan nama Snow Fish menuding Xiaohongshu menggunakan salah satu karyanya. Karya itu dipakai melatih mesin AI Xiaohongshu. Masalahnya, Xiaohongshu tidak meminta izin para seniman untuk melatih mesin yang dinamai Trik AI itu.
Snow Fish baru menyadari ini setelah teman-temannya mengirimkan unggahan karya seni dari Xiaohongshu yang sangat mirip dengan karyanya. Dia lalu menanyakan perihal ini dengan mengunggahnya ke medsos itu lalu menjadi viral.
Trik AI mengkhususkan diri dalam menghasilkan seni digital dalam gaya lukisan tradisional China dan masih dalam tahap pengujian. Layanan itu belum diluncurkan secara resmi.
Seseorang yang menggunakan akun resmi Trik AI telah meminta maaf kepada Snow Fish melalui pesan pribadi. Orang itu mengakui karya Snow Fish digunakan untuk melatih Trik AI. Semua karyanya akan dihapus dan tidak digunakan lagi.
Baca juga: Menyadari Ketidakakuratan Kecerdasan Buatan
Akan tetapi, Snow Fish tak puas dengan pengakuan, permintaan maaf, dan penghapusan itu. Dia mau Xiaohongshu meminta maaf secara terbuka.
Bukan hanya Snow Fish memprotes Xiaohongshu. Ada ratusan seniman China memasang spanduk di Xiaohongshu. Spanduk itu bertuliskan ”Tolak gambar yang dihasilkan AI”.
Tagar terkait telah dilihat lebih dari 35 juta kali di pelantar medsos Weibo, layanan mirip X buatan China. Sampai sekarang belum ada pernyataan resmi dari Xiaohongshu terkait isu ini.
”Mereka tidak tahu malu. Tidak mau membuat sendiri, hanya mau mengambil dari karya seniman lain dan mengklaimnya sebagai milik mereka. Ke depan, gambar AI akan dianggap murah di mata masyarakat dan tidak dinilai sebagai karya seni,” kata ilustrator China, Zhang, yang juga memboikot Xiaohongshu.
Bagi seniman seperti Snow Fish, teknologi di balik AI mengancam. Sebab, pengelola mesin-mesin itu mengambil karya orang lain tanpa izin. Gambar yang diambil tanpa izin itu dipakai untuk melatih mesin-mesin AI membuat gambar. Aneka gambar itu biasanya diambil dari internet tanpa persetujuan atau kompensasi pada pemilik karya.
Para seniman yang memboikot Xiaohongshu menuntut peraturan yang lebih baik untuk melindungi karya mereka secara daring. Pemerintah China sejak Juli lalu sudah mengeluarkan peraturan untuk pengolah citra berbasis AI generatif. Beijing menjadi salah satu yang pertama soal pengendalian AI di sektor rekayasa citra.
Sejumlah negara di dunia juga sedang bergulat dengan potensi dampak AI terhadap lapangan pekerjaan, keamanan nasional, dan kekayaan intelektual. Uni Eropa sudah sejak Juni lalu menerapkan peraturan tentang bagaimana perusahaan bisa menggunakan AI.
Baca juga: Perkuat SDM Menghadapi Era Kecerdasan Buatan
Amerika Serikat juga sedang bersiap merancang undang-undang tentang AI. Washington mengajak diskusi sejumlah pemimpin teknologi terbesar di AS, seperti Bill Gates, Elon Musk, dan Mark Zuckerberg pada awal September 2023.
Protes penulis
Perdebatan tentang penggunaan AI dalam seni dan hiburan ini juga memanas di AS. Para penulis skenario dan aktor Hollywood mogok atau menghentikan sebagian besar produksi film dan acara televisi selama lima bulan. Salah satu alasan pemogokan adalah penggunaan AI di aneka studio film.
Pemogokan itu berakhir pada Kamis (28/9/2023) setelah tercapai persetujuan sementara. Studio dan para penulis setuju, penulis bisa menggunakan AI jika studio menyetujui. Walakin, studio tidak bisa mengharuskan penulis untuk menggunakan AI.
Perjanjian sementara antara asosiasi penulis dan Aliansi Produser Film dan Televisi tidak melarang semua penggunaan AI. Penulis dan mesin AI sama-sama diakui bisa bermanfaat dalam banyak aspek pembuatan film, termasuk penulisan naskah.
Dalam beberapa minggu mendatang akan ada pemungutan suara untuk kesepakatan sementara itu. Fokusnya, antara lain, soal pewajiban studio dan produser film mengungkap penggunaan karya penulis oleh mesin AI.
Selain itu, ada isu soal mesin AI tidak boleh menulis materi baru atau merombak materi lama terkait sastra. Tulisan dari mesin AI juga tidak bisa dijadikan acuan.
”Saya berharap ini bisa menjadi contoh bagi industri pembuatan konten lainnya. Ini bisa menjamin jika memakai AI, manusialah yang akan mengendalikannya,” kata Guru Besar Teknologi Informasi di Babson College Tom Davenport.
Baca juga: Kemunculan ChatGPT Dikhawatirkan Meningkatkan Penyebaran Hoaks
Bukan hanya seniman dan artis yang protes. Ada 17 penulis buku terkenal, termasuk John Grisham, Jonathan Franzen, dan George RR Martin, pekan lalu juga mengajukan gugatan terhadap OpenAI. Mereka menuding mesin itu mencuri karya mereka secara masif dan sistematis.
”Ini baru awal saja dari proses panjang negosiasi dan upaya mewujudkan arti AI generatif bagi industri kreatif. Bukan hanya bagi penulis, melainkan juga seniman visual, aktor, atau siapa saja,” kata Guru Besar Studi Media di Northern Illinois University, David Gunkel.
Hukuman
Kekhawatiran pada AI ini meningkat seiring dengan memanasnya persaingan pengembangan AI. Kecepatan pengembangan mulai dari chatbot seperti ChatGPT dari OpenAI hingga Bard dari Google lebih cepat ketimbang kemampuan pemerintah mengaturnya.
China juga mengembangkan penghasil tulisan dan citra AI sendiri. Dari China ada ERNIE Bot Baidu hingga chatbot SenseChat dari SenseTime. Selain Trik AI, Xiaohongshu juga mengembangkan fungsi baru bernama ”Ci Ke”. Fungsi itu memungkinkan pengguna mengunggah konten menggunakan gambar yang dihasilkan AI.
Banyak teknologi yang dikembangkan oleh raksasa teknologi yang memiliki bank data besar. Mahadata itu memungkinkan mereka melakukan banyak hal. Mereka pun tidak peduli apakah teknologi yang dibuat dilindungi peraturan atau tidak.
Karena Trik AI memiliki bank data yang lebih kecil, kemiripan antara konten yang dihasilkan AI dan karya asli seniman menjadi lebih jelas. Hal itu memudahkan penyelidikan secara hukum. Kasus pelanggaran hak cipta akan lebih sulit dideteksi jika lebih banyak karya dimasukkan ke dalam bank data yang lebih besar.
Para ahli mengatakan, negara-negara besar seperti China cenderung memprioritaskan sentralisasi kekuasaan dari perusahaan teknologi ketika merancang peraturan dan fokus menjadi yang terdepan dalam kompetisi teknologi global. Negara tidak berfokus pada hak-hak individu.
Baca juga: Kecerdasan Artifisial: Alat atau Ancaman?
Jika negara-negara lain baru sebatas protes, mogok, dan membuat peraturan yang mengendalikan AI, Korea Selatan sudah selangkah lebih maju. Seoul sudah memenjarakan orang yang menggunakan AI untuk membuat gambar-gambar eksploitatif terhadap anak-anak. CNN menyebutkan ini kasus pertama penggunaan AI yang diperkarakan dan dijatuhi hukuman.
Pelaku berusia 40-an tahun yang tidak disebutkan namanya itu dihukum 2,5 tahun penjara oleh Pengadilan Distrik Busan dan Kantor Jaksa Penuntut Umum Busan. Dia membuat sekitar 360 gambar yang dihasilkan AI pada April 2023. Untunglah, gambar-gambar itu belum didistribusikan dan sudah disita polisi.
Kasus itu menunjukkan, materi pelecehan seksual dengan menggunakan citra buatan AI bisa terlihat nyata sebagai gambar anak-anak. Kasus itu juga menunjukkan, AI dapat dimanipulasi untuk membahayakan keamanan, terutama perempuan dan anak.
Kasus serupa terjadi di Spanyol pada awal September. Aparat Spanyol sedang menyelidiki citra rekayasa AI. Dalam gambar itu, terlihat anak-anak melepas pakaian.
Di kasus lain, seorang pria mencoba memeras perempuan dengan gambar hasil rekayasa AI. Di citra rekayasa itu, terlihat korban sedang telanjang.
Baca juga: Kecerdasan Buatan Mulai Menelan Korban
Bahaya rekayasa citra AI bukan hanya dalam bentuk foto atau ilustrasi. Ada video rekayasa atau dikenal pula dengan istilah deepfake. Video hasil rekayasa itu terlihat nyata. Sebagian menunjukkan video perempuan melakukan hal tidak senonoh dalam kondisi tanpa baju. Kecuali wajah, bagian lain dari video itu hasil rekayasa AI.
Pada Februari 2023, ada seorang terkenal menunjukkan video sejenis kepada banyak orang di internet. Wajah di dalam video itu adalah rekan pria tersebut. Video itu nyaris sulit dikenali sebagai hasil rekayasa mesin AI. Jurnalis pelacak deepfake, Samantha Cole, menyebut bahwa pembuat video sejenis memang kerap membuat video pornografi perempuan tanpa persetujuan korban.
Pelantar untuk siaran video, Twicth, menanggapi kondisi itu dengan mengetatkan kebijakan internal. Manajemen Twitch menyebut video-video rekayasa AI menjengkelkan dan melanggar hukum.
Pelantar lain, yaitu Tiktok, juga memperbarui aturan karena ada hasil rekayasa AI. Tiktok membatasi penggunaan deepfake di pelantar mereka. (AP/AFP)