Perkembangan kecerdasan buatan (AI) meningkatkan risiko ”deepfake”. Algoritma AI semakin menyulitkan membedakan gambar, video, atau rekaman audio dengan asli.
Oleh
MEDIANA
·5 menit baca
MEDIANA
Kantin di kantor Tiktok Singapura, Kamis (2/11/2023).
Pada pekan keempat Oktober 2023, masyarakat Indonesia dikejutkan dengan konten video Presiden Joko Widodo sedang menyampaikan pidato berbahasa Mandarin dengan fasih. Konten ini muncul dan viral di berbagai platform digital.
Tak lama setelah viral itu muncul, Direktur Jenderal Aplikasi Informatika Kementerian Komunikasi dan Informatika (Kemenkominfo) Semuel Abrijani Pangerapan segera menegaskan bahwa video itu merupakan hasil suntingan yang menyesatkan. Hasil penelusuran Tim AIS (pengais konten negatif), Kemenkominfo menemukan kesamaan dengan video yang diunggah oleh kanal Youtube ”The US-Indonesia Society (USINDO)” pada 13 November 2015.
”Secara visual, video tersebut identik tetapi telah disunting sedemikian rupa yang (kami) duga memanfaatkan teknologi deepfake atau sejenis kecerdasan buatan yang digunakan untuk membuat gambar, audio, dan video hoaks yang meyakinkan,” ujarnya, dalam siaran pers 26 Oktober 2023.
Video yang sebenarnya ada dalam tautan https://usindo.org/gala/dinner-in-honor-of-president-joko-widodo/. Dalam tautan ini, Presiden tidak menggunakan bahasa Mandarin saat berpidato. Dengan demikian, viral video Presiden berpidato dengan bahasa Mandarin yang fasih adalah bentuk disinformasi.
Berangkat dari kejadian itu, Kemenkominfo mengimbau masyarakat agar semakin berhati-hati. Apalagi informasi semakin dapat dimanipulasi dengan teknologi deepfake. Masyarakat juga diharapkan tidak ikut menyebarluaskan konten hoaks atau disinformasi dalam bentuk apa pun lewat platform digital.
Teknologi deepfake telah mampu menciptakan gambaran orang dan suara mereka yang realistis, tetapi salah. Kini, dengan maraknya model teknologi kecerdasan buatan generatif dan chatbot konsumen, seperti ChatGPT, teknologi deepfake menjadi lebih meyakinkan dan lebih mudah tersedia dalam skala besar.
Mengutip The Financial Times, penyedia teknologi ExpressVPN menyatakan bahwa saat ini terdapat jutaan deepfake daring, naik dari sekitar 15.000 deepfake pada 2019. Dilihat dari sisi bisnis, survei yang dilakukan oleh perusahaan perangkat lunak Regula menyatakan, sekitar 80 persen perusahaan menyebut deepfake suara atau video merupakan ancaman nyata terhadap operasional mereka.
Melalui artikel How Can We Combat the Worrying Rise in the Use of Deepfakes in Cybercrime yang diunggah oleh Forum Ekonomi Dunia (WEF) di blognya, 19 Mei 2023, WEF menyatakan bahwa deepfake berpotensi merusak hasil pemilu, stabilitas sosial, dan bahkan keamanan nasional, khususnya dalam konteks kampanye disinformasi. Dalam beberapa kasus, deepfake digunakan untuk memanipulasi opini publik atau menyebarkan berita palsu yang menimbulkan ketidakpercayaan dan kebingungan di kalangan masyarakat. Deepfake juga menimbulkan kerugian bagi bisnis. Pada tahun lalu, 26 persen perusahaan kecil dan 38 persen perusahaan besar di Amerika Serikat mengalami penipuan deepfake yang mengakibatkan kerugian hingga 480.000 dollar AS.
Untuk mengatasi ancaman yang muncul ini, WEF menyarankan pentingnya terus mengembangkan dan meningkatkan teknologi deteksi deepfake. Solusi potensial lainnya adalah dengan meningkatkan literasi media dan pemikiran kritis. Setiap perusahaan platform media sosial memiliki kebijakan sendiri dalam menyikapi dan menangani fenomena itu.
MEDIANA
Salah satu pojok di kantor Tiktok di Singapura. Terdapat ruangan tertutup untuk rapat. Ada juga ruangan terbuka dengan logo Tiktok, Kamis (2/11/2023).
Di Tiktok, misalnya. Head of Communications Tiktok Indonesia Anggini Setiawan mengatakan, perusahaan tidak menilai fenomena deepfake atau kecerdasan buatan secara ”hitam dan putih”. Sebab, secara teknologi, deepfake cukup kompleks.
”Kami berusaha mencari titik keseimbangan dalam melihat perkembangan teknologi kecerdasan buatan. Kecerdasan buatan secara esensi bisa dipakai mendorong kreativitas. Maka, perusahaan berkomitmen meminta para kreator patuh menggunakan metode labeling ketika memproduksi konten memakai kecerdasan buatan dan mengikuti Panduan Komunitas Tiktok,” ujarnya di sela-sela mendampingi sejumlah media dari Indonesia berkunjung ke kantor Tiktok di Singapura, Kamis (2/11/2023).
Tidak semua konten deepfake buruk. Ada pula konten deepfake bernuansa hiburan. Apabila ada konten video yang diproduksi memakai teknologi kecerdasan buatan, lalu dikasih label, tetapi ternyata informasi yang terkandung di dalam video itu hoaks atau disinformasi, perusahaan segera mempertimbangkan agar konten itu diturunkan (take down).
Dalam laporan Penegakan Panduan Komunitas Tiktok periode 1 April -30 Juni 2023 yang dipublikasikan pada 12 Oktober 2023, total video yang ditangguhkan, video ditangguhkan oleh otomatisasi, dan video yang dipulihkan setiap triwulan terlihat fluktuatif. Pada periode April-Juni 2023, khususnya, di tingkat global, jumlah video yang ditangguhkan mencapai 106,47 juta, video ditangguhkan oleh otomatisasi 66,44 juta, dan video yang dipulihkan 6,75 juta video.
Dalam laporan yang sama, Tiktok juga melampirkan distribusi kebijakan penghapusan konten video baik dilakukan secara otomatis atau oleh moderator (manusia). Sebuah video dapat melanggar beberapa kebijakan. Pada periode April-Juni 2023, di tingkat global, 39,1 persen video dihapus karena tema sensitif dan dewasa, 28 persen video dihapus karena aktivitas komersial dan barang diatur, 14,5 persen video dihapus karena alasan keamanan dan keberadaban. Lalu, 10,1 persen video dihapus karena terkait kesehatan mental dan perilaku, 7,1 persen dihapus karena isu privasi dan keamanan, serta 1,3 persen dihapus karena alasan integritas dan keaslian.
Di Indonesia, pada periode April-Juni 2023, total video yang ditangguhkan oleh Tiktok mencapai 11,408 juta video. Tingkat penghapusan proaktif di negara ini sebesar 98,9 persen, tingkat penghapusan sebelum dilihat siapa pun 87,7 persen, dan tingkat penghapusan dalam 24 jam mencapai 95,6 persen.
Outreach and Partnerships Manager, Trust and Safety di Tiktok Indonesia Anbar Jayadi yang ditemui di Singapura mengatakan, misi Tiktok adalah untuk menginspirasi kreativitas dan membawa kebahagiaan. Dalam melindungi pengguna, mekanisme Tiktok selalu mengandung tiga unsur, yaitu kebijakan dan kontrol; teknologi dan manusia; serta adaptasi kebudayaan setempat.
Sesudah sebuah video diproduksi oleh kreator dan akan tayang, biasanya ada waktu jeda di Tiktok. Waktu jeda ini dipakai untuk moderasi konten apakah sesuai Panduan Komunitas Tiktok atau tidak. Tiktok mengombinasikan kerja dari mesin dan manusia untuk moderasi. Konten video yang diproduksi dan terlihat ada/memakai senjata, alkohol, bendera ekstremis, dan asap biasanya akan langsung diturunkan sehingga tidak jadi tayang. Adanya peran manusia sebagai moderasi konten bertujuan memperkuat deteksi konteks dari sebuah konten yang akan ditayangkan oleh Tiktok.
Dengan maraknya disinformasi konten, apa pun bentuk dan cara produksinya, Tiktok telah bekerja sama dengan berbagai mitra dan ahli. Sebagai contoh, dengan Masyarakat Anti Fitnah Indonesia (Mafindo). Dari mereka, Anbar menyampaikan bahwa Tiktok juga belajar tren disinformasi yang sedang berlangsung.
