Hati-hati dengan Foto Sintetis, Jika Tak Cermat, Bisa Terjerat

Foto-foto palsu produksi kecerdasan buatan membanjiri media sosial berbagai platform. Ini berisiko tinggi karena publik tidak siap. Butuh kesadaran dan pendidikan untuk menangkal banjir foto hoaks.

KOMPAS/WAWAN H PRABOWO (WAK)

Kolong jembatan layang di kawasan Rawa Panjang, Kota Bekasi, Jawa Barat, dihiasi mural untuk melawan penyebaran informasi palsu di masyarakat atau hoaks, seperti yang ditemui pada Minggu (28/2/2021).

Ada dua foto menarik. Pertama, mantan Presiden Amerika Serikat, Donald Trump, ditangkap aparat kepolisian New York City dengan cara kasar. Foto berikutnya memperlihatkan Presiden Rusia, Vladimir Putin, mendekam di balik jeruji penjara dengan penerangan remang-remang. Kedua foto ini membanjiri twitter dan platform media sosial lainnya dalam beberapa hari terakhir.

Tak dimungkiri informasi ini menjadi heboh karena saat ini Trump sedang menghadapi kemungkinan tuntutan pidana, dan Putin tengah diincar oleh Pengadilan Kejahatan Internasional. Lembaga itu sudah mengeluarkan surat perintah penangkapan untuk Putin. Kedua berita ini sedang ramai dibicarakan publik dan dinanti-nanti hasil akhirnya.

Hanya saja, kedua foto itu ternyata palsu. Kedua foto itu hanyalah hasil rekaan. Kedua foto itu diproduksi menggunakan generator gambar yang semakin canggih dan bisa diakses oleh siapapun dengan memanfaatkan kecerdasan buatan atau artificial intelligence (AI).

Baca juga: Menyadari Ketidakakuratan Kecerdasan Buatan

Para pakar disinformasi mengkhawatirkan munculnya realitas baru ini. Gelombang foto dan video palsu selalu membanjiri media sosial setelah muncul berita-berita penting. Contohnya, seperti berita Trump dan Putin itu. “Ini menambah kebisingan dan meningkatkan tingkat sinisme. Kita bisa kehilangan kepercayaan pada sistem dan informasi yang kita peroleh,” kata pakar penyebaran informasi yang salah yang juga Guru Besar di University of Washington di Seattle, AS, Jevin West.

Kemampuan memanipulasi foto dan membuat foto atau video palsu sebenarnya bukan hal baru tetapi teknologi aplikasi pembuat gambar kecerdasan buatan Midjourney, DALL-E, dan lain-lain kini lebih mudah digunakan. Mereka bisa dengan cepat menghasilkan foto yang realistis -lengkap dengan latar belakang yang rinci- dalam skala massal. Pengguna hanya perlu menuliskan permintaan teks sederhana.

Sejumlah foto baru-baru ini muncul karena ada versi baru model sintesis teks-ke-gambar dari Midjourney yang mampu, antara lain, menghasilkan gambar yang meyakinkan dengan meniru gaya foto hasil produksi kantor-kantor berita resmi. Versi baru inilah yang digunakan Eliot Higgins, pendiri Bellingcat atau kolektif jurnalisme investigasi yang berbasis di Belanda, untuk membuat foto dramatis dari penangkapan fiktif Trump dan mengunggahnya di twitter.

Unggahan Higgins, The Visuals, sudah dibagikan kembali dan disukai puluhan ribu kali, terutama foto yang menunjukkan penangkapan Trump dengan cara kasar bagaikan menangkap anggota geng. Higgins juga yang membuat foto-foto palsu penangkapan Putin, proses sidang, hingga Putin dipenjara.

Ia mengaku tidak ada niat buruk mengunggah foto-foto itu dan ia terus terang mengaku di twitter-nya bahwa foto-foto unggahannya itu dihasilkan oleh kecerdasan buatan. Akibat ulahnya ini, kini ia tidak bisa masuk ke server Midjourney. “Foto-foto penangkapan Trump itu benar-benar hanya untuk menunjukkan kelebihan dan kekurangan Midjourney dalam menampilkan adegan nyata. Foto-foto itu mulai membentuk semacam narasi saat saya memasukkan perintah ke Midjourney. Jadi, saya merangkainya menjadi narasi dan memutuskan menyelesaikan ceritanya,” tulis Higgins dalam email.

MIDJOURNEY/KOMPAS/HERU SRI KUMORO

Visual ini dihasilkan Midjourney dengan mengolah foto asli yang diunggah ke midjourney untuk digenerate dengan menambahkan perintah; foggy arround the temple, morning lighting, high angle from hills, misty, tropical forest.

Higgins menunjukkan foto-foto itu sebenarnya jauh dari sempurna karena jika dicermati lebih teliti akan terlihat Trump mengenakan sabuk pengaman polisi. Pada foto yang lain, wajah dan tangan Trump terdistorsi. Meski mengaku hanya iseng dan membantu Midjourney, tindakan Higgins itu tidak bisa diterima dan berisiko tinggi.

Baca juga: Foto Jurnalistik dan Tantangan Kecerdasan Buatan

Shirin Anlen, teknolog media di Witness atau organisasi hak asasi manusia berbasis di New York yang berfokus pada bukti visual, mengatakan Higgins tidak bisa hanya berdalih foto-foto itu dibuat oleh kecerdasan buatan dan semata-mata untuk hiburan. Pada banyak kasus, foto dan video seringkali dengan cepat dibagikan lagi oleh orang lain kemana-mana tanpa menyertakan konteksnya.

Dan karena fotonya heboh, banyak orang segera memberi “like” tanpa peduli kebenaran informasinya. Foto penangkapan Trump, yang diunggah Higgins di instagram sudah mengumpulkan lebih dari 79.000 like. “Sekali orang melihat foto, tidak akan bisa lupa,” kata Anlen.

Ada lagi foto lain yang belakangan ini ramai dibagikan di media sosial. Foto Putin sedang berlutut dan mencium tangan Presiden China, Xi Jinping. Foto itu beredar saat Putin menyambut Xi yang datang berkunjung ke Moskwa, pekan lalu. Foto itu kemudian beredar cepat menjadi meme. Tidak jelas siapa yang membuat foto itu atau dengan alat atau aplikasi apa. Akan tetapi yang jelas foto itu palsu karena hasil fotonya kasar. Kepala dan sepatu kedua pemimpin itu sedikit terdistorsi dan interior ruangan di dalam foto itu tidak cocok dengan ruangan tempat pertemuan yang sebenarnya.

Dengan gambar atau foto sintetik yang semakin sulit dibedakan dari aslinya, cara terbaik untuk memerangi misinformasi visual adalah dengan kesadaran dan pendidikan publik yang lebih baik. “Membuat foto-foto seperti itu menjadi semakin mudah dan murah. Jadi, tidak ada cara lain kita harus bekerja keras membuat masyarakat sadar mengenai teknologi seperti ini,” kata West.

Sementara Higgins menyarankan agar perusahaan-perusahaan media sosial mengembangkan teknologi yang bisa mendeteksi gambar atau foto dan video yang dihasilkan kecerdasan buatan dan mengintegrasikannya ke dalam platform mereka. Twitter sudah memiliki kebijakan melarang "media sintetis, yang dimanipulasi, atau di luar konteks" yang berpotensi menipu atau merugikan.

Anotasi dari Catatan Komunitas yang merupakan proyek pengecekan fakta publik, sudah memberikan informasi tambahan bahwa foto-foto Trump itu dibuat oleh kecerdasan buatan. Beberapa foto Trump palsu diberi label “salah” atau “konteks yang hilang” melalui program pemeriksaan fakta pihak ketiga, termasuk di dalamnya Kantor berita Associated Press.

Arthur Holland Michel dari Carnegie Council for Ethics in International Affairs di New York yang fokus pada teknologi baru, khawatir dunia belum siap menghadapi gelombang banjir foto-foto produksi kecerdasan buatan seperti ini. “Dari perspektif kebijakan, saya tidak yakin masyarakat siap menghadapi skala disinformasi yang masif seperti ini. Perlu regulasi atau terobosan teknis yang bisa menghentikan ini,” kata Michel. (AP)