Salah soal Rasial, Google Hentikan Fungsi Gambar Orang pada AI ”Gemini”

Digadang-gadang membentuk masa depan, AI sebenarnya rentan keliru, bahkan untuk isu sensitif seperti ras dan agama.

AP PHOTO/RICHARD DREW

Logo Google ditampilkan saat pencarian di New York, AS, 11 September 2023. Pada 22 Februari 2024, Google untuk sementara menghentikan chatbot kecerdasan buatan Gemini untuk menghasilkan gambar orang.

Google menghentikan sementara aplikasi percakapan kecerdasan buatan atau AI Gemini untuk menghasilkan gambar orang. Langkah ini diambil sehari setelah Gemini melakukan kesalahan yang menyerempet isu rasialisme.

Hingga Minggu (25/2/2024), Gemini belum bersedia membuat gambar orang lagi, bahkan sekadar kerumunan orang dari jauh. Saat Kompas memberikan perintah untuk menggambarkan kerumunan warga, AI besutan Google itu tak melakukannya.

Baca juga: Kecerdasan Buatan Generatif Menjadi Fokus Investasi 2024

Gemini hanya merespons dengan menyebut sedang berupaya meningkatkan kemampuan untuk memberikan gambar manusia. ”Kami berharap fitur ini segera kembali dan akan memberi tahu Anda dalam rilis terbaru jika fitur ini kembali,” sebut aplikasi obrolan itu.

ARSIP IRWANDI

Imaji fotografik dengan kata kunci fotografer abad ke-19 dan 20. Dibuat dengan kecerdasan buatan DALL-E-2.

Pekan ini, Gemini menggambarkan adegan sosok dalam konteks sejarah dengan bias rasialisme. Pengguna Gemini mengunggah adegan historis yang seharusnya didominasi orang kulit putih. Namun, Gemini menggambarkannya dengan sosok-sosok orang dengan beragam warna kulit.

Unggahan dari tangkapan layar itu menimbulkan kritik. Publik pengguna Gemini bertanya-tanya, apakah Google menambahkan koreksi berlebihan terkait keberagaman ras dan warna kulit sehingga justru memunculkan risiko bias rasial dalam model AI itu.

Kami berharap fitur ini segera kembali dan akan memberi tahu Anda dalam rilis terbaru jika fitur ini kembali.

Google sudah meminta maaf atas ketidakakuratan dalam penggambaran sejarah yang dibuat Gemini tersebut. Dalam pernyataan yang diunggah di media sosial X, mereka mengatakan telah berupaya untuk mengatasi masalah terkini dalam fitur pembuatan gambar Gemini itu.

”Untuk sementara, kami menghentikan sementara pembuatan gambar manusia oleh Gemini dan segera kembali merilis versi yang lebih baik,” kata pernyataan Google, Jumat (23/2/2024).

MIDJOURNEY/KOMPAS/HERU SRI KUMORO

Visual yang dihasilkan Midjourney dengan memasukkan perintah "beautiful girl wearing casual dress reading the newspaper 'KOMPAS'on the beach under a coconut tree with the headline AI in the Visual World, realistic, beautiful scenery, 4K, mini table with coffe and bread, breakfast, sharp".

Google mengatakan, mereka sadar bahwa Gemini punya ketidakakuratan dalam beberapa penggambaran pembuatan adegan bersejarah. Mereka berjanji untuk segera bekerja memperbaikinya.

Stereotip ras

Sebelumnya, sebuah penelitian menunjukkan bahwa AI pembuat gambar memang dapat memperkuat stereotip suatu ras dan gender tertentu. Keputusan AI ini ditentukan oleh data yang mereka terima selama masa pelatihan.

Contohnya, seluruh AI pembuat gambar saat ini akan cenderung menampilkan pria berkulit cerah saat diminta untuk membuat gambar orang dalam berbagai konteks dan perintah tanpa filter identitas.

Gemini dapat menghasilkan adegan gambar banyak orang, yang menurut Google secara umum sudah baik, karena orang-orang di seluruh dunia menggunakan sistem ini. Akan tetapi, ada kesalahan yang membuat hasilnya meleset dari sasaran.

MIDJOURNEY/KOMPAS/WISNU WIDIANTORO

Visual dari Midjourney dengan perintah "tour de france photographed using panning technique, morning, sharp, bicycle race, real picture".

Peneliti pada Universitas Washington, Sourojit Ghosh, yang mempelajari bias dalam generator gambar AI, mengatakan, dirinya mendukung Google untuk menghentikan sementara pembuatan wajah orang pada Gemini. Namun, Ghosh menilai akan sulit bagi Google untuk meluruskan dampak buruk dari pendapat dan opini warga atas kekeliruan yang telah dilakukan Gemini itu.

Wacana di media sosial yang beredar saat ini, antara lain, Google telah dengan sengaja menghapuskan orang kulit putih dari sejarah. Dugaan lain adalah Gemini menolak menampilkan wajah orang kulit putih.

Baca juga: Kecerdasan Buatan Merambah Dinamis dalam Kehidupan Sehari-hari

”Cepatnya penilaian dan respons ini beredar dibandingkan dengan banyaknya literatur dan penelitian yang menunjukkan sebenarnya orang-orang yang secara tradisional terpinggirkan lebih mudah terhapus oleh model seperti ini, menurut saya, agak sulit untuk diluruskan,” katanya

AFP/NOAH BERGER

Seorang pekerja melintasi logo Google di Bay View, California, Amerika Serikat, 27 Juni 2022.

Ghosh mengatakan, kemungkinan besar Google dapat menemukan cara untuk memberi filter tanggapan agar mencerminkan konteks historis yang akurat dari permintaan pengguna. Namun, akan tetap sulit membuat akurasi dari gambar dan wacana yang sudah ada di masyarakat selama beberapa generasi. ”Perbaikan dampak buruk dari penilaian orang ini memerlukan lebih dari sekadar perbaikan teknis,” ujarnya.

Menurut Ghosh, AI pembuat gambar adalah cerminan dari masyarakat itu sendiri. Dengan demikian, tak mungkin sebuah AI pembuat gambar dapat secara otomatis selalu akurat dalam menampilkan gambar yang tidak menimbulkan kekeliruan representasi, misalnya dalam hal ras atau warna kulit. (AP)