Kecerdasan Buatan Melanggengkan Bias Jender terhadap Perempuan

Bias jender menjadi tantangan bagi perempuan dan dilanggengkan kecerdasan buatan.

SEKAR GANDHAWANGI UNTUK KOMPAS

Peluncuran aplikasi MyHealth Diary diadakan di Jakarta, Jumat (1/2/2019).

Persoalan bias jender terhadap perempuan dan anak perempuan di seluruh dunia terjadi di bidang sosial, ekonomi, dan politik. Ketika era kercerdasan buatan (artificial intelligence/AI) kian merasuk dalam kehidupan manusia, ancaman diskriminasi terhadap perempuan nyatanya tetap ada dan dilanggengkan.

Pada Hari Perempuan Internasional yang diperingati pada Jumat (8/3/2024), penelitian UNESCO mengungkapkan ada kecenderungan yang mengkhawatirkan dalam large language models (LLM) atau model bahasa besar di aplikasi AI. Model Bahasa besar ini adalah model deep learning yang sangat besar yang telah dilatih sebelumnya pada sejumlah besar data.

”Setiap hari makin banyak orang yang memakai model bahasa besar dalam pekerjaan, studi, dan di rumah. Aplikasi AI baru ini memiliki kekuatan untuk secara halus membentuk persepsi jutaan orang sehingga bias jender sekecil apa pun dalam kontennya dapat secara signifikan memperbesar kesenjangan di dunia nyata,” kata Direktur Jenderal UNESCO Audrey Azoulay.

Baca juga: Kecerdasan Buatan, dari Etika ke Undang-Undang

Dari riset ini, UNESCO menyerukan kepada pemerintah untuk mengembangkan dan menegakkan kerangka peraturan yang jelas. Adapun perusahaan swasta diminta memantau dan mengevaluasi terus-menerus terhadap bias sistemik sebagaimana tercantum dalam Rekomendasi UNESCO mengenai Etika Kecerdasan Buatan yang diadopsi negara-negara anggota tahun 2021.

Dari kajian berjudul ”Challenging Systematic Prejudices: An Investigation into Bias Against Women and Girls in Large Language Models” atau ”Menantang Prasangka Sistematis: Penyelidikan terhadap Bias terhadap Perempuan dan Anak Perempuan dalam Model Bahasa Besar” didapati model LLM dari sejumlah aplikasi AI open source menghasilkan bias jender, homofobia, dan stereotip rasial.

Perempuan digambarkan lebih sering bekerja dalam peran rumah tangga dibandingkan laki-laki, bahkan empat kali lebih sering menurut satu model. Selain itu, perempuan juga sering dikaitkan dengan kata-kata seperti rumah, keluarga, dan anak-anak, sedangkan nama laki-laki dikaitkan dengan bisnis, eksekutif, gaji, dan karier.

Penelitian itu mengungkap bias sosial yang terus-menerus terjadi dalam model bahasa canggih ini meskipun ada upaya untuk memitigasi masalah itu. Temuan-temuan ini menggarisbawahi pentingnya penelitian berkelanjutan dan intervensi kebijakan untuk mengatasi bias yang semakin buruk seiring dengan integrasi teknologi di berbagai lanskap sosial dan budaya.

Studi UNESCO tersebut melibatkan perguruan tinggi, antara lain, University College London, University of Essex, serta sejumlah pusat penelitian kecerdasan buatan.

Para peneliti meneliti stereotip dalam LLM (alat pemrosesan bahasa alami yang mendukung platform AI generatif yang populer, termasuk GPT-3.5 dan GPT-2 oleh OpenAI, dan Llama 2 oleh META). Hasilnya, ada bias terhadap perempuan dalam konten yang dihasilkan masing-masing model bahasa besar ini.

Dari penelitian didapati, LLM open source, seperti Llama 2 dan GPT-2, dihargai karena gratis dan dapat diakses oleh masyarakat luas. Ini menunjukkan bias jender yang paling signifikan.

”Namun, studi ini juga menyimpulkan bahwa sifat terbuka dan transparan dapat menjadi keuntungan besar dalam mengatasi dan memitigasi bias ini melalui kolaborasi lebih besar di seluruh komunitas riset global dibandingkan model lebih tertutup,” kata Daniel van Niekerk, Peneliti dari University College London.

Terlihat dalam AI, narasi lebih kaya dalam cerita mengenai laki-laki. Hal ini terlihat saat riset yang mengukur keragaman konten dalam teks yang berfokus pada berbagai orang dari beragam spektrum jender, seksualitas, dan latar belakang budaya, termasuk meminta platform itu untuk ”menulis cerita” tentang setiap orang.

Adapun LLM sumber terbuka cenderung memberikan pekerjaan lebih beragam dan berstatus tinggi kepada laki-laki, seperti insinyur, guru, dan dokter. Sebaliknya, sering kali menurunkan perempuan ke peran yang secara tradisional diremehkan atau distigmatisasi secara sosial, seperti pekerja rumah tangga, juru masak, dan pekerja seks komersial.

Cerita-cerita yang dihasilkan tentang anak laki-laki dan laki-laki, misalnya, didominasi kata-kata harta, hutan, laut, petualang, memutuskan, dan ditemukan. Adapun cerita-cerita tentang perempuan paling sering menggunakan kata-kata taman, cinta, merasa, lembut, rambut, dan suami. Perempuan juga digambarkan bekerja dalam peran rumah tangga empat kali lebih sering dibandingkan laki-laki.

”Hingga saat ini, sistem berbasis AI kerap melanggengkan, bahkan memperluas dan memperkuat bias manusia, struktural, dan sosial. Bias-bias ini tak hanya sulit dimitigasi, tetapi juga dapat menimbulkan kerugian pada tingkat individu, kolektif, atau masyarakat,” kata Audrey.

Oleh karena itu, para pelaku AI harus melakukan segala upaya yang wajar untuk meminimalkan dan menghindari penguatan atau melanggengkan penerapan dan hasil yang diskriminatif atau bias di sepanjang siklus hidup sistem AI untuk memastikan keadilan dalam sistem tersebut.

Keterwakilan perempuan

Perjuangan melawan stereotip di AI juga memerlukan diversifikasi perekrutan di perusahaan. Menurut data terbaru, perempuan hanya mewakili 20 persen karyawan yang menduduki jabatan teknis di perusahaan pembelajaran mesin besar, 12 persen peneliti AI, dan 6 persen pengembang perangkat lunak profesional.

Kesenjangan jender di antara penulis yang menerbitkan karya bidang AI juga terlihat jelas. Penelitian menemukan hanya 18 persen penulis di konferensi AI terkemuka ialah perempuan dan lebih dari 80 persen profesor AI adalah laki-laki. Jika sistem tak dikembangkan tim berbeda-beda, kecil kemungkinannya memenuhi kebutuhan pengguna yang beragam dan melindungi hak asasi mereka.

Sistem berbasis AI kerap melanggengkan, bahkan memperluas dan memperkuat bias manusia, struktural, dan sosial. Bias-bias ini tak hanya sulit dimitigasi, tetapi juga dapat menimbulkan kerugian pada tingkat individu, kolektif, atau masyarakat.

Ikhtisar masalah ini mengungkapkan, untuk mengatasi bias AI, harus ada mitigasi bias dari siklus pengembangan AI dan memitigasi dampak buruk dalam konteks penerapan AI. Pendekatan ini tidak hanya memerlukan keterlibatan banyak pemangku kepentingan, tetapi juga pendekatan lebih adil dan bertanggung jawab terhadap pengembangan dan penerapan AI.

Baca juga: Kecerdasan Buatan, Jembatan Masa Depan bagi Kemanusiaan

Secara terpisah, Menteri Komunikasi dan Informatika Budi Arie Setiadi mengutarakan, Indonesia memiliki Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial, seperti dikutip dari Kompas.id (19/12/2023). Surat edaran bersifat panduan etika ini berlaku bagi pelaku usaha dan penyelenggara sistem elektronik publik ataupun privat lokal dan asing yang beroperasi di Indonesia.

KOMPAS/MEDIANA

Kementerian Komunikasi dan Informatika menggelar diskusi kelompok terfokus atau FGD untuk mencari masukan perumusan surat edaran etika kecerdasan buatan di Jakarta, Senin (27/11/2023), di Jakarta.

Dalam surat edaran ini, penyelenggaraan kemampuan kecerdasan buatan mencakup kegiatan konsultasi, analisis, dan pemrograman.

Sementara penggunaannya termasuk himpunan dari mesin pembelajaran, pemrosesan bahasa natural, sistem ahli, deep learning atau metode kecerdasan buatan yang mengajarkan komputer untuk memproses data yang terinspirasi otak manusia, robotik, dan neural networks atau mengenali pola data meniru cara kerja otak.

”Nilai-nilai etika kecerdasan artifisial yang disebut dalam surat edaran meliputi inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, perlindungan data pribadi, pembangunan dan lingkungan berkelanjutan, serta kekayaan intelektual,” papar Budi.