Mesin Kecerdasan Buatan Bakal Peduli dengan Perbedaan Budaya

Pengguna benar-benar tenggelam dengan alat kecerdasan buatan yang dibikin dengan latar belakang budaya tertentu.

KOMPAS/NINA SUSILO

Wakil Presiden Maruf Amin meninjau fasilitas kesehatan di RSD KRMT Wongsonegoro, Semarang, Jawa Tengah, Jumat (26/1/2024) sore. Dua robot disiapkan untuk membantu mengarahkan pasien di rumah sakit.

Sebuah penelitian soal pengaruh latar belakang budaya tengah dilakukan dalam pengembangan robot. Para peneliti meyakini bahwa selama ini interaksi manusia dengan produk kecerdasan buatan memiliki bias dengan kebudayaan tertentu. Input yang masuk secara umum jika menggunakan teks, sekitar 59 persen berbahasa Inggris. Otomatis pengaruh budaya Barat hinggap di dalam produk kecerdasan buatan dari benua ini.

Para peneliti ingin agar latar belakang berbagai budaya bisa melekat dalam produk kecerdasan buatan sehingga output fasilitas kecerdasan buatan lebih akurat. Salah satu riset yang berupaya agar produk kecerdasan buatan ”peduli” dengan latar belakang budaya bernama proyek Culture-Aware Robots and Environmental Sensor Systems for Elderly Support (Caresses) atau robot yang sadar budaya dan sistem sensor lingkungan untuk dukungan orang lansia.

Caresses adalah proyek internasional multidisiplin yang bertujuan merancang robot perawatan pertama yang menyesuaikan cara mereka berperilaku dan berbicara dengan budaya orang yang mereka bantu. Salah satu yang penting adalah aspek latar belakang budaya orang yang diajak berkomunikasi. Proyek ini didanai oleh Uni Eropa dan Kementerian Dalam Negeri dan Komunikasi Jepang.

Di dalam laman The Conversation disebutkan, proyek ini cocok dengan bidang baru ”robotika budaya” yang bertujuan untuk merancang robot yang dapat mempertimbangkan latar belakang budaya orang yang mereka ajak bicara dan menyesuaikan perilaku mereka. Produk kecerdasan buatan ini berusaha memahami latar belakang lawan bicaranya.

Sebuah robot mengobrol tentang perang dengan seorang pria tua dari Inggris. Robot tersebut memiliki sikap ceria dan suara bernada tinggi yang menyenangkan. Robot tersebut—mungkin karena usia pria tersebut—mulai bertanya kepadanya tentang ingatannya tentang perang dunia kedua. ”Tolong beri tahu saya hal tersulit apa yang harus Anda dan keluarga Anda lalui?” Pria tua itu melanjutkan dengan berbicara tentang bagaimana ayahnya berada di Royal Air Force dan mereka tidak bertemu dengannya selama hampir empat tahun.

Kita tentu bertanya, mengapa robot terus terang bertanya kepadanya tentang salah satu pengalaman paling traumatis yang pernah dia alami? Di sinilah letak kemampuan robot yang telah ”diisi” dengan pengetahuan budaya sehingga bagi orang Inggris, pertanyaan itu biasa saja dan tidak membuat tersinggung. Akan tetapi, bagi orang lain, pertanyaan itu mungkin bisa digolongkan pertanyaan sensitif yang bisa membuat marah.

AFP/AXEL HEIMKEN

Dalam sebuah foto yang diambil pada 17 April 2023, seorang perempuan berinteraksi dengan robot karya Devanthro, The Robody Company, di pameran teknologi Hanover, di Hanover, Jerman.

Baca juga: Kecerdasan Buatan Kian Tak Terbendung

Produk kecerdasan buatan memang diharapkan sensitif dengan budaya lain hingga kemungkinan bias bisa dihindarkan. Bias budaya dalam pengembangan kecerdasan buatan sudah lama menjadi perhatian banyak pihak. Mereka menyebutkan, himpunan data yang digunakan untuk mendidik mesin kecerdasan berasal dari data yang sudah membawa bias.

Dalam pengembangan kecerdasan buatan generatif dikenal model bahasa besar (LLM) yang merupakan program kecerdasan buatan pembelajaran mendalam (deep learning), seperti ChatGPT OpenAI. Dalam pembelajaran mendalam, faktor manusia menentukan dalam memastikan kemampuan kecerdasan buatan, seperti memberikan himpunan data yang digunakan dan perbaikan-perbaikan jika ada kesalahan dalam pengembangan sistem.

Miskomunikasi

Assistant Professor Computer Science dari University of British Columbia,Vered Shwartz, dalam salah satu tulisannya mengatakan, kemampuan LLM telah berkembang cukup luas, mulai dari menulis esai dengan lancar, koding, hingga menulis kreatif. Jutaan orang di seluruh dunia menggunakan LLM, dan tidak berlebihan jika dikatakan bahwa teknologi ini mengubah pekerjaan, pendidikan, dan masyarakat. LLM dilatih dengan membaca teks dalam jumlah besar serta belajar mengenali dan meniru pola dalam data. Hal ini memungkinkan mereka menghasilkan teks yang koheren dan mirip manusia tentang topik apa pun.

Akan tetapi, ia menekankan, budaya memainkan peran penting dalam membentuk gaya komunikasi dan pandangan dunia kita. Sama seperti interaksi manusia lintas budaya yang dapat menyebabkan miskomunikasi, pengguna dari berbagai budaya yang berinteraksi dengan alat kecerdasan buatan percakapan mungkin merasa disalahpahami dan menganggapnya kurang berguna ketika alat itu disusun dengan latar belakang budaya tertentu.

Agar lebih dipahami dengan alat kecerdasan buatan, pengguna berusaha menyesuaikan gaya komunikasi mereka dengan cara yang mirip dengan bagaimana orang belajar aksen asing untuk mengoperasikan asisten pribadi, seperti Siri dan Alexa. Orangnya yang harus berubah, bukan alatnya yang dididik agar paham latar belakang pengguna. Karena semakin banyak orang mengandalkan LLM untuk mengedit tulisan, mereka cenderung menyatukan cara kita menulis. Seiring waktu, akibatnya LLM berisiko menghapus perbedaan budaya. Pengguna benar-benar tenggelam dengan alat kecerdasan buatan yang dibikin dengan latar belakang tertentu.

AFP/ANTHONY WALLACE

Penjaga stan mendukung tangan robot humanoid Pilot Robot yang diproduksi oleh KAIST Institute for Robotics (KIR), yang dipamerkan di Pameran Dirgantara dan Pertahanan Internasional Seoul (ADEX) di Seongnam, Seoul selatan, 18 Oktober 2023.

Berbagai upaya tengah dilakukan agar bias itu tidak menggerus perbedaan. Apalagi latar belakang budaya kerap menghasilkan pemikiran baru sehingga bisa memunculkan inovasi.

Kembali ke robot di atas, sejumlah penelitian telah mengeksplorasi perbedaan budaya seperti mengenai ruang pribadi, ekspresi wajah, dan elemen unik manusia lainnya dalam hubungan interpersonal. Budaya yang berbeda juga menafsirkan ekspresi wajah secara berbeda. Sebuah penelitian menemukan bahwa manusia lebih mampu memahami robot jika robot tersebut berkomunikasi menggunakan ekspresi wajah yang mereka kenal.

Meski telah banyak dilakukan riset tentang bias itu namun produk kecerdasan buatan masih belum memiliki kapasitas untuk menafsirkan dinamika sosial yang kompleks yang menjadi latar belakang berbagai suku bangsa di dunia. Sepertinya pengembang kecerdasan buatan masih membutuhkan waktu lebih lama agar berbagai bias itu bisa dikurangi.