Membangun landasan etika yang kuat untuk ”metaverse” mengharuskan kita mendahului regulasi mandiri industri sebelum menjadi norma. Kita juga harus memperhatikan bagaimana ”metaverse” sudah menyimpang dari AI.
Oleh
ASWIN RIVAI
·5 menit baca
SUPRIYANTO
Ilustrasi
Banyak perusahaan berusaha membentuk bagaimana realitas virtual dan identitas digital akan digunakan untuk mengatur lebih banyak kehidupan kita sehari-hari, mulai dari pekerjaan dan perawatan kesehatan hingga belanja, bermain gim, dan bentuk hiburan lainnya.
Peluang metaverse tampaknya tidak terbatas, tetapi tanpa adanya pengawasan independen, risiko juga tidak terbatas. Metaverse belum ada di sini, dan ketika tiba, itu tidak akan menjadi domain tunggal yang dikendalikan oleh satu perusahaan mana pun. Facebook ingin menciptakan kesan itu ketika mengubah namanya menjadi Meta, tetapi rebranding-nya bertepatan dengan investasi besar oleh Microsoft dan Roblox.
Lubang dalam Kisah Resesi Metaverse bukanlah konsep baru. Istilah ini diciptakan oleh novelis sci-fi Neal Stephenson dalam bukunya di tahun 1992, Snow Crash, yang menggambarkan distopia hiper-kapitalis di mana umat manusia secara kolektif memilih untuk hidup di lingkungan virtual.
Sejauh ini, pengalamannya tidak kalah dystopian di dunia nyata. Sebagian besar eksperimen dengan lingkungan digital yang imersif telah segera dirusak oleh intimidasi, pelecehan, serangan seksual digital, dan semua pelanggaran lain yang kami kaitkan dengan platform yang ”bergerak cepat dan merusak segalanya”.
Tak satu pun dari ini harus datang sebagai kejutan. Etika teknologi baru selalu tertinggal dari inovasi itu sendiri. Itulah sebabnya pihak independen harus menyediakan model tata kelola lebih cepat daripada nanti sebelum perusahaan yang mementingkan diri sendiri melakukannya dengan mempertimbangkan margin keuntungan mereka sendiri.
Evolusi etika dalam kecerdasan buatan (artificial intellegence/AI) bersifat instruktif di sini. Menyusul terobosan besar dalam pengenalan gambar AI pada 2012, minat perusahaan dan pemerintah di bidang ini meledak, menarik kontribusi penting dari ahli etika dan aktivis yang menerbitkan (dan menerbitkan ulang) penelitian tentang bahaya melatih AI pada kumpulan data yang bias.
Bahasa baru dikembangkan untuk memasukkan ke dalam desain aplikasi AI baru nilai-nilai yang ingin kita junjung tinggi. Karena pekerjaan ini, kita sekarang tahu bahwa AI secara efektif ”mengotomatiskan ketidaksetaraan”, seperti yang dikatakan Virginia Eubanks dari University of Albany, SUNY, serta melanggengkan bias rasial dalam penegakan hukum.
Untuk memperhatikan masalah ini, ilmuwan komputer Joy Buolamwini dari MIT Media Lab meluncurkan Algorithmic Justice League pada 2016. Tanggapan gelombang pertama ini mengarahkan sorotan publik kepada masalah etika yang terkait dengan AI. Tetapi, itu segera dikalahkan oleh dorongan baru dalam industri untuk pengaturan mandiri.
Sebagian besar perusahaan yang mengejar pengembangan AI memiliki model bisnis yang bertentangan dengan standar etika yang diinginkan publik untuk mereka junjung tinggi.
Pengembang AI memperkenalkan perangkat teknis untuk melakukan evaluasi internal dan pihak ketiga, berharap ini akan mengurangi ketakutan publik. Tidak, karena sebagian besar perusahaan yang mengejar pengembangan AI memiliki model bisnis yang bertentangan dengan standar etika yang diinginkan publik untuk mereka junjung tinggi.
Untuk mengambil contoh paling umum, Twitter dan Facebook tidak akan menyebarkan AI secara efektif terhadap berbagai pelanggaran di platform mereka karena hal itu akan merusak ”keterlibatan” (kemarahan) dan dengan demikian keuntungan.
Demikian pula, Twitter, Facebook, dan perusahaan teknologi lainnya telah memanfaatkan ekstraksi nilai dan skala ekonomi untuk mencapai hampir monopoli di pasar masing-masing. Mereka sekarang tidak akan rela menyerahkan kekuatan yang telah mereka peroleh.
Etika AI
Baru-baru ini, konsultan perusahaan dan berbagai program telah memprofesionalkan etika AI untuk mengatasi risiko reputasi dan praktis dari kegagalan etika. Mereka yang bekerja di AI dalam perusahaan Big Tech akan ditekan untuk mempertimbangkan pertanyaan seperti apakah suatu fungsi harus default untuk memilih atau tidak; apakah pantas untuk mendelegasikan tugas ke AI atau tidak; dan apakah data yang digunakan untuk melatih aplikasi AI dapat dipercaya.
Untuk itu, banyak perusahaan teknologi membentuk dewan etika yang seharusnya independen. Namun, keandalan bentuk tata kelola ini telah dipertanyakan menyusul pemecatan profil tinggi dari peneliti internal yang mengangkat kekhawatiran tentang implikasi etis dan sosial dari model AI tertentu.
Baru-baru ini, konsultan perusahaan dan berbagai program telah memprofesionalkan etika AI untuk mengatasi risiko reputasi dan praktis dari kegagalan etika.
Membangun landasan etika yang kuat untuk metaverse mengharuskan kita mendahului regulasi mandiri industri sebelum menjadi norma. Kita juga harus memperhatikan bagaimana metaverse sudah menyimpang dari AI.
Sementara AI sebagian besar berpusat di sekitar operasi perusahaan internal, metaverse jelas berpusat pada konsumen, yang berarti bahwa ia akan datang dengan semua jenis risiko perilaku yang kebanyakan orang tidak akan pertimbangkan. Sama seperti regulasi telekomunikasi (khususnya Bagian 230 dari Undang-Undang Kepatutan Komunikasi AS tahun 1996) menyediakan model tata kelola untuk media sosial, regulasi media sosial akan menjadi model tata kelola default untuk metaverse. Itu seharusnya membuat kita semua khawatir.
Meskipun kita dapat dengan mudah memperkirakan banyak pelanggaran yang akan terjadi di lingkungan digital yang imersif, pengalaman kita dengan media sosial menunjukkan bahwa kita mungkin meremehkan skala yang akan mereka capai dan efek lanjutan yang akan mereka dapatkan.
Akan lebih baik untuk melebih-lebihkan risiko daripada mengulangi kesalahan 15 tahun terakhir. Lingkungan yang sepenuhnya digital menciptakan potensi pengumpulan data yang lebih lengkap, termasuk data biometrik pribadi. Dan karena tidak ada yang benar-benar tahu persis bagaimana orang akan merespons lingkungan ini, ada alasan kuat untuk menggunakan kotak pasir peraturan sebelum mengizinkan peluncuran yang lebih luas.
Mengantisipasi tantangan etika metaverse masih mungkin, tetapi jam terus berdetak. Tanpa pengawasan independen yang efektif, domain digital baru ini hampir pasti akan menjadi nakal, menciptakan kembali semua pelanggaran dan ketidakadilan AI dan media sosial dan menambahkan lebih banyak lagi yang bahkan belum kita perkirakan sebelumnya. Liga Keadilan Metaverse mungkin adalah harapan terbaik kita.
Aswin Rivai, Pemerhati Ekonomi Digital; Dosen FEB UPN Veteran Jakarta
