Kecerdasan buatan menghadirkan peluang mengubah cara mengalokasikan kredit dan risiko, serta untuk menciptakan sistem yang lebih adil dan lebih inklusif. Namun, masih ditemukan bias dalam algoritma di industri keuangan.
Oleh
ANDREAS MARYOTO
·4 menit baca
Kompas/Hendra A Setyawan
Sophia, robot yang didukung dengan teknologi kecerdasan buatan (AI) yang diaktifkan pada 2016 dan diciptakan oleh perusahaan Hanson Robotics yang berbasis di Hong Kong, saat melakukan wawancara khusus dengan media pada CSIS Global Dialogue 2019 di Jakarta, Senin (16/9/2019). Sophia diperkenalkan sebagai wujud masa depan teknologi AI, yaitu saat manusia dan robot dapat bekerja sama di berbagai bidang.
Seorang rekan yang bekerja di industri keuangan menceritakan bahwa sejumlah figur publik lebih cepat mendapat persetujuan untuk mendapatkan layanan dibandingkan orang kebanyakan. Melalui fasilitas kecerdasan buatan, mereka bisa mendapat penilaian dan kepastian lebih cepat. Bias algoritma di industri keuangan makin menjadi perhatian sejumlah kalangan.
Di negara lain, masalah ini sudah diangkat sejak beberapa tahun lalu. Tahun 2019 laman BBC mengisahkan pasangan suami istri di Amerika Serikat yang menyebut ada masalah dalam keputusan pemberian kredit untuk mereka.
Jamie Heinemeier Hansson memiliki nilai kredit yang lebih baik daripada suaminya, David, pengusaha teknologi. Mereka memiliki bagian yang sama dalam aset properti mereka dan mengajukan pengembalian pajak bersama.
Akan tetapi, David diberi izin untuk meminjam 20 kali lipat jumlah di Apple Card-nya daripada yang diberikan kepada istrinya. Lebih aneh lagi, bahkan salah satu pendiri Apple, Steve Wozniak, mencuit di akun Twitter-nya bahwa hal yang sama terjadi pada dia dan istrinya meskipun tidak memiliki rekening bank atau aset terpisah.
Kasus ini menjadi bahan penyelidikan otoritas. Salah satu dugaan adalah umpan data yang mungkin tidak ada intensi untuk membuat kesalahan, tetapi akibat pemrograman yang kurang kompleks hingga data yang diambil sejak awal telah memunculkan masalah.
Setelah itu persoalan bias algoritma ini menjadi pembahasan sejumlah kalangan, baik otoritas, ahli, dan juga konsultan. The Brooking Institution membuat laporan berjudul ”Reducing Bias in AI-based Financial Service”. Di dalam pengantarnya, mereka menyebut kecerdasan buatan menghadirkan peluang untuk mengubah cara kita mengalokasikan kredit dan risiko, serta untuk menciptakan sistem yang lebih adil dan lebih inklusif.
Kecerdasan buatan menghadirkan peluang untuk mengubah cara kita mengalokasikan kredit dan risiko, serta untuk menciptakan sistem yang lebih adil dan lebih inklusif.
Kecerdasan buatan mampu menghindari pelaporan kredit tradisional dan sistem penilaian yang membantu melanggengkan bias yang ada selama ini. Akan tetapi, kecerdasan buatan malah dapat membawa kita ke arah lain, yaitu memperburuk bias yang ada, menciptakan siklus yang memperkuat alokasi kredit yang bias, dan sambil terus membuat diskriminasi dalam pemberian pinjaman. Akankah kita mendapatkan dampak positif, memperburuk sisi negatif, atau mempertahankan status quo dengan merangkul teknologi baru?
Belakangan, kritik tajam terus dilontarkan terhadap penggunaan kecerdasan buatan di industri keuangan. Dalam sebuah tulisan di MIT Technology Review disebutkan, implikasi penggunaan kecerdasan buatan sangat mencolok, yaitu algoritma yang dipandang lebih adil ternyata tidak akan menyelesaikan masalah.
Bias dan catatan kredit yang tidak merata telah menjadi isu hangat selama beberapa waktu. Mereka kemudian membuat percobaan skala besar dengan melihat aplikasi pinjaman jutaan orang secara langsung.
Skor kredit berasal dari pengumpulan berbagai data sosial-ekonomi, seperti riwayat pekerjaan, catatan keuangan, dan kebiasaan pembelian, menjadi satu nomor. Selain memutuskan aplikasi pinjaman, skor kredit sekarang digunakan untuk membuat banyak keputusan yang mengubah hidup, termasuk keputusan tentang asuransi, perekrutan, dan perumahan.
Untuk mengetahui mengapa kelompok minoritas dan mayoritas diperlakukan secara berbeda oleh pemberi pinjaman hipotek, peneliti Laura Blattner dan Scott Nelson mengumpulkan laporan kredit untuk 50 juta konsumen AS yang dianonimkan.
Mereka menempeli setiap konsumen dengan detail data sosial ekonomi mereka yang diambil dari kumpulan data pemasaran, akta properti mereka, transaksi hipotek, dan data tentang pemberi pinjaman hipotek yang memberi mereka kredit.
Di dalam salah satu kesimpulan, mereka menyebutkan data yang tersedia menunjukkan ketidakakuratan dan ketidakkompletan. Mereka kemudian mengatakan, sebelum pemrosesan, data yang ada sudah bermasalah. Keadaan ini tidak dapat diperbaiki dengan membuat algoritma yang lebih baik.
Oleh karena itu, lembaga keuangan cenderung memberikan pinjaman kepada orang yang salah dan sebagian dari populasi tidak pernah mendapat kesempatan untuk mengumpulkan data yang dibutuhkan untuk memberi mereka pinjaman pada masa depan. Padahal, data yang lengkap akan makin membuat keputusan secara tepat.
Dengan kecerdasan buatan, industri keuangan harus bisa mengalokasikan kredit dengan cara yang lebih akurat dan meningkatkan efisiensi.
Blattner dan Nelson kemudian mencoba mengukur seberapa besar dampak dari umpan data yang bermasalah ini. Mereka membangun simulasi alat prediksi pemberi pinjaman hipotek. Mereka memasukkan keputusan pinjaman hipotetis ini ke dalam simulasi mereka dan mengukur perbedaan antarkelompok.
Mereka menemukan misalokasi kredit ketika keputusan tentang pelamar minoritas dan berpenghasilan rendah diasumsikan seakurat keputusan untuk orang kaya. Mereka mengkritik ketidakakuratan data yang sangat merugikan.
KOMPAS/JANNES EUDES WAWA
Robot ini mampu memilah bahan makanan di pabrik sehingga waktu pengerjaan pun lebih pendek. Ini bagian dari kecerdasan buatan yang diperkenalkan Panasonic dalam pameran di Tokyo tersebut.
Upaya perbaikan terhadap fasilitas kecerdasan buatan terus dilakukan. Belakangan, sejumlah ahli memberikan saran. Senior Fellow Economic Studies The Brooking Institution Aaron Klein di dalam salah satu tulisannya mengatakan, penggunaan kecerdasan buatan harus meningkatkan akurasi dan mengurangi bias.
Dengan kecerdasan buatan, industri keuangan harus bisa mengalokasikan kredit dengan cara yang lebih akurat dan meningkatkan efisiensi. Konsumen juga menikmati peningkatan ketersediaan kredit dengan persyaratan yang lebih akurat dan dengan bias yang lebih sedikit.
Skenario optimistis ini sangat mungkin dilakukan mengingat sumber bias yang signifikan dalam pemberian pinjaman berasal dari informasi yang digunakan. Oleh karena itu, agar efisien dan bias berkurang sebaiknya digunakan data penjaminan arus kas.
Bentuk penjaminan baru ini menggunakan saldo bank aktual pemohon selama beberapa jangka waktu sebagai lawan dari model berbasis skor kredit saat ini yang sangat melihat apakah seseorang memiliki kredit pada masa lalu dan atau apakah seseorang pernah berbuat curang?
/https%3A%2F%2Fkompas.id%2Fwp-content%2Fuploads%2F2018%2F11%2F72954028_1542718377.jpg){kind=logo}
