Sisi Gelap Kecerdasan Buatan Generatif

Teknologi gen AI bagai pedang bermata dua. Di tangan penjahat, gen AI dapat digunakan untuk social engineering dengan lebih efektif.

KOMPAS/DITYA DIVERANTA

Senior Vice President Product Management Qualcomm Ziad Asghar mendemokan salah satu aplikasi kecerdasan buatan atau artificial intelligence (AI) generatif gambar Stable Diffusion di Snapdragon Summit, Maui, Hawaii, Amerika Serikat, Rabu (25/10/2023).

Beberapa waktu lalu ramai beredar di media sosial video Presiden Joko Widodo berpidato dalam bahasa Mandarin dengan sangat lancar. Banyak yang terkagum-kagum, tetapi mereka lebih kagum lagi setelah tahu bahwa video itu ternyata hasil suntingan menggunakan teknologi generative artificial intelligence atau gen AI.

Suara, gerakan mulut, dan mimik wajah Presiden Jokowi dalam video tersebut sangat meyakinkan. Gen AI atau kecerdasan buatan generatif adalah cabang kecerdasan buatan yang mengacu pada kemampuan mesin untuk menghasilkan konten yang menyerupai konten buatan manusia.

Per Agustus 2023, jumlah pengguna ChatGPT mencapai 180 juta orang.

Cabang AI ini mulai dikenal luas setelah diluncurkannya ChatGPT pada 2022. Dengan antarmuka chatbot yang mudah digunakan, ChatGPT telah mendemokratisasi gen AI dengan kemampuan menjawab berbagai pertanyaan, menulis program komputer, dan bertindak sebagai ahli yang dapat menyumbang berbagai gagasan yang komprehensif. Per Agustus 2023, jumlah pengguna ChatGPT mencapai 180 juta orang.

Munculnya ChatGPT diikuti berbagai aplikasi Gen AI yang lebih spesifik. Misalnya Midjourney dan DALL-E yang memiliki kemampuan untuk membuat gambar serta Synthesia dan Runway ML untuk menyunting video. Para raksasa perangkat lunak pun mulai menambahkan fitur Gen AI di produk mereka.

SALOMO TOBING

Rico Usthavia Frans

Membantu profesi

Microsoft mengembangkan Copilot yang memungkinkan pengguna MS Office untuk membuat presentasi atau dokumen hanya dengan mendeskripsikan kontennya. Adobe menambahkan fitur Firefly yang memungkinkan pengguna menyunting gambar dengan instruksi sederhana. Google pun mengembangkan fitur Gen AI untuk gmail untuk menulis, menjawab dan meringkas email.

Fenomena ini mirip dengan tren yang terjadi pada tahun 1980-an, di mana komputer mulai menggunakan antarmuka grafis (graphical user interface) sehingga mudah digunakan oleh orang awam. Seperti halnya komputer, ke depan, gen AI akan merambah ke berbagai industri dan aspek kehidupan kita.

Google pun mengembangkan fitur Gen AI untuk gmail untuk menulis, menjawab dan meringkas email.

Dokter akan menggunakannya untuk membantu diagnosis. Pengacara akan memakainya untuk meringkas masalah hukum. Dan, konsultan akan memanfaatkannya untuk melakukan riset dengan cepat.

Berbagai pekerjaan yang tadinya membutuhkan keahlian khusus, seperti penyunting gambar, penyunting video, penulis naskah, dan paralegal, akan terancam seperti halnya pekerjaan juru ketik dan tukang foto yang menjadi kurang diperlukan dengan munculnya pengolah kata dan kamera digital yang mudah digunakan.

Di luar disrupsi lapangan kerja, risiko yang ditimbulkan teknologi gen AI harus kita antisipasi. Berikut ini beberapa hal yang harus diwaspadai terkait dengan penggunaan gen AI di industri keuangan, khususnya perbankan dan fintech.

Teknologi gen AI sangat memungkinkan untuk digunakan oleh perbankan dan fintech untuk melakukan analisis kredit secara otomatis, baik untuk kredit korporasi maupun ritel. Tantangannya, jika keputusan pemberian kredit mengandalkan analisis yang dilakukan mesin menggunakan gen AI, siapa yang akan bertanggung jawab jika terjadi kesalahan?

Jika keputusan pemberian kredit mengandalkan analisis yang dilakukan mesin menggunakan gen AI, siapa yang akan bertanggung jawab jika terjadi kesalahan?

Bagaimana kita bisa mengontrol agar modelnya akurat dan tidak bias terhadap parameter tertentu, seperti parameter etnis? Bagaimana OJK atau auditor melakukan supervisi dan audit? Semua itu perlu dipikirkan dan dikaji dengan saksama.

Pembelajaran dasar gen AI dilakukan dengan data yang besar dan jangka waktu yang lama dengan metode large language model (LLM). Agar dapat digunakan untuk kepentingan yang lebih spesifik, aplikasi gen AI perlu di-finetune dengan pembelajaran menggunakan data yang lebih spesifik.

KOMPAS/ABDULLAH FIKRI ASHRI

Vice President of Alibaba Cloud Intelligence and General Manager of Enterprise Service Cloud William Xiong memaparkan teknologi kecerdasan buatan terkait aktivitas ramah lingkungan dalam temu media di Kota Hangzhou, Provinsi Zhejiang, China, Kamis (28/9/2023).

Berhati-hati

Perbankan dan fintech harus berhati-hati dalam menggunakan data internal untuk mengajar platform gen AI. Jika proses dan kontrolnya kurang baik, ada risiko hasilnya dapat direkayasa-ulang sehingga data yang bersifat pribadi dan sensitif bisa bocor. Penggunaan data pribadi nasabah juga harus dilakukan sesuai dengan peraturan perlindungan data pribadi.

Jika gen AI dipakai untuk membangun layanan nasabah dalam bentuk chatbot atau voicebot, keterbatasan dan potensi biasnya juga harus diwaspadai. Penelitian Universitas Purdue, Amerika Serikat, menyatakan, 52 persen jawaban ChatGPT terhadap pertanyaan bahasa pemrograman ternyata salah, tetapi hanya satu dari tiga orang yang menyadarinya.

Teknologi gen AI bagai pedang bermata dua. Di tangan penjahat, gen AI dapat digunakan untuk melakukan social engineering dengan lebih efektif.

Hal ini menimbulkan potensi terjadinya keterbatasan, bias, dan jawaban yang salah yang tersebar di kalangan pengguna. Oleh karena itu, dalam pembelajaran internal, perbankan dan fintech harus memastikan data dan knowledge management system yang digunakan benar, akurat, dan selalu mutakhir.

Teknologi gen AI bagai pedang bermata dua. Di tangan penjahat, gen AI dapat digunakan untuk melakukan social engineering dengan lebih efektif. Memanfaatkan gen AI, mereka dapat membuat surat elektronik phising yang lebih meyakinkan.

DIAN DEWI PURNAMASARI

Pengunjung mencoba teknologi kecantikan atau pemeriksaan kesehatan kulit dengan bantuan alat kecerdasan buatan (artificial intelligence) yang dipamerkan di stan L’oreal selama acara World Congress of Dermatology 2023 di Singapura 3-8 Juli 2023 lalu.

Kemampuan gen AI untuk memanipulasi wajah dalam bentuk gambar atau video serta menirukan suara dan tingkah laku seseorang dengan metode deep fakes berpotensi dipakai untuk mengelabui pengenalan wajah dan liveness test dalam proses electronic know your customer (e-KYC). Jika ini terjadi, perbankan dan fintech harus mencari cara lain untuk memvalidasi nasabah atau calon nasabah.

Kemampuan gen AI untuk meniru suara dan video juga dapat digunakan untuk menipu nasabah. Penipuan yang sekarang dilakukan secara manual nantinya bisa dilakukan menggunakan robot dengan skala yang lebih besar dan biaya yang lebih murah. Dari sisi teknis, gen AI juga bisa digunakan untuk membantu menembus sistem keamanan perbankan dan fintech menggunakan technical hacking.

Dari sisi teknis, gen AI juga bisa digunakan untuk membantu menembus sistem keamanan perbankan dan fintech menggunakan technical hacking .

Dengan berbagai risiko semacam itu, perbankan dan fintech harus lebih saksama dalam menggunakan teknologi gen AI dan mengantisipasi penyalahgunaan oleh pihak yang berniat jahat. Pemerintah dan regulator pun harus mengantisipasi risiko ini dengan cepat, baik secara umum maupun spesifik, untuk industri perbankan dan fintech.

Perkembangan Gen AI yang pesat seyogianya diimbangi dengan kecepatan pemerintah dalam menerbitkan peraturan. UU Perlindungan Data Pribadi baru diterbitkan pada 2022. Sementara Uni Eropa sudah menerbitkan GDPR (General Data Protection Regulation) sejak 2016. Artinya, pemerintah Indonesia lebih lambat 5-6 tahun dalam menerbitkan undang-undang.

Pemerintah dan regulator pun harus mengantisipasi risiko ini dengan cepat, baik secara umum maupun spesifik, untuk industri perbankan dan fintech.

OJK dan BI, selaku regulator perbankan dan fintech, juga hendaknya mulai mengantisipasi penggunaan Gen AI oleh perbankan dan fintech. Mau tidak mau, Gen AI akan membawa gelombang perubahan.

Tugas kita adalah memanfaatkannya sebaik mungkin untuk kemaslahatan masyarakat dan negara. Pertanyaan bagi pelaku industri, pemerintah, dan regulator bukan sekadar apakah akan memperlambat atau mempercepat pengembangan AI, tapi ke mana pengembangannya harus diarahkan.