Agentic AI Sektor Keuangan Bisa Transaksi Sendiri, Regulasi Didorong

JAKARTA – Perkembangan agentic AI sektor keuangan mulai memasuki tahap baru. Teknologi kecerdasan buatan kini tidak hanya digunakan untuk membantu manusia menganalisis informasi atau memberikan rekomendasi, tetapi juga dapat memperoleh kewenangan untuk mengambil keputusan dan menjalankan tindakan secara lebih mandiri.

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengatakan kemampuan tersebut dapat mencakup pelaksanaan transaksi. Karena itu, pemerintah perlu menyiapkan tata kelola dan regulasi sebelum penggunaan AI dengan tingkat otonomi tinggi berkembang semakin luas.

Apa Itu Agentic AI?

Agentic AI merupakan sistem AI yang dirancang untuk melakukan lebih dari sekadar memberikan jawaban.

Sistem tersebut dapat menerima tujuan, menganalisis kondisi, menentukan langkah, lalu menjalankan tindakan berdasarkan kewenangan yang diberikan.

Dalam sektor keuangan, kemampuan ini dapat digunakan untuk membantu proses pengambilan keputusan atau menjalankan aktivitas tertentu secara otomatis.

Perbedaannya dengan AI biasa terletak pada tingkat otonomi yang dimiliki sistem.

Agentic AI Sektor Keuangan Bisa Jalankan Transaksi

Menurut Nezar Patria, agentic AI sektor keuangan dapat melakukan transaksi apabila diberikan otoritas tertentu untuk mengambil keputusan.

Bahkan, dalam skenario tertentu, satu sistem AI dapat berkomunikasi dengan sistem AI lainnya untuk menentukan suatu transaksi.

Perkembangan tersebut membuat hubungan antara manusia, AI, dan sistem keuangan menjadi semakin kompleks.

Jika sebelumnya AI hanya memberikan rekomendasi, keputusan akhir masih berada di tangan manusia.

Kini, sebagian proses tersebut berpotensi dijalankan langsung oleh sistem.

Risiko AI Tidak Lagi Sama

Ketika AI hanya berfungsi sebagai alat bantu, kesalahan sistem masih dapat diperiksa manusia sebelum keputusan dijalankan.

Situasinya berbeda ketika AI memiliki kewenangan untuk mengeksekusi tindakan.

Kesalahan dalam data, model, instruksi, keamanan, atau proses pengambilan keputusan dapat berdampak langsung terhadap transaksi dan konsumen.

Karena itu, tingkat risiko harus diperhitungkan berdasarkan kemampuan dan kewenangan AI.

Regulasi Tidak Bisa Menunggu

Komdigi menilai regulasi perlu disiapkan sebelum teknologi dengan otonomi tinggi digunakan secara luas.

Nezar mengatakan pemerintah perlu mengantisipasi risiko tersebut melalui mitigasi dan aturan yang jelas.

Pendekatan ini penting agar inovasi tetap berkembang tanpa mengabaikan perlindungan konsumen.

Regulasi juga diperlukan untuk menentukan batas yang jelas antara keputusan yang dapat dilakukan AI dan keputusan yang tetap harus mendapatkan persetujuan manusia.

Siapa yang Bertanggung Jawab?

Salah satu pertanyaan terbesar dalam penerapan agentic AI adalah masalah akuntabilitas.

Jika sistem AI melakukan kesalahan dan menyebabkan kerugian, harus ada pihak yang bertanggung jawab.

Karena itu, tata kelola AI tidak cukup hanya membahas kemampuan teknologi.

Aturan juga harus menjelaskan siapa yang mengawasi sistem, bagaimana keputusan dicatat, dan bagaimana konsumen dapat memperoleh perlindungan ketika terjadi masalah.

Pengawasan Manusia Tetap Penting

Komdigi menilai mekanisme pengawasan manusia menjadi salah satu bagian penting dalam pengembangan AI dengan tingkat otonomi tinggi.

Pengawasan tersebut dapat menjadi lapisan kontrol ketika AI mengambil keputusan yang berpotensi menimbulkan dampak besar.

Semakin besar kewenangan AI, semakin penting pula mekanisme pemeriksaan dan pengendalian yang diterapkan.

Keamanan Data Jadi Perhatian

Sektor keuangan berhubungan langsung dengan data dan transaksi yang sensitif.

Karena itu, penerapan agentic AI harus memperhatikan keamanan data sejak tahap perancangan.

Sistem juga harus mampu membatasi akses berdasarkan kewenangan agar AI tidak dapat menjalankan tindakan di luar tujuan yang ditentukan.

AI dan AI Bisa Saling Berkomunikasi

Salah satu perkembangan paling menarik adalah kemungkinan interaksi antarsistem AI.

Nezar menjelaskan bahwa dalam skenario tertentu, AI dapat berkomunikasi dengan AI lain untuk mengambil keputusan transaksi.

Jika teknologi seperti ini berkembang, pengawasan menjadi semakin kompleks karena keputusan tidak selalu berasal dari satu sistem.

Hal tersebut membuat standar keamanan dan audit menjadi semakin penting.

Talenta Keuangan Harus Berubah

Perkembangan agentic AI sektor keuangan juga mengubah kebutuhan tenaga kerja.

Talenta tidak cukup hanya memahami cara menggunakan AI.

Menurut Komdigi, pekerja perlu memahami tata kelola data, manajemen risiko AI, keamanan siber, etika, dan akuntabilitas.

Kombinasi kemampuan teknologi dan pemahaman sektor keuangan akan semakin dibutuhkan.

Indonesia Sedang Menyiapkan Tata Kelola AI

Komdigi menyebut pemerintah telah memiliki Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial sebagai salah satu acuan pemanfaatan AI secara bertanggung jawab.

Pemerintah juga tengah menyiapkan Peta Jalan Kecerdasan Artifisial Nasional serta panduan etika AI.

Kerangka tersebut diharapkan dapat menjadi dasar bagi perkembangan teknologi AI yang lebih aman.

Komdigi dan OJK Perlu Berkolaborasi

Penggunaan AI dalam jasa keuangan melibatkan aspek teknologi sekaligus regulasi sektor keuangan.

Karena itu, kolaborasi antara Komdigi dan Otoritas Jasa Keuangan (OJK) menjadi penting.

Komdigi menyebut kerja sama dapat mencakup penyelarasan prinsip tata kelola, pengembangan talenta, serta pengujian inovasi melalui sandbox lintas sektor.

Dengan pendekatan tersebut, inovasi dapat diuji sebelum digunakan secara lebih luas.

Peluang Besar bagi Industri Keuangan

Meski memiliki risiko, agentic AI juga menawarkan peluang besar.

Sistem yang mampu menjalankan tugas secara otomatis dapat membantu perusahaan meningkatkan efisiensi, mempercepat proses, dan menangani pekerjaan rutin.

Namun, manfaat tersebut harus berjalan bersama pengendalian risiko.

Teknologi yang semakin mandiri membutuhkan aturan yang juga semakin matang.

Tantangan Baru Era AI

Perkembangan agentic AI sektor keuangan menunjukkan bahwa perdebatan mengenai AI sudah bergeser.

Pertanyaannya bukan lagi sekadar apakah AI dapat menghasilkan informasi.

Pertanyaan berikutnya adalah apakah AI boleh mengambil keputusan, menjalankan transaksi, dan bertindak tanpa persetujuan manusia pada setiap tahap.

Jawaban terhadap pertanyaan tersebut akan menentukan bagaimana industri keuangan digital berkembang dalam beberapa tahun mendatang.

Kesimpulan

Agentic AI sektor keuangan membuka peluang baru karena sistem dapat mengambil keputusan dan menjalankan tindakan dengan tingkat kemandirian yang lebih tinggi.

Namun, kemampuan tersebut juga membawa risiko baru. Kesalahan AI dapat berdampak langsung pada transaksi, data, dan konsumen sehingga batas kewenangan, pengawasan manusia, keamanan, serta akuntabilitas harus diperjelas.

Pemerintah Indonesia kini menghadapi tantangan untuk menjaga keseimbangan antara inovasi dan perlindungan publik.

AI semakin pintar mengambil tindakan. Tantangan berikutnya adalah memastikan setiap tindakan AI tetap dapat diawasi, dijelaskan, dan dipertanggungjawabkan.