Risiko AI untuk Data Keuangan dan Cara Mengendalikannya

Risiko AI untuk data keuangan adalah kemungkinan sistem AI memberikan angka yang salah karena halusinasi, membocorkan data sensitif ke pihak yang tidak berwenang, atau melakukan aksi seperti membuat transaksi tanpa persetujuan manusia. Ketiga risiko ini nyata untuk bisnis yang mulai memakai AI di pembukuan, tapi bisa dikendalikan dengan kontrol yang tepat sebelum sistem AI diberi akses ke data keuangan.

Halusinasi angka

Halusinasi adalah ketika AI menjawab dengan percaya diri tapi angkanya salah atau dikarang, bukan diambil dari data yang sebenarnya. Untuk pertanyaan umum ini mungkin tidak berbahaya, tapi untuk data keuangan, halusinasi angka piutang, saldo kas, atau margin bisa membuat pemilik usaha mengambil keputusan berdasarkan informasi yang keliru.

Contoh yang sering terjadi adalah AI diminta merangkum performa penjualan bulan ini, lalu AI memberi angka yang terdengar masuk akal tapi sebenarnya tidak berasal dari transaksi yang benar benar tercatat, terutama jika AI tidak diberi akses langsung ke database dan hanya menebak dari pola percakapan sebelumnya. Risiko ini paling besar pada AI generik yang tidak terhubung ke sistem pembukuan asli, dibanding AI yang memang dirancang untuk membaca data transaksi secara langsung.

Kebocoran data

Data keuangan berisi informasi sensitif seperti harga beli dari pemasok, margin laba, gaji karyawan, dan data pelanggan. Jika AI yang dipakai mengirim data ini ke layanan pihak ketiga tanpa kontrol yang jelas, atau jika hasil percakapan dengan AI tersimpan di tempat yang bisa diakses orang luar, informasi kompetitif bisnis bisa bocor tanpa disadari.

Risiko kebocoran juga muncul dari sisi akses pengguna. Staf sales atau gudang yang bertanya ke AI seharusnya tidak bisa melihat data biaya atau margin, sama seperti dalam sistem tanpa AI, peran mereka memang dibatasi agar tidak melihat harga pokok. AI yang tidak menghormati batasan peran pengguna sama saja membuka celah baru yang sebelumnya sudah ditutup oleh kontrol akses biasa.

Aksi tanpa izin

Risiko yang lebih serius muncul ketika AI tidak hanya menjawab pertanyaan, tapi juga bisa melakukan aksi seperti membuat faktur, mencatat pembayaran, atau memindahkan stok. Jika AI melakukan aksi ini tanpa aturan posting yang sama dengan transaksi manual, atau tanpa jejak audit yang jelas, pembukuan bisa jadi tidak seimbang dan sulit ditelusuri siapa atau apa yang bertanggung jawab atas sebuah perubahan.

Sebagai ilustrasi, jika AI diminta membuatkan faktur penjualan dan salah menafsirkan instruksi pengguna, misalnya salah kuantitas atau salah pelanggan, faktur yang salah itu bisa langsung mengubah saldo piutang dan stok jika tidak ada langkah konfirmasi sebelum aksi benar benar dieksekusi. Untuk transaksi historis, risiko ini lebih besar lagi karena data lama seharusnya bersifat baku dan tidak boleh diubah otomatis oleh AI atau sistem apapun tanpa proses koreksi resmi yang terdokumentasi.

Kontrol yang wajib ada

Kontrol paling mendasar adalah menjaga agar AI tunduk pada aturan yang sama dengan pengguna manusia: peran yang membatasi apa yang bisa dilihat, aturan posting yang menjaga buku tetap seimbang, dan jejak audit yang mencatat setiap perubahan data. AI seharusnya memperkuat kontrol yang sudah ada, bukan menjadi jalan pintas yang melewatinya.

Contoh di bisnis distribusi

Sebuah distributor consumer goods memakai asisten AI untuk mengecek stok dan membuat faktur penjualan lewat perintah teks. Tanpa kontrol yang tepat, staf gudang yang seharusnya tidak melihat harga beli bisa saja bertanya ke AI tentang margin sebuah produk, dan jika AI tidak menghormati batasan perannya, informasi sensitif itu bisa terungkap begitu saja lewat jawaban chat.

Dengan kontrol yang benar, AI akan menolak memberi tahu harga pokok kepada peran yang memang tidak berhak melihatnya, persis seperti laporan biasa yang sudah menyembunyikan kolom harga pokok dari peran sales dan gudang. Setiap faktur yang dibuat lewat AI juga tercatat di log aktivitas sebagai aksi AI, sehingga saat ada kejanggalan, tim keuangan bisa langsung tahu transaksi itu dibuat oleh asisten AI dan bukan oleh staf tertentu.

Siapa yang bertanggung jawab jika AI salah

Pertanyaan penting yang sering terlewat adalah siapa yang bertanggung jawab jika AI membuat kesalahan pada data keuangan. Jawabannya tetap manusia, baik pemilik sistem maupun perusahaan yang memakainya, karena AI hanyalah alat yang bekerja atas instruksi dan konfigurasi yang ditentukan manusia. Karena itu, setiap aksi AI perlu tercatat dengan jelas siapa penggunanya, kapan dilakukan, dan data apa yang berubah, sama seperti tanggung jawab yang berlaku untuk staf manusia yang menginput transaksi.

Kesalahan yang sering terjadi

• Memberi AI akses penuh ke semua data tanpa pembatasan peran yang sama seperti untuk pengguna manusia.
• Mempercayai angka dari AI tanpa mengecek sumber datanya, terutama untuk laporan yang dipakai mengambil keputusan penting.
• Membiarkan AI membuat atau mengubah transaksi tanpa konfirmasi dan tanpa jejak audit yang jelas.
• Menggunakan AI generik yang tidak terhubung ke sistem pembukuan asli untuk pertanyaan yang butuh data transaksi akurat.
• Tidak mengevaluasi ulang kebijakan akses setelah AI diperkenalkan, padahal aturan yang berlaku untuk manusia semestinya berlaku juga untuk AI.

Langkah berikutnya

Sebelum mengadopsi AI untuk pembukuan, pastikan sistem yang dipakai menegakkan aturan yang sama untuk AI dan manusia: aksi AI melewati aturan posting yang sama, peran yang membatasi akses data tetap dihormati, dan setiap aksi tercatat di jejak audit. Fitur asisten AI Sparta bekerja dengan aturan posting yang sama seperti input manual, sehingga buku tetap seimbang, dan setiap aksinya tercatat di log aktivitas yang bisa ditelusuri kapan saja. Pelajari juga software ERP dengan AI, pengertian RPA, pemakaian AI untuk UMKM, dan pilihan software akuntansi dengan AI untuk bisnis Anda.

AI yang baik untuk keuangan bukan yang paling pintar menjawab, tapi yang paling patuh pada aturan pembukuan yang sama dengan manusia.