Mulyagusdin

AiL1

Catatan penulis. Sebagian besar ilustrasi dalam tulisan ini bersumber dari materi Pendidikan Profesional Berkelanjutan (PPL) Ikatan Akuntan Indonesia, bertema “Kode Etik Akuntan Indonesia dan Etika Teknologi bagi Akuntan Bisnis”, yang saya ikuti pada 30 Juli 2026. Dua studi kasus utama yang saya angkat dalam tulisan ini adalah insiden yang melibatkan Deloitte dan Samsung.

Bayangkan seorang manajer keuangan menerima hasil model prakiraan pertumbuhan penjualan untuk kuartal depan. Angkanya terlihat optimis, 18 persen, dengan tingkat keyakinan tinggi karena perhitungannya mengikuti pola tiga tahun terakhir. Tapi kondisi di lapangan justru sebaliknya: pesanan baru mulai menurun, pelanggan yang berhenti berlangganan bertambah, dan pasar sedang mengalami perubahan besar. Meski begitu, sang manajer tetap ingin memakai angka 18 persen itu, dengan alasan sederhana: modelnya sudah membaca seluruh data yang ada. Ini persis taruhan yang dihadapi tata kelola AI di ruang keuangan korporat.

Ilustrasi ini sempat dibahas dalam pelatihan etika teknologi Ikatan Akuntan Indonesia. Saya sengaja membukanya dengan cerita itu karena rasanya dekat dengan pengalaman siapa saja yang pernah duduk di meja pengambilan keputusan korporat. Tekanan target, kepercayaan berlebih pada angka yang terlihat presisi, dan godaan untuk berhenti bertanya begitu hasilnya sesuai harapan, itu semua hal yang lumrah. Kecerdasan buatan tidak menciptakan godaan itu, ia hanya mempercepatnya.

Agar tidak sekadar jadi ilustrasi hipotetis, saya menelusuri kejadian nyata yang sudah pernah terjadi. Hasilnya, dua kasus paling relevan justru datang dari dua spektrum yang sama sekali berbeda. Kasus pertama berasal dari firma Big Four yang seharusnya menjadi rujukan tata kelola AI. Kasus kedua datang dari konglomerat teknologi, yang kebocoran datanya justru bermula dari niat baik karyawannya sendiri.

Kasus yang Membuat Deloitte Tersandung

Pada Oktober 2025, Deloitte Australia terpaksa mengembalikan sebagian dari AU$440 ribu (sekitar US$290 ribu, atau kira-kira Rp4,6 miliar) yang dibayarkan Kementerian Ketenagakerjaan dan Hubungan Industrial Australia. Dana itu awalnya ditujukan untuk pembuatan laporan penilaian kerangka kepatuhan tunjangan sosial setebal 237 halaman.

Masalah ini terungkap bukan dari audit internal Deloitte, melainkan dari Chris Rudge, peneliti hukum kesejahteraan di Universitas Sydney. Saat membaca laporan itu, ia menemukan kutipan buku yang diklaim ditulis oleh Lisa Burton Crawford, profesor hukum publik dan konstitusi di universitasnya sendiri. Masalahnya, buku itu sama sekali tidak ada. Kepada Associated Press, Rudge menyebutkan bahwa ia langsung menyadari itu sebagai halusinasi AI karena judul bukunya terdengar mengada-ada.

Penelusuran lebih lanjut menunjukkan bahwa laporan itu memuat 12 rujukan fiktif dari profesor yang sama. Ada pula dua rujukan ke laporan dari profesor asal Swedia yang juga tidak nyata, serta kutipan langsung dari seorang hakim pengadilan federal yang faktanya tidak pernah diucapkan. Versi revisi yang diam-diam diterbitkan Deloitte akhir September mengungkap sumber masalahnya: laporan itu ternyata disusun dengan bantuan Azure OpenAI, sistem bahasa generatif dari Microsoft. Pihak Deloitte berkilah bahwa revisi tersebut sama sekali tidak memengaruhi substansi, temuan, maupun rekomendasi laporan. Senator Barbara Pocock dari Partai Hijau Australia menepis alasan itu. Ia menyebut penggunaan AI tersebut salah kaprah karena memalsukan kutipan hakim dan memakai rujukan fiktif, bahkan menyindir bahwa kesalahan semacam itu biasanya cuma dilakukan mahasiswa tingkat pertama.

Ada ironi yang cukup mencolok dari kasus ini. Dua tahun sebelumnya, Deloitte justru menjadi salah satu penulis utama panduan tata kelola risiko AI yang paling banyak dirujuk di dunia usaha. Committee of Sponsoring Organizations of the Treadway Commission (COSO) menerbitkan panduan berjudul “Realize the Full Potential of Artificial Intelligence” hasil kolaborasi dengan Deloitte, dibangun di atas kerangka Enterprise Risk Management COSO 2017. Firma yang ikut menyusun panduan cara mengelola risiko AI secara bertanggung jawab ini justru tersandung oleh timnya sendiri yang lalai menerapkan apa yang mereka tulis.

Pelajaran pentingnya bukan berarti kita harus berhenti memakai AI. Deloitte sendiri baru saja mengumumkan investasi tiga miliar dolar untuk pengembangan AI generatif hingga tahun fiskal 2030, termasuk kemitraan dengan Anthropic. Pelajaran utamanya jauh lebih mendasar: menulis kerangka tata kelola dan benar-benar menjalankannya di lapangan adalah dua hal yang sangat berbeda. Jarak antara keduanya sering kali baru terungkap ketika ada pihak lain yang membaca hasil kerja Anda lebih teliti.

Niat Baik Karyawan yang Berujung Bocornya Data

Kasus kedua datang dari arah yang sama sekali berbeda. Bukan laporan yang memuat kesalahan, melainkan data rahasia yang bocor tanpa adanya niat jahat.

Pada April 2023, tiga karyawan di divisi semikonduktor Samsung Electronics tanpa sadar memasukkan data sensitif perusahaan ke ChatGPT. Informasi ini pertama kali dilaporkan The Economist Korea, lalu diliput luas berbagai media termasuk CIO Dive. Karyawan pertama memasukkan kode sumber bermasalah dari program unduhan basis data fasilitas Samsung untuk mencari solusi. Karyawan kedua memasukkan kode program identifikasi peralatan cacat dan meminta AI mengoptimalkannya. Karyawan ketiga mengonversi rekaman rapat internal jadi teks dan memasukkannya ke ChatGPT agar dibuatkan notulen.

Tidak satu pun dari mereka berniat membocorkan rahasia perusahaan. Mereka hanya ingin menyelesaikan pekerjaan lebih cepat. Sayangnya, antarmuka ChatGPT saat itu masih memakai masukan pengguna untuk melatih dan menyempurnakan model bahasanya. Begitu kode sumber atau notulen rapat masuk ke sistem, perusahaan otomatis kehilangan kendali atas informasi tersebut. Sebagai langkah responsif, Samsung akhirnya membatasi kapasitas unggahan jadi 1.024 byte per prompt, meski itu cuma solusi teknis yang diterapkan setelah masalah terjadi.

Akar Masalahnya Bukan pada Teknologi

Jika disandingkan, dua kasus ini sebenarnya menceritakan masalah yang sama dari dua sisi berbeda. Deloitte gagal di sisi keluaran karena hasil kerja AI langsung dipakai tanpa verifikasi memadai sebelum diserahkan ke klien. Samsung gagal di sisi masukan karena data sensitif dikirim ke sistem publik sebelum AI sempat menghasilkan apa pun.

Mengacu pada materi pelatihan IAI, ada lima prinsip etika dasar akuntan yang sebenarnya mampu mencegah kedua insiden ini tanpa perlu aturan baru yang rumit.

1. Integritas, jangan pernah mengandalkan hasil teknologi yang keliru, menyesatkan, atau belum diverifikasi.
2. Objektivitas, jangan biarkan bias atau ketergantungan berlebih pada mesin memengaruhi penilaian profesional.
3. Kerahasiaan, data klien maupun internal tidak boleh dimasukkan ke platform apa pun tanpa kontrol akses yang jelas.
4. Kompetensi dan kehati-hatian, pahami kualitas data serta relevansi hasil sebelum dipakai.
5. Perilaku profesional, tetap patuhi standar dan hukum yang berlaku, terlepas dari alat apa pun yang dipakai.

Kelima prinsip ini bukan hal baru. Yang baru cuma konteksnya, karena sekarang orang bisa melanggar kelimanya sekaligus hanya dengan satu klik.

Regulasi yang Mulai Dibentuk

Regulator dan asosiasi profesi di Indonesia sebenarnya sudah mulai merespons perkembangan ini, meski langkahnya masih bersifat parsial.

Pada 2025, Ikatan Akuntan Indonesia merevisi Kode Etik Akuntan Indonesia mengacu pada pedoman internasional edisi 2024 yang diterbitkan IESBA. Revisi ini secara tegas mengatur aspek ketergantungan pada sistem, kebutuhan kompetensi teknologi, perlindungan data, serta identifikasi ancaman saat mengambil keputusan memakai hasil teknologi.

Institut Akuntan Publik Indonesia (IAPI) mengambil langkah serupa. Pada Juli 2025, Dewan Etika Profesi IAPI menerbitkan revisi kode etik terkait teknologi yang diadaptasi dari IESBA. Di sektor perbankan, Otoritas Jasa Keuangan (OJK) melangkah lebih jauh dengan meluncurkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia pada April 2025, agar sistem AI dikembangkan dan diterapkan secara bertanggung jawab mulai dari inisiasi hingga evaluasi berkala, merujuk pada standar internasional seperti AI Act Uni Eropa dan panduan Basel Committee on Banking Supervision.

Tapi ketiga langkah ini belum punya cakupan yang menyatu. Kode etik IAI dan IAPI hanya mengikat individu akuntan, bukan organisasinya. Panduan OJK hanya berlaku untuk sektor perbankan. Di titik itulah letak tantangan sesungguhnya: perusahaan nonbank dan BUMD yang mulai gencar memakai AI kini harus bergantung pada inisiatif direksi dan fungsi keuangan masing-masing untuk membangun tata kelolanya sendiri.

Penerapan Tata Kelola yang Efektif

Kabar baiknya, dunia usaha tidak perlu memulai semuanya dari nol. Kerangka kerja yang teruji sudah tersedia. Di level konseptual, panduan COSO dan Deloitte menempatkan tata kelola AI sebagai perluasan dari manajemen risiko perusahaan yang sudah ada. Prinsipnya sederhana: kalau organisasi Anda sudah punya sistem pengendalian internal yang berjalan baik, Anda tidak perlu membangun sistem paralel yang baru, cukup perluas kerangka yang sudah ada untuk mencakup risiko baru ini.

Di level teknis, organisasi bisa merujuk pada standar ISO/IEC 42001:2023, standar tata kelola AI teknis pertama di dunia, yang dirilis akhir 2023. Standar manajemen AI pertama di dunia ini menyediakan kerangka kerja yang bisa diaudit dan disertifikasi pihak ketiga independen. Dalam praktiknya, siklus pengendalian ini bisa dibagi jadi tiga tahap sederhana: persiapan, penggunaan, dan pemantauan.

Sebelum dipakai, organisasi harus menentukan tujuan operasional dan menilai risiko keamanan data. Saat dipakai, kewenangan akses wajib dibatasi dan persetujuan manusia tetap jadi syarat mutlak. Setelah dipakai, kinerja dan potensi bias sistem harus dipantau berkala. Tata kelola yang baik bukan soal memiliki AI paling mutakhir, melainkan soal menyediakan jeda waktu yang cukup antara keluarnya hasil AI dan pengambilan keputusan, supaya orang yang kompeten sempat memverifikasi kebenarannya.

Panduan Praktis untuk Jajaran Direksi dan Komisaris

Bagi perusahaan atau BUMD yang berencana memakai AI di divisi keuangan untuk pengambilan keputusan, pertanyaan paling relevan saat ini bukan apakah teknologi itu boleh dipakai. Pertanyaannya adalah siapa yang bertanggung jawab kalau hasilnya salah, dan bagaimana cara mendeteksinya sebelum masuk ke laporan keuangan.

Ada beberapa langkah konkret yang bisa langsung diterapkan:

1. Buat daftar inventaris seluruh perangkat AI yang dipakai di dalam fungsi keuangan, sekecil apa pun skalanya.
2. Tetapkan aturan tertulis soal batasan data yang boleh dimasukkan ke alat tersebut, terutama untuk data klien atau informasi yang belum dirilis ke publik.
3. Wajibkan proses penelaahan atau reviu oleh staf yang kompeten sebelum hasil AI dipakai untuk pengambilan keputusan penting.
4. Dokumentasikan seluruh prosesnya dengan rapi, mulai dari alat apa yang dipakai, tujuannya, hingga siapa yang melakukan penelaahan.

Semangat efisiensi sering kali mendahului kesiapan tanggung jawab. Jangan sampai perusahaan baru membuat batasan setelah data telanjur bocor seperti kasus Samsung, atau baru menyadari kesalahan setelah ditegur pihak luar seperti yang dialami Deloitte.

Kembali ke ilustrasi pembuka tadi, soal model yang memprediksi pertumbuhan 18 persen. Tindakan yang tepat bukan menolak mentah-mentah hasil AI, dan bukan pula menelannya begitu saja. Yang paling bijak justru mulai bertanya: data apa yang sebenarnya dibaca model itu? Asumsi apa yang dipakai? Dan siapa yang bertugas memeriksa apakah asumsi itu masih relevan dengan kondisi sekarang?

Teknologi memang mampu menyajikan rekomendasi yang lebih cepat dan kaya data. Tapi keputusan akhir beserta seluruh tanggung jawabnya tetap ada di tangan manusia yang menyetujuinya, bukan di tangan model mesin ataupun vendor yang menjualnya.

Pembahasan yang lebih spesifik soal batas aman AI untuk pekerjaan analitis seperti riset pasar, kajian risiko, dan laporan resmi, bisa dibaca di artikel “Fasih Belum Tentu Benar, Ini Batas Aman AI untuk Bisnis”.

---

Sumber dan rujukan

• Otoritas Jasa Keuangan, Siaran Pers SP 67/GKPB/OJK/IV/2025, “OJK Dorong Penggunaan Kecerdasan Artifisial di Sektor Perbankan Secara Bertanggung Jawab, Peluncuran Tata Kelola Kecerdasan Artifisial Perbankan Indonesia”, 29 April 2025.
• Institut Akuntan Publik Indonesia, “Revisi Terhadap Kode Etik yang Berkaitan dengan Teknologi”, disetujui Dewan Etika Profesi IAPI 9 Juli 2025, mengadopsi Technology-related Revisions to the Code, IESBA, April 2023.
• Ikatan Akuntan Indonesia, materi Free PPL “Kode Etik Akuntan Indonesia, Penguatan Etika dalam Pemanfaatan Teknologi”, disampaikan M. Iman NHB Pinuji, 30 Juli 2026 (materi pelatihan pribadi penulis).
• Ikatan Akuntan Indonesia, materi Free PPL “Etika Teknologi bagi Akuntan Bisnis”, disampaikan Buntoro Rianto, Anggota Komite Advokasi Standar dan Bimbingan IAI, 30 Juli 2026 (materi pelatihan pribadi penulis).
• Nino Paoli, “Deloitte was caught using AI in \$290,000 report to help the Australian government crack down on welfare after a researcher flagged hallucinations”, Fortune, 7 Oktober 2025.
• Lindsey Wilkinson, “Samsung employees leaked corporate data in ChatGPT: report”, CIO Dive, 7 April 2023.
• COSO (Committee of Sponsoring Organizations of the Treadway Commission), “Realize the Full Potential of Artificial Intelligence”, disusun bersama Deloitte, 2023.
• ISO/IEC 42001:2023, Information technology, Artificial intelligence, Management system, diterbitkan International Organization for Standardization, Desember 2023.