Mulyagusdin

AiL2 Ada panduan PDF pendamping untuk artikel ini↓

Perusahaan menengah hingga besar, baik swasta maupun BUMD, kini semakin mengandalkan kecerdasan buatan untuk menyelesaikan berbagai pekerjaan analitis bernilai tinggi. Karyawan menggunakan AI untuk melakukan riset pasar modal, menyusun kajian risiko, memformulasikan rencana usaha, hingga menulis laporan resmi. Sayangnya, kecepatan adopsi ini berlari jauh meninggalkan pagar kepatuhan yang seharusnya ada.

Risiko dari ketertinggalan ini bukan sekadar masalah produktivitas karyawan. Ada ancaman material yang sangat nyata. Data pasar hasil halusinasi mesin bisa mendorong keputusan investasi yang keliru. Kajian risiko yang tidak diverifikasi bisa berujung pada bencana kredibilitas. Laporan yang fasih namun keliru secara substansi bisa menghancurkan reputasi di depan investor, auditor, dan regulator. Perusahaan yang menyusun batasan aman penggunaan AI sekarang akan jauh lebih siap menghadapi tantangan ke depan dibandingkan mereka yang menunggu insiden terjadi baru sibuk mencari solusi.

Kasus EY Canada: Ketika Laporan AI Menghancurkan Reputasi Sendiri

Sebagai peringatan dini, kita bisa melihat kasus nyata yang menimpa EY Canada. Mereka terpaksa menarik dan menghapus laporan keamanan siber mereka sendiri yang berjudul “Points of Attack” setelah alat deteksi menemukan fakta mengejutkan. Dari 27 sumber kutipan di dalam laporan setebal 44 halaman tersebut, 16 di antaranya terbukti palsu, salah kutip, atau tautannya sudah mati. AI bahkan menciptakan rujukan fiktif dari McKinsey dan menampilkan dua angka valuasi bernilai 200 miliar Dolar AS yang saling bertentangan.

Ini bukan dokumen iseng yang dibuat oleh karyawan magang. Laporan tersebut dipublikasikan oleh firma akuntansi sekelas Big Four untuk memasarkan jasa keamanan siber mereka sendiri. Jika firma sebesar EY bisa kebobolan tanpa kendali mutu yang memadai, kita patut bertanya seberapa tangguh tim internal perusahaan kita saat menyusun kajian risiko atau studi kelayakan tanpa lapisan verifikasi yang setara.

Kenapa Pekerjaan Analitis Ini Sangat Rentan terhadap Kesalahan AI

Tugas analitis seperti ini sangat rentan bukan karena teknologi AI itu buruk, melainkan karena sifat pekerjaannya bertolak belakang dengan kelemahan struktural AI. Pekerjaan ini menuntut akurasi faktual tingkat tinggi pada angka, kutipan, dan tanggal. Di sisi lain, AI memiliki kecenderungan bawaan untuk berhalusinasi. Dokumen bisnis ini juga dipakai sebagai landasan pengambilan keputusan bernilai besar yang akan diaudit oleh jajaran direksi, komisaris, bank pemberi pinjaman, hingga Otoritas Jasa Keuangan. Godaan terbesar bagi karyawan adalah AI mampu menulis dengan sangat meyakinkan. Padahal, kalimat yang fasih sama sekali tidak menjamin kebenaran fakta.

Pola kepercayaan berlebihan pada kemampuan AI ini bukan cuma soal dokumen, tapi juga soal keputusan sumber daya manusia yang menaunginya. Data Orgvue menunjukkan 39 persen pemimpin bisnis melakukan efisiensi posisi karena tergoda janji AI, namun 55 persen di antaranya kemudian mengakui bahwa keputusan tersebut keliru. Bahkan, temuan Robert Half mencatat 32 persen manajer di Amerika Serikat terpaksa merekrut ulang staf setelah posisi tersebut digantikan oleh AI. Dua data ini memang bicara soal keputusan staffing, bukan soal akurasi angka dalam sebuah dokumen. Tapi keduanya menunjukkan gejala yang sama: organisasi kerap menaksir kemampuan AI melampaui batas sesungguhnya, baik saat memutuskan siapa yang dipertahankan maupun saat mempercayai apa yang ditulisnya.

Empat Pola Risiko yang Wajib Diwaspadai Manajemen

Terdapat empat pola risiko spesifik dalam area kerja analitis yang patut diwaspadai oleh jajaran manajemen.

Pertama adalah riset informasi pasar. AI mampu menciptakan deretan angka yang terdengar sangat masuk akal tetapi tidak bisa ditelusuri sumber aslinya. Pola penyesatan ini sama persis dengan yang terjadi pada kasus EY, di mana definisi angka yang berbeda dipaksa terlihat seragam. Menggunakan data mentah ini untuk landasan investasi adalah sebuah pertaruhan yang berbahaya.

Kedua terkait kajian risiko. Mesin cerdas ini sangat kuat dalam mendeteksi pola dari data historis, tetapi sangat lemah ketika berhadapan dengan kejadian tak terduga atau konteks lokal yang tidak ada dalam data pelatihannya. Hal ini menciptakan kepercayaan diri palsu. Sebuah kajian bisa terlihat sangat komprehensif, padahal seluruh strukturnya berdiri di atas asumsi yang tidak pernah diverifikasi oleh nalar manusia.

Ketiga menyangkut penyusunan rencana usaha atau studi kelayakan. AI dengan mudah menyusun proyeksi keuangan yang rapi dan logis secara matematis. Sebagai seorang Chartered Accountant yang kerap membedah struktur kelayakan finansial (topik yang juga saya bahas lebih jauh di AI di Meja Korporat), saya sering menemukan kelemahan mendasar di sini. Asumsi dasar seperti pertumbuhan pasar, fluktuasi harga komoditas, dan tingkat serapan sering kali tidak divalidasi dengan kondisi lapangan. Sangat berisiko jika dokumen proforma ini langsung disodorkan sebagai dasar pengajuan kredit bank.

Keempat adalah pembuatan laporan akhir. Ada kecenderungan AI akan menghaluskan bahasa hingga kehilangan presisi angka yang tajam. Risiko lainnya adalah mesin ini merangkai struktur dari sumber lain tanpa disadari oleh pembuat dokumen, yang pada akhirnya memunculkan masalah kejujuran intelektual dan kepemilikan data.

Regulasi yang Masih Kosong dan Jalan Tengah Adopsi

Dari sisi regulasi, tata kelola ini sebenarnya belum sepenuhnya kosong. OJK telah menerbitkan Tata Kelola Kecerdasan Artifisial Perbankan Indonesia serta peraturan teknis Penyelenggaraan Teknologi Informasi oleh Bank Umum yang berlaku awal 2026. Namun, aturan tersebut secara spesifik hanya mengikat industri perbankan. Perusahaan non bank dan BUMD di sektor energi, infrastruktur, dan berbagai sektor lainnya belum memiliki panduan lokal setingkat itu. Menunggu regulator sektoral turun tangan akan memakan waktu. Direksi yang proaktif tentu bisa mengadopsi standar global yang sudah mapan, seperti kerangka manajemen risiko AI dari NIST (lembaga standar teknologi milik pemerintah Amerika Serikat) atau standar sertifikasi ISO 42001 (standar internasional pertama khusus tata kelola sistem AI), sebagai arah kebijakan internal.

Tentu saja, menahan diri dari AI sepenuhnya bukan pilihan yang realistis. Perusahaan yang terlalu lambat mengadopsi teknologi ini berisiko kalah kecepatan dari kompetitor yang sudah lebih dulu memangkas waktu riset dan analisisnya. Justru karena tekanan kompetitif itu nyata, kecepatan adopsi perlu diimbangi dengan kendali, bukan dihindari sama sekali.

Membangun Pagar Operasional yang Praktis

Untuk melindungi perusahaan, manajemen perlu membangun pagar operasional yang praktis namun tegas. Verifikasi mutlak harus diwajibkan untuk setiap angka, kutipan, dan sumber hasil olahan AI sebelum masuk ke dalam draf resmi. Ini harus menjadi protokol tetap perusahaan dan bukan sekadar pilihan sukarela karyawan. Persetujuan dokumen juga harus dibuat berjenjang sesuai dengan besaran risiko. Semakin besar nilai investasi dalam sebuah studi kelayakan atau semakin strategis sebuah kajian risiko, maka semakin tinggi pula level pejabat yang wajib melakukan validasi akhir.

Hal yang tidak kalah penting adalah transparansi penggunaan AI. Karyawan harus mendokumentasikan sejauh mana peran asisten virtual tersebut dalam penyusunan sebuah dokumen. Prinsip keterbukaan ini selalu saya terapkan dalam setiap tulisan yang dipublikasikan di mulyagusdin.com, di mana saya menyematkan label level AI dari nol hingga tiga untuk menunjukkan seberapa besar intervensi mesin dalam proses kreatifnya. Jika standar transparansi ini bisa diterapkan secara konsisten untuk sebuah artikel opini personal, sudah selayaknya hal yang sama diwajibkan untuk dokumen korporasi bernilai miliaran rupiah.

Manajemen juga perlu menetapkan larangan keras terhadap penyerahan hasil keluaran AI mentah tanpa jejak audit yang jelas. Setiap pemakaian harus menyertakan informasi mengenai instruksi apa yang digunakan dan untuk tujuan apa pencarian itu dilakukan. Semua prosedur ini kemudian harus dibakukan melalui klausul eksplisit dalam kebijakan internal perusahaan.

Membangun pagar pembatas ini adalah langkah krusial untuk menjaga mutu dan integritas pekerjaan di level korporasi. Perusahaan yang berani menulis aturan mainnya sendiri mulai hari ini akan jauh lebih dihormati dan dipercaya oleh para pemangku kepentingan dibandingkan mereka yang baru tersadar setelah terjebak dalam krisis reputasi akibat mesin yang mereka percaya secara membabi buta.

Insting dan Kepemimpinan yang Tidak Tergantikan AI

Data Orgvue dan Robert Half yang disinggung di awal tulisan ini sebenarnya menyimpan pelajaran yang lebih dalam dari sekadar salah hitung anggaran. Saat 39 persen pemimpin bisnis memangkas posisi karena tergoda janji AI, lalu lebih dari separuhnya belakangan mengakui keputusan itu keliru, yang sebenarnya terjadi adalah mereka lebih dulu kehilangan kepercayaan pada dinamisme dan pragmatisme manusia, sebelum benar benar teruji apakah AI mampu menggantikannya. Ada dua kemampuan yang sering luput dari hitungan itu, insting saat menghadapi krisis, dan kesanggupan menyatukan visi banyak kepala menjadi satu arah kerja.

Saya merasakan yang pertama saat pendakian ke pantai berbatu di ujung Aceh bersama dua rekan. Cuaca berubah drastis dan rencana yang sudah disusun rapi harus dibuang di tempat, dalam hitungan menit, tanpa waktu untuk menghitung ulang secara sistematis. Yang menyelamatkan perjalanan itu bukan alat navigasi atau data cuaca, melainkan insting yang terlatih dan kepercayaan antar anggota tim yang sudah terbangun jauh sebelum badai datang.

Bentuk kedua justru saya alami dalam skala yang lebih besar, saat baru memimpin sebuah BUMD dengan cara kerja yang belum tertata rapi dan belum satu arah. Saya mengumpulkan semua orang, dari jajaran manajemen hingga office boy, satpam, dan sopir, duduk bersama dalam satu ruangan selama dua hari untuk membahas ulang arah dan cara kerja perusahaan. Tidak ada algoritma yang bisa duduk di ruangan itu, mendengarkan keberatan setiap orang, menimbang kepentingan yang saling berbenturan, lalu meyakinkan semuanya untuk bergerak ke arah yang sama. Hasil dari dua hari itu bukan cuma dokumen kebijakan baru, tapi kepercayaan yang membuat kebijakan itu benar benar dijalankan.

Insting saat krisis dan kemampuan menyatukan visi lintas jabatan, keduanya lahir dari pengalaman dan empati, bukan dari kalkulasi data. Ini yang sering luput ketika keputusan efisiensi diambil terlalu cepat, dengan asumsi AI bisa menggantikan seluruh nalar yang dibutuhkan untuk memimpin.

Sumber dan Rujukan

• Computing.co.uk, “EY cybersecurity report pulled after probe finds ‘AI hallucinations’”
• OJK, “Tata Kelola Kecerdasan Artifisial Perbankan Indonesia”
• CNBC.com (1 Juli 2026), data Orgvue dan Robert Half soal PHK terkait AI