Oleh: Dr. Ufa Anita Afrilia, S.IP., M.I.Pol.
Dosen Program Studi Sarjana Terapan Administrasi Pemerintahan, Sekolah Vokasi Universitas Padjadjaran

Berikut adalah hasil penyuntingan dan penyempurnaan naskah opini Anda.

Struktur kalimat dan flow antarparagraf telah dirapikan agar lebih tajam, mengalir, dan bernas khas gaya penulisan kolom opini publik (op-ed), tanpa mengurangi substansi, argumen, maupun konteks lokal (Kabupaten Pangandaran) yang Anda bawa.

AI, Akuntabilitas, dan Mitos Pemerintahan Digital

Oleh: Dr. Ufa Anita Afrilia, S.IP., M.I.Pol.

Dosen Program Studi Sarjana Terapan Administrasi Pemerintahan, Sekolah Vokasi Universitas Padjadjaran

Bayangkan seorang warga mengurus pelayanan publik tanpa harus berulang kali mengantre di kantor pemerintah. Data kependudukan sudah terintegrasi, permohonan diajukan secara digital, dan sistem kecerdasan artifisial (Artificial Intelligence/AI) bekerja di balik layar mengolah data sekaligus memberikan rekomendasi keputusan.

Pelayanan menjadi serbacepat, antrean memendek, dan beban administratif yang berulang dapat dipangkas secara efisien. Namun, bagaimana jika sistem tersebut salah?

Bagaimana jika data warga tidak terbaca secara presisi, lalu AI memuntahkan rekomendasi yang keliru? Kepada siapa warga harus menuntut keadilan? Kepada petugas di lapangan, pemerintah daerah, pengembang sistem, atau cukup ditenangkan dengan jawaban dingin: “Itu sudah hasil dari sistem”?

Pertanyaan ini mungkin terdengar bagai distopia masa depan. Namun, di tengah masifnya transformasi digital pemerintahan, persoalan ini sangat mendesak untuk kita bedah hari ini.

Geliat Digitalisasi hingga ke Desa

Pemerintah Indonesia tengah gencar mendorong pemanfaatan AI dan transformasi digital. Di tingkat daerah, Kabupaten Pangandaran menjadi salah satu contoh yang progresif. Melalui Peraturan Bupati Nomor 36 Tahun 2024 tentang Sistem Pemerintahan Berbasis Elektronik (SPBE), Pemkab Pangandaran telah meletakkan payung hukum tata kelola digital mulai dari sektor administrasi, pendidikan, kesehatan, pariwisata, perizinan, hingga jaminan sosial.

Langkah ini bahkan merambah hingga ke tingkat tapak. Melalui program pendampingan digitalisasi desa, hingga pertengahan Juni 2026, sebanyak 33 desa di Pangandaran dilaporkan telah aktif menggunakan domain resmi desa.id untuk tata kelola web, media sosial, hingga penerapan Tanda Tangan Elektronik (TTE).

Langkah maju ini tentu patut diapresiasi. Digitalisasi terbukti memperluas akses dan mempercepat interaksi antara negara dan warga. Namun, semakin dalam pemerintah masuk ke ruang digital, semakin krusial satu pertanyaan mendasar diajukan: Apakah kita sedang membangun pemerintahan yang benar-benar akuntabel, atau sekadar memindahkan birokrasi ke layar kaca?

Jebakan “Birokrasi Algoritmik”

Digitalisasi pemerintahan sering dipahami secara dangkal: memindahkan formulir kertas ke aplikasi mobile atau situs web. Padahal, esensi transformasi digital adalah integrasi data, transparansi proses, dan ketepatan pengambilan keputusan.

Dengan AI, kemampuan pemerintah dalam mengolah data berukuran raksasa (big data) meningkat drastis. AI mampu membaca pola, mendeteksi penyimpangan, hingga memprediksi kebutuhan publik. Bayangkan betapa efektifnya jika AI digunakan untuk menyaring penerima bantuan sosial (bansos) agar tepat sasaran, atau mengelompokkan aduan warga secara otomatis berdasarkan skala prioritas.

Namun, di balik efisiensi tersebut, bersemayam konsekuensi baru. Ketika AI mulai dilibatkan dalam proses pengambilan keputusan, kita resmi melangkah dari birokrasi konvensional menuju birokrasi algoritmik.

Di titik inilah persoalan menjadi krusial. Pelayanan publik bukan sekadar perkara sistem berjalan (running) atau tidak, melainkan menyangkut hak-hak dasar warga negara.

Mesin Tak Memiliki Kewenangan

Bayangkan seorang warga miskin dicoret dari daftar penerima bansos karena algoritma AI menilai dirinya “tidak memenuhi syarat”. Ketika warga tersebut menyanggah, akankah pemerintah cukup berlindung di balik kalimat: “Sistem kami menunjukkan Anda tidak berhak”?

Tentu tidak. Warga berhak mendapatkan penjelasan yang rasional dan bermartabat. Jika data dasar yang digunakan AI ternyata keliru, harus ada mekanisme koreksi yang mudah diakses. Jika rekomendasi mesin meleset, harus ada intervensi manusia (human-in-the-loop) untuk meninjau ulang.

AI boleh memproses jutaan data dan memberikan rekomendasi, tetapi AI tidak boleh dijadikan tameng bagi pemerintah untuk lepas tangan. Tidak boleh ada keputusan administratif yang berhenti pada konklusi: “Itu keputusan mesin.”

Mesin tidak memiliki kewenangan hukum, tidak memikul tanggung jawab administratif, dan tidak bisa diseret ke pengadilan oleh masyarakat. Pemegang kewenangan tetaplah pemerintah. Oleh karena itu, ketika keputusan berbasis teknologi ternyata merugikan warga, pemerintahlah yang wajib berdiri di garis depan untuk bertanggung jawab.

Bahaya Kepatuhan Buta (Automation Bias)

Ancaman AI dalam birokrasi bukan hanya terjadi ketika mesin mengambil alih keputusan secara penuh, melainkan ketika aparatur mengalami automation bias terlalu percaya pada rekomendasi mesin.

Secara formal, pejabat publik mungkin masih bertanda tangan sebagai pengambil keputusan. Namun, jika ia hanya mengaminkan apa pun yang disodorkan oleh algoritma tanpa melakukan verifikasi faktual dan kontekstual, manusia pada akhirnya hanya menjadi “stempel hidup” bagi mesin.

Padahal, realitas sosial masyarakat terlalu kompleks untuk disederhanakan menjadi deretan angka dan data. Ada keluarga yang kondisi ekonominya mendadak terpuruk tetapi belum tercatat di database; ada warga penyandang disabilitas dengan kebutuhan khusus; dan ada dinamika lapangan yang tak terekam oleh algoritma. Di sinilah diskresi aparatur yang berintegritas dan berempati sangat dibutuhkan.

Prinsipnya tegas: Mesin boleh memberi rekomendasi, tetapi manusialah yang harus menentukan dan mempertanyakan kebenarannya.

Lima Pilar Bagi Pemerintah Daerah

Bagi daerah seperti Kabupaten Pangandaran, tantangan ke depan bukan lagi sekadar memproduksi sebanyak mungkin aplikasi. Kunci utamanya adalah memastikan teknologi betul-betul meningkatkan kualitas hidup warga. Jangan sampai aplikasi bertambah, tetapi warga tetap diwajibkan bolak-balik ke kantor dinas; atau situs web desa mentereng, tetapi informasinya usang.

Untuk mencegah digitalisasi yang semu, ada lima pilar utama yang wajib disiapkan pemerintah daerah dalam mengadopsi AI:

1. Integritas Data: AI tidak akan pernah menghasilkan keputusan yang adil jika data dasarnya cacat (garbage in, garbage out). Pemutakhiran data kependudukan dan sosial harus dilakukan secara berkala.
2. Transparansi Keputusan: Setiap keputusan yang berdampak pada warga harus dapat dijelaskan alasannya (explainable AI) menggunakan bahasa yang dipahami publik, bukan bahasa pemrogram.
3. Kendalikan oleh Manusia (Human-in-the-Loop): Untuk kebijakan bernilai strategis dan berdampak luas pada hak warga, AI hanya boleh berstatus sebagai alat bantu, bukan penentu tunggal.
4. Mekanisme Keberatan yang Jelas: Warga harus diberi ruang dan saluran resmi yang mudah untuk menyanggah atau mengoreksi data jika sistem melakukan kesalahan.
5. Kejelasan Subjek Hukum: Harus ada ketegangan garis tanggung jawab. Ketika sistem berhasil, itu capaian bersama; namun ketika sistem salah, pejabat terkait harus siap bertanggung jawab secara administratif dan hukum.

Menjaga Martabat Pelayanan Publik

Pada akhirnya, ukuran keberhasilan transformasi digital bukanlah seberapa sering pejabat memamerkan istilah AI, big data, atau smart city, melainkan seberapa besar manfaat konkret yang dirasakan rakyat.

Kita tentu menginginkan birokrasi yang cepat, presisi, dan efisien. Namun, kecepatan yang mengorbankan akuntabilitas dan keadilan hanyalah cara yang lebih cepat untuk melakukan kesalahan secara masal.

Masyarakat tidak pernah memilih untuk dilayani oleh algoritma; masyarakat mempercayakan mandat dan kewenangan kepada pemerintah. Ketika teknologi melakukan kekeliruan, pemerintah tidak boleh bersembunyi di balik layar. Pemerintah harus tetap hadir untuk menjelaskan, membenahi, dan bertanggung jawab.