Oleh: Agung Wicaksono, S.H., M.H. (Advokat/Akademisi)

Setiap kali membuka ponsel dan kemudian berselancar di dunia maya, kita sebenarnya telah meninggalkan jejak yang semakin sulit disebut sekedar jejak digital. Wajah yang dipindai kamera, lokasi yang tercatat, suara yang dikenali, barang yang dibeli, hingga pilihan yang kita klik dapat menjadi data yang dibaca dan dipelajari oleh mesin. Kita merasa sedang menggunakan teknologi, padahal pada saat yang sama teknologi sedang mempelajari kita.

Di situlah persoalan kecerdasan artifisial (AI) menjadi lebih dari sekedar persoalan teknologi. AI membutuhkan data untuk bekerja, sementara data dapat menjadi sumber kekuasaan untuk memprediksi perilaku, membentuk preferensi, bahkan memengaruhi keputusan tentang seseorang. Pertanyaannya kemudian sederhana, tetapi mendasar yaitu ketika data tentang diri kita dikumpulkan, dianalisis, dan diproses oleh sistem yang tidak sepenuhnya kita pahami, masihkah kita benar-benar berdaulat atas diri sendiri?

Pertanyaan itu menjadi relevan ketika Indonesia memperingati 81 tahun kemerdekaannya. Pemerintah sedang membangun tata kelola AI nasional melalui rancangan Peraturan Presiden tentang AI, Peta Jalan AI Indonesia 2026–2029, dan pedoman etika AI. Pada akhir Juli 2026, pemerintah menyatakan Perpres AI akan menjadi langkah awal sebelum Indonesia memiliki Undang-Undang AI yang lebih komprehensif. Dokumen Peta Jalan AI dan Etika AI juga telah melalui pembahasan lintas kementerian dan lembaga dan menunggu penetapan Presiden.

Pada saat yang sama, pemerintah tengah memfinalisasi pembentukan Otoritas Pelindungan Data Pribadi yang diproyeksikan bekerja secara independen. Perkembangan ini penting karena tata kelola AI tidak mungkin dipisahkan dari siapa yang mengawasi pemrosesan data warga dan bagaimana pengawasan itu dijalankan.

Indonesia sebenarnya tidak memulai dari ruang kosong. Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP) telah menegaskan bahwa perlindungan data pribadi merupakan bagian dari upaya menjamin hak konstitusional subjek data. Data biometrik, data kesehatan, data genetika, data anak, dan data keuangan pribadi bahkan dikategorikan sebagai data pribadi yang bersifat spesifik. Konsekuensinya jelas. Penggunaan AI yang memproses wajah, suara, sidik jari, perilaku digital atau karakteristik personal seseorang tidak boleh hanya dilihat dari kecanggihan teknologinya. Di belakang setiap data terdapat manusia yang memiliki hak. Pemrosesan data harus memiliki dasar yang sah, dilakukan secara bertanggung jawab, dijaga keamanannya, dan tidak boleh menghilangkan kendali seseorang atas informasi mengenai dirinya.

Konstitusi kita juga telah memberikan landasan yang lebih mendasar. Pasal 28G ayat (1) UUD 1945 menjamin perlindungan diri pribadi, kehormatan, martabat, serta rasa aman. Pasal 28D ayat (1) menuntut kepastian hukum yang adil, sementara Pasal 28J mengingatkan bahwa penggunaan kebebasan tetap harus menghormati hak orang lain. Dalam konteks AI, norma-norma tersebut menempatkan manusia, bukan algoritma, sebagai pusat perlindungan hukum. Masalahnya, ancaman terhadap data pribadi tidak selalu hadir dalam bentuk kebocoran. Justru persoalan yang lebih halus muncul ketika data dikumpulkan secara sah, tetapi kemudian digunakan dalam konteks yang tidak sepenuhnya dipahami oleh pemiliknya. Seseorang dapat menyetujui syarat penggunaan sebuah aplikasi tanpa pernah benar-benar mengetahui bahwa jejak perilakunya dapat dianalisis untuk membuat profil tentang dirinya.

Bayangkan teknologi pengenalan wajah digunakan untuk verifikasi usia. Tujuannya mungkin sah, yakni memastikan seseorang memenuhi batas usia tertentu. Namun, bagaimana jika wajah yang dikumpulkan kemudian tersimpan lebih lama dari yang diperlukan? Bagaimana jika data biometrik itu diproses kembali untuk tujuan lain? Bagaimana pula jika sistem AI membuat keputusan yang keliru, tetapi orang yang dirugikan tidak mengetahui bagaimana keputusan tersebut dihasilkan?

Di sinilah transparansi dan akuntabilitas menjadi penting. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial telah memuat prinsip inklusivitas, kemanusiaan, keamanan, transparansi, kredibilitas dan akuntabilitas, termasuk pelindungan data pribadi. Namun, surat edaran tersebut merupakan pedoman etika, bukan undang-undang khusus yang menyediakan keseluruhan kerangka hak, kewajiban, pengawasan, dan mekanisme penegakan hukum terhadap seluruh risiko AI. Oleh karena itu, pembentukan regulasi AI tidak boleh hanya mengejar inovasi. Indonesia memang membutuhkan AI untuk meningkatkan produktivitas dan daya saing. Namun, kemajuan teknologi tanpa perlindungan hak dapat menciptakan bentuk ketimpangan baru: perusahaan dan pengelola sistem memiliki kemampuan membaca manusia jauh lebih besar daripada kemampuan manusia memahami bagaimana dirinya dibaca oleh mesin.

Kita membutuhkan setidaknya empat hal. Pertama, regulasi AI harus menjadikan hak asasi manusia dan perlindungan data pribadi sebagai prinsip utama, bukan sekedar pelengkap inovasi. Kedua, sistem AI berisiko tinggi perlu tunduk pada standar transparansi, keamanan, audit, dan akuntabilitas yang lebih kuat. Ketiga, otoritas perlindungan data pribadi harus benar-benar independen dan memiliki kapasitas pengawasan yang efektif. Keempat, warga harus memiliki mekanisme yang sederhana dan nyata untuk mengetahui, mengoreksi, menolak, atau menggugat pemrosesan data dan keputusan otomatis yang merugikan dirinya sesuai dengan hukum. Kedaulatan data bukan berarti negara boleh menguasai seluruh data warganya. Sebaliknya, kedaulatan data berarti warga memiliki hak dan kendali yang bermakna atas data mengenai dirinya. Negara hadir untuk memastikan hak itu tidak kalah oleh kekuatan teknologi dan kepentingan ekonomi.

Pada 1945, para pendiri bangsa memperjuangkan kemerdekaan agar Indonesia dapat menentukan nasibnya sendiri. Delapan puluh satu tahun kemudian, tantangannya berubah. Penjajahan tidak lagi selalu hadir dalam bentuk penguasaan wilayah. Kekuasaan dapat bekerja melalui sesuatu yang jauh lebih senyap: data, algoritma, dan kemampuan untuk mengetahui manusia tanpa manusia sepenuhnya mengetahui bagaimana dirinya diketahui. Oleh karenanya, peringatan kemerdekaan tahun ini seharusnya tidak hanya mengingatkan kita tentang siapa yang pernah menjajah bangsa ini, tetapi juga tentang bagaimana memastikan teknologi tidak mengambil alih kedaulatan warga atas dirinya sendiri. Jangan sampai Indonesia menjadi pasar terbesar bagi AI global, sementara data warganya menjadi bahan bakar ekonomi dan hukum datang ketika kerugian sudah terjadi.

Sebab pada akhirnya, bangsa yang merdeka bukan hanya bangsa yang bebas menentukan wilayah dan pemerintahannya, tetapi juga bangsa yang memastikan setiap warganya tetap memiliki kendali atas identitas, martabat, dan data yang melekat pada dirinya. Kita telah merdeka dari penjajahan. Jangan biarkan data kita menjadi wilayah jajahan baru bagi algoritma.