PENDAHULUAN

Kecerdasan artifisial (AI) telah berkembang dari teknologi eksperimental menjadi bagian dari infrastruktur pengambilan keputusan di berbagai sektor, termasuk keuangan, kesehatan, ketenagakerjaan, serta penegakan hukum. Perkembangan model generatif dan large language models semakin memperluas penggunaan AI oleh masyarakat dan pelaku usaha. Di sisi lain, pemanfaatan AI menimbulkan risiko baru, seperti bias algoritmik, diskriminasi, opasitas pengambilan keputusan, serta potensi pelanggaran hak individu. Karakter AI yang probabilistik, adaptif, dan sulit diprediksi juga menimbulkan tantangan bagi kerangka hukum konvensional.

Kondisi tersebut menunjukkan pentingnya regulasi AI yang tidak hanya memberikan kepastian hukum bagi pengembang (providers) dan pengguna (deployers), tetapi juga melindungi pihak yang terdampak (affected persons). Regulasi perlu menyeimbangkan kepentingan inovasi dengan perlindungan masyarakat melalui standar dan kewajiban yang proporsional terhadap tingkat risiko AI. Dalam konteks tersebut, Regulation (EU) 2024/1689 atau EU AI Act menjadi model penting karena menerapkan pendekatan berbasis risiko dengan membedakan intensitas kewajiban berdasarkan potensi dampak AI terhadap kesehatan, keselamatan, dan hak fundamental. Efek ekstrateritorialnya juga menjadikan EU AI Act sebagai rujukan penting bagi negara lain, termasuk Indonesia.

Indonesia sendiri belum memiliki undang-undang khusus yang mengatur AI secara komprehensif. Pengaturan AI masih tersebar dalam berbagai regulasi, antara lain UU ITE dan UU PDP, sementara SE Menkominfo No. 9 Tahun 2023 tentang Etika Kecerdasan Artifisial lebih berfungsi sebagai pedoman etis dan belum dilengkapi mekanisme penegakan yang memadai. Kondisi tersebut menimbulkan kebutuhan untuk mengevaluasi kecukupan kerangka hukum yang ada sekaligus merumuskan arah pengaturan AI nasional yang mampu mendukung inovasi dan memberikan perlindungan hukum. Oleh karena itu, artikel ini menggunakan metode yuridis-normatif dengan pendekatan perbandingan hukum untuk menganalisis arsitektur regulasi berbasis risiko dalam EU AI Act, keterbatasan kerangka hukum AI di Indonesia, serta best practice yang secara kontekstual dapat diadaptasi dalam pembentukan kebijakan dan regulasi AI nasional.

PENGATURAN AI DI UNI EROPA: ARSITEKTUR RISK-BASED REGULATION

A.     Filosofi dan Struktur Pendekatan Berbasis Risiko

EU AI Act mengadopsi filosofi regulasi proporsional (proportionality principle), yaitu intensitas kewajiban hukum yang dibebankan kepada pelaku usaha ditentukan oleh tingkat risiko yang ditimbulkan suatu sistem AI terhadap kesehatan, keselamatan, dan hak-hak fundamental manusia, bukan oleh kecanggihan teknis sistem itu semata. Filosofi ini didasarkan pada premis bahwa kalkulator sederhana dan sistem rekomendasi vonis pidana sama-sama merupakan "sistem otomatis", tetapi keduanya memiliki potensi dampak yang berbeda terhadap individu, sehingga tidak proporsional apabila diperlakukan dengan rezim hukum yang sama.

Berdasarkan filosofi tersebut, EU AI Act membagi sistem AI ke dalam empat tingkatan risiko yang membentuk struktur piramida. Pada puncak piramida terdapat risiko tidak dapat diterima (unacceptable risk), yakni praktik AI yang dilarang secara mutlak sejak Februari 2025 karena dinilai bertentangan secara fundamental dengan nilai-nilai kemanusiaan, meliputi antara lain manipulasi subliminal yang mengeksploitasi kerentanan psikologis seseorang, eksploitasi kelompok rentan, penilaian sosial oleh otoritas publik, identifikasi biometrik secara real-time di ruang publik oleh aparat penegak hukum, kategorisasi biometrik untuk menyimpulkan atribut sensitif seperti ras, afiliasi politik, atau orientasi seksual, serta predictive policing yang semata-mata berbasis profil seseorang. Di bawahnya terdapat risiko tinggi (high risk), risiko terbatas (limited risk) yang dikenakan kewajiban transparansi seperti pelabelan konten hasil AI generatif dan pemberitahuan interaksi dengan chatbot, dan risiko minimal yang tidak dikenakan kewajiban hukum khusus, seperti penyaring spam atau AI dalam permainan video.

B.      Kewajiban Substantif bagi Sistem AI Berisiko Tinggi

Klasifikasi risiko tinggi ditentukan melalui dua jalur berbeda: Annex I mencakup AI yang berfungsi sebagai komponen keselamatan pada produk yang telah tunduk pada regulasi keselamatan produk Uni Eropa, seperti perangkat medis, mesin, dan kendaraan. Sementara itu, Annex III mengatur delapan domain penggunaan mandiri (standalone) yang dianggap berisiko tinggi, meliputi identifikasi biometrik, pengelolaan infrastruktur kritis, pendidikan dan pelatihan vokasi, ketenagakerjaan, akses terhadap layanan esensial seperti penilaian kredit dan asuransi, penegakan hukum, manajemen migrasi dan perbatasan, serta administrasi peradilan dan proses demokrasi.

EU AI Act membedakan secara tegas kewajiban antara "provider", yaitu pihak yang mengembangkan sistem AI atau memasarkannya dengan namanya sendiri, dan "deployer", yaitu pihak yang menggunakan sistem AI dalam kapasitas profesionalnya. Berdasarkan Pasal 16, provider dari sistem berisiko tinggi wajib menjalani penilaian kesesuaian (conformity assessment) sebelum sistem dipasarkan, menyusun dokumentasi teknis dan sistem manajemen mutu, memperoleh deklarasi kesesuaian Uni Eropa serta membubuhkan tanda CE, mendaftarkan sistemnya ke dalam basis data Uni Eropa, menerapkan langkah korektif apabila ditemukan ketidaksesuaian, serta melaporkan insiden serius kepada otoritas berwenang. Adapun deployer, berdasarkan Pasal 26, wajib menggunakan sistem sesuai instruksi provider, menempatkan pengawasan manusia (human oversight) yang memadai, memantau kinerja sistem selama operasional, menyimpan log otomatis sekurang-kurangnya enam bulan, melakukan penilaian dampak terhadap hak-hak fundamental (fundamental rights impact assessment) untuk penggunaan di sektor layanan publik, serta memberitahukan pekerja maupun pihak yang terdampak atas penggunaan sistem tersebut. Keseluruhan kewajiban bagi sistem berisiko tinggi ini berlaku penuh sejak Agustus 2026.

C.     Pengaturan General-Purpose AI dan Risiko Sistemik

Kehadiran model AI bertujuan umum (general-purpose AI/GPAI) yang dapat diadaptasi untuk berbagai keperluan hilir mendorong EU AI Act menyusun rezim pengaturan tersendiri, yang mulai berlaku efektif sejak Agustus 2025. Seluruh provider GPAI dikenakan kewajiban dasar berupa penyusunan dokumentasi teknis model, penyediaan informasi kepada pihak hilir (downstream providers) yang mengintegrasikan model tersebut, penerapan kebijakan kepatuhan terhadap hukum hak cipta Uni Eropa, serta publikasi ringkasan data pelatihan yang digunakan.

Model yang dianggap memiliki risiko sistemik yang secara praduga hukum ditentukan berdasarkan ambang daya komputasi pelatihan sebesar lebih dari 10²⁵ floating-point operations (FLOPs) dikenakan kewajiban tambahan yang lebih ketat sebelum dirilis, identifikasi dan mitigasi sumber risiko sistemik, pelaporan insiden serius kepada AI Office dan otoritas nasional yang berwenang tanpa penundaan yang tidak semestinya, penerapan langkah perlindungan keamanan siber yang memadai, serta pelaporan metrik efisiensi energi. Pengaturan berlapis ini mencerminkan kesadaran pembentuk kebijakan Uni Eropa bahwa risiko yang ditimbulkan model fondasi berskala besar bersifat lintas sektor dan sulit diprediksi sejak awal, sehingga memerlukan mekanisme pengawasan yang bersifat berkelanjutan, bukan sekadar pemeriksaan pada satu titik waktu.

D.     Struktur Pengawasan, Penegakan, dan Sanksi

Penegakan EU AI Act dijalankan melalui struktur pengawasan berlapis yang melibatkan otoritas pengawas pasar (market surveillance authorities) di tingkat nasional pada setiap negara anggota, serta AI Office yang dibentuk pada level Uni Eropa dengan kewenangan khusus mengawasi provider model GPAI, termasuk kewenangan meminta informasi, melakukan evaluasi model, dan menarik model dari peredaran (model recall) apabila diperlukan.

Struktur sanksi administratif dalam EU AI Act bersifat berjenjang dan bahkan melampaui besaran sanksi dalam GDPR. Pelanggaran terhadap praktik yang dilarang mutlak (Pasal 5) dapat dikenakan denda hingga 35 juta Euro atau 7% dari total omzet tahunan global perusahaan, mana yang lebih besar. Pelanggaran terhadap kewajiban substantif sistem berisiko tinggi dapat dikenakan denda hingga 15 juta Euro atau 3% dari omzet tahunan global, sementara penyampaian informasi yang menyesatkan kepada otoritas berwenang dapat dikenakan denda hingga 7,5 juta Euro atau 1% dari omzet. Denda terhadap provider GPAI yang melanggar kewajibannya dapat dijatuhkan langsung oleh Komisi Eropa, sedangkan denda terhadap institusi dan badan Uni Eropa dijatuhkan oleh European Data Protection Supervisor. Struktur sanksi yang tegas dan proporsional ini menjadi salah satu elemen kunci yang membedakan EU AI Act dari sekadar kerangka etika normatif menjadi instrumen hukum yang benar-benar dapat ditegakkan.

PENGATURAN AI DI INDONESIA: DARI FRAGMENTASI MENUJU KERANGKA NASIONAL

A.     Kerangka Hukum Eksisting yang Bersifat Fragmentaris

Indonesia hingga kini belum memiliki undang-undang tersendiri yang secara khusus mengatur AI. Pengaturan yang relevan tersebar di dalam sejumlah peraturan perundang-undangan yang pada dasarnya tidak dirancang untuk mengakomodasi karakteristik unik teknologi AI, di antaranya:

1. Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik sebagaimana diubah dengan Undang-Undang Nomor 19 Tahun 2016, yang menjadi payung umum bagi transaksi dan konten elektronik termasuk yang dihasilkan sistem AI;
2. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi, yang relevan bagi pemrosesan data pribadi dalam pelatihan dan pengoperasian model AI;
3. Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik; dan
4. Peraturan Menteri Komunikasi dan Informatika Nomor 3 Tahun 2021 tentang Penyelenggara Sistem Elektronik Lingkup Privat.

Keseluruhan instrumen ini bersifat sektoral dan generik, sehingga tidak menjangkau isu-isu spesifik AI seperti klasifikasi risiko algoritmik, kewajiban transparansi model, maupun mekanisme pengawasan atas keputusan otomatis.

B.      SE Menkominfo No. 9/2023 sebagai Fondasi Awal Tata Kelola AI

SE Menkominfo No. 9 Tahun 2023 tentang Etika Kecerdasan Artifisial merupakan instrumen yang secara khusus mengatur prinsip etika dalam penyelenggaraan AI. Surat Edaran ini ditujukan kepada pelaku usaha pemrograman berbasis AI serta penyelenggara sistem elektronik publik dan privat. Di dalamnya ditetapkan sembilan nilai etika, yaitu inklusivitas, kemanusiaan, keamanan, aksesibilitas, transparansi, kredibilitas dan akuntabilitas, perlindungan data pribadi, pengembangan berkelanjutan, dan kekayaan intelektual. Nilai-nilai tersebut memiliki kesamaan konseptual dengan prinsip tata kelola AI dalam EU AI Act, terutama terkait transparansi, akuntabilitas, dan perlindungan hak fundamental.

Namun, sebagai instrumen soft law, SE Menkominfo No. 9/2023 belum memiliki mekanisme penegakan yang kuat. Surat Edaran tersebut tidak mengatur klasifikasi risiko AI, penilaian kesesuaian, sanksi administratif, maupun kewenangan lembaga pengawas khusus. Dengan demikian, kedudukannya lebih tepat dipahami sebagai pedoman etis untuk mengisi kekosongan regulasi AI daripada sebagai instrumen hukum yang dapat ditegakkan secara langsung. Keterbatasan tersebut mendorong pemerintah untuk mengembangkan kerangka regulasi yang lebih komprehensif dan mengikat melalui Konsep Pedoman Etika Kecerdasan Artifisial dan Buku Putih Peta Jalan Kecerdasan Artifisial Nasional, yang menjadi bagian dari proses penyusunan Rancangan Peraturan Presiden mengenai Etika AI dan Peta Jalan Kecerdasan Artifisial Nasional 2026–2030.

BEST PRACTICE PENGATURAN AI BAGI INDONESIA

Indonesia perlu membangun kerangka regulasi AI berbasis risiko sebagai fondasi utama, tetapi dengan klasifikasi yang disesuaikan dengan karakteristik dan sektor prioritas nasional, bukan mengadopsi struktur EU AI Act secara mentah. Untuk sistem berisiko tinggi, perlu ditetapkan kewajiban substantif yang jelas dengan membedakan tanggung jawab provider dan deployer, antara lain penilaian kesesuaian, dokumentasi teknis, dan pelaporan insiden. Sementara itu, pengaturan general-purpose AI dapat diterapkan secara bertahap dan proporsional, dimulai dari kewajiban transparansi mengenai data pelatihan dan standar keamanan siber, sehingga tidak membebani ekosistem AI domestik yang masih berkembang.

Efektivitas kerangka tersebut juga memerlukan otoritas pengawas yang memiliki kewenangan investigasi dan pemberian sanksi administratif, baik melalui penguatan lembaga yang telah ada maupun pembentukan unit khusus dengan tetap menghindari tumpang tindih kewenangan. Sanksi perlu disusun secara berjenjang dan proporsional terhadap tingkat pelanggaran. Di samping itu, regulasi AI harus diharmonisasikan dengan UU PDP dan UU ITE, khususnya terkait pemrosesan data untuk pelatihan AI dan pertanggungjawaban atas keluaran AI. Untuk menjaga keseimbangan antara perlindungan dan inovasi, pemerintah juga perlu menyediakan regulatory sandbox bagi startup dan lembaga riset AI agar pengembangan teknologi dapat berlangsung dalam ruang uji coba yang terkendali sebelum kewajiban kepatuhan penuh diterapkan.

KESIMPULAN

EU AI Act menawarkan model regulasi berbasis risiko yang komprehensif, terstruktur, dan mengikat secara hukum, lengkap dengan klasifikasi risiko yang presisi, pembedaan kewajiban antara provider dan deployer, pengaturan khusus bagi model AI bertujuan umum (GPAI), serta struktur pengawasan dan sanksi administratif yang tegas. Sebaliknya, Indonesia hingga kini masih bertumpu pada instrumen etis berupa Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 yang tidak memiliki daya paksa hukum, sembari tengah menempuh proses transisi menuju kerangka yang lebih mengikat melalui penyusunan dua Rancangan Peraturan Presiden. Kesenjangan regulasi ini, apabila tidak segera dijembatani secara substantif, berpotensi menimbulkan ketidakpastian hukum bagi pelaku usaha serta lemahnya perlindungan bagi pihak yang berpotensi dirugikan oleh keputusan algoritmik, di tengah akselerasi adopsi AI yang terus meningkat di berbagai sektor strategis nasional.

DAFTAR PUSTAKA:

1. Undang-Undang Nomor 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik sebagaimana diubah dengan Undang-Undang Nomor 19 Tahun 2016.
2. Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.
3. Peraturan Pemerintah Nomor 71 Tahun 2019 tentang Penyelenggaraan Sistem dan Transaksi Elektronik.
4. Peraturan Menteri Komunikasi dan Informatika Nomor 3 Tahun 2021 tentang Penyelenggara Sistem Elektronik Lingkup Privat.
5. Surat Edaran Menteri Komunikasi dan Informatika Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial.
6. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act), Official Journal of the European Union.
7. Kementerian Komunikasi dan Digital Republik Indonesia. Konsep Pedoman Etika Kecerdasan Artifisial. Jakarta: Kemkomdigi, 2025.
8. Kementerian Komunikasi dan Digital Republik Indonesia. Buku Putih Peta Jalan Kecerdasan Artifisial Nasional. Jakarta: Kemkomdigi, 2025.
9. Hukumonline. "CEO Hukumonline Soroti Beberapa Peraturan Terkait AI di Indonesia." Diakses September 2026.
10. European Commission. "High-Level Summary of the AI Act." Artificial Intelligence Act, diakses September 2026.
11. Kompas. "Program Perpres 2026 Ditetapkan, Dua Rancangan Atur Etika dan Peta Jalan AI Nasional." Diakses September 2026.
    

Penulis: Ibrahim Drakel
Jabatan: Associate