Tata Kelola Kecerdasan Buatan & Batasan Tanggung Jawab Hukum Sistem Otonom di Indonesia

1. Gelombang Otonomi & Tantangan Yurisprudensi

Kemunculan sistem agen otonom (autonomous agentic systems) dan model penalaran besar (large reasoning models) menghadirkan tantangan mendasar terhadap konsep pertanggungjawaban hukum tradisional. Ketika suatu sistem algoritma mengambil keputusan independen yang menimbulkan kerugian materiil, siapakah subjek hukum yang memikul beban tanggung jawab? Apakah pengembang (developer), penyedia platform (deployer), pengguna (end-user), atau mungkinkah sistem AI diakui sebagai subjek hukum semu (electronic personhood)?

Dalam diskursus hukum internasional, gagasan electronic personhood secara konsisten ditolak oleh mayoritas yurisdiksi terkemuka karena dapat membuka celah imunitas hukum bagi korporasi teknologi.

2. Landasan Regulasi Eksisting di Indonesia

Saat ini di Indonesia, tata kelola kecerdasan buatan masih berada dalam rezim soft law:

1. Surat Edaran Menkominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Buatan: Memuat prinsip-prinsip inklusivitas, transparansi, kredibilitas dan akuntabilitas, keamanan, pelindungan data pribadi, pembangunan berkelanjutan, serta hak cipta dan kekayaan intelektual.
2. Keterbatasan Yuridis Surat Edaran: Sebagai instrumen beleidsregel (peraturan kebijakan), SE Menkominfo tidak memiliki daya paksa sanksi pidana maupun denda administratif langsung. Penegakan sanksi tetap bergantung pada UU ITE (UU No. 1/2024), UU Perlindungan Data Pribadi (UU No. 27/2022), dan KUH Perdata (Pasal 1365 tentang PMH).

                      [ INSIDEN HUKUM SISTEM AI ]
                                  │
          ┌───────────────────────┴───────────────────────┐
          ▼                                               ▼
[ Rezim Pertanggungjawaban Mutlak ]         [ Rezim Berdasarkan Kesalahan ]
  (Strict Liability / Produk Cacat)           (Negligence / Fault Liability)
  • Berlaku bagi penyedia sistem              • Berlaku jika pengguna lalai
    berisiko tinggi (High-Risk AI)              mengabaikan parameter keselamatan

3. Menatap Hard Law: Relevansi Komparatif EU AI Act

Uni Eropa telah mengesahkan Artificial Intelligence Act (EU AI Act) berbasis pendekatan risiko piramidal (risk-based approach):

• Risiko Tidak Dapat Diterima (Unacceptable Risk): Dilarang mutlak (misal: social scoring, manipulasi kognitif subliminal).
• Risiko Tinggi (High Risk): Wajib audit kepatuhan, pengujian bias, pemantauan manusia (human-in-the-loop), dan transparansi algoritma yang ketat.
• Risiko Terbatas & Minimal (Limited/Minimal Risk): Cukup kewajiban transparansi bahwa pengguna berinteraksi dengan AI.

Bagi Indonesia, pembentukan undang-undang komprehensif mengenai Kecerdasan Buatan merupakan keniscayaan demi melindungi kedaulatan digital bangsa dan menciptakan kepastian investasi bagi ekosistem inovasi nasional.

Refleksi

Praktisi dan akademisi hukum masa depan tidak boleh gagap terhadap arsitektur teknis di balik algoritma. Integrasi antara doktrin hukum berkeadilan dan pemahaman komputasional mendalam adalah kunci utama dalam mengawal masa depan hukum di era transformasi kecerdasan buatan.