Dewasa ini teknologi Artificial Intelligence (AI) atau dalam bahasa Indonesia disebut dengan Kecerdasan Artifisial membawa tantangan yang semakin kompleks dalam tatanan kehidupan masyarakat di Indonesia, khususnya dalam ranah media sosial online. AI kini telah marak digunakan dalam berbagai bidang seperti hiburan, pendidikan, pemerintahan, dan lain sebagainya. Berbagai macam platform digital telah memanfaatkan AI sebagai fitur unggulan, seperti pengenalan wajah, modifikasi citra, algoritma rekomendasi, penciptaan audio visual berbasis teks, hingga asisten artifisial yang dapat membantu beragam aktivitas manusia. Indonesia sendiri merupakan pasar yang sangat menjanjikan untuk produk teknologi. DataReportal di tahun 2023 melaporkan bahwa Indonesia memiliki 212 juta pengguna internet dengan tingkat penetrasi mencapai 77%, 167 juta pengguna media sosial, dan 353 juta sambungan seluler aktif. Ini menunjukkan bahwa potensi besar Indonesia sebagai sasaran pengguna produk teknologi termasuk AI sangat terbuka lebar.
Masifnya penggunaan AI serta kemudahan akses yang ditawarkan sudah semestinya diiringi dengan potensi penyalahgunaan teknologi yang tinggi. Dalam perspektif teknologi, AI memanfaatkan berbagai jenis data dalam pelatihan sistemnya untuk menghasilkan interaksi natural antara mesin dan manusia. Ancaman serius terhadap privasi dan data pribadi bagi setiap individu secara umum adalah benar adanya. AI bukan lagi sekadar teknologi masa depan, namun benar-benar telah hadir dan dengan perlahan menginfiltrasi kehidupan sosial masyarakat Indonesia. Salah satu fenomena yang menjadi sorotan publik adalah penggunaan teknologi deep-fake, yaitu penggabungan wajah asli seseorang ke dalam sebuah citra (gambar/video) disertai dengan pembuatan suara sintetis yang seolah-olah nyata tanpa memerlukan izin dari pemilik asli wajah dan suara tersebut. Teknologi yang pada awalnya dikembangkan untuk hiburan nyatanya memiliki potensi yang kuat untuk digunakan dalam konteks negatif, bahkan hingga menyebabkan kekerasan berbasis gender online atau non-consensual dissemination of intimate images (NCII). Bagi masyarakat awam, konten-konten palsu yang diciptakan oleh AI sering kali menipu dan dapat dengan cepat berubah menjadi mesin hoaks yang andal dan tak tertandingi. Hal ini tidak mungkin dihindari karena kurangnya pemahaman masyarakat dalam membedakan konten asli dan hasil rekayasa digital. Kesalahan persepsi semacam ini dapat berujung pada fitnah dan perpecahan sosial. Penyerangan terhadap reputasi individu bukan hanya melanggar privasi, namun juga dapat menyebabkan kerugian sosial dan/atau profesional, gangguan terhadap kepercayaan diri, hingga trauma psikologis bagi korban. Perlindungan hukum yang eksplisit, jelas dan mampu mengurangi dampak negatif AI sangat diperlukan di era teknologi AI yang sangat cepat berkembang seperti sekarang ini.
Ketiadaan regulasi yang khusus menangani kasus AI membuat proses penegakan hukum terhadap pelaku penyalahgunaan AI di Indonesia menjadi lemah dan memunculkan ambiguitas dalam penentuan pihak bersalah. Penanggung jawab atas konten AI menjadi sulit ditentukan dalam proses peradilan, apalagi jika penyedia platform AI tersebut bersifat open-source dan dapat diakses oleh siapapun secara gratis serta bebas tanpa diperlukannya identitas. Tidak tersedianya definisi hukum yang jelas mengenai AI di Indonesia memperparah kesenjangan antara hukum dan teknologi saat ini. Di sisi lain, aspek pendidikan melalui literasi hukum masyarakat masih tergolong rendah untuk mengenali, menghindari dan melaporkan konten manipulatif produk dari sebuah teknologi AI. Perhatian pemerintah melalui penerapan regulasi yang sistematis hendaknya diperlukan untuk melawan potensi berbahaya dari AI.
Inisiasi pembentukan peraturan sebenarnya telah mulai dicanangkan. Seperti Surat Edaran Kominfo No. 9 Tahun 2023 tentang Etika Kecerdasan Artifisial yang mengatur aspek etika dalam penggunaan AI. Namun peraturan ini belum memiliki daya ikat hukum yang kuat karena hanya berupa regulasi lunak (soft law). Sebelum itu, Undang-Undang No. 27 Tahun 2022 tentang Perlindungan Data Pribadi dirancang lebih berfokus pada perlindungan data pribadi dan belum secara eksplisit mengatur kasus teknologi seperti AI deep-fake. Adapun Undang-Undang No. 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik juga sudah tidak relevan jika digunakan pada era AI saat ini. Tertinggalnya regulasi tanpa adanya adaptasi membuat kesenjangan hukum terhadap lajunya teknologi semakin tak terpungkiri. Pemetaan risiko terhadap pelanggaran penyalahgunaan AI pada berbagai level juga diperlukan karena tidak semua AI berisiko tinggi. Tanpa klasifikasi risiko, pengawasan terhadap pemanfaatan AI akan kembali menjadi persoalan dan dapat menjadi alat yang diskriminatif atau manipulatif.
Indonesia perlu mengkaji upaya perlindungan hukum terhadap dampak negatif AI. Berkaca pada negara-negara lain, Singapura telah meluncurkan model AI Government Framework sebagai rujukan bagi negara lain untuk pembentukan regulasi terkait AI. Di lingkup yang lebih luas, Uni Eropa telah mengesahkan EU Artificial Intelligence Act (EU AI Act) pada 2024. EU AI Act mengatur tingkat risiko AI dan mengatur larangan penggunaan AI berisiko tinggi yang mengancam hak asasi manusia. Republik Tiongkok yang kini menjadi raksasa teknologi telah secara tegas mengatur pengembangan AI untuk selalu mencerminkan nilai-nilai ideologi negaranya untuk menjaga kebermanfaatan teknologi dan transparansi AI di negara tersebut. Selain itu, Amerika serikat sedang dalam proses pengesahan AI Governance Bills yang mengatur tentang Algoritma dan sistem training AI untuk pelindungan hak sipil.
Urgensi pembentukan Undang-Undang AI:
Dengan adanya regulasi yang memadai, negara dapat mengurangi dampak negatif pada kestabilan sosial di masyarakat karena pengaruh AI. Selain itu, teknologi AI atau teknologi baru yang akan datang dapat diarahkan kepada tujuan yang bermanfaat bagi bangsa dan negara dengan tetap menjunjung tinggi nilai-nilai Pancasila.
Tanpa kerangka hukum yang jelas, masyarakat Indonesia akan tetap berada di bawah bayang-bayang bahaya penyalahgunaan AI, terutama di ruang publik digital seperti media sosial. Pemerintah sebagai regulator perlu bergerak cepat untuk pembentukan regulasi yang memiliki kekuatan hukum yang kokoh. Regulasi terkait teknologi sudah semestinya terus beradaptasi dan mengikuti perkembangan teknologi untuk menjaga kestabilan sosial masyarakat di ranah digital. Pembentukan regulasi juga dapat mendorong inovasi-inovasi yang sesuai dengan nilai-nilai Pancasila. Komitmen ini dapat menuntun Indonesia menjadi pelopor pembangunan teknologi masa depan yang berkelanjutan, beretika dan berbasis hak asasi manusia.
BONDAN EKA NUGRAHA
Penulis
Rizky Trijoyo Sibagariang
Muhammad Akbar
Retno Wahyu
Irfan