Desakan Penertiban Akun Fake Medsos Menguat, Penyalahgunaan AI Ancam Ruang Digital

Mataxpost | Jakarta,- Desakan untuk memperketat pengawasan terhadap akun palsu (fake account) di media sosial, khususnya TikTok, semakin menguat seiring meningkatnya penyalahgunaan teknologi kecerdasan buatan (Artificial Intelligence/AI) untuk membuat dan menyebarkan konten manipulatif. (13/08)

Akun-akun anonim dinilai semakin mudah digunakan sebagai sarana penyebaran informasi palsu, provokasi, isu SARA, hingga dugaan pemerasan digital dengan memanfaatkan celah sistem identifikasi pengguna pada platform media sosial.

Baca Juga

5 hari  lalu

SATU GARIS Bongkar 41 Paket PJU Dishub Siak Rp33 Miliar, Nama DPRD dan Harga Satuan Dipertanyakan

132 Bunga Cantika

Perkembangan teknologi AI membuat pembuatan video maupun gambar rekayasa semakin mudah. Konten yang dibuat menyerupai kejadian nyata tersebut dinilai berpotensi menggiring opini publik, merusak reputasi seseorang, bahkan memicu konflik sosial apabila tidak disertai informasi yang benar.

Tidak hanya masyarakat umum, sejumlah pejabat daerah dan tokoh publik juga disebut mulai menjadi sasaran konten dari akun-akun anonim yang menyajikan narasi bernada tuduhan, penghinaan, hingga pembentukan opini negatif.

Bahkan, pejabat publik yang sebelumnya telah menjalani proses hukum dan perkaranya telah berkekuatan hukum tetap (inkracht) juga tidak luput menjadi bahan konten.

Baca Juga

4 hari  lalu

3 Kali Pertemuan Raja Juli-Suhardiman Amby, KPK Kejar Jejak Uang Sin$14 Ribu

54 Ade Monchai

Sejumlah pihak menilai, pengangkatan kembali perkara hukum seseorang melalui konten media sosial tidak selalu bertujuan memberikan informasi kepada publik,

Tetapi dalam beberapa kasus justru bergeser menjadi upaya mempermalukan pribadi maupun keluarga yang bersangkutan, terutama apabila dikemas dengan narasi provokatif, potongan informasi, atau manipulasi berbasis AI.

Padahal, meskipun seseorang telah menjalani proses hukum, perlindungan terhadap martabat pribadi dan keluarga tetap menjadi bagian dari prinsip penghormatan terhadap hak asasi manusia.

Untuk mengatasi persoalan tersebut, TikTok bersama Kementerian Komunikasi dan Digital (Komdigi) dinilai perlu memperkuat sistem pengawasan terhadap akun yang aktif menyebarkan konten publik dengan tingkat risiko tinggi.

Salah satu usulan yang berkembang adalah penerapan verifikasi identitas bagi pengguna, baik melalui dokumen resmi individu maupun dokumen legal bagi akun perusahaan, organisasi, dan lembaga.

Akun yang telah diberikan pemberitahuan untuk melakukan verifikasi namun tidak memenuhi ketentuan dalam batas waktu tertentu dapat dikenakan pembatasan hingga pemblokiran apabila terbukti melakukan pelanggaran.

Selain verifikasi identitas, platform digital juga didorong untuk menerapkan kewajiban pelabelan terhadap konten yang dibuat atau dimodifikasi menggunakan teknologi AI.

Hal tersebut penting agar masyarakat dapat membedakan antara dokumentasi asli dan konten hasil rekayasa digital.

Penguatan mekanisme pengaduan juga menjadi hal penting, terutama bagi korban penyebaran data pribadi, manipulasi wajah, fitnah digital, maupun konten yang diduga digunakan sebagai alat tekanan atau pemerasan.

Kebebasan berekspresi di ruang digital tetap harus dijaga sebagai bagian dari demokrasi. Namun, kebebasan tersebut tidak boleh berubah menjadi sarana untuk menyerang pribadi, menyebarkan kebencian, atau mengeksploitasi seseorang dan keluarganya demi mengejar perhatian publik.

Teknologi AI seharusnya menjadi alat untuk kemajuan, bukan berubah menjadi senjata digital untuk memecah belah masyarakat dan menciptakan keresahan.

Dengan semakin luasnya penggunaan media sosial, kolaborasi antara pemerintah, perusahaan platform digital, dan masyarakat menjadi kunci agar ruang digital Indonesia tetap aman, sehat, dan bertanggung jawab