Uni Eropa Wajibkan Label Konten AI dan Deepfake, Pelanggar Terancam Denda

BRUSSELS — Uni Eropa resmi memperketat pengawasan terhadap penggunaan kecerdasan buatan dengan memberlakukan aturan transparansi baru dalam Undang-Undang Kecerdasan Buatan atau Artificial Intelligence Act.

Mulai 2 Agustus 2026, pengguna harus diberi tahu ketika mereka berinteraksi dengan chatbot, agen virtual, atau sistem AI lainnya. Konten berupa gambar, suara, dan video yang dibuat atau dimanipulasi menggunakan AI juga wajib diberi penanda apabila terlihat seperti kejadian nyata.

Aturan tersebut dibuat untuk membantu masyarakat membedakan konten buatan manusia dengan materi yang dihasilkan atau dimodifikasi oleh mesin. Uni Eropa menilai perkembangan AI telah meningkatkan risiko informasi palsu, penipuan, penyamaran identitas, manipulasi, dan penyesatan konsumen.

Chatbot harus mengaku sebagai AI

Perusahaan yang menyediakan chatbot atau sistem AI interaktif wajib memastikan pengguna memahami bahwa mereka sedang berbicara dengan mesin, bukan manusia.

Pemberitahuan harus disampaikan secara jelas ketika pengguna mulai berinteraksi dengan sistem. Ketentuan tersebut dapat berlaku pada chatbot pelayanan pelanggan, asisten virtual, agen pemesanan, avatar digital, dan layanan komunikasi otomatis lainnya.

Aturan ini bertujuan mencegah pengguna mengambil keputusan dengan anggapan bahwa respons yang diterimanya berasal dari pegawai, konsultan, atau tenaga profesional manusia.

Perusahaan tetap diperbolehkan menggunakan chatbot untuk mempercepat pelayanan. Namun, identitas sistem tersebut tidak boleh disembunyikan atau disajikan seolah-olah sebagai manusia.

Deepfake wajib diberi label

Kewajiban transparansi juga berlaku pada konten deepfake.

Deepfake mencakup gambar, audio, atau video yang dibuat atau diubah dengan AI sehingga menyerupai orang, tempat, benda, peristiwa, atau situasi nyata.

Konten seperti video tokoh publik yang dibuat seolah-olah sedang berbicara, rekaman suara palsu, maupun foto kejadian yang tidak pernah terjadi harus diberi penjelasan bahwa materi tersebut dibuat atau dimanipulasi dengan AI.

Label harus dapat terlihat oleh manusia. Penyedia teknologi juga diwajibkan menambahkan penanda yang dapat dibaca mesin agar platform dan alat pemeriksa dapat mendeteksi asal konten secara lebih mudah.

Sistem penanda tersebut dapat berbentuk metadata, tanda digital, atau teknologi lain yang tetap menempel pada konten selama proses distribusi.

Teks kepentingan publik ikut diatur

Aturan transparansi tidak terbatas pada gambar dan video.

Teks yang diterbitkan untuk memberikan informasi kepada masyarakat mengenai persoalan kepentingan publik juga perlu diberi keterangan apabila dihasilkan AI tanpa pemeriksaan atau kendali editorial manusia.

Ketentuan ini dapat menyentuh artikel, laporan, pengumuman, atau materi informasi publik yang dibuat secara otomatis.

Apabila teks telah diperiksa, disunting, dan dipertanggungjawabkan oleh manusia, penerapannya dapat berbeda. Komisi Eropa menerbitkan panduan untuk menjelaskan jenis konten yang termasuk dalam aturan serta pengecualian seperti penyuntingan standar.

Bagi media dan pengelola portal berita, kebijakan tersebut memperkuat pentingnya pemeriksaan manusia terhadap artikel yang dibantu AI.

AI dapat digunakan untuk membantu riset, menyusun kerangka, atau memperbaiki bahasa. Namun, redaksi tetap harus memeriksa fakta, konteks, sumber, dan risiko kesalahan sebelum berita diterbitkan.

Teknologi pengenal emosi harus transparan

Uni Eropa juga mengatur penggunaan sistem pengenal emosi dan kategorisasi biometrik.

Seseorang harus diberi tahu ketika sedang terkena sistem yang mencoba membaca ekspresi wajah, suara, gerakan, atau ciri biometrik untuk memperkirakan kondisi emosional maupun mengelompokkannya ke dalam kategori tertentu.

Teknologi semacam itu dapat digunakan dalam pelayanan, keamanan, penelitian, atau analisis perilaku. Namun, penggunaannya berisiko mengganggu privasi apabila dilakukan tanpa sepengetahuan individu.

Pemberitahuan memungkinkan masyarakat memahami bahwa wajah, suara, atau perilakunya sedang dianalisis oleh sistem otomatis.

AI Office mulai melakukan pengawasan

Pelaksanaan aturan akan diawasi oleh AI Office Komisi Eropa bersama lembaga pengawasan pasar di masing-masing negara anggota.

European Data Protection Supervisor juga bertanggung jawab mengawasi penerapan aturan ketika sistem AI digunakan oleh lembaga, badan, atau institusi Uni Eropa.

Komisi Eropa telah menyediakan saluran pengaduan, sarana pelaporan pelanggaran, dan layanan bagi pelapor yang ingin menyampaikan informasi secara rahasia.

Pembentukan mekanisme tersebut menunjukkan bahwa AI Act tidak lagi hanya menjadi dokumen peraturan. Uni Eropa mulai memasuki tahap penegakan dan pemeriksaan kepatuhan perusahaan teknologi.

Denda dapat mencapai 15 juta euro

Perusahaan yang melanggar kewajiban transparansi dapat menghadapi denda hingga 15 juta euro atau 3 persen dari omzet tahunan global, bergantung pada nilai yang lebih tinggi dan kondisi pelanggarannya.

Untuk institusi, badan, dan lembaga Uni Eropa, denda dapat mencapai 750.000 euro. Penetapan sanksi akan mempertimbangkan prinsip proporsionalitas, termasuk bagi usaha kecil dan perusahaan menengah.

Besarnya denda membuat perusahaan perlu meninjau kembali aplikasi, chatbot, alat pembuat konten, sistem iklan, dan layanan otomatis yang digunakan.

Pengembang juga perlu memastikan bahwa tanda AI tidak mudah hilang ketika gambar dipotong, video dikompres, atau konten dibagikan ke platform lain.

Lebih dari 180 organisasi bergabung

Komisi Eropa telah menyiapkan kode praktik untuk membantu perusahaan menerapkan kewajiban penandaan dan pelabelan konten AI.

Lebih dari 180 organisasi disebut telah menandatangani kode praktik transparansi tersebut. Keikutsertaan bersifat sukarela, tetapi dapat digunakan sebagai salah satu cara untuk menunjukkan kepatuhan terhadap AI Act.

Perusahaan yang tidak mengikuti kode tersebut tetap dapat menggunakan mekanisme lain. Namun, mereka harus membuktikan bahwa sistem penandaan dan pelabelannya mempunyai tingkat perlindungan yang setara.

Dampaknya dapat dirasakan di luar Eropa

Peraturan ini diberlakukan di wilayah Uni Eropa, tetapi dampaknya berpotensi dirasakan oleh perusahaan teknologi di berbagai negara.

Platform global biasanya menggunakan sistem yang sama untuk banyak wilayah. Membuat versi khusus untuk pengguna Eropa dapat meningkatkan biaya dan kompleksitas pengembangan.

Karena itu, sebagian perusahaan kemungkinan memilih menerapkan label AI secara lebih luas, termasuk kepada pengguna di luar Uni Eropa. Ini merupakan kemungkinan berdasarkan cara layanan digital global biasanya dikelola, bukan kewajiban langsung bagi seluruh negara.

Perubahan tersebut dapat membuat label AI semakin sering terlihat pada media sosial, aplikasi komunikasi, iklan digital, toko daring, dan platform pembuat konten.

Kreator konten perlu lebih berhati-hati

Kreator yang menggunakan AI untuk membuat video, suara, atau gambar realistis perlu memahami perbedaan antara bantuan penyuntingan biasa dan manipulasi yang dapat menyesatkan.

Mengoreksi pencahayaan, mengubah ukuran, atau menghapus gangguan kecil tidak selalu diperlakukan sama dengan membuat seseorang seolah-olah mengucapkan sesuatu yang tidak pernah dikatakannya.

Namun, apabila AI digunakan untuk menciptakan peristiwa palsu yang terlihat autentik, label perlu ditampilkan secara jelas.

Kreator sebaiknya menyimpan informasi mengenai alat yang digunakan dan proses pembuatan konten. Catatan tersebut dapat membantu ketika platform atau pihak berwenang meminta penjelasan.

Label bukan solusi tunggal

Pemberian label dapat membantu masyarakat mengenali konten buatan AI, tetapi kebijakan tersebut tidak otomatis menghentikan penyebaran deepfake.

Pelaku penipuan masih dapat menghapus tanda, mengambil ulang gambar, memotong video, atau membagikan materi melalui layanan yang tidak mematuhi aturan.

Karena itu, penandaan perlu berjalan bersama peningkatan literasi digital, pemeriksaan fakta, keamanan platform, dan penegakan hukum.

Masyarakat tetap perlu memeriksa sumber konten, membandingkannya dengan informasi lain, serta berhati-hati terhadap rekaman yang berisi permintaan uang, kode OTP, kata sandi, atau data pribadi.

Perusahaan perlu menyesuaikan sistem

Perusahaan yang menggunakan AI dapat mulai melakukan pemetaan terhadap seluruh layanannya.

Pemeriksaan dapat mencakup apakah pengguna berbicara dengan AI, apakah sistem menghasilkan media sintetis, bagaimana penanda disimpan, serta siapa yang bertanggung jawab memeriksa hasilnya.

Kebijakan internal juga perlu menjelaskan bagaimana staf menggunakan AI untuk membuat artikel, iklan, video, laporan, dan materi pelayanan.

Tanpa aturan yang jelas, perusahaan dapat menghadapi risiko hukum, kesalahan informasi, serta hilangnya kepercayaan konsumen.

Era konten AI semakin transparan

Pemberlakuan aturan baru Uni Eropa menjadi salah satu perubahan penting dalam tata kelola kecerdasan buatan.

Pengembang masih dapat menciptakan chatbot, agen AI, avatar, dan media sintetis. Namun, pengguna harus memperoleh informasi yang jelas mengenai keterlibatan teknologi tersebut.

Kebijakan ini menandai perubahan dari penggunaan AI yang sering tidak terlihat menuju sistem yang lebih terbuka dan dapat dipertanggungjawabkan.

Keberhasilan aturan tetap bergantung pada konsistensi pelabelan, kemampuan teknologi mendeteksi penanda, pengawasan pemerintah, dan kesadaran masyarakat.

Sumber informasi: Komisi Eropa dan Associated Press.