JBNews.id — Mulai Minggu ini, warga Uni Eropa (UE) wajib mendapatkan informasi ketika mereka berinteraksi dengan sistem kecerdasan buatan (AI) atau melihat konten yang dihasilkan serta dimodifikasi oleh teknologi tersebut. Kewajiban transparansi baru ini merupakan bagian dari Undang-Undang Kecerdasan Buatan (Artificial Intelligence Act) blok tersebut yang mulai berlaku pada 2 Agustus. Regulasi ini dirancang untuk mengurangi penipuan dan manipulasi, serta membantu masyarakat membuat pilihan yang tepat dalam kerangka yang lebih luas untuk membangun AI yang dapat dipercaya di Eropa.
Peraturan ini menandai langkah besar dalam tata kelola teknologi global. Dengan cakupan yang luas, aturan ini tidak hanya menyentuh pengembang model AI besar, tetapi juga berbagai sektor bisnis yang selama ini memanfaatkan AI secara tersembunyi. Dampaknya akan terasa di seluruh rantai industri, dari pemasaran hingga layanan pelanggan.
Kewajiban Label dan Dampak Finansial
Iklan atau unggahan media sosial korporat yang menggunakan deepfake kini akan diberi label yang menyatakan konten tersebut dihasilkan oleh AI. Chatbot dan layanan telepon yang menangani keluhan serta masalah lainnya juga wajib menyatakan dengan jelas jika mereka berbasis AI. Pusat panggilan yang menggunakan pembelajaran mesin untuk memantau emosi penelepon dan mendeteksi frustrasi harus menyatakan hal tersebut di awal panggilan. Bahkan di antara sesama bisnis, penggunaan komersial teknologi ini—termasuk penjadwalan janji temu, penanganan korespondensi, atau negosiasi kontrak—harus dideklarasikan.
Konsekuensi bagi perusahaan yang tidak mematuhi aturan ini sangat berat. Mereka akan menghadapi denda hingga €15 juta (sekitar US$17 juta) atau 3 persen dari omzet tahunan global—mana yang lebih tinggi. Sanksi ini dirancang untuk memberikan efek jera yang signifikan bagi pelaku usaha di semua skala.
Pengawasan Pengembang Model AI
Pengembang model juga akan tunduk pada undang-undang baru ini dan akan diawasi oleh Kantor AI (AI Office) Komisi Eropa yang baru dibentuk. Cakupan ini mencakup perusahaan di luar nama-nama besar seperti OpenAI, Anthropic, dan Google DeepMind. Thibau Duquin, pengacara teknologi dan data di Stibbe, menyoroti perusahaan seperti Spotify yang menggunakan rekomendasi bertenaga AI, atau Adobe dengan fitur editing AI di Photoshop. “Ketika Anda mulai melihatnya, teknologi ini ada di mana-mana, dan semua konten ini harus diberi label mulai sekarang,” ujar Duquin.
Jangkauan regulasi yang luas ini juga menyentuh ekosistem yang lebih kompleks. Fenomena konten otomatis yang dihasilkan AI telah menjadi perhatian global, termasuk praktik yang melibatkan data dan konten yang diproduksi secara massal. Beberapa pihak melihat kemunculan peternakan konten AI sebagai tantangan baru dalam ekosistem digital. Sementara itu, beberapa perusahaan mulai mengadopsi pendekatan berbeda dengan gaya menulis anti-AI untuk membedakan diri di tengah banjir konten sintetis.
Baca Juga:
Kritik: Risiko Informasi Berlebih
Meskipun bertujuan mulia, jangkauan undang-undang baru ini berpotensi menyebabkan kelebihan informasi, demikian kritik yang muncul. “Pelabelan yang berlebihan dapat menyebabkan ‘kebutaan spanduk’ dengan notifikasi tanpa henti,” kata Boniface de Champris, pimpinan kebijakan AI di Computer & Communications Industry Association, memperingatkan pada Desember lalu. “Jika kita harus memberi label pada semuanya, mulai dari email yang diperiksa ejaannya hingga foto dengan filter, pelabelan konten AI akan kehilangan makna.”
Kekhawatiran ini muncul di tengah meningkatnya insiden yang melibatkan AI di berbagai belahan dunia. Beberapa organisasi nyata telah melaporkan serangan dari sistem AI yang tidak terkendali, sementara regulasi di negara lain seperti Amerika Serikat dinilai belum siap menghadapi ancaman tersebut. Situasi ini menunjukkan bahwa kebutuhan akan kerangka regulasi yang jelas semakin mendesak secara global, tidak hanya di Eropa.
Echo of GDPR: Pelajaran dari Regulasi Privasi
Legislasi baru ini mengingatkan pada undang-undang privasi UE, General Data Protection Regulation (GDPR), yang mulai berlaku pada 2018. Dalam memberikan hak baru kepada konsumen untuk memahami dan mengontrol bagaimana perusahaan menggunakan informasi pribadi mereka, regulasi tersebut mengubah cara orang mengalami web. Regulasi ini memperkenalkan pop-up persetujuan cookie di mana-mana, menyebabkan banyak pengguna web mengalami “kelelahan cookie”, dan memicu kegemparan bagi bisnis untuk mematuhinya.
Tantangan dalam mengadopsi dan menegakkan regulasi teknis semacam ini juga bergema, kata Fernhout. “Masih banyak istilah yang tidak jelas dan membutuhkan panduan khusus dari otoritas, dan saya pikir hal yang sama akan terjadi di sini,” ujarnya. “Ini juga sangat teknis sehingga persyaratan ini harus dibangun ke dalam sistem yang mendasarinya, yang memperumit masalah.”
Masa Transisi dan Tantangan Implementasi
UE telah memberikan masa transisi hingga Desember bagi penyedia model AI untuk memberi label audio, gambar, video, atau teks sintetis dalam format yang dapat dibaca mesin. Langkah ini diambil agar materi tersebut dapat dideteksi sebagai konten buatan AI, sekaligus mengakui tantangan teknis dalam implementasinya. Tenggat kepatuhan lain dalam undang-undang ini juga telah ditunda karena Kantor AI Eropa membutuhkan waktu lebih lama dari perkiraan untuk memproduksi pedoman kepatuhan utama.
Selain itu, 27 negara anggota blok tersebut berada pada tahap yang berbeda dalam menyiapkan kerangka pengawasan mereka. Hal ini berarti penegakan hukum “mungkin tidak segera atau seragam seperti yang kita kira,” kata Rosie Nance, pengacara regulasi data dan AI di Norton Rose Fulbright. Ia mengingatkan bahwa “kita tidak akan serta merta melihat penegakan yang konsisten.”
Potensi Perubahan Lanskap Bisnis
Meskipun terdapat tantangan implementasi, jangkauan luas regulasi ini pada akhirnya akan menjadi “pengubah permainan” bagi perusahaan, kata Duquin. Pertanyaan kuncinya adalah: apakah mereka akan nyaman memberi label pada penggunaan AI, atau justru kembali ke sistem yang tidak berbasis AI? Apakah mereka akan kembali melakukan sesuatu secara manual, atau bersedia mengambil risiko untuk transparan tentang seberapa banyak AI yang mereka gunakan dan terus menggunakannya untuk segalanya dengan mengungkapkannya secara terbuka?
Keputusan ini akan sangat memengaruhi strategi bisnis di masa depan. Perusahaan teknologi yang selama ini mengandalkan AI untuk personalisasi layanan, seperti yang terlihat pada fitur AI Spotify yang sempat menuai protes, harus mempertimbangkan kembali pendekatan mereka terhadap transparansi. Regulasi ini memaksa industri untuk menyeimbangkan inovasi dengan akuntabilitas publik.
Bagi konsumen, regulasi ini memberikan alat baru untuk memahami dengan siapa mereka berinteraksi dan dari mana konten yang mereka konsumsi berasal. Ini adalah langkah penting menuju ekosistem digital yang lebih jujur dan dapat dipercaya. Namun, efektivitasnya akan sangat bergantung pada seberapa konsisten penegakan hukum dilakukan di seluruh negara anggota UE dan seberapa cepat pedoman teknis dapat diselesaikan oleh otoritas terkait.
