Bisakah Pemerintah Mengatur Deepfakes?

Bulan lalu, jaringan televisi Inggris Channel 4 menyiarkan “pidato Natal alternatif” oleh Ratu Elizabeth II, di mana raja berusia 94 tahun itu diperlihatkan membuat lelucon dan menampilkan tarian populer di TikTok. Tentu saja, itu tidak nyata: Video tersebut dibuat sebagai peringatan tentang deepfake — tampaknya gambar atau video nyata yang menunjukkan orang melakukan atau mengatakan hal-hal yang tidak pernah mereka lakukan atau katakan. Jika gambar seseorang dapat ditemukan, teknologi baru yang menggunakan kecerdasan buatan dan pembelajaran mesin sekarang memungkinkan untuk menunjukkan bahwa orang tersebut melakukan hampir semua hal. Bahaya teknologi jelas: Seorang guru sekolah menengah dapat ditampilkan dalam situasi yang membahayakan dengan seorang siswa, seorang tetangga dapat digambarkan sebagai teroris.

Bisakah deepfakes, seperti itu, dilarang menurut hukum Amerika? Hampir pasti tidak. Dalam US v. Alvarez, yang diputuskan pada tahun 2012, Mahkamah Agung yang terpecah menyatakan bahwa Amandemen Pertama melarang pemerintah mengatur pidato hanya karena itu bohong. Kasus tersebut menyangkut seorang pria yang secara tidak benar mengklaim bahwa dia adalah penerima Medal of Honor. Berbohong tentang menerima medali itu adalah kejahatan di bawah Stolen Valor Act 2006, tetapi Mahkamah Agung membatalkan ketentuan utama dari undang-undang itu, memutuskan bahwa kebohongan dilindungi oleh Amandemen Pertama. Pendapat pluralitas menyatakan bahwa “mengizinkan pemerintah untuk memutuskan pidato ini sebagai tindak pidana… akan mendukung otoritas pemerintah untuk menyusun daftar subjek tentang pernyataan palsu yang dapat dihukum. Kekuasaan pemerintah itu tidak memiliki prinsip pembatas yang jelas…. Jika undang-undang ini dipertahankan, akan ada daftar subjek yang tidak terbatas yang dapat dipilih oleh Pemerintah Nasional atau Negara Bagian. ”

Di bawah hukum yang ada, pertanyaan kuncinya adalah apakah deepfakes menyebabkan kerugian yang cukup. Jika mereka memfitnah, mereka dapat diatur di bawah standar hukum saat ini, yang memungkinkan penggugat mendapatkan ganti rugi ketika, misalnya, seorang pembicara merusak reputasi mereka dengan menyebarkan apa yang diketahui pembicara sebagai kebohongan.

Tapi deepfake tidak perlu memfitnah. Mereka mungkin positif, membuat orang terlihat mengesankan atau luar biasa. Misalnya, deepfake dapat digunakan untuk mengiklankan pil energi dengan menunjukkan pria berusia 80 tahun meminum pil tersebut dan kemudian mencelupkan bola basket seperti LeBron James. Dan jika deepfake menunjukkan seorang politisi melakukan sesuatu yang luar biasa atau heroik, tidak ada fitnah.

Apakah pemerintah berhak melarang deepfake semacam ini? Menurut pendapat pluralitas di Alvarez, “Obat untuk ucapan yang salah adalah ucapan yang benar. Ini adalah kursus biasa dalam masyarakat bebas. ” Dengan standar ini, respons terbaik untuk banyak deepfakes adalah senyuman dan tawa — atau pidato balasan dan pengungkapan — daripada penyensoran. Platform media sosial tidak terikat oleh Amandemen Pertama, tetapi dalam kasus di mana orang dapat disesatkan, platform tersebut mungkin ingin melabeli deepfakes seperti itu, tetapi tidak menghapusnya, tentu saja sebagai hal yang biasa. Twitter telah secara sukarela mengadopsi pendekatan semacam ini, berpotensi menambahkan label ke media yang dimanipulasi, tetapi menghapus tweet yang berisi tweet tersebut hanya jika “cenderung menyebabkan kerusakan.”