Jumat, Mei 7, 2021

Dilema di tengah kemajuan deepfake

Must read

Perkembangan deepfake, konten manipulasi yang dibuat dengan kecerdasan buatan, begitu pesat. Teknologi ini semakin banyak digunakan secara komersial. Ada yang memanfaatkannya sebagai konten hiburan. Di sisi lain, deepfake juga kerap disalahgunakan untuk melecehkan orang lain atau menyebarkan misinformasi. Bagaimana kita menyikapinya?

Seorang ibu asal Pennsylvania, Amerika Serikat, ditangkap oleh polisi gara-gara deepfake, konten manipulasi yang dibuat dengan teknologi kecerdasan buatan atau artificial intelligence (AI). Wanita yang bernama Raffaela Spone ini diduga menggunakan foto dan video deepfake untuk membuat pemandu sorak saingan putrinya dikeluarkan dari tim.

Wanita berusia 50 tahun itu dilaporkan mengirim konten yang menunjukkan sejumlah anggota tim pemandu sorak Victory Vipers “telanjang, minum alkohol, dan merokok” kepada pelatih.

Ia juga dituduh mengirim pesan bernada kasar kepada anggota tim, orang tua mereka, serta pemilik gym tempat tim itu berlatih dengan nomor telepon palsu. Departemen Kepolisian Hilltown Township, Bucks County mendakwa dia dengan tuduhan melakukan pelecehan.

Henry Ajder, peneliti deepfake, mengatakan kejahatan seperti yang dituduhkan kepada Spone adalah sesuatu yang ia prediksi akan datang. Alat untuk menciptakan deepfake menjadi lebih mudah diakses oleh masyarakat umum melalui aplikasi, serta fitur face-swapping dan sinkronisasi bibir.

“Bahkan, mereka bisa mempekerjakan orang lain lewat forum daring untuk menghasilkan deepfake yang lebih realistis,” kata Ajder.

Meskipun banyak aplikasi tidak menghasilkan gambar yang benar-benar realistis, menurut Ajder, teknologi untuk membuat gambar yang lebih realistis dapat muncul secara lebih luas dalam lima tahun ke depan.

Hal ini patut diperhatikan karena, kata dia, deepfake bisa disalahgunakan untuk menyerang seseorang, menciptakan disinformasi politik, dan menipu atau memanipulasi pasar saham.

Victor Riparbelli, direktur eksekutif sekaligus salah satu pendiri Synthesia, perusahaan yang berbasis di London, Inggris, yang membuat video pelatihan karyawan berbasis AI, punya pendapat berbeda.

Dia mengatakan deepfake adalah masa depan kreasi konten (content creation). Terlepas dari konotasi negatif seputar istilah deepfake, teknologi ini semakin banyak digunakan secara komersial.

Tapi menurut Chad Steelberg, direktur eksekutif Veritone, perusahaan penyedia teknologi AI asal AS, meningkatnya kekhawatiran bahwa deepfake berbahaya telah menghambat investasi untuk penggunaan teknologi tersebut di bidang komersial secara sah.

“Istilah deepfake pasti mendapat respon negatif dari sisi penanaman modal di sektor tersebut. Media dan konsumen semestinya dapat dengan jelas melihat risiko yang terkait,” katanya.

Ketika serangkaian video deepfake aktor Hollywood Tom Cruise viral di TikTok beberapa waktu lalu, sejumlah pihak menyerukan itu pertanda yang mengerikan, bahwa kita masuk ke dalam era di mana AI memungkinkan siapa pun bisa membuat video palsu dengan wajah orang lain. Namun, pembuat video itu, Chris Ume, spesialis efek visual asal Belgia, membantahnya.

Ume menekankan bahwa, untuk membuat video deepfake yang benar-benar realistis seperti yang ia bikin, butuh waktu yang cukup lama serta impersonator atau peniru Tom Cruise sekelas Miles Fisher. “Anda tidak bisa melakukannya hanya dengan menekan sebuah tombol,” katanya.

Satu video dibuat selama berminggu-minggu dengan algoritma perangkat lunak DeepFaceLab serta alat pengeditan. “Penggabungan CGI (computer-generated imagery) tradisional dan efek visual dengan deepfake membuatnya lebih baik,” ujar Ume.

Akun TikTok Ume bersama Fisher, @deeptomcruise, itu pun dengan cepat mengumpulkan ratusan ribu pengikut dan jutaan suka. “Ini memenuhi tujuannya,” kata Ume.

“Kami bersenang-senang. Saya menciptakan kesadaran. Saya menunjukkan keterampilan saya. Kami membuat orang-orang tersenyum. Dan itu saja, proyeknya selesai,” tutur Ume.

Hany Farid, seorang profesor University of California Berkeley yang juga peneliti forensik digital dan misinformasi, mengatakan video Tom Cruise itu merupakan kategori baru deepfake yang belum pernah ia lihat sebelumnya.

Umumnya, deepfake digunakan dalam pornografi. Menurut laporan Sensity, perusahaan yang fokus pada ancaman visual, pada 2019, pornografi deepfake nonkonsensus menyumbang lebih dari 90 persen dari seluruh deepfake yang beredar.

Profesor etika terapan University of Virginia, Deborah Johnson, juga menuturkan bahwa deepfake adalah bagian dari masalah misinformasi yang lebih besar yang merusak kepercayaan terhadap institusi dan pengalaman visual.

“Kita tidak bisa lagi mempercayai apa yang kita lihat dan dengar secara online,” ujarnya.

Ia pun menawarkan pelabelan untuk melawan deepfake. “Jika orang sadar bahwa apa yang mereka tonton adalah hasil manipulasi, kecil kemungkinan mereka tertipu,” kata Johnson.

Sementara itu, Sandra Wachter, peneliti AI di Oxford University, menyarankan agar kita tidak terlalu takut dengan teknologi.

“Ya, harus ada undang-undang yang berlaku untuk menekan hal-hal buruk dan berbahaya seperti ujaran kebencian dan pornografi balas dendam (revenge porn). Individu dan masyarakat harus dilindungi dari itu. Tapi kita seharusnya tidak melarang deepfake yang digunakan sebagai satire atau kebebasan berekspresi.” (TEMPO)

- Advertisement -

More articles

LEAVE A REPLY

Please enter your comment!
Please enter your name here

- Advertisement -

Latest article