Skip to content

Ilmuwan Facebook mengatakan mereka sekarang dapat mengetahui dari mana deepfake berasal

📅 June 17, 2021

⏱️3 min read

`

`

Peneliti kecerdasan buatan di Facebook dan Michigan State University mengatakan mereka telah mengembangkan perangkat lunak baru yang dapat mengungkapkan dari mana apa yang disebut deepfake berasal.

Contoh deepfake yang dibuat oleh CNBC

Contoh deepfake yang dibuat

Deepfake adalah video yang telah diubah secara digital dengan AI. Mereka menjadi semakin realistis dalam beberapa tahun terakhir, mempersulit manusia untuk menentukan apa yang nyata di internet, dan memang Facebook, dan apa yang tidak.

Para peneliti Facebook mengklaim bahwa perangkat lunak AI mereka – diumumkan pada hari Rabu – dapat dilatih untuk menentukan apakah sebuah media adalah deepfake atau bukan dari gambar diam atau bingkai video tunggal. Tidak hanya itu, mereka mengatakan perangkat lunak tersebut juga dapat mengidentifikasi AI yang digunakan untuk membuat deepfake, tidak peduli seberapa baru tekniknya.

Tal Hassner, seorang pemimpin penelitian terapan di Facebook, mengatakan kepada CNBC bahwa mungkin untuk melatih perangkat lunak AI “untuk melihat foto dan memberi tahu Anda dengan tingkat akurasi yang wajar apa desain model AI yang menghasilkan foto itu.”

Penelitian ini dilakukan setelah MSU menyadari tahun lalu bahwa dimungkinkan untuk menentukan model kamera apa yang digunakan untuk mengambil foto tertentu — Hassner mengatakan bahwa pekerjaan Facebook dengan MSU dibangun di atas ini.

`

`

‘Permainan kucing dan tikus’

Deepfake adalah berita buruk bagi Facebook, yang terus berjuang untuk menjauhkan konten palsu dari platform utamanya, serta Messenger, Instagram, dan WhatsApp. Perusahaan melarang deepfake pada Januari 2020 tetapi berjuang untuk menghapus semuanya dengan cepat dari platformnya.

Hassner mengatakan bahwa mendeteksi deepfake adalah “permainan kucing dan tikus,” menambahkan bahwa mereka menjadi lebih mudah untuk diproduksi dan lebih sulit untuk dideteksi.

Salah satu aplikasi utama deepfake sejauh ini adalah dalam pornografi di mana wajah seseorang ditukar dengan tubuh orang lain, tetapi mereka juga telah digunakan untuk membuat selebritas tampil seolah-olah mereka sedang melakukan atau mengatakan sesuatu yang tidak mereka lakukan.

Memang, satu set deepfake Tom Cruise yang hiper realistis dan aneh di TikTok kini telah ditonton lebih dari 50 juta kali, dengan banyak yang berjuang untuk melihat bagaimana itu tidak nyata.

Saat ini, siapa pun dapat membuat deepfake sendiri menggunakan aplikasi gratis seperti FakeApp atau Faceswap.

Pakar Deepfake Nina Schick, yang telah menasihati Presiden AS Joe Biden dan Presiden Prancis Emmanuel Macron, mengatakan pada konferensi CogX AI pada hari Senin bahwa mendeteksi deepfake tidak mudah.

Dalam email tindak lanjut dia mengatakan kepada CNBC bahwa pekerjaan Facebook dan MSU “tampak seperti masalah yang cukup besar dalam hal deteksi” tetapi menekankan bahwa penting untuk mengetahui seberapa baik model deteksi deepfake benar-benar bekerja di alam liar.

“Semuanya baik dan bagus untuk mengujinya pada satu set data pelatihan di lingkungan yang terkendali,” katanya, menambahkan bahwa “salah satu tantangan besar tampaknya adalah ada cara mudah untuk mengelabui model deteksi — yaitu dengan mengompresi gambar atau video. .”

Tassner mengakui bahwa mungkin saja ada aktor jahat yang menyiasati detektor. “Apakah itu bisa mengalahkan sistem kita? Saya berasumsi bahwa itu akan terjadi, ”katanya.

Secara garis besar, ada dua jenis deepfake. Mereka yang sepenuhnya dihasilkan oleh AI, seperti wajah manusia palsu di www. thispersondoesnotexist.com , dan lainnya yang menggunakan elemen AI untuk memanipulasi media asli.

Schick mempertanyakan apakah alat Facebook akan bekerja pada yang terakhir, menambahkan bahwa “tidak akan pernah ada satu ukuran yang cocok untuk semua detektor.” Tetapi Xiaoming Liu, kolaborator Facebook di Michigan State, mengatakan pekerjaan itu telah “telah dievaluasi dan divalidasi pada kedua kasus deepfake.” Liu menambahkan bahwa “kinerja mungkin lebih rendah” dalam kasus di mana manipulasi hanya terjadi di area yang sangat kecil.

Chris Ume, artis media sintetis di balik deepfake Tom Cruise, mengatakan di CogX pada hari Senin bahwa teknologi deepfake bergerak cepat.

“Ada banyak alat AI yang berbeda dan untuk Tom Cruise, misalnya, saya menggabungkan banyak alat berbeda untuk mendapatkan kualitas yang Anda lihat di saluran saya,” katanya.

Tidak jelas bagaimana atau memang Facebook akan menerapkan perangkat lunak Tassner ke platformnya. “Kami bahkan tidak sedang mendiskusikan produk,” kata Tassner, menambahkan bahwa ada beberapa kasus penggunaan potensial termasuk menemukan serangan deepfake yang terkoordinasi.

“Jika seseorang ingin menyalahgunakan mereka (model generatif) dan melakukan serangan terkoordinasi dengan mengunggah sesuatu dari sumber yang berbeda, kami benar-benar dapat mengetahuinya hanya dengan mengatakan bahwa semua ini berasal dari cetakan yang sama yang belum pernah kami lihat sebelumnya tetapi memiliki spesifikasi khusus properti, atribut tertentu,” katanya.

Sebagai bagian dari pekerjaan, Facebook mengatakan telah mengumpulkan dan membuat katalog 100 model deepfake berbeda yang ada.

`

`
← PrevNext →
  • Powered by Daily Planet News