• Breaking News

    Facebook Kembangkan Fitur untuk Mendeteksi Gambar Palsu dan Melacak Asal-usulnya

     

    INDOZONE.ID - Para peneliti di Facebook telah mengembangkan perangkat lunak AI yang dapat mengidentifikasi gambar palsu yang, dengan mata telanjang, mungkin terasa seperti asli, dan membantu melacak asal-usulnya.

    Di tengah banyaknya deepfake realistis yang menakutkan secara online, terutama yang dengan Tom Cruise melakukan hal-hal acak yang biasanya tidak pernah dia lakukan. Meskipun semuanya bagus saat menyenangkan, deepfake juga dapat disalahgunakan untuk membagikan informasi yang menyesatkan.


    Untuk mengatasi hal ini, para peneliti Facebook telah mengembangkan mekanisme penelusuran deepfake baru yang mencari celah yang tertinggal selama pembuatan deepfake untuk mengubah sidik jari digital gambar atau video.

    Pada dasarnya, ia mencari tempat-tempat deepfake gagal dalam membuat topeng dan menggunakannya sebagai sidik jari untuk melacak asal-usul deepfake.

    “Metode rekayasa balik kami bergantung pada pengungkapan pola unik di balik model AI yang digunakan untuk menghasilkan satu gambar deepfake. Kami mulai dengan atribusi gambar dan kemudian bekerja untuk menemukan properti model yang digunakan untuk menghasilkan gambar," kata ilmuwan riset Facebook, Xi Yin dan Tal Hassner.

    "Dengan menggeneralisasi atribusi gambar ke pengenalan set terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat deepfake yang melampaui pengenalan bahwa itu belum pernah terlihat sebelumnya,” jelasnya.

    “Dan dengan menelusuri kesamaan di antara pola kumpulan deepfake, kami juga dapat mengetahui apakah serangkaian gambar berasal dari satu sumber. Kemampuan untuk mendeteksi deepfake mana yang telah dihasilkan dari model AI yang sama dapat berguna untuk mengungkap contoh disinformasi terkoordinasi atau serangan berbahaya lainnya yang diluncurkan menggunakan deepfake,” tambah dia.

    Sumber: https://www.indozone.id/tech/Q8sdzMM/facebook-kembangkan-fitur-untuk-mendeteksi-gambar-palsu-dan-melacak-asal-usulnya/read-all

    No comments

    Post Top Ad

    Post Bottom Ad