YouTube Tindak Tegas Kejahatan dengan Deepfake AI
YouTube telah memperbarui kebijakan cyber bullying (perundungan di dunia maya) dan harassment (pelecehan) untuk konten-konten yang diunggah di platform tersebut.
Hal ini merupakan buntut dari merebaknya konten yang secara realistis menyimulasikan anak di bawah umum yang meninggal atau menjadi korban dari berbagai peristiwa mengerikan.
Banyak pengguna YouTube yang menggunakan AI untuk menciptakan kemiripan dengan korban-korban tersebut.
Tindakan Tegas Dimulai Tanggal 16 Januari 2024
Melansir TechCrunch, YouTube akan mulai menindaklanjuti konten yang melanggar kebijakan dengan penggunaan deepfake AI mulai tanggal 16 Januari.
Penggunaan deepfake AI dalam hal ini dilakukan untuk memberikan efek suara yang mengerikan tentang korban anak-anak untuk menggambarkan kematian mereka.
Kebijakan baru ini diputuskan sekitar dua bulan setelah YouTube mengenalkan aturan baru terkait pertanggungjawaban atas konten AI dan alat baru untuk menghapus konten deepfake.
Salah satu perubahannya mengharuskan pengguna mengungkap kapan mereka membuat konten AI yang tampak realistis tersebut.
Platform milik Google itu memperingatkan bahwa jika pengguna enggan mengungkap penggunaan AI dengan benar, YouTube berhak menghapus konten, menangguhkan dari program mitra YouTube, dan lainnya.
Selain tu, YouTube juga mungkin akan menghapus konten yang menunjukkan kekerasan yang digambarkan secara nyata, meski konten tersebut telah diberi label AI.
Konsekuensi Bagi Pengguna yang Melanggar Kebijakan
YouTube memastikan akan menghapus konten yang melanggar kebijakan baru terkait penggunaan deepfake AI ini.
Selain kontennya dihapus, pengguna yang menerima teguran dari YouTube juga tidak akan dapat mengunggah video, streaming langsung, atau membuat cerita.
Hukuman dari YouTube tersebut berlaku selama satu minggu.
Jika pengguna yang melanggar telah mendapatkan tiga kali teguran, hukuman yang lebih tegas akan didapatkan.
Channel pengguna yang melanggar tersebut akan dihapus secara permanen dari YouTube.
Sementara itu, The Verge menyebutkan channel YouTube akan dihapus jika kebijakan dilanggar lagi dalam waktu 90 hari.
Terkait penindakan terhadap konten dengan AI, platform TikTok juga sebelumnya telah meluncurkan alat yang memungkinkan kreator memberi label pada konten AI buatan mereka.
Hal ini terjadi pada September 2023.
Kreator diwajibkan untuk mengungkap kapan mereka menggunakan AI untuk konten mereka dan memberi label agar penonton tidak terkecoh.
