Konten yang dihasilkan oleh Generative AI sudah merajalela di berbagai platform. Untuk memberikan transparansi kepada para penggunanya terkait konten yang mereka lihat, Meta mengumumkan bahwa pihaknya akan mulai memberikan label pada konten hasil AI di ketiga platform media sosial mereka yakni Facebook, Instagram, dan Threads.

Meta akan memulai langkah tersebut dengan gambar AI, di mana mereka saat ini juga tengah mengembangkan sistem deteksi otomatis yang dapat mengidentifikasi penanda gambar hasil AI, termasuk seperti watermark dan metadata. Di masa mendatang, sistem tersebut diharapkan dapat dipakai untuk video dan audio yang dihasilkan dari AI.

Meta sendiri sudah menyematkan label “Imagined with AI” pada gambar yang dihasilkan oleh generative AI mereka yakni Meta AI. Namun, perusahaan pimpinan Mark Zuckerberg tersebut mengaku telah bekerja sama dengan pelaku industri AI lainnya agar deteksi konten AI itu juga dapat diterapkan pada konten AI yang dibuat di luar Meta AI.

Mengidentifikasi gambar AI menggunakan sistem mungkin tidak begitu sulit, tapi untuk video dan audio akan memiliki tantangan tersendiri karena tool yang menghasilkan konten jenis ini belum banyak menggunakan watermark yang terstandarisasi. Untuk mengatasi hal itu, Meta berencana meluncurkan tool baru di ketiga media sosial mereka yang memungkinkan pengguna melabeli manual jika konten mereka adalah hasil AI.

Baca Juga: Sikat Gigi Jadi Alat Serangan Siber, Kok Bisa? • Jagat Gadget (jagatreview.com)

Langkah semacam ini memang sangat perlu dilakukan untuk mengimbangi pesatnya kemajuan teknologi AI. Bagaimana tidak, sebut saja aplikasi seperti Deepfakes yang mampu mengubah wajah seseorang dalam sebuah video dan bahkan kita sekarang juga bisa menirukan suara seseorang, bisa saja disalahgunakan oleh orang yang tidak bertanggung jawab. Kalian sendiri gimana, sering upload konten hasil AI juga nggak nih?

Sumber