Elon Musk mengatakan bahwa Grok milik xAI akan segera mendeteksi video yang dibuat oleh AI dan melacak asal-usulnya.
Daftar Isi
Apa yang diumumkan Musk
Elon Musk mengatakan kepada para pengguna X bahwa Grok, chatbot AI yang dikembangkan oleh unit xAI dan terintegrasi dengan X, akan mendapatkan kemampuan untuk memindai video untuk mencari "tanda tangan AI" teknis dalam bitstream dan kemudian meneliti jejak online untuk membantu menentukan asal sebuah video. Fitur ini dihadirkan sebagai alat untuk mengidentifikasi pemalsuan dan menggagalkan peniruan yang digerakkan oleh AI dan konten yang memfitnah.
Bagaimana sistem akan bekerja
Menurut Musk dan postingan dari akun Grok, proses pendeteksian akan menggabungkan analisis sinyal tingkat rendah - misalnya ketidakteraturan dalam kompresi atau pola pembuatan yang ditinggalkan oleh mesin - dengan metadata dan penelusuran web untuk mengikuti jejak kembali ke sumber-sumber yang mungkin. Tim mengatakan bahwa metode ini melampaui pemeriksaan manusia dengan memeriksa pola-pola dalam bitstream video yang mengindikasikan generasi sintetis.
Mengapa hal ini penting dan batasan yang perlu diperhatikan
Musk membingkai kemampuan ini sebagai tanggapan atas kekhawatiran yang berkembang bahwa video AI yang realistis dapat digunakan untuk mencemarkan nama baik seseorang. Para ahli dan jurnalis menyambut baik ide tersebut, namun perlu dicatat bahwa masih ada batasan teknis dan forensik; deteksi dan atribusi media sintetis yang canggih merupakan tantangan yang terus berkembang dan tidak ada metode yang sangat mudah. Pengumuman Musk tidak menyertakan jadwal publik yang pasti atau makalah teknis, sehingga detail utama dan klaim kinerja tidak diverifikasi.
