Elon Musk spune că Grok de la xAI va detecta în curând videoclipurile generate de AI și le va urmări originea.
Cuprins
Ce a anunțat Musk
Elon Musk le-a spus utilizatorilor X că Grok, chatbotul AI dezvoltat de unitatea sa xAI și integrat în X, va dobândi capacitatea de a scana videoclipurile pentru "semnături AI" tehnice în bitstream și apoi de a căuta urme online pentru a ajuta la stabilirea originii unui clip. Funcția este prezentată ca un instrument de identificare a falsurilor profunde și de contracarare a impersonării și a conținutului defăimător condus de AI.
Cum ar funcționa sistemul
Potrivit lui Musk și postărilor de pe contul Grok, procesul de detectare ar combina analiza semnalelor de nivel scăzut - de exemplu, neregularități în compresie sau modele de generare pe care le lasă în urmă mașinile - cu metadatele și căutarea pe internet pentru a urmări o pistă către sursele probabile. Echipa afirmă că metoda depășește inspecția umană prin examinarea modelelor din fluxul de biți video care indică generarea sintetică.
De ce este important și limite de reținut
Musk a prezentat această capacitate ca un răspuns la îngrijorările tot mai mari cu privire la faptul că videoclipurile realiste cu inteligență artificială ar putea fi utilizate pentru denigrarea oamenilor. Experții și jurnaliștii au salutat ideea, dar au remarcat că există în continuare limite tehnice și criminalistice; detectarea și atribuirea mediilor sintetice sofisticate este o provocare în continuă evoluție și nicio metodă nu este infailibilă. Anunțul lui Musk nu a inclus un calendar public ferm sau un document tehnic, lăsând detaliile cheie și afirmațiile privind performanța neverificate.
