Elon Musk afferma che Grok di xAI individuerà presto i video generati dall'intelligenza artificiale e ne rintraccerà le origini.
Indice dei contenuti
Cosa ha annunciato Musk
Elon Musk ha comunicato agli utenti di X che Grok, il chatbot AI sviluppato dalla sua unità xAI e integrato in X, sarà in grado di scansionare i video alla ricerca di "firme AI" tecniche nel bitstream e di ricercare tracce online per aiutare a stabilire l'origine di un clip. La funzione viene presentata come uno strumento per identificare i deepfake e contrastare le imitazioni e i contenuti diffamatori guidati dall'AI.
Come funzionerebbe il sistema
Secondo Musk e i post dell'account Grok, il processo di rilevamento combinerebbe l'analisi dei segnali di basso livello - ad esempio le irregolarità nella compressione o i modelli di generazione che le macchine lasciano dietro di sé - con i metadati e la ricerca sul web per seguire una traccia che riconduca a fonti probabili. Il team afferma che il metodo va oltre l'ispezione umana, esaminando gli schemi nel flusso di bit video che indicano una generazione sintetica.
Perché è importante e limiti da notare
Musk ha inquadrato la capacità come una risposta alle crescenti preoccupazioni che i video realistici dell'IA possano essere usati per diffamare le persone. Esperti e giornalisti hanno accolto con favore l'idea, ma hanno notato che permangono limiti tecnici e forensi; il rilevamento e l'attribuzione di sofisticati media sintetici è una sfida in continua evoluzione e nessun metodo è infallibile. L'annuncio di Musk non ha incluso una tabella di marcia pubblica o un documento tecnico, lasciando in sospeso i dettagli chiave e le dichiarazioni sulle prestazioni.
