Elon Musk diz que o Grok da xAI irá em breve detetar vídeos gerados por IA e rastrear as suas origens.
Índice
O que Musk anunciou
Elon Musk disse aos utilizadores no X que o Grok, o chatbot de IA desenvolvido pela sua unidade xAI e integrado no X, vai ter a capacidade de analisar vídeos em busca de "assinaturas de IA" técnicas no fluxo de bits e depois pesquisar vestígios online para ajudar a estabelecer a origem de um clip. A funcionalidade é apresentada como uma ferramenta para identificar "deepfakes" e impedir a imitação e os conteúdos difamatórios impulsionados pela IA.
Como funcionaria o sistema
De acordo com Musk e as publicações da conta Grok, o processo de deteção combinaria a análise de sinais de baixo nível - por exemplo, irregularidades na compressão ou padrões de geração que as máquinas deixam para trás - com metadados e pesquisa na Web para seguir um rasto até às fontes prováveis. A equipa afirma que o método vai além da inspeção humana, examinando padrões no fluxo de bits do vídeo que indicam uma geração sintética.
Por que razão é importante e limites a ter em conta
Musk enquadrou a capacidade como uma resposta às preocupações crescentes de que os vídeos realistas de IA poderiam ser utilizados para difamar as pessoas. Especialistas e jornalistas acolheram a ideia com agrado, mas notam que continuam a existir limites técnicos e forenses; a deteção e atribuição de meios sintéticos sofisticados é um desafio em evolução e nenhum método é infalível. O anúncio de Musk não incluiu um calendário público firme ou um documento técnico, deixando por verificar os principais pormenores e as reivindicações de desempenho.
