Elon Musk dice que Grok de xAI pronto detectará vídeos generados por IA y rastreará sus orígenes.
Índice
Lo que Musk anunció
Elon Musk comunicó a los usuarios de X que Grok, el chatbot de inteligencia artificial desarrollado por su unidad xAI e integrado en X, tendrá la capacidad de escanear vídeos en busca de "firmas de inteligencia artificial" técnicas en el flujo de bits y, a continuación, investigar rastros en línea para ayudar a establecer el origen de un clip. Esta función se presenta como una herramienta para identificar falsificaciones y evitar la suplantación de identidad y los contenidos difamatorios.
Cómo funcionaría el sistema
Según Musk y las publicaciones de la cuenta de Grok, el proceso de detección combinaría el análisis de señales de bajo nivel -por ejemplo, irregularidades en la compresión o patrones de generación que dejan las máquinas- con metadatos y búsquedas en Internet para seguir un rastro hasta las fuentes probables. El equipo afirma que el método va más allá de la inspección humana al examinar patrones en el flujo de bits de vídeo que indican una generación sintética.
Por qué es importante y límites a tener en cuenta
Musk enmarcó la capacidad como una respuesta a la creciente preocupación de que los vídeos realistas de IA pudieran utilizarse para difamar a la gente. Expertos y periodistas han acogido con satisfacción la idea, pero señalan que sigue habiendo límites técnicos y forenses; la detección y atribución de medios sintéticos sofisticados es un reto en evolución y ningún método es infalible. El anuncio de Musk no incluía un calendario público en firme ni un documento técnico, por lo que los detalles clave y las afirmaciones sobre el rendimiento quedaron sin verificar.
