지난 트윗 일괄 삭제하기
지금 가입하기
엘론 머스크는 xAI의 Grok이 곧 AI가 생성한 동영상을 감지하고 그 출처를 추적할 것이라고 말합니다.
목차
머스크가 발표한 내용
엘론 머스크는 X의 xAI 부서에서 개발하여 X와 통합된 AI 챗봇인 Grok이 비트스트림에서 기술적 'AI 서명'을 찾아 동영상을 스캔한 다음 온라인 추적을 조사하여 클립의 출처를 파악할 수 있는 기능을 갖추게 될 것이라고 말했습니다. 이 기능은 딥페이크 식별과 AI 기반 사칭 및 명예훼손 콘텐츠를 차단하는 도구로 제공됩니다.
시스템 작동 방식
머스크와 Grok 계정의 게시물에 따르면, 이 탐지 프로세스는 낮은 수준의 신호 분석(예: 압축의 불규칙성 또는 기계가 남기는 생성 패턴)과 메타데이터 및 웹 검색을 결합하여 가능한 출처를 추적하는 것입니다. 연구팀은 이 방법이 비디오 비트스트림에서 합성 생성을 나타내는 패턴을 조사함으로써 사람이 직접 검사하는 것 이상의 효과를 거둘 수 있다고 말합니다.
중요한 이유와 주의해야 할 제한 사항
머스크는 사실적인 AI 동영상이 사람을 비방하는 데 사용될 수 있다는 우려가 커지자 이에 대한 대응책으로 이 기능을 도입했습니다. 전문가와 언론인들은 이 아이디어를 환영했지만, 정교한 합성 미디어의 탐지 및 어트리뷰션은 계속 진화하는 과제이며 완벽한 방법은 없다고 지적하며 기술적 및 법의학적인 한계가 남아 있다고 지적했습니다. 머스크의 발표에는 확실한 공개 일정이나 기술 문서가 포함되어 있지 않아 주요 세부 사항과 성능 주장이 검증되지 않은 채로 남았습니다.
