페이스북, 최고 65%...10만개 영상 제시해 테스트 결과
[서울와이어 이재구 기자] 최근 급증하는 딥페이크, 즉 디지털 조작 가짜 동영상을 식별하는 인공지능(AI) 콘테스트 결과 최고 알고리즘조차도 가짜 식별률(탐지율)이 65%에 불과했다.
더버지는 12일(현지시각) 페이스북이 주최한 딥페이크 콘테스트에서 이처럼 최상위 알고리즘조차도 딥페이크 식별 테스트에서 높은 실패율을 보였다고 전했다.
이 대회에는 2000명이 참가해 3만5000개의 서로 다른 알고리즘으로 10만개 이상의 클립으로 구성된 데이터 세트에서 조작 동영상을 식별하는 내용의 경연을 벌였다.
딥페이크가 들어있는 동영상은 페이스북에 고용돼 대화와 다른 자연적인 움직임을 재현하라는 말을 듣고 그대로 한 3000명의 배우들을 촬영한 것이었다.
보도에 따르면 알고리즘은 이 클립을 사용해 훈련했을 때 약 82%의 딥페이크 탐지율(전체 가짜 상영시간의 82%)을 보였지만, 이를 보지 않은 ‘블랙박스’ 데이터를 제시했을 때 탐지율은 65%로 떨어졌다.
공모전 결과가 완벽과는 거리가 멀었지만 마이크 슈뢰퍼 페이스북 최고기술책임자(CTO)는 프레스콜에서 “솔직히 공모전이 기대 이상”이라고 말했다.
페이스북은 딥페이크가 당장 시급한 문제는 아니지만, 이 기술이 향후 동영상 조작에 대한 예방책으로는 떨어지는 수준이라고 주장했다.
페이스북은 최고 탐지율을 보인 알고리즘을 연구자들을 위한 오픈소스 기술로 공개하고, 자체 알고리즘 연구도 계속해 나갈 계획이다.
페이스북은 딥페이크를 탐지하는 자체 기술을 개발 중인데 역설계될 수 있다는 두려움 때문에 대중에게 공개하지 않기로 했다고 밝혔다.