딥페이크, 아무도 믿어선 안 돼
페이스북, 구글, 트위터가 미국 의회로부터 받은 편지 📬: “2020 대선이 코앞인데, 딥페이크(deepfake) 어떻게 대응할 건지 계획 공유 좀 해줄래?”
- 딥페이크: 인공지능(AI)을 활용해 정교하게 합성한 가짜 비디오나 오디오. 2018년, 오바마 전 대통령이 트럼프 대통령을 '쓸모없는 인간'이라고 하는 영상이 퍼지면서 유명해졌어요. 사실은 미국 뉴스 사이트 버즈피드에서 만든 가짜 영상(유튜브)이었죠(오바마: 억울했다니까 🤦). 당시 버즈피드는 딥페이크 영상의 위험을 알리기 위해, 이런 영상을 만들었다고 했고요
의회가 편지를 보낸 이유:
다가오는 대선에서 딥페이크 영상이 미칠 파장이 벌써 아찔했던 거죠. 아직도 딥페이크 영상을 가려내기 위한 준비는 꽤 부족해요. 지난 6월에도, 미국 하원의장 낸시 펠로시가 공식행사에서 술 취한 듯 연설하는 가짜 영상이 퍼지면서 논란이 됐었거든요. 다행히도 당시에는 진실을 밝히는 게 별로 안 어려웠지만, 앞으로 기술이 발달하면 난이도가 점점 높아질 수도. 특히 이런 식으로 조작된 정보가 민주주의 자체를 위협할 수 있고요.
페이스북, 구글, 트위터의 답장:
“정책 바꾸는 거 잘 생각해 볼게!” 🙆 다들 앞으로 딥페이크 영상 포함 가짜뉴스를 더 심각하게 여기고, 대응할 방법을 고민해보겠다며 답장은 성실히 썼어요.
- 트위터: 딥페이크 영상 때문에 선거의 공정성에 문제가 생길 것 같다면, 그 콘텐츠 지우면 되지. 그리고 우리 지금도 다른 안전장치들 검토 중이야.
- 페이스북: 일단 딥페이크 영상이 보통 '오류가 있는 콘텐츠’랑 어떻게 다른지 한 번 보고나서 정책에 반영해볼게.
+ 펠로시 사건 당시, 플랫폼마다 대응 방법이 달랐었는데요. 유튜브는 거짓이란 게 알려지자 바로 영상을 지웠지만, 페이스북과 트위터는 안 그랬죠. 특히 페이스북: “플랫폼에 올라온 정보가 꼭 사실이어야 한다는 규칙은 없어서...” 조금 덜 퍼지게 하긴 했지만요.
+ 딥페이크, 내 얼굴로도 할 수 있을까? 무섭게도, 그럴지도 몰라요. 사진이나 영상에 유명 연예인의 얼굴을 합성한 '딥페이크 음란물'이 문제 되고 있거든요. 최근 미국 버지니아주에서는 딥페이크 음란물 유포를 불법으로 규정하고, 처벌 강도를 높였는데요. 우리나라에서는 명예훼손이나 초상권 침해만 적용할 수 있어서 처벌이 가벼워요. 게다가 몸을 합성하는 경우에는 처벌을 안 받을 수도 있다고.
+ 너, 도대체 누구? 최근 SNS에서 '딥페이크 주의'라며 바이럴 된 영상: 토크쇼에 나온 미국 배우 빌 헤이더가 순간순간 톰 크루즈로 보인다면… 착각이 아닙니다. 한 엔지니어가 딥페이크 기술로 얼굴을 합성했거든요. 그는 트위터에 이 클립을 올리며 “이미 극단적인 온라인 생태계에서, 딥페이크 기술이 무기처럼 사용되면 사람들은 더이상 보고 듣는 걸 믿지 않게 될 것”이라고 덧붙였어요.
