딥페이크 기술의 발전이 사람간의 신뢰를 깨뜨릴 것인가

딥페이크 기술의 발전이 사람간의 신뢰를 깨뜨릴 것인가

 

딥페이크 기술을 들어보셨나요?

딥페이크는 얼굴 등을 인공지능(AI) 기술을 활용해 영상을 합성하는 방식으로 편집하는 기술을 말합니다. 얼마 전 러시아 우크라이나 전쟁 시 우크라이나 대통령인 블라디미르 젤렌스키가 자국의 군인들에게 러시아에 항복하라고 요청하는 영상이 지난봄 소셜미디어를 통해 유포된 적이 있었습니다. 물론 해당 영상은 딥페이크였음이 밝혀졌지만 전장에 나선 군인들에게는 크나큰 혼란을 주었습니다. 

이러한 딥페이크 기술이 발전함에 따라 전문가들조차도 딥페이크를 식별하는 것이 쉽지 않은 일이 되어서 공공의 신뢰, 사람간의 신뢰를 무너뜨릴 수 있다는 것을 일반 대중들도 알게 되었습니다. 더 무서운 사실은 이러한 딥페이크를 전문가 장비가 없이도 일반인도 만들 수 있다는 데에 있습니다. 

Pixabay로부터 입수된 0fjd125gk87님의 이미지 입니다.

딥페이크(Deepfake, 인물합성기술)

<요약>   딥러닝(Deep learning)과 페이크(Fake)의 합성어입니다. 특정 인물의 얼굴 등을 인공지능(AI) 기술을 이용해 특정 영상에 합성한 편집물로서 포르노 영상이나 일반인의 얼굴을 합성하는 사례가 많아 디지털 성범죄 논란이 있습니다.

인공지능(AI) 기술을 활용해 특정 인물의 얼굴, 신체 등을 원하는 영상에 합성한 편집물입니다. 미국에서 '딥페이크'라는 네티즌이 미국 온라인 커뮤니티 레딧에 할리우드 배우의 얼굴과 포르노를 합성한 편집물을 올리면서 시작되었습니다. 이후 연예인, 정치인 등 유명인은 물론 일반인까지 대상이 되면서 사회적 문제가 됐습니다.

원래 이 기술은 영화 산업에서 자주 활용되었는데, 영화 '스타워즈:로그 원'에서는 고인이 된 배우 캐리 피셔의 얼굴이 이 기술로 합성되어 레아 공주로 등장한 적이 있습니다. 

딥페이크는 온라인에 공개된 무료 소스코드와 머신러닝 알고리즘으로 손쉽게 제작이 가능하며 진위여부를 가리기 어려울 만큼 정교합니다. 여기에 피해자의 신고가 없으면 단속이 어렵고, 주로 트위터, 텀블러 등의 SNS를 통해 제작을 의뢰하고 합성물을 받기 때문에 계정을 폐쇄할 경우 단속을 피할 수 있어 처벌이 어렵다는 문제가 있습니다.

자료출처 : 시사상식사전, IT용어사전

 

Pixabay로부터 입수된 Michelle Koebke님의 이미지 입니다.

 

딥페이크 기술에 관해 최근에 흥미로운 최근의 사건은 오픈AI(OpenAI)의 달리(Dall-E)입니다. 텍스트 기반 그림이라고 부릅니다. 웹사이트에 텍스트를 입력만 하면 어떤 그림이든지 형상화됩니다. 머리 속에 있는 모든 것이 그림으로 표현이 가능합니다. 이러한 기술이 진보하면 인터넷에서 이미지뿐만 아니라 오디오까지도 실제 존재하는 것과 실제 존재하지 않는 것에 대한 경계는 허물어질 것이라고 합니다.

기술이 이러하다면 얼마 전 조영남씨의 그림에 대한 대리작가 의혹은 아무것도 아닌 것이 되는 건가요? 저도 상상의 나래만큼은 자신있는데 이런 기술이 있다면 텍스트로 묘사를 잘하는 것만으로도 훌륭한 그림 또는 사진의 작가가 될 수도 있지 않을까하는 생각이 드네요. 기술의 발전이 대단하다는 생각이 드네요.

인터넷의 모든 자료들이 신뢰를 잃으면 사람간의 신뢰도 자연히 잃게 되지 않을까 합니다. 이러한 기술이 너무나 쉽게 대중화되고 유포될 수 있다면 과연 누가 이러한 행위나 이러한 기술을 개발하는 기업에 대한 규제의 권한을 가지는지에 대한 논의도 시작하지 못했지만 이러한 기술은 벌써 현실사회에 혼돈을 주는 단계에 이르렀다고 합니다. 

Pixabay로부터 입수된 Computerizer님의 이미지 입니다.

 

실제로 미국에서는 FBI 온라인 범죄 신고센터에 기업들의 전화가 최근 많이 늘었다고 합니다. 딥페이크 기술로 취업 면접을 보려는 사람 또는 북한과 같은 해커집단이 늘었다는 것입니다. 보안 전문가들조차도 최근 새로운 소셜 엔지니어링 기법에 놀라고 있다고 합니다. 아직 딥페이크를 통해 무엇을 얻으려는지에 대한 동기가 구체화되는 사례가 일부 있었지만 머지않아 인류에 생존에 위협이 되는 단계에 이르는 날이 머지 않았다는 것이 컴퓨터 보안전문가들의 평가라고 합니다.

딥페이크 기술이 일반인들이 간단히 사용하고 창작할 수 있는 수준이 된 뒤에는 어떠한 통제도 힘들것이라는 것이 전문가들이 평가라고 하네요. 기술의 발전을 날아가는데 이를 이해하고 관련법을 제정하는 정치인들과 행정가들은 20세기의 세상에 같혀있다고 기술자들은 평가하고 있습니다.

Pixabay로부터 입수된 Seanbatty님의 이미지 입니다.

 

저도 포스팅하면서 딥페이크 기술이 무섭기도 하고 신기하기도 하네요. 항상 블로그를 쓰면서 사진을 구하는 것이 쉽지 않은데 오픈AI(OpenAI)의 달리(Dall-E)를 사용한다면 텍스트만으로 사진을 무한정 생산할 수 있다고 생각하니 솔깃하긴 하네요. 인터넷이 이러한 무질서에 놓이기 전에 기술이든 기술을 만드는 기업이든 일관되고 합리적인 관리와 통제 아래에 있어야겠다는 생각이 드네요.

오늘은 딥페이크 기술에 대한 내용을 포스팅했습니다. 평소 궁금하기도 했고 현재 우리의 삶에 어떠한 영향을 끼치고 있는지, 미래에는 어떠한 영향을 줄 것인지 살펴봤습니다. 감사합니다.