딥페이크(Deepfake) 설명과 악용사례에 대하여

딥페이크(Deepfake) 란

딥페이크(Deepfake)는 딥러닝과 인공지능 기술을 활용하여 사진, 동영상, 비트 등의 매체 등에서 필요한 데이터를 처리하여 사실과 다른 차원의 결과물을 합성시켜 새로운 창작물로 생성하는 기술을 말합니다. 이 기술은 주로 얼굴을 스와핑하고, 음성 합성, 그래픽 및 가상 기술을 사용하여 사람들을 다른 인물로 변경하거나 내용을 가공하는데 활용 됩니다.

딥페이크 기술 원리

 

이로 인한 범죄에 악용되는 사례도 최근에 발생하는데, 올해초 대만에서 음란물에 일반인을 합성시켜 심각한 사회문제로 거론되었고, 이후 해당 제작물을 만든 범죄자를 검거함에 따라 그에 따른 사회적 엄중한 심판이 내려지기도 했습니다.

 

딥페이크를 통해 악용될수 있는 범죄유형

딥페이크 기술을 사용하여 쇼셜커뮤니티에 생성된 가짜 동영상이나 오디오를 배포함으로써 사회혼란을 가중시킬수 있고, 심지어는 유명인사 합성 영상으로 인해 가짜가 진짜가 되는 아찔한 경험도 할수 있게 됩니다. 더구나, 해당 영상을 제지하거나 확보하기 위해 악성코드를 심어 개인 정보를 탈취하는 등의 2차 피해가 발생할 소지가 매우 큽니다. 

딥페이크를 사용하여 다른 사람의 얼굴을 사용하는 가짜 동영상을 만들면, 개인의 얼굴과 보이스가 표시될 수 있고, 이로 인해 관리자들은 해당 영상 게시자나 당사자의 계정 차단이나 삭제 등으로 개인정보에 문제가 발생할 수도 있습니다. 또한 가짜 동영상이나 오디오를 생성하여 개인, 투자자, 명예, 기업을 명예훼손 또는 비방할 수 있으며 이로 인한 신뢰와 명예에 심각한 문제가 발생할 수도 있습니다. 

 

딥페이크 기술을 통해 금융 사기나 다른 형태의 사이버 사기에 이용될 수 있어 의도하지 않게 금전적 손실까지 발생시킬수 있습니다.나아가서는 언론사나 일반적인 공공의 정보가 더이상 신뢰를 받지 못하는 문제가 생기며 딥 페이크로 인해 미디어와 정보 진실 여부에 많은 사람들이 피로도를 느껴 실제 인지, 결함이 있는 가짜 정보인지를 구분하기가 어려워 지는 문제까지 예상됩니다.

이러한 딥페이크 기술을 제어하고 보호하기 위해서는 해당 기술에 대한 악용사례에 대한 명확한 규정과 제어가 필요하며, 심지어 솔루션의 기능에 대해서도 보다 면밀하게 살펴보고 기술을 제어할수 있는 보호장치, 피해자 구제제도, 사회적으로 다양한 논의와 기준을 마련해 둘 필요가 있다고 봅니다. 올해초, 대만에서 있었던 딥페이크를 이용한 명예훼손에 대한 대응 관련 내용을 살펴보고 위험성을 함께 인식하면 좋을것 같습니다.

 

대만, 딥페이크 이용한 명예권 훼손에 엄중한 처벌과 대응

사건개요

대만 신베이 지방법원(臺灣 新北 地方法院, 이하 ‘지방법원’)은 딥페이크(deepfake) 기술을 이용, 타인의 디지털 영상을 부적절하게 사용한 유투버 2500, ‘22.12.08)1) 2인에게 손해배상 책임을 인정(111-Su-Zi No.2500, '22.12.08) 

사실관계

피고인들은 인터넷상에서 유명인 119명의 디지털 영상을 대량으로 다운로드 받고 해당 영상을 수정한 후, 수정한 영상을 포르노 영상에 적용, 피고는 제작된 포르노 영상을 회원에게 유료로 제공하였으며, 2020년 7월부터 2021년 10월까지 1,300만 대만 달러의 이익을 취함. 피고는 이와는 별개로 2022년 7월 개인정보 보호 위반으로 징역 및 벌금형을 선고 받았으며, 이후 피해자 21인이 손해배상을 청구, 본 판결은 그 중 2인에 대한 판결

사건 관련 주요기사

포르노 자료를 만든 딥페이크 사용자들이 NT$1,000,000의 피해에 대한 책임이 있음이 밝혀졌습니다.(세인트아일랜드 국제특허법 사무소 / 2023년1월4일)

최근 딥페이크 기술 오용과 관련된 사건에서, 뉴타이페이 지방법원은 2022년 12월 8일 대만 유튜버 2명('피고인')을 상대로 딥페이크를 통해 타인의 디지털 얼굴 이미지를 오용함으로써 타인의 명예, 유사성 및 성적 자율성을 훼손할 책임이 있다고 판결(111-Su-Zi No. 2500)을 선고했습니다.기술과 그 후에 피고인들이 편집하고 창작한 포르노 자료들에 그것들을 제시하는 것.

판결문에 따르면, 피고인들은 인터넷에서 대상 인플루언서들의 디지털 이미지를 방대하게 다운로드 받아 딥페이크 이미지 합성으로 다운로드된 이미지를 수정하고, 수정된 이미지를 피고인들의 음란물에 적용한 후 유료 회원들에게 제공하였습니다.기록에 의하면 피고인들은 2020년 7월부터 2021년 10월까지 최대 1,300만 대만달러를 벌었습니다.

 

법원은 피고들이 원고의 성적 자율성, 명예, 유사성을 침해한 책임이 있다고 판단하였고, 이 사건 적용법은 민법 제195조로서, 타인의 신체, 건강, 명예, 신용, 사생활 또는 정조, 그 밖에 타인의 인격에 관한 법익을 중한 방법으로 부당하게 훼손한 경우,부상당한 다른 사람은 비록 그러한 부상이 순수한 금전적 손실이 아닐지라도 금전적으로 합당한 보상을 청구할 자격이 있습니다. 

 

법원은 피고들이 원고의 디지털 영상을 도용해 음란물에 적용해 다운로드를 받게 함으로써 원고의 명예를 훼손했을 뿐만 아니라 민법 제195조의 '기타 인격의 법익'으로 보호되는 원고의 성적 자율성과 유사성을 해친다고 판단했습니다.피고들은 다운로드 받은 영상 중 원고의 얼굴이 가짜임이 명백하여 시청자들이 음란물을 원고와 연결시키게 하지는 않을 것이므로 원고의 명예에 손해가 없다고 주장하였습니다. 

 

법원은 디지털 콘텐츠가 매우 짧은 기간에 수많은 다른 사용자들에게 노출되고 공유될 수 있다는 것을 발견하면서 동의하지 않았습니다.그리고 딥페이크 기술에 익숙하지 않은 사람들이 이러한 딥페이크 변조된 디지털 콘텐츠에 현혹되어 원고를 잘못 식별하거나 원고에게 부정적인 의견을 제시할 수 있다고 하였습니다.

 

또한, 이러한 디지털 콘텐츠의 인터넷 접속 범위가 멀고 이용이 용이하기 때문에 피고들이 입은 피해는 전통적인 형태의 오프라인 유통으로 인한 피해의 수천 배에 달하며 복구가 불가능할 정도로 심하다고 할 것이고, 피고인들의 고의를 포함한 정황의 총체, 침해내용을 작성함에 있어 피고인들이 채택한 기술의 성격, 피고인들의 불법행위로 인한 피해의 심각성, 향후 유사한 위법행위의 방지 등에 비추어 볼 때,법원은 피고들이 원고에게 100만 대만달러까지 손해배상책임을 져야 한다고 판결했습니다. 

 

이 사건은 딥페이크 기술을 사용하여 다른 사람의 유사성과 명성을 침해하는 법적 분쟁에 대한 첫 번째 법원의 결정으로, 대만 법원은 이 새로운 기술과 그에 따른 법적 위험에 대해 신중한 견해를 가지고 있음이 명백합니다.딥페이크 기술이 사용자들 사이에서 점점 더 대중화되고 이용 가능해졌지만, 그러한 기술을 사용할 때 다른 사람의 유사성과 평판에 대한 근본적인 법적 영향에 주의해야 합니다.

 

또한, 이 기술의 제품은 통상적으로 인터넷을 통해 이용 가능하기 때문에, 사용자는 실제 금전적 손해를 입증하기는 어렵지만,법원은 민법 제195조에 따른 피해자의 정신적 고통에 대한 금전적 보상이 아닌 것을 평가할 때 이러한 기술의 남용을 가중요인으로 볼 수 있습니다.

 

딥페이크 포르노 영상 제작자, 피해자에게 NT$50,000 지불 명령(01/05/2023)

 

타이페이, 1월 5일 (CNA) 뉴 타이페이 지방 법원은 최근 대만 유튜버와 그의 공범이 온라인에서 판매한 딥페이크 포르노 비디오에 자신의 유사성을 사용한 것에 대해 여성 유튜버에게 공동 배상금으로 50만 대만달러(16,290달러)를 지급해야 한다고 판결했습니다.

사실관계와 판결 주요 내용을 살펴볼수 있게 링크를 걸었으니 참고해 주세요.
1) https://www.lexology.com/library/detail.aspx?g=81916986-c2de-45b3-9573-2ae522488d0a 
2) https://www.chinatimes.com/realtimenews/20230105004086-260402?chdt v
3) https://focustaiwan.tw/society/202301050022.

 

대만 딥페이크 악용사례에 대한 판결

 

판결주요 내용

지방법원은 피고가 디지털 영상을 다운로드 받아 포르노 영상에 적용한 것을 대만 제195조에 따라 보호되는 타인의 명예, 성적(性的) 자기결정권 등 침해로 결정하였고 피고는 해당 영상이 조작(faked)된 것이며, 문제된 영상을 본 자가 원고와 영상 속 인물을 동일인으로 식별하지 않을 것이 분명하기 때문에 원고의 명예는 훼손되지 않았다고 주장하였습니다.

지방법원은 이에 대하여, 거리·국경의 제한이 없는 인터넷의 특성과 디지털 콘텐츠가 단기간에 대규모의 이용자에게 노출·공유가 가능하며 손쉽게 이용·소비될 위험성이 있고, 딥페이크 기술에 익숙하지 않은 사람은 딥페이크가 적용된 영상을 시청하게 될 경우 원고를 다른 사람으로 인식하거나 원고에 대해 부정적 인식을 가질 가능성이 있으며, 그 피해가 전통적 방식(off-line) 보다 훨씬 가혹할 수 있고, 원상회복이 거의 불가능한 정도로 심각할 수 있다는 이유로 피고의 주장을 기각하였습니다.

이러한 사정을 종합하여 지방법원은 피고의 고의, 영상 조작에 이용한 기술의 성격, 불법 행위로 인한 피해의 심각성, 향후 유사 범죄의 예방 등을 고려하여 피고에게 원고 1인당 각각 백만 대만달러의 손해배상을 결정하였습니다.

 

우리들에게 시사하는 점

본 사건은 딥페이크 기술을 이용하여 원고의 명예와 성적 자기결정권을 훼손했다고 결정한 대만의 첫 번째 판결로서 대만 법원이 신기술과 그로 인한 법적 위험을 주시하고 있음을 의미합니다. 다만, 콘텐츠가 유통된 플랫폼에 대해 음란물 유포를 금지할 수 있는 법적 강제수단이 없어 형사적으로는 피고에 대한 개인정보 보호법 위반에 따른 소송만 가능했으며, 결국 민사소송이 피해자가 음란물 유포를 금지할 수 있는 유일한 법적 수단으로 활용될수 밖에 없었습니다.

딥페이크 기술이 긍정적(고인의 영상 복원, 모두에서 이용이 증가하고 있는 가운데, 가상인간 제작 등) 또는 부정적(음란물 유포 등) 양면성을 가지고 있음을 부인할수 없게 되었습니다.

딥페이크 기술 활용 사례

해당 판결은 원본 영상이 조작되어 주체의 동일성이 없어도 명예권을 인정하고, 온라인상에서 콘텐츠의 광범위한 전파성과 피해규모 등을 고려하였다는 점에서 의미가 있다고 볼수 있습니다. 우리나라는 딥페이크 음란물 유포가 형사상 처벌되며, 민사상으로는 명예권 등에 관한 법규가 없어 일반 불법행위로만 손해배상 청구가 가능합니다.

2022년 예고된 「민법 일부개정법률안」은 다음을 주요 내용으로 하는 ‘인격권’ 및 ‘인격 표지영리권’(퍼블리시티권(right of publicity)) 신설, (제3조의2 인격권) 모든 사람은 ‘생명, 신체, 건강, 자유, 명예, 사생활, 성명, 초상, 개인 등 모든 범위를 담아서 불법성에 엄정 대응하고자 법적 기준을 보완했습니다.

모든 사람들에게는 정보나 '그 밖의 인격적 이익에 대한 권리’인 인격권을 가지며, 인격권을 침해당한 경우 침해배제와 예방청구, 손해배상청구 가능합니다. 인격표지영리권 제3조의3 인격표지영리권을 보면 사람은 자신의 성명, 초상, 음성 그 밖의 인격표지를 영리적으로 이용할 권리를 가지며, 인격표지영리권은 상속인에게 상속되어 사후 30년간 존속, 인격표지영리권의 침해 역시 침해배제와 예방청구, 손해배상청구 가능합니다.

인격권 신설을 통해 종래 대법원 판례5)로만 인정되어 오던 인격권을 법률에 규정하여 권리를 실효적으로 보장할 수 있는 법적 수단을 마련할 것으로 평가되며, 인격표지영리권의 경우, 기술 발달로 누구든지 소셜미디어 등을 통해 얻은 대중적 인지도를 이용하여 영리적 활동이 가능하게 됨에 따라, 개인의 보편적 권리로 명시하고 권리 보장 수단을 명확히 한데 그 의미가 있다고 볼수 있습니다.

딥페이크 사례

 

우리나라에서의 딥페이크 관련 법

법을 살펴보면, "「성폭력범죄의 처벌 등에 관한 특례법」 제14조의2에 따라, 성적 욕망 또는 수치심을 유발할 수 있는 형태로 영상물 등을 합성‧편집‧가공하여, 해당 영상물의 당사자 의사에 반하여 반포등 하는 경우 5년 이하의 징역 또는 5천만원 이하의 벌금에, 특히 영리 목적으로 영상물등의 대상자 의사에 반하여 ‘정보통신망을 이용하여 반포등’을 한 경우 7년 이하의 징역에 처한다." 라고 되어 있습니다.

 

또한, "「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 제74조에 따라, ‘음란한 부호ㆍ문언ㆍ음향ㆍ화상 또는 영상을 배포ㆍ판매ㆍ임대 또는 공공연하게 전시하는 내용의 정보를 유통하는 경우’ 1년 이하의 징역 또는 1천만 원 이하의 벌금에 처함" 이라고 명시되어 있습니다. 또, "「민법」 제750조 “제750조(불법행위의 내용) 상할 책임이 있다.” 고의 또는 과실로 인한 위법행위로 타인에게 손해를 가한 자는 그 손해를 배상할 책임이 있다라고 명시되어 있습니다.

딥페이크 피해 사례

 

인격권에 대한 일부개정안에 대한 입법예고(공고번호 제2022-86호)도 있었는데 2022년 4월 5일에, 인격표지권에 대한 일부개정안 입법예고(공고번호 제2022-425호)는 2022년 12년 26일에 각각 공고 되었습니다.

기술은 잘 활용하면 유용한 도구이지만, 잘못 사용하면 그만큼 범죄에 악용될 소지가 다분한 부분이기도 합니다. 사용자가 명확한 기준과 잣대로 IT 기술을 활용해야 하는 시기가 왔고, 신중한 자세로 접근해야 할 것입니다.

딥페이크 피해에 대한 국민청원