[삼성 SDS 인사이트] 미디어를 조작한 위변조 피해 사례와 사전 차단 기술을 연구하는 회사들

221108

https://www.samsungsds.com/kr/insights/221028deepfake_6.html

 

 

 해당 리포트는 위변조 피해 사례와 사전 차단 기술을 적용할 수 있는 영역, 경쟁사에 대해 다룬다.

 

 

1. 위변조 피해 사례

1) 경기도 화성시 하도급 공사 업체 중 준공 사진을 조작 및 중복 사용으로 시공사비 1억원을 불법 수령한 사건.

총 608개 현장 중 33곳에서 이런 문제가 발생했으며, 어떤 곳은 빈 도로 사진에 공사 장비를 합성 조작하여 증빙 사진으로 제출했고, 어떤 곳은 준공 사진을 다른 업체 서류에 중복 사용했다.

출처: 경기도 뉴스 포털('21.05.04)

전미보험범죄방지국 NICB(National Industrial Conference Board)에 따르면, 재해 후 사기로 청구된 보험금이 전체 청구액의 5~10%로 추정된다고 밝혔다. 2021년이 경우 최가 46~92억 달러가 보험 사기로 청구된 것. FBI에서는 허리케인 카트리나 이후 재건 비용을 조사했을 때도 유사한 결과를 발견했고, 재건 노력을 지원하기 위한 정부 자금 800억 달러 중 7.5%에 달하는 60억 달러가 보험 사기에 해당한다고 언급했다.

 

2) 지중해 연안 레바논 수도 베이루트의 공장 폭발 사고.

출처: CNN 뉴스('20.08)

2020년 8월 해당 사고를 적대 세력의 미사일 공격으로 조작하려는 가짜 뉴스가 언론에 사용됐다.

 

3) 온라인 플랫폼.

개인 간 중고 거래 활성화로 온라인 플랫폼에서도 위변조 사지, 분쟁 사건이 발생한다.  2019년 기준 중고나라 3.5조원, 번개장터 1조원, 당근마켓 0.7조원 규모로 사기 사건이 일어났으며, 번개장터에서는 타인 매물에 본인의 신분증을 합성해 사기를 시도한 사례가 2020년 5월 적발됐다.

 

2. 자동차 마일리지 환급금 관리

 자동차 마일리지 증명 시 타인 자동차 계기판 사진이나 본인 자동차 계기판을 조작해 청구할 경우, Secure Image 분석으로 위변조 사례를 사전에 차단 가능하다. Secure Image 분석 영역은 크게 타인 이미지 재사용 여부, 편집 이미지 제출 여부, 기존 이미지 중복 여부로 나뉜다.

 

3. 기업 자산 관리 서비스

 기업에서는 보유한 자산 관리 시 자산이 해당 위치에 실제로 존재하는 지를 중요시 여긴다. 자산 실물을 '실시간'으로 촬영하여 전송하고, 해당 결과를 리포트 형태로 보관 및 출력하여 자산 증빙에 유용하게 사용한다.

 

4. 딥페이크 사전 차단 기술을 제공하는 회사들

 위변조 피해 사례가 늘어나면서 피해 방지를 위해 팀나인과 유사한 서비스를 제공하는 업체들이 등장했다. 해당 업체로는 Truepic과 Serelay가 있다.

 Truepic은 2015년 창업 이후 2020년에 들어서면서 12개의 고객사 및 파트너사를 유치할 정도록 성장했다. Turepic은 미국 국방부의 중앙 조사/개발 기구인 DARPA에서 검증한 Fake 사진/영상 판독 기술을 보유하고 있으며, 보험사와 캐피털사와의 협업 및 데이팅 앱, 전자상거래 업체와의 사업 추진을 진행하고 있다. Truepic 자체 앱으로 촬영한 사진과 동영상만이 분석 가능하며, 촬영 사진은 단말이 아닌 자체 서버에만 실시간 업로드 후 저장이 가능하고, 외부 공유 시 미디어에 워터마크가 삽입된다는 특징이 있다.

 Serelay는 개인과 미디어를 연계하는 사업 모델로, 2017년 창업했다. 2018년 영국 템즈밸리 기술상, 2019년 영국 스타트업 Tech Nation을 수상했고, 구글 뉴스, 페이스북, 유럽 우주국 등에서 펀딩하고 있다. 해당 앱은 이미지/영상 파일의 3~500가지 요소를 분석해 대상 화면을 100분할 하고, 조작 의심 영역에 표시하는 과정을 거친다. 또한, 15kb 미만 Metadata의 분석 및 정보를 사진에 보관하고 있으며, 사진 및 GPS 조작 여부와 재사용 여부 등을 검증한다.

 

 

 끝으로 화자는 시스템이 발전하더라도 위∙변조를 검증하는 일은 한계가 분명 있기에 촬영과 동시에 원본을 저장하고 증명하는 서비스가 대중화된다면 위∙변조 피해의 많은 부분을 방지할 수 있을 거라 예상한다고 언급했다.