'기술 있다지만 맘먹고 만든 딥페이크·다크웹 잡기 역부족'

(서울=연합뉴스) 조성미 조현영 기자=손쉽게 딥페이크 음란물을 만들 수 있는 생성형 인공지능(AI)의 발달은 빠르게 이뤄지고 있지만, 이를 ...

조성미 조현영 기자=손쉽게 딥페이크 음란물을 만들 수 있는 생성형 인공지능의 발달은 빠르게 이뤄지고 있지만, 이를 통제하거나 피해자 지원을 도울 기술 발달의 속도는 이에 미치지 못하고 있다.◇"어둠의 유통 속수무책…기술보다 수사 공조가 빠를 것"폐쇄적인 플랫폼으로 유명한 텔레그램에 정부는 그간 이메일로만 시정을 요청했지만, 최근 딥페이크 음란물이 사회 문제로 불거지자 협의체를 구성해 신속히 영상 삭제 조처를 하겠다고 나섰다.텔레그램과 더불어 불법 음란물의 유통 경로로 꼽히는 것이 특정 방식으로만 접속할 수 있어 '인터넷의 암시장'이라고 불리는 다크웹이다.

글로벌 보안엡체 노드VPN이 올 초 다크웹 게시판을 분석한 결과 소셜미디어, 텔레그램 등을 통해 유출된 노출 사진이나 영상에 댓글이 평균 1천850개 달리는 등 딥페이크 영상물의 주요 확산 통로로 지목되고 있다. 한 보안업계 관계자는"딥페이크 음란물이 떠돌아다녀도 폐쇄적인 다크웹 특성상 이를 파악하고 대처하기 기술적으로 쉽지 않다"며"스토리지가 정해져 있지 않은 특성상 특정인의 사진·영상 등 이미지가 들어간 생성물을 검색해도 찾아내기 어렵기 때문"이라고 말했다.영상 AI 설루션 스타트업 관계자는"구글이나 메타 같은 빅테크도 미국 대통령 얼굴을 바꾼 딥페이크 영상을 제대로 찾아내지 못하는 것을 보면 판독 기술이 있더라도 실질적으로 적용하는 것은 쉽지 않다"고 말했다.생성형 AI를 쓴 딥페이크에는 가상 정보라는 표식을 넣게 하고 따르지 않았을 경우 콘텐츠를 유통하는 플랫폼 기업이 바로 삭제하도록 하는 법안이 국회에서 논의 중이지만, 범죄자가 작정하고 만들어 유포하는 생성물엔 워터마크가 애초부터 들어갈 수 없다는 한계가 존재한다.

악의적으로 변조된 콘텐츠 대응을 위해 딥페이크 탐지 고도화 및 생성 억제 기술을 과학기술정보통신부와 연구개발 중인 정수환 숭실대 AI융합연구원장은"범죄자들은 워터마크 강제 법이 있어도 이를 따를 리 없다"고 지적한 뒤"워터마크가 없는 불법 딥페이크 물을 탐지하는 기술도 연구되고 있다"고 말했다.정 원장은 텔레그램방, 다크웹 등 음성적으로 유통되는 영상 등에 대한 근본적인 대책이 중요하지만 SNS 등 양성적 플랫폼에서 딥페이크를 쓴 가짜·음란 콘텐츠가 돌아다니는 경로에 대한 대책도 필요하다고 주문했다. 그는"플랫폼이 AI 생성물 여부를 탐지해 워터마크 등의 표식을 붙일 수 있는 기술은 개발됐지만 100% 정확하진 않기 때문에 플랫폼에 즉각적인 콘텐츠 삭제를 요구하기는 어려울 수 있다"면서"삭제보다는 'AI 생성물일 가능성 90%' 등의 방식으로 표기해 보는 이가 가짜라는 것을 자각할 수 있도록 하는 것도 현실적 대안"이라고 말했다.

이 소식을 빠르게 읽을 수 있도록 요약했습니다. 뉴스에 관심이 있으시면 여기에서 전문을 읽으실 수 있습니다. 더 많은 것을 읽으십시오:

yonhaptweet /  🏆 17. in KR

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

‘서울대 딥페이크’ 공범 1심 징역 5년···“평범한 일상을 성범죄에 이용, 인격 몰살” [플랫]서울대 동문 등 여성 수십 명의 사진으로 불법 합성 영상물을 만들어 유포한 이른바 ‘서울대 딥페이크(인공지능 기술 기반으로 만든 가짜 이미지·동영상) 사건’의 공범 박모씨(2...
더 많은 것을 읽으십시오 »

'딥페이크 성범죄' 7개월간 집중단속…학교 첩보수집 강화(서울=연합뉴스) 윤보람 기자=지인 또는 소셜미디어 이용자의 사진을 합성해 만든 딥페이크(Deepfake) 허위영상물 기반의 디지털성범죄가 ...
더 많은 것을 읽으십시오 »

“연예인 음란물 넣었더니 5분만에 삑”...조작영상 붙잡는 해커출신 경찰화이트해커 출신 김문영 경감 올해 개발한 탐지 프로그램 4개월만에 105점 감정 성과 “딥페이크 기술 갈수록 교묘”
더 많은 것을 읽으십시오 »

'딥페이크 학폭위 처벌 수위 높을 것'…최대 퇴학당할 수도(세종=연합뉴스) 김수현 기자=교육부는 딥페이크 가해자의 학교폭력대책심의위원회(학폭위) 징계 수위와 관련해 '딥페이크 특성상 아주 고의적이고...
더 많은 것을 읽으십시오 »

[사설] 번져가는 딥페이크 범죄, 온 사회가 팔 걷고 나서야‘딥페이크’ 성착취물이 직업·지역·학교별로 세분화된 텔레그램 대화방을 통해 광범위하게 유통돼온 걸로 드러났다. 시민들은 자신도 모르는 새 딥페이크 범죄 대상이 된 건 아닌지 ...
더 많은 것을 읽으십시오 »

“처음이라, 어려서, 반성하니까…” 딥페이크 범죄물에 관대한 법원딥페이크 기술을 이용한 성착취물 제작·유포가 확산하면서 피해가 커지지만 처벌은 느슨하다는 지적이 나온다. 법원은 딥페이크 합성물 제작·유포 등 혐의로 재판에 넘겨진 이들에게 ...
더 많은 것을 읽으십시오 »