[생생경제] “N번방 이후 성 착취물 줄었나?” AI 탐지 기술, 딥페이크 범죄 못 잡는

■ 방송 : YTN 라디오 FM 94.5 (09:00~10:00)■ 진행 : 이현웅 아나운서■ 방송일 : 2024년 9월 2일 (월요일)■ 대담 : 김승주 고려대학교 정보보호대학원 교수* 아...

■ 대담 : 김승주 고려대학교 정보보호대학원 교수◆ 이현웅 아나운서 : “인공지능은 핵폭탄보다 더 위험하다” 테슬라의 최고경영자죠. 일론 머스크가 한 말입니다. 규제 없이 기술을 활용할 때 사회에 미칠 파장이 클 거라는 메시지로 해석해 볼 수 있겠는데 우리 사회에 지금 드리운 ‘딥페이크 성범죄’ 사태에도 이 말이 딱 적용될 수 있겠습니다. 딥페이크 기술을 활용한 성착물을 텔레그램으로 유포하는 범죄가 기승을 부리면서 AI 기술에 대한 감시 그리고 규제가 필요하다는 목소리 점차 커지고 있는데요. 오늘 이 시간에는 이에 대응할 기술로 거론되는 딥페이크 탐지 솔루션에 대해서 살펴보려고 합니다. 과연 딥페이크를 탐지할 수 있는 기술은 어디까지 발전했을까요? 관련 내용 김승주 고려대 정보보호대학원 교수와 이야기 나눠보겠습니다. 교수님 나와 계십니까?◆ 이현웅 : 예 안녕하십니까? 뉴스를 통해서 거의 못 들으신 분들이 없을 것 같습니다.

◇ 김승주 : 이거를 좀 이렇게 보시면 될 것 같아요. 가해자도 사실은 10대가 많고 피해자도 10대가 많은 편입니다. 더 큰 문제는 뭐냐 하면 요새 가끔 대중교통 이용하시면 10대들은 비속어가 옛날보다 좀 많아졌다는 느낌이 좀 드시지 않나요? 그런데 이 친구들이 그걸 나쁜 말이라고 인식하지 않거든요. 그냥 평상시와 같이 쓰는 겁니다. 그렇듯이 지금 가장 큰 문제는 10대들이 실제로 딥페이크 영상을 많이 만들어내는데 이걸 무슨 범죄를 저지른다는 생각을 가지고 하는 것이 아니라 재미 삼아서 하는 경우가 굉장히 많다는 겁니다. 그래서 본인 자체도 이게 지금 나쁜 짓이다, 범죄다라는 걸 인지하지 못하니까 10대 가해자라든가 10대 피해자가 더 많은 걸로 나타나는 요인이 되지 않나 싶습니다.

◆ 이현웅 : 이게 영화 등의 분야에서는 상당히 또 주목받는 기술이기도 한데 범죄로 악용될 때에는 이렇게 큰 문제가 되는 것 같습니다. 혹시 뭐 이렇게 딥페이크 기술을 활용해서 영상물을 만들어보신 적 있습니까? ◇ 김승주 : 사실은 텔레그램은 이번에 딥페이크 성범죄에서만 이슈가 되고 있는 게 아니라 예전에 ‘조주빈 N번방 사건’ 때도 굉장히 이슈가 됐었죠. 사실은 텔레그램이라고 하는 게 보안성이 강화된 메신저. 그래서 이걸 이용하면 익명성이 철저히 보장된다. 이렇게 많은 분들이 알고 계세요. 그런데 기술적으로 봤을 때는 텔레그램보다도 훨씬 더 뛰어난 보안을 자랑하는 메신저들은 여럿이 있습니다. 그래서 실제로 조주빈 사건의 경우에는 일반인들을 대상으로 성착취물을 유포할 때는 텔레그램을 썼지만 VIP 방에서는 또 다른 더 뛰어난 보안 메신저를 사용했습니다. 그리고 드루킹 같은 경우도 텔레그램보다 훨씬 더 뛰어난 보안 메신저를 이용해서 범죄를 공모하고 이랬었거든요. 그래서 텔레그램이 좋은 보안 메신저 익명성을 추구하는 보안 메신저인 건 맞지만 기술적으로 최고 수준의 보안 메신저는 아닙니다.

◆ 이현웅 : 기술적으로 접근하는 건 반대다. 그래도 좀 이렇게 우리 시청자분들의 정보를 좀 알아야 되니까요. 그 부분을 좀 한번 여쭤는 보겠습니다. 이게 딥페이크가 어쨌든 AI를 활용한 기술인데 그러면 그런 AI를 AI로 잡을 수 없는가. ‘눈에는 눈 이에는 이’ 식으로 탐지 기술 또한 AI로 활용할 수 없는가. 이런 부분들도 많이 궁금해하시거든요.

이 소식을 빠르게 읽을 수 있도록 요약했습니다. 뉴스에 관심이 있으시면 여기에서 전문을 읽으실 수 있습니다. 더 많은 것을 읽으십시오:

YTN24 /  🏆 2. in KR

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

“연예인 음란물 넣었더니 5분만에 삑”...조작영상 붙잡는 해커출신 경찰화이트해커 출신 김문영 경감 올해 개발한 탐지 프로그램 4개월만에 105점 감정 성과 “딥페이크 기술 갈수록 교묘”
더 많은 것을 읽으십시오 »

'딥페이크' 10대 피해자 느는데…35%만 '생성형 AI 교육 받아'(서울=연합뉴스) 이상서 기자='딥페이크 성 착취물'로 인한 10대 피해자가 증가하는 가운데 불법합성물을 제작하는 주 도구로 지목되는 '생성...
더 많은 것을 읽으십시오 »

심우정 '딥페이크 중대범죄…텔레그램 등 운영자 법적책임 검토'(서울=연합뉴스) 이보배 황윤기 기자=심우정 검찰총장 후보자는 최근 사회 문제로 떠오른 '딥페이크 성 착취물' 확산에 대해 '취임하면 디지털...
더 많은 것을 읽으십시오 »

'딥페이크 범죄 엄벌' 강조한 법원…양형기준 손질 지적도(서울=연합뉴스) 한주홍 기자=딥페이크 음란물의 급속 확산 문제가 핫이슈로 떠오른 가운데 이른바 '서울대 딥페이크'(서울대 N번방)로 불린 ...
더 많은 것을 읽으십시오 »

‘딥페이크 성착취’ 청소년 피해자 느는데…AI 교육은 35% 뿐딥페이크 성 착취물로 인한 청소년 피해자가 증가하고 있지만, 불법합성물을 제작하는 데 사용되는 ‘생성형 인공지능(AI)’에 대한 교육을 받은 중고등학생이 3명 중 1명에 불과...
더 많은 것을 읽으십시오 »

[사설] 번져가는 딥페이크 범죄, 온 사회가 팔 걷고 나서야‘딥페이크’ 성착취물이 직업·지역·학교별로 세분화된 텔레그램 대화방을 통해 광범위하게 유통돼온 걸로 드러났다. 시민들은 자신도 모르는 새 딥페이크 범죄 대상이 된 건 아닌지 ...
더 많은 것을 읽으십시오 »