“딥페이크 활개, 일자리도 빼앗고”...‘터미네이터 세상’ 막으려면

최근 딥페이크와 일자리 축소 등의 부작용으로 논란이 확산하고 있는 생성형 인공지능(AI). 기술의 발전을 막을 수 없는 상황에서 어떻게 하면 생성형 AI 기술을 잘 활용하고 부작용은 최소화할 수 있을지 전문가들이 머리를 맞댔다. 28일 국민생활과학자문단이 주최로 열린 국민생활과학기술포럼에서 권태경 연세대 정보대학원 교수는 최신 AI 기술 동향을 살폈다. 권

기술의 발전을 막을 수 없는 상황에서 어떻게 하면 생성형 AI 기술을 잘 활용하고 부작용은 최소화할 수 있을지 전문가들이 머리를 맞댔다.권 교수는 “가장 최근 나온 대규모 월드모델 의 경우 1시간이 넘는 길이의 동영상을 입력하더라도 이를 다 파악해 사용자 질문에 정확히 답변을 한다”며 “기존 생성형 AI와 달리 더욱 막대한 양의 데이터와 복잡한 모델을 통해 고도의 지능과 창의력을 발휘할 수준까지 발전하는 모습이다”고 말했다.다만 규제 범위를 넘어 계속 이뤄지는 기술 발전에 따라 AI가 대체할 일자리 문제 등에 관해 우려했다.

권 교수는 “AI 활용으로 직무적인 변화 뿐 아니라 직군 마저도 큰 기로에 설 것”이라며 “이같은 일자리 변화를 준비할 때 개개인의 준비도 중요하지만 정부 등 집단 차원의 준비도 필요하다”고 지적했다. 이날 발제자로 나선 김남철 과학기술정보통신부 정보통신정책실 정보통신정책총괄과장도 “생성형 AI 발전으로 가장 우려되는 부분이 일자리”라며 “앞으로 3년내 우니라나 전체 일자리의 50%가 AI 영향을 받을 것으로 분석된다”고 말했다.그는 “생성형 AI가 우리 사회에 최대한 적용됐을 때 2026년 310조원의 경제적 효과를 창출할 것이란 분석 결과가 있다”며 “그러므로 어떻게 하면 AI를 잘 활용해 우리 산업 발전에 기여할 수 있을지 고민해야한다”고 주장했다.그러면서 그는 “사실 딥페이크 용어 자체는 가치 중립적”이라며 “따라서 기술의 부작용을 최소화해 AI 산업을 안정적으로 발전하기 위해 AI기본법 제정을 준비 중에 있다”고 말했다.윤혜선 한양대학교 법학전문대학원 교수는 생성형 AI와 같은 새로운 기술과 위험요소에 대한 제도적 대응이 시급하다고 주장했다.

윤 교수는 “특히 생성형 AI는 우리가 생각지도 못한 속도로 빠르게 발전하고 있다”며 “기존 기술과 달리 법적인 대응 체계가 그만큼 빠르게 대응하기 어렵고, 그래서 법체계가 도전받고 있다”고 진단했다.그는 “8월 1일자로 유럽연합에서도 AI 법이 발효돼 시행 중”이라며 “이같은 법에는 공통적으로 어떻게 하면 유용한 생성형 AI를 안전하게 활용할 수 있을지 고민이 담겨 있다”고 말했다.윤 교수는 “우선 생성형 AI가 어떻게 어디에서 활용될지 모르므로 관련 우려를 불식시키기 위해선 리스크를 기반으로 규제를 강하게 해 접근해야 한다는 의견이 있다”며 “이는 인간의 생명과 직결되는 의료기기나 자율주행과 같은 분야에 해당된다”고 설명했다.윤 교수에 따르면 이 방식은 법률 체계에서는 AI 관련 큰 원칙만 정해놓고 빠른 기술 변화에 따른 규제는 정부가 또는 민간과 협업해 정하는 것을 골자로 한다.

또한 규제샌드박스를 확대 운영하는 방법이 있다. 법 자체는 경직돼 있고 입법 절차에서 속도를 내기 어려운 게 사실이다. 따라서 실시간 규제샌드박스 등을 도입해 빠르게 진화하고 있는 AI기술 변화에 속도를 맞추자는 얘기다.윤 교수는 “AI와 관련된 다양한 이해관계자들이 참여해 거버넌스를 구축할 필요가 있다”며 “특히 국제적인 규범을 만들 때 우리나라 문화와 상황 등이 적극 반영될 수 있도록 노력하는 것이 필요하다”고 말했다.

이 소식을 빠르게 읽을 수 있도록 요약했습니다. 뉴스에 관심이 있으시면 여기에서 전문을 읽으실 수 있습니다. 더 많은 것을 읽으십시오:

maekyungsns /  🏆 15. in KR

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

'딥페이크 학폭위 처벌 수위 높을 것'…최대 퇴학당할 수도(세종=연합뉴스) 김수현 기자=교육부는 딥페이크 가해자의 학교폭력대책심의위원회(학폭위) 징계 수위와 관련해 '딥페이크 특성상 아주 고의적이고...
더 많은 것을 읽으십시오 »

딥페이크 성착취물 1위 국가는 한국···등장인물 53%가 한국인, 여성이 99% [플랫]딥페이크 성착취물에 등장하는 인물의 절반 가량이 한국인이라는 해외 보안업체의 조사 결과가 나왔다. 보안서비스 업체 ‘시큐리티 히어로’는 최근 공개한 ‘2023 딥페이크 현황’...
더 많은 것을 읽으십시오 »

[사설] 번져가는 딥페이크 범죄, 온 사회가 팔 걷고 나서야‘딥페이크’ 성착취물이 직업·지역·학교별로 세분화된 텔레그램 대화방을 통해 광범위하게 유통돼온 걸로 드러났다. 시민들은 자신도 모르는 새 딥페이크 범죄 대상이 된 건 아닌지 ...
더 많은 것을 읽으십시오 »

“처음이라, 어려서, 반성하니까…” 딥페이크 범죄물에 관대한 법원딥페이크 기술을 이용한 성착취물 제작·유포가 확산하면서 피해가 커지지만 처벌은 느슨하다는 지적이 나온다. 법원은 딥페이크 합성물 제작·유포 등 혐의로 재판에 넘겨진 이들에게 ...
더 많은 것을 읽으십시오 »

“처음이라, 어려서, 반성하니까…” 처벌 조항 있어도, 형량 깎는 법원 [플랫]딥페이크 기술을 이용한 성착취물 제작·유포가 확산하면서 피해가 커지지만 처벌이 느슨하다는 지적이 나온다. 법원은 딥페이크 합성물 제작·유포 등 혐의로 재판에 넘겨진 이들에게 ...
더 많은 것을 읽으십시오 »

'딥페이크 범죄 엄벌' 강조한 법원…양형기준 손질 지적도(서울=연합뉴스) 한주홍 기자=딥페이크 음란물의 급속 확산 문제가 핫이슈로 떠오른 가운데 이른바 '서울대 딥페이크'(서울대 N번방)로 불린 ...
더 많은 것을 읽으십시오 »