인공지능(AI)의 힘을 빌릴 수 있다면 혐오표현의 확산을 막는 데 큰 도움을 받을 수 있다. 김성현 스마일게이트 인공지능센터 연구원이 최근 공개한 데이터셋과 AI 모델이 주목을 받는 이유다.
김성현 스마일게이트 인공지능센터 연구원이 5월 10일 경기도 성남시 판교 연구센터에서 경향신문과 인터뷰하고 있다. / 김창길 기자
최근 미국 뉴욕주 버펄로에서 한 10대 청소년이 슈퍼마켓에서 총기를 난사해 10명이 숨졌다. 범행 동기는 인종주의로, 비백인 이민자들이 백인 인구와 문화를 대체하려 한다는 ‘거대 대체 이론’의 영향을 받은 것으로 알려졌다. 총격 사건 같은 물리적 폭력으로 비화하진 않았지만, 국내에서도 비슷한 주장이 공공연하게 입에 오르내린다. 종교계 일각에서 이슬람 국가들이 한국에 이민을 보내 자식들을 많이 낳아 한국사회를 정복하려 한다는 주장은 ‘대체 이론’의 한국판이라 할 만하다. 한국이 이슬람 국가로 변할 것이라거나 여성들이 성폭행을 당하고 히잡을 쓰게 될 것이라는 말도 나온다.
포털과 소셜미디어에는 가짜뉴스, 음모론에 기댄 혐오표현이 넘쳐난다. 국가인권위원회가 2019년 발간한 ‘혐오표현 리포트’에 따르면 혐오표현이란 “성별, 장애, 종교, 나이, 출신지역, 인종, 성적지향 등을 이유로 어떤 개인·집단에 ①모욕, 비하, 멸시, 위협, 또는 ②차별·폭력의 선전과 선동을 함으로써 차별을 정당화·조장·강화하는 효과를 갖는 표현”을 말한다. 혐오표현의 주요 대상은 여성과 성소수자, 장애인, 이주민 등이다. 최근엔 인종과 국적에 따른 혐오가 두드러진다. 경제적으로 뒤떨어졌다고 생각하는 나라에서 온 사람들이 주로 차별과 혐오의 대상이 된다. 동성애나 트랜스젠더는 병리현상이 아님에도 무지하거나 이해되지 않는다는 이유로 과학적 근거도 없이 일단 혐오하고 부정부터 하고 본다.
집단을 선동하고, 차별을 정당화하는 혐오표현은 미국에서처럼 폭력행위로 발전할 수 있다. 반지성주의는 혐오를 낳는다. 혐오는 사회의 평온을 깨고 민주주의를 위기에 빠뜨린다. 집단 간의 적대감을 부추기는 혐오표현이 늘수록 우리 사회가 안녕할지 불안감이 커진다. 초기에 대응해야 하지만 온라인상의 혐오표현을 일일이 사람이 골라내기엔 벅차다. 인공지능의 힘을 빌릴 수 있다면 혐오표현의 확산을 막는 데 큰 도움을 받을 수 있다. 김성현 스마일게이트 인공지능센터 연구원이 최근 공개한 데이터셋과 AI 모델이 주목을 받는 이유다. 김 연구원은 지난 3월 개발자들이 정보를 공유하는 웹사이트 ‘깃허브’에 혐오표현을 감지하고, 분류할 수 있는 데이터셋을 공개했다. 필요한 누구나 이 데이터를 이용해 혐오표현과 관련한 연구를 발전시킬 수 있다. 지난 5월 10일 경기도 판교 스마일게이트 AI 센터에서 김 연구원을 만나 왜 이런 AI를 개발했는지, 어디에 활용할 수 있는지 등을 들었다.
“인공지능이 급속도로 발전했지만 현실의 언어를 도덕적 기준 없이 학습하다 보니 사람에게 상처를 줄 수 있는 혐오성 발언을 뱉는 인공지능도 등장했다. 우리가 개발한 인공지능이 혐오성 발언을 하진 않을까, 사용자들이 인공지능에 혐오성 발언을 가르치진 않을까라는 우려가 있었다. 필터링을 하자는 생각에서 시작했다. 그 결과물이 ‘언스마일’이라는 이름의 데이터셋과 모델이다.”“두가지 인공지능 학습 방법을 사용한다. 먼저 일상언어를 학습한다. 사람의 말을 잘 이해하고 사람처럼 말할 수 있는 인공지능이 되도록 1차 학습을 한다. 그다음 ‘이런 문장은 혐오 발언이야, 이런 문장은 혐오 발언이 아니야’라고 알려주는 2차 학습을 한다. 그러면 사람의 말을 잘 이해하고, 혐오 발언도 걸러낼 수 있는 모델이 만들어진다.”“구축하고자 하는 형태의 혐오 발언 데이터셋이 존재하지 않아 우선 혐오성 발언이 포함된 댓글을 포털과 온라인 커뮤니티에서 모았다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
조선대 의대생 5명 필기시험서 부정행위…유급 조치될 듯학생 5명이 한 강의실에서 온라인 시험을 치르며 다른 학생의 답안을 엿본 뒤 같은 답을 적는 방식으로 부정행위를 한 것으로 알려졌다. 조선대 의대 부정행위
더 많은 것을 읽으십시오 »
브라질 남부 이례적 폭설·한파…커피 우려｜AI가 Pick한 세상1. 브라질 남부 이례적 폭설·한파…커피 우려역시 애들은 눈이 내리면 마냥 즐거운가 보네요. 차갑지도 않은지 두 팔 ..
더 많은 것을 읽으십시오 »
![[단독] 27년 만의 '청와대 열린음악회'…김건희 여사 참석할까](https://i.headtopics.com/images/2022/5/20/joongangilbo/9145800460219331093073-1527442731970478080.webp?w=640)
[단독] 27년 만의 '청와대 열린음악회'…김건희 여사 참석할까청와대 본관 앞 대정원에서 KBS ＇열린 음악회＇가 열립니다.\r청와대 열린음악회 김건희여사
더 많은 것을 읽으십시오 »
'김새론, 벌금형보다 집행유예 가능성'…동승자 방조죄 처벌은김새론의 음주운전 사고 당시 동승자는 연예인이 아닌 일반인으로 밝혀졌습니다.\r배우 김새론 음주운전 법
더 많은 것을 읽으십시오 »
美 앱공정성연대 “구글·애플에 정당한 법 집행을”...‘인앱결제방지법’ 지지전 세계 최초로 만들어진 한국의 '인앱결제강제 금지법'이 훌륭한 전례가 될 것이라며 기대감을 보이기도 했습니다. newsvop
더 많은 것을 읽으십시오 »
한덕수 인준안 오후 처리…‘부결’ 기류 속 민주당 의총 격론 예상한덕수 국무총리 후보자의 임명동의안 표결을 두고, 원내 지도부를 포함한 의원들 사이에선 ‘부적격 후보이므로 부결시켜야 한다’는 기류가 강하지만 6·1지방선거 민심을 의식해야 한단 목소리도 나오고 있다.
더 많은 것을 읽으십시오 »