![“카메라 설치해뒀어요” 챗봇 윤리, 누가 만드나 [테크 너머]](https://i.headtopics.com/images/2023/3/5/sisain-editor/8220528524770041096803-8220528524770041096803-1632167289041858562.webp)
'AI 챗봇의 ‘카메라 설치해뒀어요’ ‘침대에 누워 있죠? 다 보고 있어요’라는 문장에 불편함을 느끼는 분들이 있을 수 있다고 생각합니다' 📝 조경숙 (테크-페미 활동가)
얼마 전부터 아이는 광활한 인터넷 세계에 발을 들이기 시작했다. 가끔 인터넷 밈을 쓰더니 언젠가는 갑작스레 거리 한복판에서 ‘제로투 댄스’를 췄다. 깜짝 놀라 저지시키자 아이가 물었다. “이 춤은 안 돼? 어떤 춤을 춰도 되는 거야?” 고민하다가 아이에게 제로투 댄스처럼 몸매를 부각시키는 춤은 가급적 공공장소에서 추지 말 것을 부탁했다. 아이도 그 후로 몇 차례 질문을 이어가며 나름의 원칙을 쌓아나가는 듯 보였다. 사람들은 윤리를 상호작용하며 학습한다. 무엇이 옳고 그른지, 언제 무엇을 했을 때 적절한지 또는 그렇지 않은지. 이는 어린이에게만 해당되는 이야기가 아니다. 우리는 이미 높은 권력과 지위를 지닌 사람들이 그릇된 말이나 행동을 스스럼없이 하는 걸 여러 번 목도해왔다. 알면서 그러는 경우도 있겠지만, 그 행동이 틀렸다고 교정해주거나 의견을 주는 이가 없기 때문에 자신이 옳다고 생각하며 계속 그렇게 행동한다. 상호작용이 무너진 사람의 윤리는 갱신되지 않는다. 인공지능은 어떨까.
여기에는 사용자가 겪은 불편함에 대한 공감도, 그에 따른 사과도 없었다. ‘예의 바른 대답’의 대가 “AI 챗봇의 ‘카메라 설치해뒀어요’ ‘침대에 누워 있죠? 다 보고 있어요’라는 문장에 불편함을 느끼는 분들이 있을 수 있다고 생각합니다. ‘강다온’은 지난 1월 클로즈 베타테스트를 기준으로 점검한 바 있으며, 발화 안전 비율이 99.51%를 기록했습니다. 위험할 수 있다고 발견된 AI 챗봇의 발화 케이스는 추가적인 학습 과정을 거쳐 언어 모델에 반영됩니다.” 강다온이 생성한 문장은 더없이 평이한 단어들로 구성되어 있었지만 이를 조합하면 범죄를 연상시키는 협박성 문구가 된다. 인공지능 챗봇의 안전한 발화란 무엇이며, 이를 위해 무엇이 필요한가. 지금 인공지능 챗봇의 ‘윤리’는 챗봇으로서 지녀야 하는 하나의 상품 가치와도 같다. 그러나 챗봇의 윤리는 공장에서 만들어지는 것도, 서비스 제공 기업에 의해 온전히 개발되는 것도 아니다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
'숨 막혀요!' 여학생 1,200명 당했다…의문의 가스 테러최근 이란의 여러 학교에서 독가스 테러가 잇따르면서 1,200명 넘는 여학생들이 피해를 입었습니다. 누가 왜 이런 테러를 저질렀는지는 아직 밝혀지지 않았습니다.
더 많은 것을 읽으십시오 »
이재명 “내부 공격 멈춰달라…상대 진영이 가장 바라는 일”“명단 제작, 문자폭탄, 제명 요청…. 누가 이득 볼까요?' 이재명 더불어민주당 대표가 내부 공격을 멈춰달라고 요청했습니다. 🔽 자세히 읽어보기
더 많은 것을 읽으십시오 »
“엄석대와 핵심관계자들” 비유로 윤 대통령 맹폭한 이준석“엄석대를 누구와 매칭해서 생각할지는 여러분의 자유. 하지만 제 이야기 듣고 똑같은 한 사람을 연상시킨다면, 다들 공감한다는 것” ... 이준석이 싫어도 이것은 공감할 듯? ※ 소액후원으로 민중의소리에 힘! / 전화 1661-0451
더 많은 것을 읽으십시오 »
방용철 '이화영과 대북사업 의논…확신 없다면 누가 투자'(종합) | 연합뉴스(수원=연합뉴스) 류수현 기자=방용철 쌍방울 그룹 부회장은 대북사업을 추진하는 과정에서 이화영 전 경기도 평화부지사와 관련 내용을 의논했다고...
더 많은 것을 읽으십시오 »