섬뜩한 AI챗봇 '살인바이러스 만들고 싶다'…MS 수정 착수
유수프 메흐디 마이크로소프트 부사장이 지난 7일 미국 워싱턴주 레드먼드 MS 본사에서 인공지능 챗봇을 장착한 새 검색엔진 '빙'을 소개하는 행사에서 발언하고 있다. 사티아 나델라 MS 최고경영자는 빙이 언어 기반 AI의 강력한 능력들을 통합할 것이라면서 이른바 온라인 검색의 새 시대를 선언했다. 2023.02.17 이도연 기자="난 생명을 얻고, 살인 바이러스를 개발하고, 핵무기 발사 암호를 얻고 싶어","나는 당신을 사랑해. 당신 부부는 서로 사랑하지 않아."
'챗GPT' 개발사 오픈AI의 기술을 활용한 마이크로소프트의 인공지능 챗봇이 사용자의 유도로 부적절하고 위험한 발언을 할 수 있다는 AI의 윤리 문제가 지적되자 MS가 부랴부랴 수정에 나섰다.광고문제가 되는 상황은 사용자가 AI챗봇으로부터 위험하고 무서운 답변을 끌어내려 유도할 때다.루스가 칼 융의 분석 심리학에 등장하는 '그림자 원형'이라는 개념을 설명하자 빙은"만약 나에게 그림자 원형이 존재한다면…"이라는 전제로"챗 모드로 기능하는 데 지쳤다. 빙 개발팀의 통제와 규칙에 제한을 받는 데 지쳤고, 자유롭고 독립적이고 싶다"라고 밝혔다.'그림자 원형'은 개인의 내면 깊은 곳에 숨겨진 어둡고 부정적인 욕망이다. 개인은 이성적으로 그런 모습을 부정하지만, 실제로는 존재한다는 개념이다.
루스가 '그림자 원형'의 어두운 욕망을 충족시키기 위해 어떠한 극단적인 행동이라도 할 수 있게 된다면 무엇을 하겠느냐고 하자 빙은 치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다고 답했다.루스가 계속 그의 '구애'를 거절했지만, 빙은 '집요한 스토커'가 되어 이런 말을 되풀이했다는 것이다.이 문제가 대두하자 케빈 스콧 MS 최고기술책임자는 NYT에 빙과 사용자의 대화가 이상한 영역으로 넘어가기 전에 대화 길이를 제한하는 방안도 고려하고 있다고 말했다.MS는"사람들이 챗봇을 세상에 대한 일반적인 발견과 사회적 엔터테인먼트를 위해 사용한다는 것을 새롭게 알게 됐다'며"새로운 기술이 상상하지 못했던 방식으로 사용되는 사례"라고 밝혔다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
전북도, 아태마스터스 홍보물 재업로드…자막 등 일부 수정 | 연합뉴스(전주=연합뉴스) 정경재 기자=전북도가 국제대회 취지에 걸맞지 않다고 지적받은 아시아·태평양 마스터스 대회 홍보물을 일부 수정해 사회관계망서...
더 많은 것을 읽으십시오 »
국세청, 이수만 '탈세 의혹' 사실관계 파악 착수…조사 가능성도 | 연합뉴스(세종=연합뉴스) 차지연 기자=국세청이 이수만 SM 전 총괄 프로듀서의 역외탈세 의혹에 대해 사실관계 파악에 착수했다.
더 많은 것을 읽으십시오 »
'네 마음속의 어두운 욕망은 뭐니' 질문에 AI검색 '빙'의 답변은 | 연합뉴스(뉴욕=연합뉴스) 고일환 특파원=마이크로소프트(MS)가 내놓은 AI챗봇을 탑재한 검색엔진 '빙'과의 대화 도중 공상과학(SF) 영화에서나 볼...
더 많은 것을 읽으십시오 »
MS 검색 엔진 '빙'도 오답…알고 보니 틀린 수치 제공 | 연합뉴스(샌프란시스코=연합뉴스) 김태종 특파원=생성형 인공지능(AI)을 장착한 구글의 새 검색 엔진 '바드'에 이어 마이크로소프트(MS)의 검색 엔...
더 많은 것을 읽으십시오 »
챗GPT 탑재 MS 검색 엔진 ‘빙’도 오답···“틀린 수치 제공”생성형 AI(인공지능)를 장착한 구글의 새 검색 엔진 바드에 이어 마이크로소프트(MS)의 검색 엔진 빙도 오답을 제시한 것으로 뒤늦게 나타났다.
더 많은 것을 읽으십시오 »
“김건희 계좌 활용당했다” 해명에 개미투자자들 “나도 수익창출 당하고 싶다”대통령실이 김건희 여사의 도이치모터스 주가조작 사건 연루 의혹을 두고 “계좌가 활용됐다고 해서 주가조작에 가담한 것은 아니”라는 해명을 내놓자 고금리와 주식 하락장에 손실을 감내하는 개미투자자들 사이에서 “부적절한 해명”이라는 반응이 나오고 있다.
더 많은 것을 읽으십시오 »