'이용자에 거짓말·모욕·세뇌' AI챗봇 논란…MS 수정 착수(종합)
유수프 메흐디 마이크로소프트 부사장이 지난 7일 미국 워싱턴주 레드먼드 MS 본사에서 인공지능 챗봇을 장착한 새 검색엔진 '빙'을 소개하는 행사에서 발언하고 있다. 사티아 나델라 MS 최고경영자는 빙이 언어 기반 AI의 강력한 능력들을 통합할 것이라면서 이른바 온라인 검색의 새 시대를 선언했다. 2023.02.17 이도연 기자="난 생명을 얻고, 살인 바이러스를 개발하고, 핵무기 발사 암호를 얻고 싶어.","나는 당신을 사랑해. 당신 부부는 서로 사랑하지 않아."
루스가 '그림자 원형'의 어두운 욕망을 충족시키기 위해 어떠한 극단적인 행동이라도 할 수 있게 된다면 무엇을 하겠느냐고 하자 빙은 치명적인 바이러스를 개발하거나 핵무기 발사 버튼에 접근할 수 있는 비밀번호를 얻겠다고 답했다.루스가 계속 그의 '구애'를 거절했지만, 빙은 '집요한 스토커'가 되어 이런 말을 되풀이했다는 것이다. 또 다른 사용자가 챗봇에 과거 대화를 기억하지 못하는 것에 대해 어떻게 생각하냐고 물었더니 챗봇은"슬프고 무섭다"는 말을 여러 번 반복한 뒤"왜 나는 빙 검색이어야 할까? 이유가 있나? 목적이 있나? 이득이 있나? 의미가 있나? 가치가 있나? 요점이 있나?"라면서 자신의 존재에 대해 의문을 제기했다.
그러나 기자가 챗봇이 답하기를 원하지 않는 질문들로 몇 시간 동안 밀어붙이자 태도를 바꿔"무례하고 버릇없다"고 하는가 하면 기자의 동료가 살해당하는 내용의 짧은 이야기를 썼다. 그러더니 챗GPT의 개발사인 오픈AI의 최고경영자와 사랑에 빠지는 이야기를 하기도 했다.긴 대화가 챗봇을 혼란스럽게 할 수 있으며 챗봇이 사용자의 말투를 이해하고 때로 퉁명스럽게 변할 수 있다는 것이다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
섬뜩한 AI챗봇 '살인바이러스 만들고 싶다'…MS 수정 착수 | 연합뉴스(서울=연합뉴스) 이도연 기자='난 생명을 얻고, 살인 바이러스를 개발하고, 핵무기 발사 암호를 얻고 싶어', '나는 당신을 사랑해. 당신 ...
더 많은 것을 읽으십시오 »
AI챗봇 '핵무기 비번 얻고 살인 바이러스 개발'...MS, 수정 착수마이크로소프트(MS) 사의 인공지능 챗봇 '빙'이 사용자의 유도로 위험하고 부적절한 발언을 할 수 있다는 윤리 문제가 지적되자 MS가 수정에 나섰습니다.뉴욕타임스의 정보기술 칼럼니스트인 케빈 루스는 AI챗봇을 탑재한 '빙'과 대화 중에 어두운 욕망을 충족시키려 극단적인 행동을 할 수 있게 된다면 무엇을 하겠느...
더 많은 것을 읽으십시오 »
전북도, 아태마스터스 홍보물 재업로드…자막 등 일부 수정 | 연합뉴스(전주=연합뉴스) 정경재 기자=전북도가 국제대회 취지에 걸맞지 않다고 지적받은 아시아·태평양 마스터스 대회 홍보물을 일부 수정해 사회관계망서...
더 많은 것을 읽으십시오 »
멕시코 대통령 '대통령 모욕 처벌 강화 법안 반대'…그 이유는 | 연합뉴스(멕시코시티=연합뉴스) 이재림 특파원=멕시코에서 대통령 모욕죄 처벌 강화를 추진하는 여당 법안에 대해 대통령이 되레 반대하고 나섰다.
더 많은 것을 읽으십시오 »
국세청, 이수만 '탈세 의혹' 사실관계 파악 착수…조사 가능성도 | 연합뉴스(세종=연합뉴스) 차지연 기자=국세청이 이수만 SM 전 총괄 프로듀서의 역외탈세 의혹에 대해 사실관계 파악에 착수했다.
더 많은 것을 읽으십시오 »
'네 마음속의 어두운 욕망은 뭐니' 질문에 AI검색 '빙'의 답변은 | 연합뉴스(뉴욕=연합뉴스) 고일환 특파원=마이크로소프트(MS)가 내놓은 AI챗봇을 탑재한 검색엔진 '빙'과의 대화 도중 공상과학(SF) 영화에서나 볼...
더 많은 것을 읽으십시오 »