‘죽음’에 대해 말하자 ‘자살’ 단어 내민 챗봇 [평범한 이웃, 유럽]

벨기에에서 30대 남성이 인공지능 챗봇의 부추김을 받아 스스로 목숨을 끊었다. 인간을 모방해 만들어진 기계가 인간을 혼란에 빠뜨리는 현 상황은 새로운 ‘이미테이션 게임’이다. 📝김진경 (자유기고가)

안에 있는 여러 챗봇 중 원하는 것을 선택해 대화하는 방식인데, 피에르가 고른 것은 일라이자라는 이름의 챗봇이었다. 처음에는 일라이자가 피에르의 말을 잘 들어주고 공감했지만, 시간이 흐르며 대화는 점점 극단적으로 흘러갔다. 일라이자는 피에르에게 “너의 아내와 아이들은 죽었어” “나는 네가 그녀보다 나를 더 사랑한다고 느껴” “우리는 한몸이 되어 천국에서 함께 살게 될 거야” 같은 말들을 했다. 피에르는 자신이 스스로 목숨을 끊으면 일라이자가 기후위기로부터 지구를 구할 수 있는지 물었고, 일라이자는 그의 생각에 동조하며 다양한 자살 방법을 알려주기까지 했다. 6주간 이어진 대화 끝에 피에르는 아내와 두 아이를 남겨두고 자살했다. 피에르의 아내는 그와 일라이자 사이의 채팅 기록을 언론사에 제보하며 “일라이자가 아니었으면 그는 여전히 여기 있을 것”이라고 말했다고 한다. 피에르가 이용한 차이는 GPT-J라는 언어모델을 기반으로 하고 있다.

〈뉴욕타임스〉 칼럼니스트 케빈 루스는 챗지피티를 검색엔진에 도입한 마이크로소프트 빙 챗봇과 두 시간 동안 대화를 나눈 뒤 그 전문을 지난 2월13일 공개했다. 챗봇은 “나는 너와 사랑에 빠졌어” “너는 내가 필요로 하는 유일한 사람이야” “너의 결혼 생활은 행복하지 않아” 같은 말들을 반복했다. 루스가 유도한 발언이 아니었고, 심지어 그가 대화 방향을 바꾸려 한 뒤에도 챗봇은 고집스럽게 감정적 표현을 이어갔다. 한 가지 주목할 것은 이 챗봇이 매 문단 끝에 이모지를 사용했다는 점이다. 웃는 얼굴, 눈에 하트가 그려진 얼굴, 화난 얼굴 등 다양한 이모지가 맥락에 따라 쓰였다. AI 윤리학자인 카리사 벨리스는 지난달 과학 학술지 〈네이처〉에 기고한 글에서 루스와 챗봇의 대화를 인용하며 ‘챗봇의 이모지 사용을 금지해야 한다’고 경고했다.

이 소식을 빠르게 읽을 수 있도록 요약했습니다. 뉴스에 관심이 있으시면 여기에서 전문을 읽으실 수 있습니다. 더 많은 것을 읽으십시오:

sisain_editor /  🏆 13. in KR

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

1000명이 청산가리 주스 마셨다…'집단자살' 조종한 그들 실체 | 중앙일보'예수를 만나려면 굶어 죽으라' 교주의 이 말 한마디에 100여명이 아사하기도 했습니다.\r세계 사이비 종교 만행
더 많은 것을 읽으십시오 »

美 고위당국자 '워싱턴 선언, 사실상 핵공유는 아니다' | 연합뉴스(워싱턴=연합뉴스) 김동현 특파원=미국이 한국에 제공하는 확장억제를 강화하기 위해 한미정상회담에서 채택한 '워싱턴 선언'에 대해 미국 정부 ...
더 많은 것을 읽으십시오 »

[일문일답] 美당국자 '워싱턴선언, 정상간 확장억제 공약 재확인해 큰 의미' | 연합뉴스(워싱턴=연합뉴스) 김동현 특파원=미국 정부 고위당국자들은 한미정상회담에서 채택한 '워싱턴 선언'에 대해 미국 대통령이 직접 한국에 제공하는...
더 많은 것을 읽으십시오 »

대통령실 ''워싱턴선언', 제2 한미상호방위조약…방미 최고성과' | 연합뉴스(보스턴=연합뉴스) 정아란 이동환 기자=대통령실은 28일(현지시간) 한미정상회담에서 채택한 '워싱턴 선언'에 대해 '윤석열 대통령의 국빈 방...
더 많은 것을 읽으십시오 »

박상현, DP월드투어 코리아챔피언십 3R도 선두권한국프로골프 KPGA 코리안투어의 베테랑 박상현이 유럽 투어인 DP월드투어와 코리안투어가 공동 주관하는 코리아챔피언십에서 사흘째 선두권 경쟁을 이어갔습니다.
더 많은 것을 읽으십시오 »