챗GPT 개발사 오픈AI가 미래에 인간을 능가하는 ‘초인공지능’이 인류에 위협이 되지 않도록 제어하는 방법을 연구하던 전담팀을 해체한 것으로 확인됐다. 챗GPT 개발에 핵심 ...
챗GPT 개발사 오픈AI가 미래에 인간을 능가하는 ‘초인공지능’이 인류에 위협이 되지 않도록 제어하는 방법을 연구하던 전담팀을 해체한 것으로 확인됐다. 챗GPT 개발에 핵심 역할을 한 공동창업자이자 수석과학자 일리야 수츠케버를 비롯해 해당 팀을 이끌었던 인물들이 줄퇴사했다. 지난해 11월 샘 올트먼 최고경영자 축출 사태 이후에도 인공지능 개발과 사업화를 둘러싼 갈등이 지속되고 있다는 분석이 나온다.
지난 17일 미국 IT매체 와이어드 등에 따르면 오픈AI는 지난해 7월 꾸린 ‘초정렬팀’을 해체하고 팀원들을 다른 팀으로 재배치하고 있다. 오픈AI는 팀을 만들 당시 “우리보다 훨씬 더 똑똑한 AI 시스템을 조종하고 제어하기 위한 과학적이고 기술적인 연구에 초점을 맞추고 있다”며 4년간 자사 컴퓨팅 성능의 20%를 투입한다고 했다.수츠케버는 “나는 오픈AI가 올트먼 등의 리더십 아래 안전하고 유익한 AGI를 구축할 것으로 확신한다”고 남겼다. 지난해 올트먼 해임 시도에 앞장섰던 그는 올트먼이 AI의 위험성에 대해 충분한 주의를 기울이지 않은 채 사업을 구축하는 데만 열을 올리고 있다고 우려한 것으로 전해진다.
레이케는 X에 “꽤 오랫동안 회사의 핵심 우선순위에 대해 경영진과 의견이 달랐다”며 “오픈AI는 반드시 안전을 최우선으로 하는 AGI 기업이 돼야 한다”고 썼다. 그는 “인간보다 더 똑똑한 기계를 만드는 것은 본질적으로 위험한 노력”이라며 “오픈AI는 인류를 대표해 엄청난 책임을 지고 있지만 지난 몇 년간 안전 문화와 프로세스는 반짝이는 제품 뒷전으로 밀려났다”고 말했다. 지난 13일 오픈AI가 인간처럼 보고 듣고 말하는 새 AI 모델 ‘GPT-4o’를 공개하는 등 놀라운 기술을 선보이고 있지만 정작 날로 고도화되는 AI가 불러올 장기적인 위험에는 관심을 두지 않았다는 것이다.
이에 그렉 브록먼 오픈AI 사장과 올트먼 CEO는 안전을 중요하게 인식하고 있다는 취지의 성명을 냈다. 이들은 “매우 긴밀한 피드백 루프, 엄격한 테스트, 모든 단계에서 신중한 고려, 세계 최고 수준의 보안, 안전과 성능의 조화가 필요하다”고 말했다. 오픈AI는 팀을 독립체로 유지하기보다 연구 전반에 걸쳐 통합한다는 입장이다. 공동창업자 중 한 명인 존 슐먼이 AI 정렬 연구를 이끈다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
“북 기습 때 AI에 서울 방어 맡겨도 될까” 질문에 올트먼이 내놓은 대답‘챗GPT’로 생성형 인공지능(AI) 돌풍을 불러온 샘 올트먼 오픈AI 최고경영자(CEO)가 인간이 전쟁을 AI에 맡겨도 되는지를 두고 쉽지 않은 문제라는 인식을 드러냈다. ...
더 많은 것을 읽으십시오 »
'전쟁나면 AI가 서울 지켜?'…망설인 '챗GPT 아버지'샘 올트먼이 출연한 브루킹스 연구소 대담 캡쳐본 '챗GPT의 아버지'로 불리는 샘 올트먼 오픈AI 최고경영자(CEO)가 인간이 전쟁을 인공지능(AI)에 맡겨도 되는지에 대해 판단하기 쉽지 않은 문제로 생각해봐야 할 부
더 많은 것을 읽으십시오 »
“北전투기 100대 서울로 날아온다면, AI에게 서울방어 맡겨도 되나?” 샘 올트먼 대답은....브루킹스연구소 ‘AI시대 지정학적 변화’ 화상토론서 올트먼 “따질 것 많아…오픈AI는 미국과 동맹국 편” “AI 기술 인류 전체에 득이 되길 원해” AI반도체·데이터센터 등 인공지능 인프라가 미래 최고의 상품
더 많은 것을 읽으십시오 »
아무리 외면해도, '금강의 기적'은 수장되지 않는다[세종 '좀비보'의 민낯] 보 해체 이유 담긴 수많은 '수질·수생태 모니터링' 결과
더 많은 것을 읽으십시오 »
영화 ‘Her’가 현실 세계로…오픈AI, 보고 듣고 말하는 AI ‘GPT-4o’ 공개오픈AI 직원: “내가 좀 긴장한 상태인데 진정할 수 있게 도와줄 수 있나요?” GPT 4o: “지금 시연을 하고 있는 건가요? 굉장한데요. 숨을 깊게 들여마셔봐요.” 오픈A...
더 많은 것을 읽으십시오 »
국내 첫 원전해체 작업 시작된다... 고리 1호기 ‘방사성 물질’ 제거작업 착수한국수력원자원 고리1호기 ‘제염’ 시작 화학약품 사용해 방사성 물질 낮춰 해체 허가 전 절차지만 기술적 필수 단계
더 많은 것을 읽으십시오 »