![[김대은의 컴파일] AI의 근친교배](https://i.headtopics.com/images/2023/9/15/maekyungsns/914460845824510591910-914460845824510591910-7EB14C1164198B4BB6C9803C034965D0.webp)
인공지능(AI)이 일상에 자리 잡으면서 새로이 생겨날 문제가 있다. AI가 만든 결과물을 AI가 학습하는 일종의 근친교배 현상이다. 최근 영국 옥스퍼드대 연구팀은 인간이 만든 문장을 AI에 학습시켜 문장을 만들고, 이렇게 나온 문장을 계속해서 재학습하는 실험을 진행했다. 그러자 얼마 되지 않아 어순이 이상해지고, 주술 관계도 맞지 않을뿐더러 잘못된 구두점이..
인공지능이 일상에 자리 잡으면서 새로이 생겨날 문제가 있다. AI가 만든 결과물을 AI가 학습하는 일종의 근친교배 현상이다. 최근 영국 옥스퍼드대 연구팀은 인간이 만든 문장을 AI에 학습시켜 문장을 만들고, 이렇게 나온 문장을 계속해서 재학습하는 실험을 진행했다. 그러자 얼마 되지 않아 어순이 이상해지고, 주술 관계도 맞지 않을뿐더러 잘못된 구두점이 포함된 결과가 나왔다. 이는 과거 화제가 되었던 '환각'과는 또 다른 차원의 일이다. 환각 현상은 잘못된 내용을 제시할지언정, 사람이 알아들을 수 없을 정도로 문법적으로 이상한 문장을 만들 정도는 아니기 때문이다.
올해 들어 처음 지적되기 시작한 이 현상은 '모델 붕괴' '합스부르크 인공지능' 등 다양한 이름으로 불리고 있다. 합스부르크라는 이름이 붙은 것은 AI의 근친교배가 독일 합스부르크 가문의 근친혼과 본질적으로 같기 때문이다. 17세기 합스부르크 가문은 정치적인 이유로 근친혼을 장려했지만, 이로 인해 태어난 사람들이 각종 유전병에 시달리는가 하면 불임으로 인해 대가 끊길 위기에 처하기도 했다. 그런데 AI가 학습할 데이터가 이미 AI가 만든 콘텐츠라면 큰 문제가 발생한다. 한번 오차를 걸러낸 후에 또다시 오차를 걸러내다 보니 소수 의견이 모두 잘려 나가는 것이다. 이러한 과정을 통해 만들어진 결과물은 결국 표준편차가 0에 가까운 데이터를 갖고 추세선을 그리는 것이나 마찬가지다. 옥스퍼드대 연구팀은 이를 '치명적 망각'이라고 명명했다. 어떤 면에서 AI의 근친교배는 인간의 사고와도 닮았다. 간혹 나이 지긋한 원로급 인사가 내뱉는 말과 쓰는 글이 극단적이고 편협한 진영 논리에 사로잡힌 경우를 본다. 점점 내가 보기 불편한 것을 멀리하고, 입맛에 맞는 정보만 수용하는 사고의 근친교배가 계속되다 보니 생기는 현상이다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
美의회에 빅테크 CEO 20명 총출동…'AI 규제 공감대 형성'이날 척 슈머 민주당 상원 원내대표는 ‘AI 인사이트 포럼’이란 모임을 비공개로 열고 구글, 메타, 마이크로소프트(MS) 등 상징성이 높은 빅테크 기업들의 최고경영자(CEO)들과 AI의 발전 방향과 규제 필요성을 논의했다. 이날 회의에는 생성형 AI의 대표주자인 챗GPT를 개발한 오픈AI의 샘 올트먼, 엔비디아의 젠슨 황, 구글의 순다르 피차이, MS의 사티아 나델라, 테슬라의 일론 머스크, 메타의 마크 저커버그 등 미국을 이끄는 빅테크 CEO 20명이 총출동했다. 뉴욕타임스(NYT)는 모임을 주최한 슈머 원내대표가 '정부가 AI 규제에 역할을 해야 한다고 보느냐'라는 화두를 던지자, 대부분의 CEO들이 동의한다는 의미에서 손을 들었다고 당시 회의장 분위기를 전했다.
더 많은 것을 읽으십시오 »
![[삼성화재배 AI와 함께하는 바둑 해설] 의문투성이](https://i.headtopics.com/images/2023/9/14/joongangilbo/914934049457548955593-914934049457548955593-578CA918BAAE24FCA32B537578EA426F.webp?w=640)
[삼성화재배 AI와 함께하는 바둑 해설] 의문투성이〈결승 1국〉 ○ 최정 9단 ● 신진서 9단 장면④=중요한 장면이라서 필름을 조금 앞으로 돌려본다. 최정 9단이 백1로 두자 신진서 9단은 2로 꼬부렸다. ◆AI의 주장=백1이 앞서 말한 AI의 요소이고 급소다.
더 많은 것을 읽으십시오 »
이젠 포커선수 이세돌…데뷔 무대 상대는 ‘올인’의 차민수'홀덤으로 인공지능(AI)과 대결이요? 충분히 해볼 만하지 않나 싶어요'. 그런데 바둑이 아닌 홀덤? 2019년 프로 바둑기사에서 은퇴하며 바둑돌을 내려놓았던 그가 오는 16일 홀덤 선수로 포커 카드를 손에 든다. 그가 자신과 AI의 대결에 대해 '충분히 해볼 만하지 않나 생각한다'고 자신감을 내비친 것도 '저에 대한 많은 데이터 제공이 안 된 상태'라고 단서를 달았기 때문이다.
더 많은 것을 읽으십시오 »
尹 '초거대 AI에 민관 과감한 투자...디지털규범 선도'윤석열 대통령은 국내의 초거대 인공지능, AI가 글로벌 무...
더 많은 것을 읽으십시오 »
교사한테 약도 아닌 유산균 챙겨 먹이라고…우린 부속품이었다[한겨레21] 교사들 “이 지경 만든 건 학부모와 정부”
더 많은 것을 읽으십시오 »
교사한테 “우리 애 유산균 챙겨 먹여라”…우린 부속품이었다[한겨레21] 교사들 “이 지경 만든 건 학부모와 정부”
더 많은 것을 읽으십시오 »