[디지털 세상 읽기] AI에 ‘독약’ 넣기

요즘 인기 절정의 생성형 AI는 인간의 창작물에 버금가는 수준의 글과 이미지를 몇초 만에 만들어낸다. 생성형 AI로 돈을 버는 기업들은 AI를 학습시키는 데 사용한 창작물에 대가를 치르지 않는다. 가장 좋은 방법은 기업이 창작물을 AI의 학습에 사용하기 전에 허락을 받는 것이지만, 온라인에서 창작자 몰래 이미지를 가져가 사용하는 걸 막는 게 쉽지 않기 때문에 기업들은 이런 허점을 이용하고 있다.

요즘 인기 절정의 생성형 AI는 인간의 창작물에 버금가는 수준의 글과 이미지를 몇초 만에 만들어낸다. 하지만 그 자체에 창의적인 사고가 존재하는 게 아니라 엄청난 양의 글과 이미지를 학습한 결과로 만들어내는 것뿐이다. 문제는 이런 AI 모델이 학습하는 것이 사람이, 경우에 따라서는 평생을 바쳐 만들어낸 작품이라는 사실이다.

생성형 AI로 돈을 버는 기업들은 AI를 학습시키는 데 사용한 창작물에 대가를 치르지 않는다. 이런 관행에 반발한 창작자들이 기업을 상대로 한 소송이 늘어나고 있지만, 학습에 들어간 창작물에 대한 대가를 산출하는 일은 쉽지 않다. 가장 좋은 방법은 기업이 창작물을 AI의 학습에 사용하기 전에 허락을 받는 것이지만, 온라인에서 창작자 몰래 이미지를 가져가 사용하는 걸 막는 게 쉽지 않기 때문에 기업들은 이런 허점을 이용하고 있다. 그런데 최근 시카고대 연구진이 AI의 학습을 방해하는 ‘독약’을 만들어내서 화제다. 사람 눈에는 보이지 않게 고안된 픽셀을 창작물에 포함하면 AI가 학습과정에서 혼란을 겪고, 빌딩을 그려 달라면 꽃을 그리는 식으로 엉뚱한 결과물을 내놓게 된다. 연구진은 이 도구가 창작자들의 권리를 보호해줄 수 있을 것으로 기대한다. 그렇게 ‘오염된’ AI는 사용할 수 없기 때문에 버전 업그레이드가 힘들어지고, 결국 기업들은 창작자에게 대가를 지불하는 방법을 찾게 될 것이기 때문이다.

하지만 일이 순조롭게 진행될 것으로 낙관하기는 힘들다. 기업들은 이 기술을 우회하는 방법을 찾아낼 게 분명하고, 무엇보다 이렇게 AI를 오염하는 방법이 좋은 의도로만 사용되지 않을 것이기 때문이다. 소셜미디어의 발전 과정에서 목격한 것처럼 다양한 이해 당사자들의 끊임없는 기술 싸움이 될 가능성이 높다.

이 소식을 빠르게 읽을 수 있도록 요약했습니다. 뉴스에 관심이 있으시면 여기에서 전문을 읽으실 수 있습니다. 더 많은 것을 읽으십시오:

joongangilbo /  🏆 11. in KR

대한민국 최근 뉴스, 대한민국 헤드 라인

Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.

AI에 사활 건 통신사들…LGU+도 “통신 특화 AI 개발”LG유플러스는 자사의 통신·플랫폼 데이터와 AI 기술 역량을 활용해 통신 맞춤형 AI인 ‘익시젠’을 자체 개발한다고 29일 밝혔다. 익시젠은 LG AI연구원의 초거대 AI ‘엑사원’에 LG유플러스의 통신·플랫폼 데이터를 학습시킨 통신 특화 거대언어모델(LLM)이다. LG유플러스는 자사 고객을 위한 통신·플랫폼 서비스에는 자체 개발한 익시젠을, 전문가용 AI 서비스에는 그룹의 엑사원을 활용할 계획이다.
더 많은 것을 읽으십시오 »

[팩플] AI에 사활 건 통신사들…LGU+도 통신 특화 AI ‘엑시젠’ 개발LG유플러스는 자사의 통신·플랫폼 데이터와 AI 기술 역량을 활용해 통신 맞춤형 AI인 ‘익시젠’을 자체 개발한다고 29일 밝혔다. 익시젠은 LG AI연구원의 초거대 AI ‘엑사원’에 LG유플러스의 통신·플랫폼 데이터를 학습시킨 통신 특화 거대언어모델(LLM)이다. SK텔레콤과 LG유플러스는 통신 특화 LLM을 AI 기반 고객센터(AICC), 인터넷(IP)TV, 키즈 전용 서비스 등 통신사의 기존 서비스와 결합해 고객별 맞춤 AI 서비스를 제공할 계획.
더 많은 것을 읽으십시오 »

조선업에도 디지털 기술 접목...'똑똑한 조선소' 목표[앵커]최근 조선업계의 화두는 친환경과 기술 개발입니다.'스마트 조선소'를 만들기 위한 노력이 현장 곳곳에서 이뤄지고 있다고 합니다.임형준 기자입니다.[기...
더 많은 것을 읽으십시오 »

신용카드도 없는데, 디지털 유로가 될까요? [듣똑라 화폐유람단]유럽중앙은행(ECB)에서도 '실제 현금 유로가 없어지는 게 아니다. 이건 병행되는 것이다'(라고 이야기하고) 디지털 유로를 도입하더라도 아마도 한 3000~4000유로 정도로 상한선을 두는 방안이 같이 논의되고 있어요. 시민들 입장에서는 나는 현금 쓰는 것도 불편하지 않은데, 그리고 카드 사용이 많아지고 있기 때문에 있기 때문에 ‘나는 카드 써보니까 편한데, 혹은 난 애플 페이 써보니까 편한데, 근데 굳이 왜 또 디지털 유로라는 것을 우리가 해야 하지?’ 이 이유를 찾기가 사실 쉽지 않은 상황이에요. A'.
더 많은 것을 읽으십시오 »

[詩想과 세상] 별의 입구별을 향해 걷다 보면 걸어서는 끝내 별에 닿을 수 없다는 것을 알게 된다 발맘발맘 걸어서 다다...
더 많은 것을 읽으십시오 »

[노래와 세상] 기억의 습작영화 (2012)에서 음대생 서연(수지)은 건축학과에 다니는 승민(이제훈)에게 CD...
더 많은 것을 읽으십시오 »