불붙은 반도체 가성비 전쟁
중국 인공지능 스타트업 딥시크는 AI 반도체 업계에 큰 질문을 던졌습니다."반도체에 꼭 막대한 투자를 해야지만 파운데이션 모델을 구축할 수 있나." 딥시크가 개발해 작년 12월 선보인 딥시크-V3 모델은 오픈AI의 챗GPT에 버금갈 만한 성능을 보여줬지만, 비용은 80억원에 불과했는데요. 이를 기반으로 이달 선보인 경량화 모델 딥시크-R 시리즈는 더 큰 충격을 던졌습니다. 테스트 결과, 성능은 오픈AI 추론 모델인 o1에 버금가지만 추론 비용이 고작 4분의 1에 그쳤기 때문입니다.
타임스는 이를 두고"과거 냉전 시기 소련 과학자들이 제한된 컴퓨팅 환경에서 효율적인 프로그래밍을 통해 성과를 낸 것과 유사하다"고 평가했습니다. 딥시크가 가성비 모델을 내놓을 수 있는 배경은 무엇일까요. 마지막으로는 컴퓨터 양자화가 있습니다. AI 모델이 데이터를 처리할 때 사용하는 숫자의 정밀도를 낮추는 방식입니다. 일반적인 AI 모델은 32비트 부동소수점 데이터를 사용해 연산을 수행합니다. 하지만 8비트 정수 연산을 활용하면 계산량이 줄어들고 속도가 빨라집니다. 다만 세밀한 표현 능력이 떨어질 수 있는데, 범위 재조정 등을 통해 성능 저하를 막는 것이 기술력입니다.딥시크가 쏘아 올린 '가성비 AI' 신호탄은 반도체 업계를 흔들었습니다. AI 시대에 반도체 기업이 주목받은 이유는 고성능 AI를 구축하려면 막대한 컴퓨팅 자원이 필요하다는 믿음이 있었기 때문입니다. 현재 반도체에 대한 전망은 엇갈리고 있습니다.
대니얼 모건 시노부스 트러스트 포트폴리오 매니저는"딥시크의 AI 모델은 데이터센터가 아닌 모바일·PC용"이라면서"데이터센터용 AI 칩 시장과는 직접적인 관계가 없다"고 잘라 말했습니다. 경량화 버전을 내려받아 구동하기 위해선 최소 엔비디아 지포스 RTX 3090 칩이 장착된 PC가 있으면 가능한 것으로 알려졌습니다. 사실 GPU 업계는 작년부터 온디바이스 AI 시장으로 눈을 돌린 상태입니다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
딥시크, 낮은 비용과 뛰어난 성능으로 미국 AI 산업 실추중국의 인공지능(AI) 스타트업 딥시크가 미국 AI 산업에 큰 충격을 주고 있다.
더 많은 것을 읽으십시오 »
딥시크 파장중국 인공지능(AI) 스타트업 딥시크가 고성능 칩을 사용하지 않고서도 저비용으로 챗GPT에 필적하는 생성형 AI 모델을 개발하면서 AI 개발에 ...
더 많은 것을 읽으십시오 »
딥시크 파장중국 인공지능(AI) 스타트업 딥시크가 고성능 칩을 사용하지 않고서도 저비용으로 챗GPT에 필적하는 생성형 AI 모델을 개발하면서 AI 개발에 ...
더 많은 것을 읽으십시오 »
현대차그룹, 'AI선두' 엔비디아 맞손…SDV·로보틱스 본격적으로 키운다(서울=연합뉴스) 김보경 임성호 홍규빈 기자=현대차그룹이 인공지능(AI) 칩 선두 주자인 엔비디아와 손을 맞잡았다.
더 많은 것을 읽으십시오 »
현대차그룹, 'AI선두' 엔비디아 맞손…SDV·로보틱스 본격 육성(종합)(서울=연합뉴스) 김보경 임성호 홍규빈 기자=현대차그룹이 인공지능(AI) 칩 선두 주자인 엔비디아와 손을 맞잡았다.
더 많은 것을 읽으십시오 »
트럼프 '의약품·반도체·철강 등에 관세…군사용 필요 물품에도'(종합)(워싱턴=연합뉴스) 박성민 특파원=도널드 트럼프 미국 대통령은 27일(현지시간) 중국의 인공지능(AI) 스타트업 딥시크가 미국의 빅테크보다 ...
더 많은 것을 읽으십시오 »