2023년은 생성형 인공지능(AI)의 해였다. 2024년에도 AI 기술에 대한 관심은 이어지고 있다. 주목할 만한 건 시장의 화두가 클라우드에서 ‘온디바이스(On-Device...
제한된 데이터는 한계로 남아
온디바이스 AI는 쉽게 말해 인터넷 연결 없이 작동하는 인공지능이다. 외부 서버로 데이터를 전송하지 않고 기기 안에서 실시간으로 처리한다. 오픈AI가 개발한 AI 챗봇 챗GPT처럼 인터넷에 연결돼 클라우드 기반으로 작동하는 인공지능과는 다르다. 데이터와 사용자가 가장 가까운 끝단에서 연산한다는 의미에서 ‘에지 AI’라고도 불린다.챗GPT가 질문을 찰떡같이 알아듣고 유려한 문장과 생생한 이미지를 만들어내기 위해선 대규모 데이터센터가 필요하다. 기기에서 수집된 정보나 요청을 클라우드 서버로 전송해 분석한 뒤 다시 기기로 보내는 방식이기 때문이다. 챗GPT를 활용하려면 인터넷 연결이 필수다.
여기에서 온디바이스 AI의 필요성이 생긴다. 기기 자체에서 데이터를 처리하기 때문에 응답 시간이 빠르다. 데이터를 보내고 받는 것보다 전력 소모를 줄일 수 있고 보안 측면에서도 유리하다. 개별 사용자에 특화돼 학습한 AI 구현도 가능해진다. 제한된 데이터로만 처리가 가능하다는 점은 한계다. 챗GPT로 대변되는 거대언어모델보다 매개변수 크기를 줄인 소형언어모델 개발에 속도가 붙은 배경에도 온디바이스 AI가 있다. 또 다른 온디바이스 AI 격전지는 ‘PC’다. 삼성전자, LG전자, 미국 휼렛패커드 등은 올해 초 잇따라 AI 연산을 전담하는 신경망처리장치를 탑재한 차세대 AI 프로세서를 갖춘 노트북을 내놨다. HP와 협력관계인 글로벌 반도체 기업 엔비디아의 젠슨 황 CEO는 최근 AP가 진행한 행사에서 AI PC를 두고 “ 30년 만에 온 혁명적인 변화”라고 평가하기도 했다.
대한민국 최근 뉴스, 대한민국 헤드 라인
Similar News:다른 뉴스 소스에서 수집한 이와 유사한 뉴스 기사를 읽을 수도 있습니다.
우산 속에서 등장한 이 남자, 극장에서 터진 탄성[그 시절, 우리가 좋아했던 영화] 인터넷 소설 원작의 로맨스 영화
더 많은 것을 읽으십시오 »
엔비디아, 가속페달 더 밟는다…‘추론성능 30배’ 차세대 AI 반도체 공개인공지능(AI) 반도체 최강자 엔비디아가 성능을 대폭 끌어올린 차세대 AI 반도체를 선보이며 입지 굳히기에 들어갔다. 치열해지는 AI 반도체 시장 경쟁에 따라 AI 진화 속도...
더 많은 것을 읽으십시오 »
“세계서 가장 강력한 칩”…AI 반도체 ‘왕좌’ 굳히는 엔비디아인공지능(AI) 반도체 최강자 엔비디아가 성능을 대폭 끌어올린 차세대 AI 반도체를 선보이며 입지 굳히기에 들어갔다. 치열해지는 AI 반도체 시장 경쟁에 따라 AI 진화 속도...
더 많은 것을 읽으십시오 »
'본격 AI시대' 과기정통부, 다양한 신규 사업·과제 추진공공분야 'AI 일상화' 가속, 보안기업 육성사업, 부처협업 기반 AI 확산 등 지원 확대
더 많은 것을 읽으십시오 »
헌재, 댓글 일부 떼어내 ‘명예훼손죄’ 인정한 검찰 처분 취소헌법재판소가 인터넷 기사에 단 댓글의 ‘일부 표현’을 근거로 명예훼손죄가 성립한다고 본 검찰의 기소유예 처분을 취소했다. 8일 법조계에 따르면, 헌재는 정보통신망법상 명예훼손...
더 많은 것을 읽으십시오 »
직장인, 업무시간 중 1시간20분은 ‘이것’ 한다는데…회사는 알아도 모른 척 ‘왜’근무 시간의 17% 가량 ‘딴 짓’ 인터넷 서핑·사적 외출 등 다수 기업 54% “적극적 대응 안해” 근로자 반발 우려 등 소극 관리
더 많은 것을 읽으십시오 »