2023년의 키워드는 "인공지능", 2024년은 "온디바이스AI"

 

 

2024년을 대표할 기술 '온디바이스 AI'

 

시장은 언제나 변한다.

생각하지 못했던 일상이 큰 기술로 다가오기도 하고,

익숙했던 일상이 어느 순간 사라지기도 한다.

 

2023년 초 챗GPT가 대두되며 세계가 변화했다.

챗GPT를 활용하여 보고서를 쓰기도 하고, 행사의 인사말씀을 적기도 한다.

나아가 코딩도 한다. 초보자도 프로그램을 쉽게 만들 수 있게 됐다.

 

그런데 이제 인공지능이 개인에게 들어오려 한다.

 

 

온디바이스 AI

 

온디바이스AI

 

'온디바이스AI'. 무엇일까.

간단히 말해 클라우드에 연결하지 않고 디바이스 자체에서 AI가 구동되는 것을 말한다. 디바이스 자체에서 AI가 구동된다니,

 

"성능이 떨어지진 않을까?"

 

맞다. 성능은 떨어질 것이다. 

그렇지만 우리 생활에서 필요한 인공지능의 수준은 그렇게 높지 않다.

클라우드 서버에서 AI를 돌리고 우리가 갖고 있는 스마트폰, 가전 등에서는 작은 규모의 AI만 돌리면 되는 것이다. 

작은 기술로도 우리 생활은 달라질 수 있다.

 

 

AI. 이대로 두면 위험하진 않을까.

 

2023년 AI가 큰 이슈로 떠오르게 되면서 함께 부상했던게 있다. 

 

'터미네이터'

 

80년대생, 70년대생이라면 환호했던 영화일 것이다. 

기계가 고도화로 발전하여 인간을 위협하는 영화. 

실제로도 일어날지도 모르는 일들을 주제로 만든 영화다.

 

인공지능이 대두되며 그와 동시에 각국 유명인사들은 위험성을 말했다.

개인정보의 보호가 어려워질 것이며, 인류가 위협받을 수 있다고 경고했다.

 

그런데, 세상은 단점보다는 장점을 더 중심으로. 그리고 돈을 중심으로 돌아간다.

 

인공지능에 의해 닥칠 위험이 어떤 것일지 할 수 있는 한 많이 예측하고,

그에 대한 대비책을 세우면서 기술은 최대한 발전시키려 할 것이다.

 

결국 돈 벌기 위함이 인간의 기본적인 욕심인 것이다.

320x100

 

세부적인 "온디바이스 AI"

 

클라우드 서버에 연결되지 않더라도 디바이스 내에서 데이터 처리 및 AI 모델을 실행할 수 있는 기술을 의미한다. 작은 디바이스 내에서 작은 데이터를 활용하여 처리하니 응답시간도 빠를 수 있고, 개인정보 보호는 물론이며 인터넷이 연결되어 있지 않더라도 활용이 가능하다. 더불어 에너지 효율도 좋으니 적은 에너지로도 기능의 활용이 가능하다.

 

온디바이스 AI는 중앙집중식 데이터 센터를 통해 데이터를 교환하지 않고 근거리에서 실시간으로 처리하는 기술이다. 이것이 바로 엣지컴퓨팅이고 온디바이스 AI의 핵심 기술이 엣지컴퓨팅인 것이다.

 

 

 

빅테크들의 한 발 빠른 시작

 

빅테크들은 이미 온디바이스 AI에 대한 기술 개발을 시작한지 오래다.

 

퀄컴과 마이크로소프트(MS)는 'MS 빌드 2023'에서 온디바이스 AI 혁신 기술을 발표하며 퀄컴은 AI가 온디바이스와 클라우드를 모두 포괄해야 한다고 분석했다. 애플도 공간 컴퓨팅을 이용해 온디바이스 AI에 접근하고 있다. 애플은 현재 차세대 OS인 'iOS 18'에 생성형 AI를 넣고자 자체 LLM(대규모 언어 모델)을 훈련시키는 것으로 전해졌다. 그 결과로 아이폰16 시리즈에 새로운 버튼이 추가될 것이라는 전망도 있다. AI 기능을 위한 버튼이라고 보는 것이다. 추가로 애플이 생성형 AI 개발을 위해 연간 10억 달러를 투자해 관련 기술 확보에 나설 방침이라고 보도한 바도 있다.

 

삼성도 갤럭시S24 시리즈에 자체 개발한 AI모델 '삼성 가우스'를 탑재할 예정이다. '삼성 가우스'는 언어모델, 코드모델, 이미지 모델 등 세 가지로 구성되어 있다. 언어모델은 이메일 작성, 문서 요약, 번역 등의 업무를 더 쉽고 빠르게 처리할 수 있다. 코드 모델의 대표 기능인 '코드아이' 어시스턴트는 소프트웨어 개발자가 쉽고 빠르게 코딩할 수 있도록 도와준다. 이미지 모델은 사진과 그림 등 이미지를 만들고 기존 이미지를 원하는대로 바꿀 수 있도록 돕는다.

728x90

 

인공지능의 지속적인 발전 결과

 

인공지능의 지속적인 발전은 네이버, 마이크로소프트 Bing, 구글, 다음 등 많은 포털사이트의 검색기능을 변화시킬 것이고 나아가 게임, 생활, 운전 등 거의 모든 일상을 변화시킬 것이다.

 

온디바이스AI를 준비하는 기업들은 모두 텍스트 기반에서 벗어나 이미지나 영상, 음원 등 다양한 영역으로 AI를 활용할 수 있도록 사용 범위를 확장하는 것을 목표로 하고 있다. 기존의 텍스트 중심 기술들은 설 자리가 없어지게 되는 것이다.

 

30분~1시간가량 되는 유튜브 영상을 인공지능이 싹 요약해서 정리해주면 얼마나 좋을까?

 

 

✅ 다음 시간에는 '온디바이스 AI'를 위한 'LPDDR'에 대한 주제로 글을 갖고 오겠습니다.

 

 

내용이 도움 되셨거나 공감이 되셨다면 아래 하트❤️ 공감 버튼 부탁 드립니다.

도움이 필요하신 분들은 댓글로 남겨주세요!