🤖 옌지니어의 IT 기록 🤖

기사 내용 요약

스마트폰 내부에서 생성형 AI를 실행하는 '온디바이스(On device) AI'기술이 확산되며 내년부터 '인공지능(AI) 스마트폰' 시대가 본격적으로 열린다. 온디바이스 AI란 스마트폰이나 노트북, 가전제품 등 내부에 AI 연산을 담당하는
별도 반도체를 탑재해 기기 자체에서 AI 추론을 실행하는 기술로 서버를 거치는 중간 단계를 없애 속도가 빠르고 보안 우려도 적다.
온디바이스 AI가 보편화되면 마이크로소프트(MS)나 구글 등 생성형 AI 서비스를 준비하는 빅테크는 자사 기술을 세계적으로 확산할 인프라를 갖게 된다. 온디바이스 AI를 통해 사용자의 각 기기로 AI 서비스를 실행하면, 빅테크는 인프라 투자 부담을 줄이면서도 자사 AI 서비스를 보다 원활하게 공급할 수 있다.
스마트폰 기업 입장에서는 지난 몇년간 성숙기에 접어든 스마트폰 분야에 'AI 스마트폰'이라는 새로운 카테고리를 더할 수 있다. 반도체 제조사도 마찬가지로 AI 연산 기능을 더한 제품으로 판매량을 극대화하는 동시에 보다 고성능·고용량 반도체의 판매도 촉진할 기회다.

핵심 용어

• 온디바이스(On-Device) AI란?
  
  • 기존 인공지능(AI) 기술은 스마트기기의 정보를 중앙 클라우드 서버로 전송해 분석 후 다시 기기로 보내는 방식
  • 온디바이스(On-Device) AI는 멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체에서 정보 수집 및 연산
• 온디바이스 AI의 장점
  
  • 빠른 AI 서비스 제공
    
    • 클라우드 데이터센터는 사용자 단말과 지속적으로 데이터를 주고 받으며 네트워크 상태에 따라 성능 결정
    • 네트워크 불안정으로 클라우드 AI 지원 속도가 더디다면 실시간 서비스 운영에 어려움 존재
    • 온디바이스 AI는 단말 자체로 AI를 실행하기 때문에 네트워크 연결에 상관없이 안정적 서비스 처리 가능
  • 정보 보안 강화
    • 클라우드 데이터센터가 대규모 데이터를 집중 보관하므로 개인정보가 집약되는 현상 심화
    • 선별적으로 데이터 전송하거나 필터링하여 개인정보 데이터의 클라우드 데이터센터 전송 최소화
  • 에너지 소모 절감
    • 클라우드 컴퓨팅의 데이터 처리 부담 감소
• 온디바이스 AI가 이끄는 신(新)트렌드
  • AI를 통한 하드웨어 경쟁력 강화
    • 온디바이스 AI는 프로세서나 메모리 같은 하드웨어 역량을 충분히 활용할 수 있도록 지원
  • 클라우드 AI와의 연계를 통한 AI 저변 확대
    • 온디바이스 AI의 여러 장점이 있지만 고수준의 AI를 구현하기 위해서는 클라우드 AI 활용 필요
    • 온디바이스 AI와 클라우드 AI의 유기적 결합을 통해 AI를 적용할 수 있는 단말과 서비스 범위 확대
    • 딥러닝의 학습(Learning)과 추론(Inference) 역할 분담 (학습:클라우드AI / 추론:온디바이스AI)
  • 핵심 경쟁력으로 부상하는 AI 반도체
    • AI 담당 반도체의 사용 증가

※ Reference ※

https://shorturl.at/dKQY5 (AI 에이전트 / 온디바이스 AI 관련 기사)

https://www.koit.co.kr/news/articleView.html?idxno=118612 (온디바이스 AI 관련 기사)

https://dbr.donga.com/article/view/1203/article_no/9635 (온디바이스 AI 관련 기사) 🌟

https://shorturl.at/joH45 (온 디바이스 개념)

https://yengineeer.tistory.com/9 (AI 반도체 관련 내용 정리)

2023년도에 가장 많이 본 뉴스 키워드는 AI인 것 같다. AI는 IT 분야를 넘어 다양한 분야에서 활용되며 새로운 카테고리를 창출하고 있다. 새로운 기술의 흐름을 잘 따라가면서 공부해야겠다는 생각이 든다!!