🤖 옌지니어의 IT 기록 🤖

사티아 나델라 MS CEO "AI는 인간 지능 아닌 '도구'"…샘 알트먼과 미묘한 입장차 (링크)

기사 내용 요약

22일 블룸버그 통신에 따르면 나델라 CEO는 지난 21일 블룸버그 텔레비전과의 인터뷰에서 "AI는 실제 인간의 지능이 아니라 '도구'라는 점을 기억해야 한다"며 "AI를 의인화하는 것을 좋아하지 않는다"고 말했다.
나델라 CEO의 발언을 두고 블룸버그는 "기술이 발전해 인간처럼 보이는 방식으로 반응하는 AI 서비스를 (앞으로) 얼마나 인간화할 지에 대한 기술 업계의 논쟁이 계속되고 있음을 암시하는 것"이라고 해석했다. 
구글도 AI를 도구에 국한되는 듯한 입장을 보였다. 구글 한 임원은 지난주 블룸버그와의 인터뷰에서 "감정을 보여주는 AI 도구를 개발하는 것은 가능하다"면서도 "구글은 매우 유용한 도구에 집중하는 것을 선호한다"고 말했다.
반면 오픈AI는 다른 접근 방식을 취하고 있다. 특히 새 AI 모델 'GPT-4o'는 최근 시연하는 과정에서 이를 사용하는 직원에게 AI 음성으로 대시하는 듯한 모습을 연출해 눈길을 끌었다.
업계에선 최근 오픈AI의 행보를 두고 AI 기술 개발 경쟁이 치열해지면서 'AI 윤리' 문제가 뒷전으로 밀려나는 상황이 벌어지고 있다고 분석했다. 

핵심 용어

• AI 윤리 (AI Ethics)란?
  • 인공지능 관련 이해관계자들이 준수해야 할 보편적 사회 규범 및 관련 기술
  • 인공지능을 도덕적이고 책임감 있게 사용하도록 하는 규율
• AI 윤리의 5대 문제
  • 편향성 : 인간에게는 존재하는 편향이 인간의 행동과 데이터에 반영
  • 오류와 안전성 : 인공지능의 잘못된 판단이나 오류가 치명적 피해
  • 악용 : 피싱, 딥페이크, 사이버 범죄 등 불법적이거나 비윤리적인 일에 인공지능이 악용
  • 개인정보보호 : 인공지능은 방대한 알고리즘의 학습을 거치므로 개인의 사생활 침해 및 정보 유출 우려
  • 킬러로봇 : 사람의 개입 없이 자동으로 사람을 공격할 수 있는 인공지능 기반 군사형 자율 로봇
• AI에 대한 낙관적 / 비관적 입장
  • 낙관적 입장
    • 다양한 지식을 빠르게 탐구하거나 글이나 정보를 빠르게 찾고 정리
    • 철학적인 질문으로 토론하고 데이터 분석을 요청
    • 창작의 영역 (ex. 가수처럼 노래를 대신 불러주거나 영화 생성)
  •  비관적 입장
    • 저작권 : 결과물 생성을 위해 기존 인간의 창작물을 학습하는 과정에서 문제 발생
      • 해결 방안
      • 1) AI의 저작권 침해롸 관련된 법안 등의 규제를 만드는 것
      • 2) 기술적으로 AI가 저작권을 침해하지 못하도록 막는 것
    • 편향성 : AI가 기존 인간의 편향성을 그대로 드러내는 경우 존재
      • 해결 방안
      • 1) AI 편향성을 측정하고 평가하기 위한 모델 개발
      • 2) AI 학습 및 설계 단계에서부터 편향성을 줄이기 위한 방법 모색
      • 3) AI에게 편향성을 줄여달라고 직접 요구

※ Reference ※

https://www.content.upstage.ai/blog/insight/ai-ethics (AI 윤리가 필요한 이유와 기업의 노력)

https://kead-webzine.or.kr/april/trend-report/ (챗GPT 열풍 속 인공지능 윤리 문제)

https://www.samsungsds.com/kr/insights/ai-risks-and-responses.html (AI 리스크에 대한 동향 및 시사점)

https://www.seoulpa.kr/bbs/board.php?bo_table=npo_aca&wr_id=74375 (AI에 대한 낙관적 비관적 입장 차이) 🌟

개인적으로 MS CEO의 의견에 공감이 됐다. 요즘 많은 AI 기술들이 공개되면서 편리한 동시에 주의해야할 것도 많아진 것 같다. 새로운 기술들을 보면서 비판적인 시각을 가지기 보다는 "오...신기하네..살기 편하다" 라는 생각을 했었던 것을 반성하게 됐다.. 무작정 기술을 받아들이기보다는 얻을 수 있는 장점과 주의해야할 것들을 구분해서 생각해봐야겠다. 그리고 이를 의인화하며 의존하기보다는 도구로 활용하려는 노력을 기울여야겠다.

구글, LLM 내부 살펴볼 수 있는 '모델 익스플로러' 공개 (링크)

기사 내용 요약

벤처비트는 17일(현지시간) 구글이 대규모 AI 모델을 시각화해 내부 동작을 이해하고 디버깅을 통해 모델을 최적화할 수 있게 해주는 도구 ‘모델 익스플로러(Model Explorer)’를 오픈 소스로 출시했다고 전했다.
여러 계층과 복잡한 연결이 있는 대규모 모델 시각화를 통해 모델 내부에서 데이터가 이동하는 방식과 구성 요소들이 상호작용하는 방식을 묘사하여 모델을 만드는 과정에서 문제를 디버그하고 아키텍처를 최적화할 수 있다.
모델 익스플로러는 그래픽 렌더링 기술을 활용해 LLM을 원활하게 시각화하는 동시에, 구조 탐색을 위한 인터페이스를 제공한다. 계층적 접근 방식을 활용해 모델 작업을 중첩된 레이어로 구성하여 사용자가 레이어를 확장하거나 축소하면서 모델의 특정부분을 집중적으로 분석할 수 있다.
이 도구는 텐서플로우, 파이토치, JAX 등의 머신러닝(ML) 프레임워크에서 일반적으로 사용되는 여러 그래프 형식을 지원하여 다양한 모델과의 호환성을 보장한다. 모델 탐색기는 WebGL 및 three.js를 통해 GPU 가속 그래프 렌더링을 활용하여 대규모 그래프를 원활하게 렌더링하는 문제를 해결한다. 또 모델 탐색기는 모델 성능을 최적화하기 위해 인스턴스 렌더링 기술을 통합했다.
결론적으로 구글의 모델 익스플로러는 대규모 AI 모델을 이해하고 디버깅하며 최적화하는 문제에 대한 솔루션을 제공한다.

핵심 용어

• 모델 익스플로러 (Model Explorer)의 기능 및 기술

• 렌더링(Rendering)이란?
  • 2차원 그래픽 표면에 변화를 주어 3차원 질감을 주는 과정

※ Reference ※

http://www.ktword.co.kr/test/view/view.php?no=2820 (렌더링 용어 설명)

https://terms.tta.or.kr/dictionary/dictionaryView.do?word_seq=054262-1 (렌더링 용어 설명)

모델을 사용할 때 어떤 구성으로 되어있는지 알 수 없어서 원하는 성능을 얻지 못하는 경우가 종종 있는데....해당 기능을 사용한다면 모델을 파악하고 보다 좋은 성능을 기대해볼 수 있을 것 같다.

오픈AI, 음성비서 기능 대폭 강화한 'GPT-4o' 공개..."gpt2가 이 모델 맞아" (링크)

기사 내용 요약

오픈AI가 음성 비서 기능을 강화한 새 멀티모달모델(LMM) 'GPT-4o'를 공개했다. 그리고 최근 화제를 일으켰던 정체불명의  'gpt2-챗봇'이 이 모델이라는 것을 확인했다. 향후 애플의 '시리'에 통합하는데에도 사용될 것으로 보인다.
이 모델은 인간과의 상호작용에서 기존 모델보다 더 빠르고 저렴하다. 대화 중 일부를 노래로 표현하거나 GPT-4o를 탑재한 휴대폰 2개가 상호작용하는 모습도 공개했다. 또, 다국어 능력을 갖추고 있어 즉각적인 언어 번역도 가능하다. 이미지 처리 기능에서도 뛰어난 성능을 보였다.
기술적으로는 기존에 LMM을 구동하기 위해 텍스트와 이미지, 음성 부분을 따로 담당하는 것을 넘어, 모델 3개를 하나로 통합했다고 설명했다.

핵심 용어

• LMM (Large Multimodal Model) 이란?
  • 여러 유형의 데이터 형식을 처리하고 이해할 수 있는 고급 유형의 인공지능 모델
  • 멀티모달 데이터에는 텍스트, 이미지, 오디오, 비디오 등이 포함
• LMM과 LLM 비교

※ Reference ※

https://www.aitimes.com/news/articleView.html?idxno=159334 (정체불명 챗봇 등장 기사)

https://www.aitimes.com/news/articleView.html?idxno=154291 (LMM 관련 기사)

https://www.gttkorea.com/news/articleView.html?idxno=8274 (LLM vs. LMM) 🌟

최근에 챗봇 아레나에 등장했다가 사라진 모델에 대한 기사를 보고 궁금했었는데 그게 오픈AI의 새 모델이라는 추측이 맞아서 신기했다. 모델들의 성능이 점점 더 좋아지고 있으니 필요한 모델을 잘 선택하고 활용하는 것이 중요할 것으로 보인다.

메타, LLM 성능 높이는 '멀티 토큰 예측' 아키텍처 공개 (링크)

기사 내용 요약

메타가 대형언어모델(LLM)의 예측 토큰 수를 늘려, 정확성과 속도를 개선할 수 있다는 연구 결과를 발표했다. 이를 통해 모델 속도를 최대 3배 빠르게 할 수 있다고 주장했다.
벤처비트는 6일(현지시간) 메타와 에콜 데 퐁 파리테크, 파리 사클레 대학 등 연구진이 여러 토큰을 동시에 예측하는 '멀티 토큰' 예측 기법에 관한 논문을 온라인 아카이브에 게재했다고 전했다.연구진은 “모든 유형의 모델 및 언어 작업에 보편적인 솔루션은 아니지만, 일부 영역에서는 생성 작업에서 3배의 속도와 더 나은 정확도를 제공한다”라고 말했다. 
연구 결과에 따르면 큰 모델일수록 멀티 토큰 예측의 효과가 증가하며 특히 바이트 수준에서 토큰화를 진행하는 실험에서는 멀티 토큰 예측이 단일 바이트 예측 보델을 크게 앞서는 결과를 나타냈다.

핵심 용어

• 토큰이란?
  • 언어 모델은 인간의 언어가 아닌 토큰 ID를 생성하여 처리
  • 토큰 단위로 나누는 토큰화(tokenization) 작업이 필요
• 다음 토큰 예측 (Next Token Prediction, NTP) → LLM을 훈련하는 고전적 방법
  • 문장의 일부분을 입력하면 다음에 올 단어를 예측
    (모델에 일련의 토큰이 주어지고 다음 토큰을 예측해야 하는 자기 지도 학습 기술)
  • 예측된 토큰을 입력에 추가하고 한 번에 토큰 하나씩 추가하는 프로세스를 반복
• 멀티 토큰 예측 (Multi Token Prediction) → 메타가 발표한 새로운 방법
  • 기존 트랜스포머 아키텍처를 기반으로 하지만 단일 출력 대신 여러 독립적인 출력 헤드로 여러 토큰 동시에 예측
  • 추론 과정에서 기본적인 다음 토큰 예측을 유지하면서 추가적인 출력헤드를 사용해 디코딩 속도 증가

※ Reference ※

https://huggingface.co/blog/alonsosilva/nexttokenprediction (토큰 ID 처리에 대한 예시)

https://wikidocs.net/21698 (토큰화 작업 예시)

https://www.aitimes.com/news/articleView.html?idxno=159080 (라마3 한국어 경쟁력 관련 기사)

메타에서 출시한 라마3에서 한국어 능력은 부족하다는 기사를 봤는데...멀티 토큰 예측 기술을 사용했을 때 한국어의 성능도 궁금하다. 한국어는 토큰화하기 어려운 것으로 알고 있는데 빠른 시일 내에 한국어도 개선되어서 AI 기술을 활용할 수 있으면 좋겠다.

AI에 대한 인식 전환 주장..."인간 가능성 확장할 인지 파트너" (링크)

기사 내용 요약

지난해 생성 AI의 등장으로 인한 놀라움과 위기감 및 경고에 이어, 이제는 파트너로 잘 활용하는 단계에 접어들고 있다.
포브스와 사이콜로지 투데이는 최근 AI와 인간의 조화를 강조하는 미래학자 2명의 칼럼을 소개했다.
포브스는 세계적으로 유명한 미래학자 버나드 마르의 글을 게재했다. 그는 인간이 매일 자잘한 작업에 많은 시간을 소비한다고 지적하며 AI가 이런 작업에서 인간을 해방해, 잠재력을 끌어낼 수 있다고 주장했다. AI가 작업의 '로봇적' 측면을 처리함에 따라 인간은 창의적인 문제 해결, 감성 지능, 도덕적 판단 및 개인적인 상호 작용이 필요한 역할을 향해 나아간다고 전했다.
사이콜로지 투데이는 혁신 이론가이자 세계적인 헬스케어 기업 노스타랩 창립자인 존 노스타의 주장을 소개했다. 그는 대형언어모델(LLM)이라는 인간과 흡사한 능력을 갖춘 보조자를 갖추게 됨으로써 능력을 크게 확장하고 향상할 수 있는 '새로운 인지 시대'로 진입하고 있다며 LLM이 우리의 두뇌가 갖추지 못한 것들을 제공한다고 설명했다.
이처럼 두 전문가의 의견은 AI가 인간 한계를 확장하고 도와줄 수 있다는 점에 초점을 맞추고 있다. 이번 주장들은 '챗GPT'로 인한 생성 AI의 본격 등장 1년을 넘기며 숱한 담론 끝에 나온 새로운 접근법이라 주목받고 있다. 또 AI와 인간을 별개로 생각하는 추세를 넘어, 둘이 하나로 통합되어야 하며 인간이 그 중심이라고 주장하는 점에서 기존 논리와는 차별화된 것으로 볼 수 있다.

※ Reference ※

https://www.forbes.com/sites/bernardmarr/2024/05/06/why-ai-challenges-us-to-become-more-human/?sh=76212cbe6d8f (포브스 버나드 마르 글 원본)

https://www.psychologytoday.com/us/blog/the-digital-self/202405/our-lonely-brain-and-artificial-intelligence

(사이콜로지 투데이 존 노스타 글 원본)

AI에 대한 관심이 쏟아지고 새로운 제품들이 넘쳐났던 작년에 비해 올해에는 AI를 어떻게 하면 잘 활용할 수 있을까에 대한 기사도 많이 보이고 있다. AI를 너무 낙관적으로 바라보며 의존한다거나 비관적으로 바라보기 보다는 AI를 지식 확장의 도구로 바라보면 좋을 것 같다는 생각이 들었다. 그리고 도구를 잘 활용하기 위한 노력을 기울이면 좋을 것 같다.

MS, '엑셀 전문' 코파일럿 공개..."ERP·CRM 대체할 것" (링크)

기사 내용 요약

마이크로소프트(MS)가 엑셀 전문 '코파일럿'을 공개했다. 이를 통해 기존 전사적 자원 관리(ERP)와 고객 관계 관리(CRM) 프로그램을 대체하겠다는 의도다.
MS는 재무 전문가를 위한 인공지능(AI) 도구 코파일럿 포 파이낸스(Microsoft Copilot for Finance)'를 프리뷰로 공개했다. 이 도구는 재무팀이 늘어나는 데이터 속에서 올바른 정보를 검색하도록 돕고 지루한 데이터 작업을 자동화해 작업 효율성을 높이는 데 도움을 주는 것이 목표이며 가장 많이 사용 중인 엑셀 프로그램에 타깃을 맞췄다. 에밀리 헤 MS 비즈니스 애플리케이션 마케팅 부사장은 "우리는 엑셀을 계산 엔진뿐만 아니라 ERP 데이터를 활용해 재무 전문가가 쉽고 능률적으로 작업을 수행할 수 있게 만들 수 있다"라고 주장했다.
기존 코파일럿 기술 기반이지만 엑셀을 종료하지 않고도 재무 시스템에서 데이터를 가져와 차이를 분석하고, 데이터 수집을 자동화하고, 모니터링을 지원할 수 있다. 또 향후 각 회사의 업무에 맞춰 코파일럿 기능을 조정할 수도 있다고 덧붙였다. 데이터 개인 정보 보호 및 보안 해결을 위해 데이터 액세스 권한을 적용하고 고객 데이터로 모델을 교육하지 않는 등 조치를 취했다고도 밝혔다.
MS는 시연회를 열고 CRM 기능을 돕는 모습을 선보였다. 찰스 라마나 MS 엔터프라이즈 부사장은 "이를 통해 판매자가 CRM을 사용하는 일이 훨씬 줄어들 것이며, 아마도 미래에는 절대 없을 것"이라고 말했다. "왜냐하면 코파일럿은 기본적으로 판매자를 대신해 CRM을 최신 상태로 유지하고 CRM에서 정보를 가져오기 때문"이라고 설명했다.

핵심 용어

• 코파일럿(Copilot)이란?
  • 마이크로소프트(MS)에서 M365에 챗 GPT를 탑재한 도구
• 코파일럿 시스템의 구성 요소
  • 마이크로소프트 365 앱 : 사용자가 AI 비서와 상호작용할 수 있는 워드, 엑셀, 팀즈 등의 앱
  • 마이크로소프트 그래프 : 마이크로소프트 365 환경의 파일, 문서, 데이터를 포함
  • 오픈 AI 모델 : 사용자 프롬프트를 처리
• 전사적 자원 관리 (ERP, Enterprise Resource Planning)란?
  • 조직이 회계, 조달, 프로젝트 관리, 공급망 운영 등 비즈니스 활동을 관리하는데 사용하는 소프트웨어 유형
  • 재무 부문에서 재무 업무를 자동화히며 채무(AP)와 채권(AR) 추적, 효율적인 결산, 재무 보고서 생성 기능 수행 
• 고객 관계 관리 (CRM, Customer Relationship Management)란?
  • 회사의 현재 고객 및 잠재 고객 정보 관리, 추적, 저장을 지원하는 데이터 기반 소프트웨어 통합 솔루션
  • 자동으로 기존 및 잠재 고객에 대한 정보를 수집
  • 온라인 채팅 및 문서 공유 앱을 포함하는 다른 비즈니스 도구와 연결

※ Reference ※

https://www.itworld.co.kr/news/299377 (코파일럿 모든 정보에 대한 기사) 🌟

https://www.gpters.org/c/beginners/ms-copilot (코파일럿 사용 방법)

https://v.daum.net/v/20240304103029654 (코파일럿 포 파이낸스 출시 관련 기사)

https://www.oracle.com/kr/erp/what-is-erp/ (ERP 관련 내용)

https://www.sap.com/korea/products/erp/what-is-erp.html (ERP 관련 내용)

https://dynamics.microsoft.com/ko-kr/crm/what-is-crm/ (CRM 관련 내용)

오랜만에 기사 읽었다...다시 기사 열심히 읽어봐야겠다. 거의 한 달 정도 됐는데 그 사이에 다양한 변화들이 있었다. 생성형 AI 기술이 발전하면서 여러 분야와 결합되면 좋겠다고 생각했는데 마이크로소프트에서 재무 분야와 연결된 내용을 보니까 확실히 업무의 편의를 높이는데 도움이 되는 것 같다. 이후에도 더 다양한 분야와 결합되어 편리한 업무에 도움이 되면 좋을 것 같다는 생각이 들었다.

MS가 말하는 2024년 AI 트렌드 3가지는 (링크)

기사 내용 요약

이 글을 쓴 전문 기술작가 바네사 호는 "지난해 '챗GPT'나 '코파일럿' 같은 생성 AI의 등장으로 많은 사람들이 즐거워했다"라며 "올해는 일상 업무를 개선하고 어려운 문제를 해결하는 단계에 접어들었다"라고 소개했다.

- 소형언어모델(sLM)
온디바이스 AI가 보편화되기 위해서는 오프라인 상태에서도 실행할 수 있는 작은 언어모델이 필요하다. 이는 대형언어모델(LLM)을 실행하는데 필요한 상당한 컴퓨팅 리소스를 줄여줄 수 있다. MS는 '파이'와 '오르카'라는 sLM을 출시한 바 있다. 

- 멀티모달AI
텍스트 뿐만 아니라 이미지, 오디오 및 비디오와 같은 데이터를 이해할 수 있는 멀티모달 AI가 주요 트렌드다.
MS의 경우 원하는 것을 설명해 이미지를 생성할 수 있는 'MS 디자이너'를 지원한다. 또 장애가 있는 사용자를 위해 텍스트 판독기나 음성을 지원한다. 

- AI 융합 기술
AI는 기후변화나 에너지 위기, 질병, 식량 등과 같은 글로벌 문제를 해결하는 데에도 활용되고 있다. 특히 단백질 생성 AI나 무기물 생성 AI 등은 신물질 개발에 새로운 장을 열고 있다. MS 역시 지난달 '화합물 생성 AI'로 리튬 배터리 대체 물질을 발견했다고 발표했다.

핵심 용어

• 소형언어모델(sLM, small Language Model)
  • 파이 : 27억 개의 매개변수를 갖춘 모델로 일반 상식 및 마이크로소프트 독자 데이터셋을 포함
  • 오르카 : 130억 개의 매개변수를 갖춘 경량화 대규모 언어 모델로 LLM의 지식을 사용하여 기능 향상

※ Reference ※

https://www.boannews.com/media/view.asp?idx=121029 (대형 및 소형 생성형 AI 언어모델 관련 기사) 🌟

https://www.flowscopenews.com/TechnologyScience/?idx=17285470&bmode=view (소형언어모델의 부상 관련 내용)

https://zdnet.co.kr/view/?no=20231213150825 (MS 파이2 관련 기사)

https://www.digitaltoday.co.kr/news/articleView.html?idxno=495578 (MS 오르카2 관련 기사)

https://yengineeer.tistory.com/17 (멀티모달 AI 관련 내용 정리)

https://www.itworld.co.kr/review/267495 (MS 디자이너 사용 리뷰)

https://www.aitimes.com/news/articleView.html?idxno=156436 (MS 화합물 생성 AI 관련 기사)

많은 기업에서 생성형 AI와 관련된 성과를 내고 있는데 MS도 다양한 분야에 생성형 AI를 접하고 있는 것 같다. 요즘 트렌드인 소형언어모델과 멀티 모달 AI 그리고 AI 융합기술까지 여러 분야에 생성형 AI 기술을 연결하여 기술이 많이 발전하고 있다는 생각이 든다.