🤖 옌지니어의 IT 기록 🤖

기사 내용 요약

업스테이지는 지난해 11월 AI 학습 플랫폼 개발사 메스프레소, KT와 수학 도메인에 특화된 '매스GPT(가칭)'을 개발한 바 있다. 매개변수 약 130억개로 이뤄졌다. 콴다가 업스테이지에 수학 데이터를 제공하고, KT는 해당 데이터 학습을 위한 인프라를 지원했다. 업스테이지는 모델에 논리적 추론과 프로그래밍화를 진행했으며, 복잡한 수학 문제를 풀 수 있도록 파인튜닝했다. 
매스GPT는 'MATH', 'GSM8K' 등 언어모델 수학 능력을 평가하는 벤치마크 테스트를 진행했다. 테스트 결과 업스테이지의 매스GPT는 마이크로소프트의 'ToRA 13B' 등 130억 이하 모델 부문에서 1위를 기록했다. 

핵심 용어

• 업스테이지 생성형 AI 기술
  • 솔라
    • 업스테이지에서 자체 개발한 인공지능(AI) 언어 모델
    • 매개변수 107억개로 이루어졌으며 3조개 넘는 토큰으로 데이터 학습
    • 거대언어모델(LLM)과 소형언어모델(SLM)의 장점 통합
  • Document AI
    • 인공지능(AI) 광학문자인식(OCR) 솔루션 (이미지 내 문자를 텍스트 데이터로 추출)
    • 사전학습 모델 기반으로 신규 데이터를 추가로 학습하면 다양한 형태의 문서 처리 가능

※ Reference ※

https://www.upstage.ai/ (업스테이지 홈페이지)

https://zdnet.co.kr/view/?no=20231214081334 (업스테이지 솔라 관련 기사)

https://zdnet.co.kr/view/?no=20231025103907 (업스테이지 다큐먼트 AI 관련 기사)

생성형 AI가 트렌드로 떠오르면서 여러 기업이 다양한 분야에 생성형 AI를 접목하고 있다. 한국의 기업이 힘을 모아 오픈AI와 마이크로소프트 같은 빅테크 기업을 제치고 기록을 달성하여 정말 의미있다고 생각한다. 업스테이지 홈페이지를 구경해봤는데 생성형 AI 분야에서 다양한 시도를 하고 있고 좋은 결과를 내고 있어서 인상 깊었다. 앞으로도 다양한 분야의 기업이 힘을 합친다면 더 의미있는 결과도 기대해볼 수 있을 것 같다. 곧 열릴 CES2024에도 한국 기업이 많이 참여한다고 하는데...기대가 된다..!!