🤖 옌지니어의 IT 기록 🤖

엔비디아, 합성 데이터 생성하는 ‘네모트론-4 340B’ 출시..."비용 문제 해결한 오픈 소스 최강 성능" (링크)

기사 내용 요약

엔비디아가 대형언어모델(LLM) 학습용 합성 데이터를 생성하도록 설계한 모델 ‘네모트론-4 340B(Nemotron-4 340B)'를 공개했다. 이를 통해 비용이 많이 드는 실제 데이터셋 없이도 도메인별 LLM을 구축할 수 있게 됐다는 설명이다. 네모트론-4 340B는 9조 토큰을 사용해 사전 훈련했으며, 4000토큰의 컨텍스트 창을 제공하고 50개 이상의 언어와 40개 프로그래밍 언어를 지원한다.
네모트론-4 340B 베이스 모델은 맞춤형 합성 데이터를 생성하기 위한 기본 프레임워크 역할을 한다. 독점 데이터와 다양한 데이터셋를 사용해 특정 사용 사례에 맞게 미세 조정할 수 있다. 
네모트론-4 340B 인스트럭트 모델은 실제 데이터를 모방하는 합성 데이터를 생성, 데이터 품질을 개선하고 다양한 도메인에서 맞춤형 LLM의 성능을 향상한다. 
네모트론-4 340B 리워드 모델은 생성 데이터의 품질을 필터링하고 향상하는 역할을 한다. 유용성, 정확성, 일관성, 복잡성 및 자세한 정도에 따라 응답을 평가해 생성 데이터가 고품질 표준을 충족하는지 확인한다.

핵심 용어

• 합성 데이터란?
  • 실제 데이터를 모방한, 인간이 생성하지 않은 데이터
  • 생성형 인공 지능 기술을 기반으로 한 컴퓨팅 알고리즘 및 시뮬레이션을 통해 생성
• 합성 데이터 생성 방식
  • 통계적 분포 : 실제 데이터를 분석하여 기본 통계 분포를 식별하고 합성 샘플을 생성
  • 모델 기반 : 실제 데이터 특성을 이해하고 이를 복제하는 기계 학습 모델을 사용
  • 딥러닝 방식 : 생성형 대립 네트워크(GAN), 변이형 오토인코더(VAE) 등의 기술을 통해 합성 데이터 생성
• 컨텍스트 창이란?
  • 프롬프트에 대한 응답을 생성할 때 입력으로 사용할 수 있는 토큰의 수
  • 컨텍스트 창이 클수록 컨텍스트 내 학습 수행 기능(in-context learning) 향상 →  더 큰 예제를 제공해 성능 향상

※ Reference ※

https://aws.amazon.com/ko/what-is/synthetic-data/ (합성 데이터 관련 내용 - AWS)

https://blogs.nvidia.co.kr/blog/what-is-synthetic-data-2/ (합성 데이터 관련 내용 - NVDIA)

https://www.aitimes.com/news/articleView.html?idxno=152588 (컨텍스트 창 관련 기사)

생성형 AI를 도입할 때 데이터에 따라서 성능이 좌우되므로 데이터 수집은 중요하다. 합성 데이터를 생성하는 모델이 출시되어 데이터를 준비하는 것도 수월하게 할 수 있다니...너무 좋은데....사람이 할 일이 점점 줄어드는 것 같아서 슬프다.