β€œλͺ¨λ‘λ₯Ό μœ„ν•œ AI μŠˆνΌμ»΄β€ μ• μ € ν΄λΌμš°λ“œ AI λ°μ΄ν„°μ„Όν„°μ˜ λ‚΄λΆ€ μ‚΄νŽ΄λ³΄κΈ° (링크)

기사 λ‚΄μš© μš”μ•½
 λΉŒλ“œ μ»¨νΌλŸ°μŠ€μ—μ„œ λ§ˆμ΄ν¬λ‘œμ†Œν”„νŠΈλŠ” μΆ”λ‘  가속기, κ³ λŒ€μ—­ν­ μ—°κ²°, νš¨μœ¨μ„±κ³Ό μ•ˆμ •μ„±μ„ μœ„ν•œ 각쒅 νˆ΄μ„ 톡해 μ• μ € ν΄λΌμš°λ“œκ°€ λŒ€κ·œλͺ¨ AI μ›Œν¬λ‘œλ“œλ₯Ό μ–΄λ–»κ²Œ μ§€μ›ν•˜λŠ”μ§€ μ„€λͺ…ν–ˆλ‹€.

AI μŠˆνΌμ»΄ν“¨ν„° ꡬ좕

 AI ν”Œλž«νΌμ„ μ‹€ν–‰ν•˜λŠ” 데 ν•„μš”ν•œ μ‹œμŠ€ν…œμ˜ 규λͺ¨λŠ” μ—„μ²­λ‚˜λ‹€. 2024λ…„ 6μ›”, λ§ˆμ΄ν¬λ‘œμ†Œν”„νŠΈλŠ” μ „ 세계 데이터센터에 30λŒ€ μ΄μƒμ˜ μœ μ‚¬ν•œ μŠˆνΌμ»΄ν“¨ν„°λ₯Ό λ³΄μœ ν•˜κ³  μžˆλ‹€. 일단 λͺ¨λΈμ΄ κ΅¬μΆ•λ˜λ©΄ 이λ₯Ό μ‚¬μš©ν•΄μ•Ό ν•˜λŠ”λ°, μΆ”λ‘ μ—λŠ” μŠˆνΌμ»΄ν“¨ν„° μˆ˜μ€€μ˜ μ—°μ‚° λŠ₯λ ₯이 ν•„μš”ν•˜μ§€ μ•Šμ§€λ§Œ μ—¬μ „νžˆ λ§Žμ€ μ»΄ν“¨νŒ… μ„±λŠ₯이 ν•„μš”ν•˜λ‹€. μ΄λŠ” μ• μ € ν΄λΌμš°λ“œκ°€ λ§Žμ€ 데이터λ₯Ό μ΅œλŒ€ν•œ λΉ λ₯΄κ²Œ μ²˜λ¦¬ν•˜κΈ° μœ„ν•΄ 맀우 ꡬ체적인 νŠΉμ„±μ„ κ°€μ§„ λ§Žμ€ GPUκ°€ ν•„μš”ν•˜λ‹€λŠ” 것을 μ˜λ―Έν•œλ‹€.

νŠΈλ ˆμ΄λ‹μ„ λ„˜μ–΄ 좔둠을 μœ„ν•œ 섀계
 μ• μ € ν΄λΌμš°λ“œμ˜ ν”„λ‘œμ νŠΈ POLCAλŠ” μ΅œλŒ€ μ „λ ₯ μ†ŒλΉ„μ— λŒ€μ‘ν•˜λŠ” ν”„λ‘œλΉ„μ €λ‹μ„ 톡해 μ—¬λŸ¬ μΆ”λ‘  μž‘μ—…μ„ λ™μ‹œμ— μ‹€ν–‰ν•  수 μžˆμœΌλ―€λ‘œ μ•½ 20%의 μ˜€λ²„ν—€λ“œλ₯Ό 쀄일 수 μžˆλ‹€. 이λ₯Ό 톡해 μ„œλ²„ μ£ΌνŒŒμˆ˜μ™€ μ „λ ₯을 μ‘°μ ˆν•΄ 데이터센터에 30% 더 λ§Žμ€ μ„œλ²„λ₯Ό λ°°μΉ˜ν•˜μ—¬ AI λ°μ΄ν„°μ„Όν„°μ˜ μ»΄ν“¨νŒ…, μ „λ ₯, μ—΄ μˆ˜μš”μ— λŒ€ν•΄ 보닀 효율적이고 지속 κ°€λŠ₯ν•œ μ ‘κ·Ό 방식이 κ°€λŠ₯ν•΄μ‘Œλ‹€.
 λ˜ν•œ, λ§ˆμ΄ν¬λ‘œμ†Œν”„νŠΈλŠ” 데이터λ₯Ό κ΄€λ¦¬ν•˜κΈ° μœ„ν•΄ μŠ€ν† λ¦¬μ§€ 가속기라고 λΆ€λ₯΄λŠ” κΈ°λŠ₯을 κ°œλ°œν–ˆλ‹€. 이 κΈ°λŠ₯은 ν˜„μž¬ μž‘μ—…μ„ λ°©ν•΄ν•˜μ§€ μ•ŠμœΌλ©΄μ„œ κ°€μš© λŒ€μ—­ν­μ„ μ΄μš©ν•΄ ν•„μš”ν•œ 데이터λ₯Ό λ‘œμ»¬μ΄λ‚˜ ν΄λΌμš°λ“œμ—μ„œ μ‚¬μš©ν• μ§€ κ²°μ •ν•˜λŠ” μΊμ‹œλ₯Ό 톡해 ν΄λŸ¬μŠ€ν„°μ— 데이터λ₯Ό λΆ„μ‚°ν•˜κ³  μžˆλ‹€. 병렬 읽기λ₯Ό μ‚¬μš©ν•΄ 데이터λ₯Ό λ‘œλ“œν•˜λ©΄ λŒ€λŸ‰μ˜ ν•™μŠ΅ 데이터λ₯Ό κΈ°μ‘΄ 방식보닀 거의 두 λ°° λΉ λ₯΄κ²Œ λ‘œλ“œν•  수 μžˆλ‹€.

AI에 ν•„μš”ν•œ κ³ λŒ€μ—­ν­ λ„€νŠΈμ›Œν¬
μ»΄ν“¨νŒ…κ³Ό μŠ€ν† λ¦¬μ§€λ„ μ€‘μš”ν•˜μ§€λ§Œ 수백 개의 GPUμ—μ„œ μž‘λ™ν•˜λŠ” λŒ€κ·œλͺ¨ 데이터 병렬 μ›Œν¬λ‘œλ“œμ—μ„œλŠ” λ„€νŠΈμ›Œν‚Ήμ΄ μ—¬μ „νžˆ μ€‘μš”ν•˜λ‹€. λ§ˆμ΄ν¬λ‘œμ†Œν”„νŠΈλŠ” μ„œλ²„μ—μ„œ 1.2TBps의 λ‚΄λΆ€ 연결을 μ‚¬μš©ν•΄ 8개의 GPUλ₯Ό μ—°κ²°ν•˜κ³  λ™μ‹œμ— μΈν”Όλ‹ˆλ°΄λ“œ κΈ°μˆ μ„ μ΄μš©ν•΄ κ°œλ³„ μ„œλ²„μ˜ κ°œλ³„ GPU 간에 400Gbpsλ₯Ό μ—°κ²°ν•œλ‹€.

μ‹ λ’°ν•  수 μžˆλŠ” AIλ₯Ό λ§Œλ“œλŠ” ν”„λ‘œμ νŠΈ 포지와 원풀
μ†Œν”„νŠΈμ›¨μ–΄ μŠ€νƒμ€ κΈ°λ³Έ ν”Œλž«νΌ μ˜€μΌ€μŠ€νŠΈλ ˆμ΄μ…˜ 및 지원 νˆ΄μ„ μ œκ³΅ν•œλ‹€. 이것이 λ°”λ‘œ ν”„λ‘œμ νŠΈ 포지(Project Forge)κ°€ λ“±μž₯ν•˜λŠ” μ΄μœ μ΄λ‹€. λΆ„μ‚° 인프라 μ „λ°˜μ—μ„œ μž‘μ—…μ„ μ˜ˆμ•½ν•˜λŠ” λ™μ‹œμ— ν•„μˆ˜ λ¦¬μ†ŒμŠ€ 관리λ₯Ό μ œκ³΅ν•˜κ³  λ‹€μ–‘ν•œ μœ ν˜•μ˜ AI μ»΄ν“¨νŒ…μ— λΆ€ν•˜λ₯Ό λΆ„μ‚°ν•˜λŠ” λ°©λ²•μœΌλ‘œ, μΏ λ²„λ„€ν‹°μŠ€μ™€ 같은 κ²ƒμœΌλ‘œ 생각할 수 μžˆλ‹€. ν”„λ‘œμ νŠΈ ν¬μ§€μ˜ μŠ€μΌ€μ€„λŸ¬λŠ” AI 가속기λ₯Ό 가상 GPU μš©λŸ‰μ˜ 단일 ν’€λ‘œ μ·¨κΈ‰ν•˜λ©° 이λ₯Ό 원풀(One Pool)이라고 λΆ€λ₯Έλ‹€. 각 μ›Œν¬λ‘œλ“œμ—λŠ” 이런 가상 GPU에 λŒ€ν•œ μ•‘μ„ΈμŠ€λ₯Ό μ œμ–΄ν•˜λŠ” μš°μ„ μˆœμœ„λ₯Ό 두어 κ΄€λ¦¬ν•œλ‹€. λ˜ν•œ ν”„λ‘œμ νŠΈ ν¬μ§€λŠ” μž₯μ• λ₯Ό κ°μ§€ν•˜κ³  μž‘μ—…μ„ λ‹€μ‹œ μ‹œμž‘ν•΄ 호슀트 ν”Œλž«νΌμ„ λ³΅κ΅¬ν•˜μ—¬ 탄λ ₯적인 μ„œλΉ„μŠ€λ₯Ό μ‹€ν–‰ν•  수 μžˆλ‹€.

일관성 및 λ³΄μ•ˆ : AI μ• ν”Œλ¦¬μΌ€μ΄μ…˜μ„ μœ„ν•œ μ€€λΉ„ μ™„λ£Œ
μ• μ €μ˜ ν”„λ‘œμ νŠΈ ν”ŒλΌμ΄νœ (Project Flywheel)은 μ„±λŠ₯을 보μž₯ν•˜λŠ” 역할을 ν•˜λŠ”λ°, 가상 GPUμ—μ„œ μ—¬λŸ¬ ν”„λ‘¬ν”„νŠΈμ˜ μž‘μ—…μ„ 인터리빙해 호슀트 물리 GPUμ—μ„œ μΌκ΄€λœ μž‘μ—…μ„ μˆ˜ν–‰ν•˜λ©΄μ„œλ„ μΌμ •ν•œ μ²˜λ¦¬λŸ‰μ„ μ œκ³΅ν•  수 μžˆλ‹€. 또 λ‹€λ₯Έ 기반 μ΅œμ ν™”λ‘œλŠ” μ‚¬μš©μž μ§€μ • λͺ¨λΈμ„ ν•™μŠ΅ν•  λ•Œ μ μš©ν•˜λŠ” κΈ°λ°€ μ»΄ν“¨νŒ… κΈ°λŠ₯이 μžˆλŠ”λ°, μ‹ λ’°ν•  수 μžˆλŠ” μ‹€ν–‰ ν™˜κ²½μ—μ„œ μ½”λ“œλ₯Ό μ‹€ν–‰ν•˜κ³  데이터λ₯Ό ν˜ΈμŠ€νŠΈν•  수 μžˆλ‹€.

 

핡심 μš©μ–΄
  • Azure λ°μ΄ν„°μ„Όν„°λž€?
    • Azure 데이터 λ„€νŠΈμ›Œν¬λ‘œ μ—°κ²°λœ 컴퓨터 μ„œλ²„κ°€ λ³΄κ΄€λ˜μ–΄ μžˆλŠ” μ „ 세계에 μœ„μΉ˜ν•œ 물리적 건물
  • μŠˆνΌμ»΄ν“¨ν„°λž€?
    • ν‘œμ€€ 컴퓨터보닀 높은 μ„±λŠ₯으둜 μž‘λ™ν•˜λŠ” 컴퓨터
    • 였늘 λ‚ μ˜ μŠˆνΌμ»΄ν“¨ν„°λŠ” μ΄ˆλ‹Ή μˆ˜μ‹­μ–΅ κ°œκΉŒμ§€ 계산할 수 μžˆλŠ” 수만 개의 ν”„λ‘œμ„Έμ„œλ‘œ ꡬ성
  • λ„€νŠΈμ›Œν‚Ή(Networking) μ΄λž€?
    • λ„€νŠΈμ›Œν¬μ— μ—°κ²°λœ μž₯λΉ„λ₯Ό μ—°κ²°ν•˜κ³  λ„€νŠΈμ›Œν¬λ₯Ό 톡해 데이터 νŒ¨ν‚·μ„ μ „μ†‘ν•˜λŠ”λ° μ‚¬μš©λ˜λŠ” μž₯λΉ„

 

β€» Reference β€»

https://azure.microsoft.com/ko-kr/explore/global-infrastructure (Azure 인프라 μš©μ–΄ κ°€μ΄λ“œ)

https://www.purestorage.com/kr/knowledge/what-is-a-supercomputer.html (μŠˆνΌμ»΄ν“¨ν„° κ΄€λ ¨ λ‚΄μš©)

https://www.advancedenergy.com/ko-kr/applications/telecom-and-networking/networking/ (일반적인 λ„€νŠΈμ›Œν‚Ή κ΄€λ ¨ λ‚΄μš©)

https://learn.microsoft.com/ko-kr/azure/networking/fundamentals/networking-overview (Azure λ„€νŠΈμ›Œν‚Ή μ„œλΉ„μŠ€ κ΄€λ ¨ λ‚΄μš©)

 


μ§„μ§œ 잘 λͺ¨λ₯΄λŠ” 인프라 κ΄€λ ¨ 기사도 읽어보기....λͺ¨λ₯΄λŠ” μš©μ–΄ λ„ˆλ¬΄ 많고 μ–΄λ–»κ²Œ κ΅¬μ„±λλŠ”μ§€ 사싀 잘 λͺ¨λ₯΄κ² λ‹€. 각각의 κ΅¬μ„±μš”μ†Œμ— λŒ€ν•΄ μ‘°κΈˆμ”© 찾아보긴 ν–ˆλŠ”λ° 이런 λ‚΄μš©λ“€μ΄ μŒ“μ΄λ‹€ 보면 인프라에 λŒ€ν•΄μ„œλ„ μ–΄λŠ 정도 μ•Œκ²Œ λ˜μ§€ μ•Šμ„κΉŒ μ‹Άλ‹€.

+ Recent posts