μ•„λ§ˆμ‘΄, λͺ‡λΆ„ λ§Œμ— ν”„λ‘¬ν”„νŠΈλ‘œ κΈ°μ—…μš© μ•± μƒμ„±ν•˜λŠ” ‘μ•± μŠ€νŠœλ””μ˜€’ κ³΅κ°œ (링크)

기사 λ‚΄μš© μš”μ•½
 λ²€μ²˜λΉ„νŠΈλŠ” 10일(ν˜„μ§€μ‹œκ°„) AWSκ°€ μ—°λ‘€ λ‰΄μš• μ„œλ°‹ ν–‰μ‚¬μ—μ„œ ν”„λ‘¬ν”„νŠΈλ‘œ κΈ°μ—…μš© μ†Œν”„νŠΈμ›¨μ–΄ μ• ν”Œλ¦¬μΌ€μ΄μ…˜μ„ κ°œλ°œν•  수 μžˆλ„λ‘ μ§€μ›ν•˜λŠ” AI 도ꡬ인 ‘μ•± μŠ€νŠœλ””μ˜€(App Studio)’λ₯Ό 프리뷰 λ²„μ „μœΌλ‘œ κ³΅κ°œν–ˆλ‹€κ³  λ³΄λ„ν–ˆλ‹€. 이 외에도 λ‹€μˆ˜μ˜ κΈ°λŠ₯이 좔가됐닀. 
 μ‚¬μš©μžκ°€ 생성 AI 기반 μ• ν”Œλ¦¬μΌ€μ΄μ…˜ 개발 μΈν„°νŽ˜μ΄μŠ€λ₯Ό 톡해 ν•„μš”ν•œ μ•±κ³Ό ν•˜κ³  싢은 일, ν†΅ν•©ν•˜λ €λŠ” 데이터 μ†ŒμŠ€λ₯Ό μ„€λͺ…ν•˜λ©΄ λœλ‹€. λͺ‡λΆ„ λ§Œμ— νŒŒμš΄λ°μ΄μ…˜ μ½”λ”© λͺ¨λΈμ΄ μž…λ ₯을 μ²˜λ¦¬ν•˜κ³  ν…ŒμŠ€νŠΈ 및 배포에 ν•„μš”ν•œ μ‚¬μš©μž μΈν„°νŽ˜μ΄μŠ€(UI)와 μ›Œν¬ν”Œλ‘œλ₯Ό κ°–μΆ˜ μ›ν•˜λŠ” μ „λ¬Έκ°€κΈ‰ μ• ν”Œλ¦¬μΌ€μ΄μ…˜μ„ κ΅¬μΆ•ν•œλ‹€.
 AWS에 λ”°λ₯΄λ©΄, μ•± μŠ€νŠœλ””μ˜€λŠ” μž‘μ—… νŠΉμ„±μ— 따라 μ•„λ§ˆμ‘΄ 타이탄, μ•€νŠΈλ‘œν”½ λ“± μ•„λ§ˆμ‘΄ λ² λ“œλ‘μ—μ„œ λŒμ•„κ°€λŠ” λ‹€μ–‘ν•œ λŒ€ν˜•μ–Έμ–΄λͺ¨λΈ(LLM)듀을 ν™œμš©ν•œλ‹€.
 λ˜ AWSλŠ” μ•„λ§ˆμ‘΄ λ² λ“œλ‘μ—μ„œλ§Œ μ œκ³΅ν–ˆλ˜ 'κ°€λ“œλ ˆμΌ' κΈ°λŠ₯을 μ™ΈλΆ€μ—μ„œ μ‚¬μš© 쀑인 타사 λͺ¨λΈμ— λŒ€ν•΄μ„œλ„ μ μš©ν•  수 μžˆλŠ” ‘κ°€λ“œλ ˆμΌ  API(Guardrails API)’λ₯Ό 프리뷰 λ²„μ „μœΌλ‘œ κ³΅κ°œν–ˆλ‹€. 이λ₯Ό 톡해 μ‚¬μš©μžλŠ” 증였 ν‘œν˜„μ΄λ‚˜ 성적 μš©μ–΄μ™€ 같은 일반적인 κ°€λ“œλ ˆμΌμ„ AI μ• ν”Œλ¦¬μΌ€μ΄μ…˜μ—μ„œ μ–Όλ§ˆλ‚˜ ν—ˆμš©ν• μ§€ μ‘°μ ˆν•  수 μžˆλ‹€.
 λ”λΆˆμ–΄ κ°€λ“œλ ˆμΌ  API에 λͺ¨λΈκ³Ό AI μ—μ΄μ „νŠΈ, 검색 증강 생성(RAG) μ‹œμŠ€ν…œμ΄ μ‹€μ œλ‘œ νšŒμ‚¬μ˜ 데이터λ₯Ό 읽고 μžˆλŠ”μ§€, μ•„λ‹ˆλ©΄ 사싀을 μ‘°μž‘ν•˜κ³  μžˆλŠ”μ§€ ν…ŒμŠ€νŠΈν•  수 μžˆλŠ” ‘μ»¨ν…μŠ€νŠΈ κ·ΈλΌμš΄λ”©(Contextual Grounding)’μ΄λΌλŠ” κΈ°λŠ₯도 μΆ”κ°€ν–ˆλ‹€.
이 외에도 AWSλŠ” λ² λ“œλ‘μ—μ„œ AI μ—μ΄μ „νŠΈλ₯Ό κ΅¬μΆ•ν•˜κΈ° μœ„ν•œ μƒˆλ‘œμš΄ κΈ°λŠ₯듀도 κ³΅κ°œν–ˆλ‹€. AWSλŠ” λ² λ“œλ‘μ— μƒˆλ‘œμš΄ μ½”λ“œ 해석 κΈ°λŠ₯을 μΆ”κ°€, AI λͺ¨λΈμ΄ μ½”λ“œλ‘œ λ³΅μž‘ν•œ 데이터λ₯Ό 뢄석할 수 μžˆλ„λ‘ ν–ˆλ‹€.

 

핡심 μš©μ–΄
  • κ°€λ“œλ ˆμΌμ΄λž€?
    • 고객이 μ• ν”Œλ¦¬μΌ€μ΄μ…˜ μš”κ΅¬μ‚¬ν•­κ³Ό νšŒμ‚¬μ˜ 인곡지λŠ₯ 정책을 기반으둜 보호쑰치 κ΅¬ν˜„ν•  수 μžˆλŠ” κΈ°λŠ₯
    • μ›μΉ˜ μ•ŠλŠ” μ½˜ν…μΈ  방지 / 즉각적인 곡격(ν”„λ‘¬ν”„νŠΈ μ£Όμž… 및 νƒˆμ˜₯) 차단 / λ―Όκ°ν•œ 정보 제거
  • μ»¨ν…μŠ€νŠΈ κ·ΈλΌμš΄λ”©(Contextual Grounding)μ΄λž€?
    • κΈ°μ—… 데이터에 κΈ°λ°˜ν•˜μ§€ μ•Šκ±°λ‚˜ μ‚¬μš©μžμ˜ 쿼리에 관련이 μ—†λŠ” λͺ¨λΈ μ‘λ‹΅μ—μ„œ ν™˜κ° ν˜„μƒμ„ νƒμ§€ν•˜λŠ” κΈ°λŠ₯

 

β€» Reference β€»

https://aws.amazon.com/ko/blogs/korea/guardrails-for-amazon-bedrock-can-now-detect-hallucinations-and-safeguard-apps-built-using-custom-or-third-party-fms/ (μ•„λ§ˆμ‘΄ κ°€λ“œλ ˆμΌ 및 μ»¨ν…μŠ€νŠΈ κ·ΈλΌμš΄λ”© κ΄€λ ¨ λ‚΄μš©)

https://cloud.google.com/blog/ko/products/ai-machine-learning/how-to-use-grounding-for-your-llms-with-text-embeddings

(κ΅¬κΈ€μ˜ κ·ΈλΌμš΄λ”© 방식)


사내 직원듀이 λ³ΈμΈμ—κ²Œ λ§žλŠ” 앱을 λ§Œλ“€μ–΄μ„œ μ‚¬μš©ν•œλ‹€λ©΄ 업무 생산성이 많이 ν–₯상될 수 μžˆμ„ 것 κ°™λ‹€. 아직 프리뷰 λ²„μ „μœΌλ‘œ 곡개된 것이라 μ„±λŠ₯은 어떀지 잘 λͺ¨λ₯΄κ² μ§€λ§Œ 정식 μΆœμ‹œκ°€ 됐을 λ•Œ μ„±λŠ₯이 어떀지 그리고 κΈ°μ—…μ˜ λ°˜μ‘μ€ 어떨지 κΆκΈˆν•˜λ‹€.

+ Recent posts