μλ§μ‘΄, λͺλΆ λ§μ ν둬ννΈλ‘ κΈ°μ μ© μ± μμ±νλ ‘μ± μ€νλμ€’ κ³΅κ° (λ§ν¬)
κΈ°μ¬ λ΄μ© μμ½
λ²€μ²λΉνΈλ 10μΌ(νμ§μκ°) AWSκ° μ°λ‘ λ΄μ μλ° νμ¬μμ ν둬ννΈλ‘ κΈ°μ μ© μννΈμ¨μ΄ μ ν리μΌμ΄μ μ κ°λ°ν μ μλλ‘ μ§μνλ AI λκ΅¬μΈ ‘μ± μ€νλμ€(App Studio)’λ₯Ό ν리뷰 λ²μ μΌλ‘ 곡κ°νλ€κ³ 보λνλ€. μ΄ μΈμλ λ€μμ κΈ°λ₯μ΄ μΆκ°λλ€.
μ¬μ©μκ° μμ± AI κΈ°λ° μ ν리μΌμ΄μ κ°λ° μΈν°νμ΄μ€λ₯Ό ν΅ν΄ νμν μ±κ³Ό νκ³ μΆμ μΌ, ν΅ν©νλ €λ λ°μ΄ν° μμ€λ₯Ό μ€λͺ νλ©΄ λλ€. λͺλΆ λ§μ νμ΄λ°μ΄μ μ½λ© λͺ¨λΈμ΄ μ λ ₯μ μ²λ¦¬νκ³ ν μ€νΈ λ° λ°°ν¬μ νμν μ¬μ©μ μΈν°νμ΄μ€(UI)μ μν¬νλ‘λ₯Ό κ°μΆ μνλ μ λ¬Έκ°κΈ μ ν리μΌμ΄μ μ ꡬμΆνλ€.
AWSμ λ°λ₯΄λ©΄, μ± μ€νλμ€λ μμ νΉμ±μ λ°λΌ μλ§μ‘΄ νμ΄ν, μ€νΈλ‘ν½ λ± μλ§μ‘΄ λ² λλ‘μμ λμκ°λ λ€μν λνμΈμ΄λͺ¨λΈ(LLM)λ€μ νμ©νλ€.
λ AWSλ μλ§μ‘΄ λ² λλ‘μμλ§ μ 곡νλ 'κ°λλ μΌ' κΈ°λ₯μ μΈλΆμμ μ¬μ© μ€μΈ νμ¬ λͺ¨λΈμ λν΄μλ μ μ©ν μ μλ ‘κ°λλ μΌ API(Guardrails API)’λ₯Ό ν리뷰 λ²μ μΌλ‘ 곡κ°νλ€. μ΄λ₯Ό ν΅ν΄ μ¬μ©μλ μ¦μ€ ννμ΄λ μ±μ μ©μ΄μ κ°μ μΌλ°μ μΈ κ°λλ μΌμ AI μ ν리μΌμ΄μ μμ μΌλ§λ νμ©ν μ§ μ‘°μ ν μ μλ€.
λλΆμ΄ κ°λλ μΌ APIμ λͺ¨λΈκ³Ό AI μμ΄μ νΈ, κ²μ μ¦κ° μμ±(RAG) μμ€ν μ΄ μ€μ λ‘ νμ¬μ λ°μ΄ν°λ₯Ό μ½κ³ μλμ§, μλλ©΄ μ¬μ€μ μ‘°μνκ³ μλμ§ ν μ€νΈν μ μλ ‘μ»¨ν μ€νΈ κ·ΈλΌμ΄λ©(Contextual Grounding)’μ΄λΌλ κΈ°λ₯λ μΆκ°νλ€.
μ΄ μΈμλ AWSλ λ² λλ‘μμ AI μμ΄μ νΈλ₯Ό ꡬμΆνκΈ° μν μλ‘μ΄ κΈ°λ₯λ€λ 곡κ°νλ€. AWSλ λ² λλ‘μ μλ‘μ΄ μ½λ ν΄μ κΈ°λ₯μ μΆκ°, AI λͺ¨λΈμ΄ μ½λλ‘ λ³΅μ‘ν λ°μ΄ν°λ₯Ό λΆμν μ μλλ‘ νλ€.
ν΅μ¬ μ©μ΄
- κ°λλ μΌμ΄λ?
- κ³ κ°μ΄ μ ν리μΌμ΄μ μꡬμ¬νκ³Ό νμ¬μ μΈκ³΅μ§λ₯ μ μ± μ κΈ°λ°μΌλ‘ 보νΈμ‘°μΉ ꡬνν μ μλ κΈ°λ₯
- μμΉ μλ μ½ν μΈ λ°©μ§ / μ¦κ°μ μΈ κ³΅κ²©(ν둬ννΈ μ£Όμ λ° νμ₯) μ°¨λ¨ / λ―Όκ°ν μ 보 μ κ±°
- 컨ν
μ€νΈ κ·ΈλΌμ΄λ©(Contextual Grounding)μ΄λ?
- κΈ°μ λ°μ΄ν°μ κΈ°λ°νμ§ μκ±°λ μ¬μ©μμ 쿼리μ κ΄λ ¨μ΄ μλ λͺ¨λΈ μλ΅μμ νκ° νμμ νμ§νλ κΈ°λ₯
β» Reference β»
https://aws.amazon.com/ko/blogs/korea/guardrails-for-amazon-bedrock-can-now-detect-hallucinations-and-safeguard-apps-built-using-custom-or-third-party-fms/ (μλ§μ‘΄ κ°λλ μΌ λ° μ»¨ν μ€νΈ κ·ΈλΌμ΄λ© κ΄λ ¨ λ΄μ©)
(ꡬκΈμ κ·ΈλΌμ΄λ© λ°©μ)
μ¬λ΄ μ§μλ€μ΄ λ³ΈμΈμκ² λ§λ μ±μ λ§λ€μ΄μ μ¬μ©νλ€λ©΄ μ 무 μμ°μ±μ΄ λ§μ΄ ν₯μλ μ μμ κ² κ°λ€. μμ§ ν리뷰 λ²μ μΌλ‘ 곡κ°λ κ²μ΄λΌ μ±λ₯μ μ΄λ€μ§ μ λͺ¨λ₯΄κ² μ§λ§ μ μ μΆμκ° λμ λ μ±λ₯μ΄ μ΄λ€μ§ κ·Έλ¦¬κ³ κΈ°μ μ λ°μμ μ΄λ¨μ§ κΆκΈνλ€.