🤖 옌지니어의 IT 기록 🤖

직장 내 생성형 AI 사용 정책이 필요한 이유…“비윤리적 사용례 절반 이상” (링크)

기사 내용 요약

생성형 AI 사용으로 업무 생산성과 몰입도가 높아져 직장 내에서 생성형 AI를 사용하는 직원이 증가하고 있다. 그러나 절반 이상은 고용주의 승인 없이 생성형 AI를 사용하고 있다.
생성형 AI 사용에 따르는 대표적인 위험으로 부정확한 결과와 지식 재산권 침해가 있고 이는 보안 위험으로 이어질 수도 있다. 생성형 AI의 사용을 자신의 작업으로 속이는 비윤리적인 활동도 생겨나고 있다. 생성형 AI를 올바르게 사용하는 방법에 대한 교육을 받지 못해 발생하는 문제라는 의견도 있다.

핵심 용어

• 생성형 AI란?
  
  • 대화, 이야기, 이미지, 동영상, 음악 등 새로운 콘텐츠와 아이디어를 만들 수 있는 AI의 일종
  • 인공 지능의 다음 단계로 인간 언어, 프로그래밍 언어, 예술 또는 복잡한 주제 학습
• 생성형 AI의 작동 방식
  
  • ML 모델을 사용하여 사람이 만든 콘텐츠의 데이터 세트에서 패턴과 관계를 학습
  • 학습된 패턴을 사용하여 새 콘텐트를 생성
  • 생성형 AI 모델 학습의 가장 일반적인 방법은 지도 학습을 사용하는 것
• 생성형 AI의 활용 
  • 고객 경험 개선 : 챗봇, 가상 어시스턴트, 지능형 콜 센터, 개인화 및 콘텐츠 조정
  • 직원의 생산성 향상 : 대화형 검색, 콘텐츠 제작, 텍스트 요약
  • 비즈니스 운영 개선 : 지능형 문서 처리, 유지 관리 지원, 품질 관리 및 시각적 검사
  • 창의적 콘텐츠 제작 : 텍스트, 애니메이션, 동영상 및 이미지 생성을 포함한 예술 콘텐츠 제작
• 생성형 AI의 한계 
  • 느닷 없는 오류 생성 (=Hallucination)
  • 데이터 필터링 난제 : 명확하지 않은 공유 데이터와 기밀 데이터 구분
  • 저작권의 악몽 : 특정 비즈니스에 맞춤화가 필요한 기업의 데이터 유출

※ Reference ※

https://aws.amazon.com/ko/what-is/generative-ai/

https://cloud.google.com/use-cases/generative-ai?hl=ko

https://www.ciokorea.com/news/307591

생성형 AI는 분명 우리 삶에 많은 도움을 주고 있고 세상을 발전시킬 수 있는 기술이다. 생성형 AI를 통해 영화나 드라마에서만 보던 편리한 생활을 할 수 있게 될 것이다. 그러나 한편으로는 어디까지 발전해서 삶에 침투할지 무섭기도 하다. 기업 내에서 생성형 AI를 활용하기 위해 자체 LLM을 구축할 수도 있지만 모든 기업에서 이를 실행하기는 어렵다. 따라서 기업 내 생성형 AI를 올바르게 사용하기 위해서는 생성형 AI의 명암을 확실하게 알고 올바른 정책과 교육을 제공해야 한다.