🤖 옌지니어의 IT 기록 🤖

사티아 나델라 MS CEO "AI는 인간 지능 아닌 '도구'"…샘 알트먼과 미묘한 입장차 (링크)

기사 내용 요약

22일 블룸버그 통신에 따르면 나델라 CEO는 지난 21일 블룸버그 텔레비전과의 인터뷰에서 "AI는 실제 인간의 지능이 아니라 '도구'라는 점을 기억해야 한다"며 "AI를 의인화하는 것을 좋아하지 않는다"고 말했다.
나델라 CEO의 발언을 두고 블룸버그는 "기술이 발전해 인간처럼 보이는 방식으로 반응하는 AI 서비스를 (앞으로) 얼마나 인간화할 지에 대한 기술 업계의 논쟁이 계속되고 있음을 암시하는 것"이라고 해석했다. 
구글도 AI를 도구에 국한되는 듯한 입장을 보였다. 구글 한 임원은 지난주 블룸버그와의 인터뷰에서 "감정을 보여주는 AI 도구를 개발하는 것은 가능하다"면서도 "구글은 매우 유용한 도구에 집중하는 것을 선호한다"고 말했다.
반면 오픈AI는 다른 접근 방식을 취하고 있다. 특히 새 AI 모델 'GPT-4o'는 최근 시연하는 과정에서 이를 사용하는 직원에게 AI 음성으로 대시하는 듯한 모습을 연출해 눈길을 끌었다.
업계에선 최근 오픈AI의 행보를 두고 AI 기술 개발 경쟁이 치열해지면서 'AI 윤리' 문제가 뒷전으로 밀려나는 상황이 벌어지고 있다고 분석했다. 

핵심 용어

• AI 윤리 (AI Ethics)란?
  • 인공지능 관련 이해관계자들이 준수해야 할 보편적 사회 규범 및 관련 기술
  • 인공지능을 도덕적이고 책임감 있게 사용하도록 하는 규율
• AI 윤리의 5대 문제
  • 편향성 : 인간에게는 존재하는 편향이 인간의 행동과 데이터에 반영
  • 오류와 안전성 : 인공지능의 잘못된 판단이나 오류가 치명적 피해
  • 악용 : 피싱, 딥페이크, 사이버 범죄 등 불법적이거나 비윤리적인 일에 인공지능이 악용
  • 개인정보보호 : 인공지능은 방대한 알고리즘의 학습을 거치므로 개인의 사생활 침해 및 정보 유출 우려
  • 킬러로봇 : 사람의 개입 없이 자동으로 사람을 공격할 수 있는 인공지능 기반 군사형 자율 로봇
• AI에 대한 낙관적 / 비관적 입장
  • 낙관적 입장
    • 다양한 지식을 빠르게 탐구하거나 글이나 정보를 빠르게 찾고 정리
    • 철학적인 질문으로 토론하고 데이터 분석을 요청
    • 창작의 영역 (ex. 가수처럼 노래를 대신 불러주거나 영화 생성)
  •  비관적 입장
    • 저작권 : 결과물 생성을 위해 기존 인간의 창작물을 학습하는 과정에서 문제 발생
      • 해결 방안
      • 1) AI의 저작권 침해롸 관련된 법안 등의 규제를 만드는 것
      • 2) 기술적으로 AI가 저작권을 침해하지 못하도록 막는 것
    • 편향성 : AI가 기존 인간의 편향성을 그대로 드러내는 경우 존재
      • 해결 방안
      • 1) AI 편향성을 측정하고 평가하기 위한 모델 개발
      • 2) AI 학습 및 설계 단계에서부터 편향성을 줄이기 위한 방법 모색
      • 3) AI에게 편향성을 줄여달라고 직접 요구

※ Reference ※

https://www.content.upstage.ai/blog/insight/ai-ethics (AI 윤리가 필요한 이유와 기업의 노력)

https://kead-webzine.or.kr/april/trend-report/ (챗GPT 열풍 속 인공지능 윤리 문제)

https://www.samsungsds.com/kr/insights/ai-risks-and-responses.html (AI 리스크에 대한 동향 및 시사점)

https://www.seoulpa.kr/bbs/board.php?bo_table=npo_aca&wr_id=74375 (AI에 대한 낙관적 비관적 입장 차이) 🌟

개인적으로 MS CEO의 의견에 공감이 됐다. 요즘 많은 AI 기술들이 공개되면서 편리한 동시에 주의해야할 것도 많아진 것 같다. 새로운 기술들을 보면서 비판적인 시각을 가지기 보다는 "오...신기하네..살기 편하다" 라는 생각을 했었던 것을 반성하게 됐다.. 무작정 기술을 받아들이기보다는 얻을 수 있는 장점과 주의해야할 것들을 구분해서 생각해봐야겠다. 그리고 이를 의인화하며 의존하기보다는 도구로 활용하려는 노력을 기울여야겠다.