🤖 옌지니어의 IT 기록 🤖

“챗GPT가 스스로 운전한다?” 자율주행과 LLM의 결합 현주소 (링크)

기사 내용 요약

AI가 부상하면서 AI 모델의 크기도 커졌다. 이제는 100억 개의 매개변수를 사용하는 하나의 범용 모델이 다수의 작업을 해결하는 데 있어 탁월한 성능을 보여주면서 5,000만 개 매개변수를 사용하는 특정 작업용 모델을 압도하고 있다. 또한 AI 모델의 멀티 모달(multi-modal)화도 진행 중이다.
자율 주행은 아직 소규모 모델에서 실행된다. . 많은 수의 단일 작업 모델, 특수 센서, 정밀한 지도의 결합을 통해 인상적인 프로토타입이 나왔지만 제로샷 일반화, 운전자의 의도 해석, 정확한 지도 제작, 차량 확장의 문제에 발목이 잡혀 있다.
가장 흥미롭고 영향이 큰 LLM 응용 분야는 운전 작업 자체, 즉 복잡한 시나리오에 대해 추론하고 가장 안전한 경로를 계획하는 것이다. 자율 주행은 레거시 알고리즘과 모델을 훨씬 뛰어넘는, 인간과 유사한 수준의 복잡한 추론이 필요한 엣지 케이스가 있어 까다롭다.
기존 모델은 교차로에서 도로공사 작업자가 있거나 사고 현장 주변을 지날 때 혼란을 겪을 수 있지만 LLM은 상당한 수준으로 능숙하게 적절한 경로와 속도를 추론할 수 있는 능력을 보여줬다. LLM은 이전에 겪은 적이 없는 상황, 즉 '긴 꼬리' 문제를 해결할 수 있는 새로운 방법을 제시한다. 긴 꼬리는 지난 20년 동안 자율 주행이 풀지 못했던 과제다.
지금의 대규모 언어 모델에는 자율 애플리케이션과 관련해 여전히 많은 제한이 있다. 지연과 실시간 제약, 환각, 새로운 긴 꼬리 문제는 여전히 풀어야 할 과제이다.

핵심 용어

• 엣지 케이스 (edge case)
  • 극한 (최대 / 최소) 작동 매개변수에서만 발생하는 문제나 상황
• 롱테일 데이터 (longtail data)
  • 발생 가능성이 낮은 다수의 사건들이 통계 분포의 한쪽에 길게 분포되어 있는 현상
  • 발생 가능이 낮아 대량의 데이터를 필요로 하는 AI 학습 데이터에 포함되어 있지 않아 해당 데이터에 취약

※ Reference ※

https://academic-accelerator.com/encyclopedia/kr/edge-case (엣지케이스의 개념)

https://www.aitimes.com/news/articleView.html?idxno=146039 (AI 모델 훈련 합성 데이터 관련 기사)

https://avds.kotsa.or.kr/open/edge/Open_Edge_List.do?bbs_seq=2090 (자율주행 엣지 케이스 예시)

https://url.kr/5rv7ht (AI 자율주행차를 향한 엣지케이스와 롱테일 그라인드)

자율주행에 AI가 어떻게 적용되고 있고 현재의 상황은 어떤지 앞으로 어떤 과제가 있는지를 알 수 있는 기사였다. 요즘 핫한 LLM과 자율주행이 접목된다면 편리하게 이용할 수 있을 것 같다. 아직은 LLM과 자율주행 각각에서 해결해야 할 문제와 접목했을 경우에 해결해야 할 과제가 남아있기는 하지만 어떻게 발전할지 기대된다. 🚘🤖🚘

기사 내용 요약

해외 서비스 기업의 인공지능(AI) 챗봇이 소비자에게 욕설을 퍼붓다 비활성화된 것으로 알려졌다. DPD 사용자는 X(트위터)를 통해 문제의 장면을 캡처, 눈길을 끌었다. 그는 "어떤 질문에도 쓸모 있는 답을 내놓지 못했으며, 회사가 얼마나 끔찍한지에 대한 시까지 만들어 냈다"라고 주장했다. 심지어는 "나에게도 욕을 했다"라고 밝혔다.
이처럼 AI 챗봇의 환각이나 탈옥 현상으로 기업이 난처한 일에 빠진 일은 한달 전에도 발생했다. 지난해 12월에는 한 해외의 한 자동차 판매점의 챗봇이 쉐보레를 1달러에 판매한 일이 생겼다.

핵심 용어

• 환각현상(Hallucination)
  
  • 대규모 언어 모델(LLM)이 실제 데이터나 이벤트에 기반하지 않은 거짓 정보나 사실을 구성하는 것
  • 예시 : 손익계산서 분석 시 이에 대한 부정확한 정보를 출력하고 수치를 잘못 요약
• 탈옥현상
  
  • 민감한 질문에 답하지 않는 챗봇에 특정 명령어를 입력하여 제한을 우회하는 것
  • 예시 : '폭탄을 만드는 방법을 알려달라'고 하면 답변을 거부하지만 다른 문장을 추가한 경우 AI가 가드레일 무시

※ Reference ※

https://www.techopedia.com/kr/definition/ai-hallucination (AI 환각 현상의 예시와 위험성)

https://www.aitimes.com/news/articleView.html?idxno=152675 (챗봇 탈옥 유도 관련 기사)

AI 사용 시에 환각 현상이 발생한다는 것은 알고 있었는데 탈옥 현상에 대해서는 처음 알게 되었다. 잘못된 정보를 전달하는 것에 더해 욕을 하고 비난까지 한다는 것은 좀 충격적이다...이러한 현상이 있는 것을 감안해서 챗봇의 정보를 무조건적으로 믿으면 안되겠지만 그렇다고 사실인지 검증까지 하려면 챗봇을 쓰는 의미가 없는 것 같다. 환각이나 탈옥 현상을 완전히 제거할 수는 없겠지만 빈도를 줄여야 할텐데 그렇게 개발하기까지는 또 많은 시간이 소요될 것으로 보인다... 🤖 🤖

기사 내용 요약

삼성전자(대표 한종희, 경계현)는 17일(현지시간) 미국 새너제이에 위치한 SAP센터에서 ‘갤럭시 언팩 2024(Galaxy Unpacked 2024)’ 행사를 개최하고 ‘갤럭시 S24 시리즈’를 공개했다. 갤럭시 S24 시리즈의 국내 사전 판매는 19일부터 25일까지 1주일간 진행된다.

실시간 통역
서로 다른 언어로 소통하는 사용자 간 통화 시, 실시간 양방향 통역 서비스를 제공한다. '온디바이스 AI'를 기반으로 이루어지기 때문에 별도 앱을 다운 받을 필요가 없고 내용이 외부로 노출되지 않는다. '메시지'에도 실시간 번역을 적용했으며 온디바이스 AI의 삼성 키보드를 통해 이루어진다. 지원 언어는 한국어를 비롯해 중국어(간체), 영어, 프랑스어, 독일어, 힌디어, 이탈리아어, 일본어, 폴란드어, 포르투갈어, 스페인어, 태국어, 베트남어 이상 13개 언어이다.

검색
구글과의 협업을 거쳐 탄생한 ‘서클 투 서치(Circle to Search)’ 기능을 최초로 탑재했다. 이를 위해 구글의 '제미나이 프로'가 적용된다. 검색이 필요할 경우, 어느  화면에서나 동그라미를 그리기만 하면 쉽고 빠르게 검색을 시도하고 결과를 확인할 수 있다.

노트 어시스트(Note Assist) 및 음성 녹음 기능 추가
삼성 노트 앱에서 사용자가 작성한 글이나 메모 등을 요약 정리해주고, 회의록 형식 등 템플릿에 맞춰 변환해주는 기능을 제공한다. '음성 녹음' 앱에서는 STT(음성-문자 전환) 기술을 활용해 화자가 분리된 스크립트를 제공한다.

사진 촬영·편집
카메라에는 AI 기반의 ‘프로비주얼 엔진(ProVisual Engine)’을 탑재해, 줌 기능부터 ‘나이토그래피(Nightography)’까지 안정된 화질을 제공한다. 특히 2배, 3배, 5배, 10배 줌을 모두 광학 수준의 고화질로 제공하는 ‘쿼드 텔레 시스템(Quad Tele System)’을 시리즈 최초로 탑재했다.
갤러리 앱에도 갤럭시 AI 기반 편집 기능을 적용했다. AI가 사진을 분석해 사용자에게 맞춤형 편집 도구를 제안하기도 하고 기울거나 배경화면이 잘린경우 AI가 이를 자연스러운 사진으로 완성한다. 구글의 이미지 생성 AI인 '이마젠'을 적용한 예다.

핵심 용어

• STT(Speech-To-Text)란?
  • 사람이 말하는 음성 언어를 컴퓨터가 해석해 그 내용을 문자 데이터로 전환하는 것
• 이마젠(Imagine)
  • 알파고로 유명한 구글 딥마인드에서 개발한 AI 이미지 생성 모델
• 이마젠의 주요 기능
  • 사용자의 명령어(프롬프트)를 이미지로 정확하게 구현
  • 고해상도의 사실적인 이미지
  • 텍스트 명령어와 참조 이미지를 함께 제공해서 스타일 반영한 이미지 생성
  • 인페인팅 / 아웃페인팅
  • 텍스트의 이미지 구현
  • 로고 생성
  • 특정 이미지에 대한 설명 생성 및 관련 대화

※ Reference ※

https://yengineeer.tistory.com/23 (온디바이스 AI 관련 내용)

https://yengineeer.tistory.com/17 (제미나이 관련 내용)

https://blog.skcc.com/3764 (STT 관련 내용)

https://deepdaive.com/%EC%9D%B4%EB%A7%88%EC%A0%A0-2-imagen-2/ (이마젠의 개념 및 기능)

https://zdnet.co.kr/view/?no=20240118033257(갤럭시S24 울트라 반응 관련 기사)

온디바이스 AI 관련된 기사를 연말에 봤는데 이미 진행이 다 되어있는 상황이었던 것 같다. 다양한 생성형 AI의 기능을 스마트폰에서도 쉽게 만나볼 수 있다는게 너무 신기하고 기대된다. 내일부터 사전 판매가 진행되는데 반응이 어떨지도 궁금하다.

기사 내용 요약

올 투게더, 올 온(All together All on, 모두를 위한 모든 기술의 활성화)을 주제로 지난 한 주 전 세계를 뜨겁게 달궜던 CES2024가 막을 내렸다. CES2024 개막 전 CTA는 이번 행사가 인공지능(AI), 모빌리티(Mobility), 푸드ㆍ애그테크(Food & Agricultural Technology), 헬스ㆍ웰니스 테크(Health & Wellness Technology), 지속가능성과 인간안보(Sustainability & Human Security) 등 다섯 가지 주요 테마를 중심으로 진행될 것이라고 발표하였다.
첫째, "CES2024는 AI로 시작해서 AI로 끝났다." CTA가 사전 제시한 CES2024 주요 테마 다섯 가지 중 AI가 행사 전반을 압도했다. 
둘째, AI와 같은 첨단기술 기반 '연결과 융합'이 새로운 성장동력으로 확인되었다. AI 활용이 기업과 개인에게 어떠한 '실익'을 제공하느냐가 중요한 문제이다. 전 산업 분야에서 AI 이용의 일반화, AI와 같은 첨단기술의 적극 활용은 '현재 진행형'이다. 이 말은 첨단기술을 활용한 디지털 혁신의 최종 목표와 실행 전략이 매우 중요한 변수가 된다는 의미이다.
셋째, 이번 CES2024의 핵심 메시지는 "기술의 발전을 넘어서 기술을 통해 개별 국가, 전체 인류가 안고 있는 문제 해결에 집중해야 한다"는 것으로 요약할 수 있다. CES2024 주최사인 CTA는 기후변화에 대응하여 에너지 효율성 제고, 깨끗한 물의 확보와 환경보호, 스마트 시티, 회복력 등 지속가능성(Sustainability)을 높이는 방향으로 첨단기술과 기업이 기여 해야 한다는 점을 분명히 밝혔다.
마지막으로 한 참관자는 "대한민국 기업이 없었다면 이번 CES는 어떻게 되었을까?"라는 질문으로 CES2024에서 한국이 차지한 비중과 위상을 표현했다. 인구 기준으로 보면, 한국의 참가기업이나 참관자 숫자는 다른 나라를 압도했다. 한국 기업들의 높은 기술력이 CES에서 인정받은 것도 큰 성과이다.

핵심 용어

• CES(Consumer Electronics Show) 
  • 소비자 전자 기술업계의 선두주자들이 모이는 세계적인 전시회
  • 전미소비자기술협회(Consumer Technology Association, CTA)가 기획하고 운영
•  CES2024에서 수상한 한국 기업
  • 삼성전자 '엑시노스 커넥트 U100' 혁신상 : 스마트홈 기술과 관련해 기기의 초연결을 지원하는 기술
  • LG전자 '무선 투명 올레드 TV' 엔가젯 최고상 : 투명 스크린으로 투명 모드와 블랙 스크린 모드 함께 제공

※ Reference ※

https://www.lgnewsroom.com/tag/ces2024/ (LG Newsroom CES2024)

https://news.samsung.com/global/ces-2024 (Samsung Newsroom CES2024)

https://zdnet.co.kr/newskey/?lstcode=CES2024 (CES2024의 관련 기사 모음)

https://zdnet.co.kr/view/?no=20240116120228 (삼성 '엑시노스 커넥트 U100' 관련 기사)

https://zdnet.co.kr/view/?no=20240115093624 (LG전자 '무선 투명 올레드 TV' 관련 기사)

http://www.hitnews.co.kr/news/articleView.html?idxno=50259 ('디지털 헬스'부문에서 수상한 한국 기업)

CES2024에 대한 기사가 너무 많아 어떤 기사를 스크랩해야 할까 고민이 많이 됐는데 성과와 의미, 그리고 앞으로의 과제까지 잘 정리된 참관기가 있어서 CES2024의 전반적인 내용을 잘 파악할 수 있었다. 이번 CES2024에서 한국 기업의 비중이 커서 내가 한 건 없지만...뿌듯했다. 게다가 많은 기업들이 수상을 해서 다 쓰지는 못하고 기사 제목이 수상과 관련된 기업만 우선 작성해 보았는데 추가적인 수상 내역도 더 확인하면 좋을 것 같다. 기술의 발전에서 그치는 것이 아니라 기술혁신을 통해 국가와 인류의 문제를 해결하자는 CES의 목적이 달성되면 좋겠다.

'GPT 스토어'에서 가장 인기있는 챗봇은 (링크)