구글 검색 AI 요약 기능 'AI Overview'로 오정보, SNS서 화제

구글 검색 AI 요약 기능 'AI Overview'로 오정보, SNS서 화제

구글(Google)이 미국 시간 5월 15일에 개최한 개발자회의, Google I/O에서 발표한 중요한 새로운 기능 중의 하나인, 인공지능(AI)을 이용해 검색 결과의 요약을 생성하는 기능이, 오해를 초래하는 답변이나, 경우에 따라서는 위험한 오정보를 표시한다고 해서, SNS상에서 비판이나 놀림(joke)의 대상이 되고 있다.

저널리스트를 포함한 복수의 사용자가, 「AI Overview(AI 오버뷰)」라고 하는 구글의 AI 요약이, 게시판 사이트의 Reddit(레딧)에 농담으로서 쓰여진 포스트나, 사실이 아닌 기사를 인용하고 있는 것을 지적했다.

컴퓨터 과학자 멜라니 미첼은 이 기능이 오바마 전 대통령이 이슬람교도라는 우익의 음모론을 답으로 표시한 예를 제시했다.

다른 사례에서는, 이 기능이 블로그로부터의 텍스트를 도용해, 그 내용을 잘못된 형태로 전하고 있는 것이 지적되었다. 심지어 비단뱀이 포유류라고 시사하는 등 기본적인 사실을 잘못 알고 있는 것도 있었다.

구글의 홍보 담당자는 뉴스 사이트 Verge에 대해, 이러한 오류는 「일반적으로 매우 드문 쿼리(query. 데이터베이스관리시스템(DBMS)에서 데이터를 꺼내거나 검색, 수정, 삭제 등의 조작을 하기 위한 언어 명령)에서 발생한 것으로, 많은 사람의 경험을 대표하는 것은 아니다」라고 말했다.

이러한 문제가, 구체적으로 무엇에 기인하는 것인지, 어느 정도 광범위에 미치고 있는 것인지, 또 구글이 AI 기능의 전개에 다시 제동을 걸지 않을 수 없는 것인지는 불분명하다.

그러나, 이러한 잘못은 레딧과 같은 플랫폼이나 풍자 뉴스 사이트인 The Onion(디 어니언)등의 구글이 요약하기 위해 선택하고 있는 데이터의 소스에 기인하고 있을 가능성이 있다. 순더 피차이 구글 CEO는 최근 버지(Verge)와의 인터뷰에서 이 회사가 할시네이션(hallucination. AI가 사실에 근거하지 않은 정보를 생성하는 현상) 문제를 다루고 있다고 밝혔지만 해결까지의 정확한 타임라인은 밝히지 않았다.

구글의 AI가 부정확한 답변을 이끌었다고 비판받는 것은 이로써 올해 두 번째다. 이 회사가 올해 초 발표한 제미니 이미지 생성 AI는 흑인 바이킹과 인종적으로 다양한 나치 병사, 여성 교황 등 역사적으로 부정확한 이미지를 출력했다는 비난을 즉각 받았다. 이에 따라 구글은 사과하고 이 기능을 일시 정지할 수밖에 없게 됐었다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.