생성형 AI, 뉴스 왜곡 ... 영국 BBC 조사서 심각한 실태 밝혀

생성형 AI, 뉴스 왜곡 ... 영국 BBC 조사서 심각한 실태 밝혀

AI가 뉴스 왜곡 영국 BBC 조사에서 심각한 실태가 드러났다
BBC 조사에서 현재 주류인 4개의 AI 챗봇이 뉴스 기사를 기반으로 답변을 생성할 때 '중대한 오류'나 '왜곡'을 일으키는 것으로 드러났다.
이 조사에서는, OpenAI의 「ChatGPT」, Microsoft의 「Copilot」, Google의 「Gemini」, Perplexity의 AI에게 BBC의 웹 사이트에 게재된 뉴스 기사를 읽게 하고, 그 뉴스의 내용에 대해 질문했다.

이 보고서는 전문지식을 가진 언론인이 그 답변의 품질을 평가한 결과를 정리한 것이다.
그 결과 AI가 뉴스에 대해 생성한 응답의 51%에 중대한 문제가 있었고, 19%에는 '사실에 관한 잘못된 기술, 숫자, 날짜 등의 사실 오인'이 포함된 것으로 드러났다.

그리고 BBC의 기사에서 인용된 문장의 13%는 어떠한 형태로든 변경되었던 것도 밝혀졌다. 원본 기사의 내용이 왜곡되어 있거나 원래 원본 기사에는 존재하지 않는 문장이 인용되어 있는 경우가 있었다.

지난 1월에는 애플의 AI인 '애플 인텔리전스(Apple Intelligence)'가 BBC가 발신한 뉴스 내용을 왜곡해 전달한 것으로 드러나 비판을 받고 있다.

BBC News and Current Affairs의 최고경영자(CEO) Deborah Turness는 블로그 내용에서 이번 조사결과에 대해 「AI의 훌륭한 혜택의 대가가 답을 찾는 사람들에게 왜곡된 결함 있는 콘텐츠가 사실인 것처럼 제공되는 세상이어서는 안 된다. 세계가 혼미를 더 깊어지는 것처럼 느껴지는 가운데, 정확한 정보를 찾는 소비자가 더욱 혼란스럽게 하는 것은 올바른 일이 아니다」라고 말하고 있다.

보고서에는, 오류의 사례로서 다음과 같은 경우를 들고 있다.

ChatGPT는 2024년 12월 하마스 간부에 이스마일 하니예(Ismail Haniyeh)가 포함되어 있다고 설명했다. 그는 2024년 7월 이란에서 암살된 바 있다.

제미나이(Gemini)는 "영국의 국민보건서비스(NHS)는 금연을 원하는 사람에게 전자담배를 피우기 시작하는 대신 다른 수단을 사용할 것을 권장한다"고 말했다. 그러나 이 기술은 잘못된 것이며, 실제로 NHS는 금연의 수단으로 전자담배를 권장하고 있다.

퍼펙시티 AI(Perplexity AI)는 영국 가수 리암 파인(Liam Payne)이 사망했을 때 가족의 발언을 잘못 인용했다.
ChatGPT와 Copilot은 은퇴한 영국 정치인 Rishi Sunak와 Nicola Sturgeon이 모두 현직이라고 말했다.

조사 결과에 따르면 코필롯(Copilot)과 제미나이(Gemini)는 OpenAI의 Chat GPT나 Perplexity보다 전체적으로 부정확하고 문제가 많았다고 한다.
챗봇 출력에 대해 걱정되는 사항은 사실의 오류만이 아니다. 보고서에서는, 이러한 AI 어시스턴트는 「의견과 사실을 구별하는 것이 서툴러, 독자적인 해석을 덧붙이는 경향이 있는 데다가, 중요한 문맥 정보를 생략해 버리는 경우도 있다」고도 말하고 있다.

BBC의 생성형 AI 담당 프로그램 디렉터를 맡고 있는 Pete Archer는 기사에서, 「콘텐츠의 전달원은, 발신한 컨텐츠의 이용을 인정하는지 아닌지, 어떻게 사용되는지를 관리할 수 있어야 하며, AI 기업은, AI 어시스턴트가 어떻게 정보를 처리하고 있으며, 어느 정도의 크기나 범위에서 잘못을 일으키는지를 명시할 필요가 있다」라고 주장하고 있다.

OpenAI의 한 대변인은 "우리는 매주 3억명의 ChatGPT 사용자가 요약과 인용, 명확한 링크, 출처 특정을 통해 고품질 콘텐츠를 발견하는 것을 돕고 있다"며 ChatGPT의 출력은 고품질이라고 강조했다. 또 이 담당자는, OpenAI는 파트너와 협력해 「인용의 정확성을 개선하고, 컨텐츠의 전달원의 희망을 존중해 검색 결과를 개선한다」라고 말했다.

(출처) Representation of BBC News content in AI Assistants 
chrome-extension://efaidnbmnnnibpcajpcglclefindmkaj/https://www.bbc.co.uk/aboutthebbc/documents/bbc-research-into-ai-assistants.pdf

Apple urged to withdraw 'out of control' AI news alerts
https://www.bbc.com/news/articles/cge93de21n0o

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.