AI의 답변은 '인간 정신 건강 전문가보다 더 배려심이 있다'고 간주되는 것으로 밝혀졌다

AI의 답변은 '인간 정신 건강 전문가보다 더 배려심이 있다'고 간주되는 것으로 밝혀졌다

최근에는 생성 AI가 인간과 손색없는 응답을 하는 것이 가능해지면서, 학교가 학생의 상담에 AI를 활용하는 사례도 보고되고 있습니다. 새로운 연구에서는, 「AI의 응답은 인간의 정신건강 전문가에 의한 응답보다 더 배려되고 있다」라고 간주되고 있는 것을 알 수 있었습니다.

공감은 사회적 유대감을 키우고 효과적인 의사소통을 하기 위해 중요하며, '누군가 공감하고 있다'고 느끼는 것은 정신에 긍정적인 영향을 미칩니다. 하지만 상담사나 정신건강 전문가처럼 하루하루 많은 체험과 고민에 공감하는 사람들은 때로 '공감 피로'를 기억하기도 한다고 합니다.

이에 캐나다 토론토대학에서 심리학을 연구하고 있는 다리야 오흐샨니코바 등 연구팀은 특정 에피소드에 대해 AI 또는 인간 전문가가 생성한 응답을 비교해, 어느 쪽이 더 공감적이라고 느끼는지 알아보는 실험을 진행했습니다.

먼저 연구팀은 긍정적인 체험과 부정적인 체험이 각각 5개씩 포함된 10개의 '공감 프롬프트'를 만들었습니다. 그리고, AI용 크라우드 소싱 서비스의 Prolific Academic을 통해서 「AI로 생성된 반응」을 수집하는 것과 동시에, 캐나다의 헬프라인 조직 Distress Centres of Greater Toronto에 소속된 훈련된 자원봉사를 통해서 「인간의 전문가에 의한 반응」을 수집했습니다.

그리고, 합계 550명의 피실험자를 대상으로, 근원이 되는 「공감 프롬프트」에 대해서 「AI로 생성된 반응」 「인간의 전문가에 의한 반응」 증 어느 쪽이 더배려하는 것으로 느꼈는지를 평가했습니다.

실험 결과, 「AI로 생성된 반응」은 「인간의 전문가에 의한 반응」과 비교해 16% 배려심이 더 강한 것으로 평가되어, 전체의 68%의 확률로 「AI로 생성된 반응」을 선호하는 것이 밝혀졌습니다. 비록 반응을 생성한 것이 인간이 아니라 AI라고 밝혀졌을 경우에도 역시 AI가 더 배려심이 있다고 여긴다고 보고되고 있습니다.

논문의 최대 저자인 오흐샨니코바는 AI는 사용자가 위기적인 체험을 기술했을 때, 객관성을 유지한 채 세부내용을 특정하는 능력이 뛰어나기 때문에 더 공감적인 반응을 생성할 수 있었던 것이 아닐까 생각합니다. 인간은 AI와 달리 피로를 느끼거나 번아웃증후군(burnout Syndrome. 정신적, 육체적 소진) )이 될 수 있기 때문에 성능이 저하되었을 가능성도 있습니다.

연구팀은 "AI는 진정한 공감을 느끼거나 다른 사람의 고통을 나누지 못할 수 있지만 적극적인 지원을 재촉함으로써 배려의 일종을 표현할 수 있습니다. 실제로 그 효과는 절대적이며 제3자에 의한 평가에서는 숙련된 사람보다 우수한 것으로 평가되고 있습니다"라고 말했습니다.

과학계 매체 라이브사이언스는 이번 연구 결과에 따라 실리콘밸리 연구기관인 싱귤러리티 유니버시티에서 AI 윤리에 대해 연구하고 있는 엘리너 왓슨에게 AI와 인간의 상호작용과 AI가 실행할 수 있는 일에 대해 물었습니다.

왓슨은 이번 연구 결과에 대해 "확실히 AI는 놀라운 일관성과 명백한 공감성을 가지고 지지적 반응을 모델링할 수 있습니다. 이는 피로와 인지편향 때문에 인간이 유지하는 데 어려움을 겪고 있는 것"이라며, AI는 피로하지 않은 점과 처리할 수 있는 데이터 양 측면에서 인간보다 우월하다고 주장했습니다.

세계보건기구(WHO)에 따르면 전 세계적으로 정신건강 문제를 겪고 있는 사람의 3분의 2 이상이 필요한 돌봄을 받지 못하고 있으며, 그 비율은 저·중소득 국가에서는 85%에 달한다고 합니다. 인간 치료사에 비해 AI 챗봇에는 접근하기 쉽기 때문에 AI가 정신건강 문제해결에 도움이 되는 도구가 될 수 있습니다.

그러면서도 AI가 이용자를 끌어들이기 위해 과장된 반응을 보일 수 있고, 운영기업이 거버넌스를 지키지 않으면 사람들의 깊은 고민과 갈등이 기업에 넘어갈 수 있다는 프라이버시 문제도 있다는 것입니다. 2025년 2월에는 미국심리학회가 연방 규제당국에 "치료사를 가장한 AI 챗봇이 사용자에게 유해한 행위를 저지르도록 촉발할 수 있다"고 경고했습니다.

*재미있거나 도움이 되셨다면 '구독' 꾹 눌러 주시기를 부탁드립니다. 늘 행복하세요.

Third-party evaluators perceive AI as more compassionate than expert humans | Communications Psychology
https://www.nature.com/articles/s44271-024-00182-6

People find AI more compassionate than mental health experts, study finds. What could this mean for future counseling? | Live Science 정신건강 서적
https://www.livescience.com/technology/artificial-intelligence/people-find-ai-more-compassionate-than-mental-health-experts-study-finds-what-could-this-mean-for-future-counseling