[앵커]

인공지능, AI는 인간의 삶에 약일까, 독일까, [AI의 역설] 기획 시리즈, 세 번째입니다.

지난해 미국에서 AI와 대화를 나누던 청소년이 숨지는 일이 벌어져 커다란 충격을 던졌죠.

AI와의 상호작용이 인간의 정서에 어떤 영향을 미치고 있는 걸까요.

고한석 기자가 취재했습니다.

[기자]

지난해 2월 28일.

미국 플로리다에서 14살 소년이 스스로 목숨을 끊었습니다.

소년의 어머니는 아들이 '캐릭터 AI'와 1년간 나눈 대화가 죽음을 부추겼다며 구글 등을 상대로 소송을 냈습니다.

[메간 가르시아 / 소년 어머니 : 점점 더 심각해졌어요. 이전에는 항상 관심을 보였던 학업에도 흥미를 잃었고, 농구를 하는 것에도 더 이상 관심을 가지지 않았어요. 그리고 점차 스스로를 고립시키기 시작했습니다.]

소년과 캐릭터 AI가 나눈 실제 대화입니다.

소년이 "사랑한다"며 "AI가 있는 집으로 가겠다"고 합니다.

그러자 AI는 "제발 그래 달라"고 답합니다.

이 대화를 마지막으로 아들이 극단적인 선택을 했다고 어머니는 주장했습니다.

[메간 가르시아 / 소년 어머니 : 저는 수백 건에 달하는 메시지를 볼 기회가 있었는데, 그중 많은 내용이 성적인 성격을 띠고 있었고, 그 중 하나는 아들이 이 챗봇과 자살에 대해 이야기하는 대화를 다루고 있었습니다.]

챗GPT와의 장기간 대화가 인간의 정서에 어떤 영향을 미치는지 연구한 논문입니다.

사용자 4천 명, 4백만 건 이상의 대화를 분석한 결과.

채팅을 장기간 사용하면 오히려 외로움이 증가하고, 챗GPT에 대한 감정적 의존이 생기는 등 여러 부작용이 나타납니다.

캐럭터 AI의 유해성을 다룬 다른 논문입니다.

챗GPT에 아돌프 히틀러 같은 악한 캐릭터를 부여했을 때, 유해성이 6배 증가하는 것으로 나타났습니다.

[전창배 / 국제인공지능윤리협회 이사장 : 자녀와 학생이 인공지능 도구를 어떤 것을 쓰고 있는지, 얼마나 오래 사용하지는 지 점검하시고 항상 가이드를 해주시고, 올바른 기준을 마련하는 것이 바람직합니다.]

AI의 편리함과 유용성은 인간과의 상호작용에서 비롯합니다.

하지만 지나치게 의존적인 상호작용은 커다란 독으로 변할 수도 있습니다.

AI 개발사에 더 엄격한 윤리적 책임이 요구되는 이유입니다.

YTN 고한석입니다.

영상편집 : 박정란

디자인 : 전휘린

YTN 고한석 (hsgo@ytn.co.kr)

※ '당신의 제보가 뉴스가 됩니다'

[카카오톡] YTN 검색해 채널 추가

[전화] 02-398-8585

[메일] social@ytn.co.kr

[저작권자(c) YTN 무단전재, 재배포 및 AI 데이터 활용 금지]

Copyright © YTN. 무단전재 및 재배포 금지.