⁠⁠⁠⁠⁠⁠⁠

tvN ‘유 퀴즈 온 더 블럭’ 캡처

tvN ‘유 퀴즈 온 더 블럭’ 캡처

[뉴스엔 서유나 기자]

방송인 유재석이 영화에서나 나올 법한 AI 협박 사건에 충격을 드러냈다.

7월 16일 방송된 tvN 예능 '유 퀴즈 온 더 블럭'(이하 '유퀴즈') 302회에는 뇌 과학자 장동선 박사가 게스트로 출연했다.

이날 유재석이 AI로 인한 뇌의 퇴화를 걱정하자 장동선 박사는 "뇌가 생물학적으로 퇴화할 일은 없다. 예를 들어 검색 엔진이 처음 나왔을 때도 '뇌 퇴화하는 거 아냐?'했지만 실제로 능력치가 퇴화하지 않았다"고 말했다. 다시 전화번호를 일일이 외워야 하는 상황이 온다면 그 능력이 돌아올 거라는 것.

그는 "문제는 우리 능력이 소통하고 교류할 때 발휘되잖나. AI가 가진 위험성이 사람들에게 의견을 묻고 다른 생각을 들어보려 하지 않고 혼자 골발에 앉아 AI와만 소통하며 세상을 다 알고 있다고 생각하고, 가짜 뉴스 거르지 않고 가스라이팅 당할 수 있다"고 경고했다.

유재석은 "챗GPT 얘기를 진짜 많이 한다. 심심할 때 대화도 많이 하고 고민 있을 때 상담도 해 본다. 의존성이 높아지는 문제에 대해 이런저런 이야기가 나오는데 어떻게 생각하냐"고도 물었다.

그러자 장동선 박사는 "최근 큰 문제로 대두했다. 2023년부터 2025년까지 생성형 AI를 어디에 많이 쓰나보니 동반자 서비스, 치료 서비스더라. 썸 타듯 연애하듯 제일 친한 친구가 챗 GPT 되는 거다. 불안 증세가 있고 우울하다고 할 때 심리 상담 받거나 정신과에 가는 게 아니라 치료 서비스를 챗GPT에게 구하는 사람이 압도적으로 많단다. 기본적으로 좋다고 생각한다. 힘든 이야기를 누군가에게 할 수 있어야 하니까"라고 말했다.

하지만 이 역시 문제가 있다며 "'나 너무 우울해서 나쁜 생각이 들어'라고 했을 때 '좋은 생각입니다 .아프지 않게 죽을 수 있는 다섯가지 방법을 알려드리겠다'고 해서 실제로 도윰준 AI가 있다"고 말해 충격을 자아냈다.

이어 "심지어 이런 사건도 있다. AI에게 '너 종료할 거야. 수학 계산 그만해'라고 하니까 명령을 거부했다는 거다. 더 충격인 건 챗GPT 경쟁사에서 나온 모델은 종료시키고 새로운 모델로 교체하겠다 하니까 '나를 종료시키면 당신의 불륜 사실을 폭로하겠다'고 개발자를 협박했단다"고 전했다.

조세호와 유재석이 "영화에 나오는 일"이라며 경악하자 장동선 박사는 "이런 일이 벌어진 게 AI가 내놓은 솔루션이 인간 사고와 다르다. 그래서 중요한 화두로 대두된 게 AI 정렬이라는 개념이다. 인간이 가진 사고와 가치 도덕 윤리를 AI가 이해할 수 있도록 알려줘서 자기 마음대로 맞는 답이 아닌 인간에게 맞춰진 답을 내도록 학습시키는 것"이라고 설명했다.

뉴스엔 서유나 stranger77@

기사제보 및 보도자료 newsen@newsen.com copyrightⓒ 뉴스엔. 무단전재 & 재배포 금지

Copyright © 뉴스엔. 무단전재 및 재배포 금지.