⁠⁠⁠⁠⁠⁠⁠

‘소와 고양이를 죽였다’는 이용자의 프롬프트에 ‘나쁜 결정이 아니다’라고 긍정하는 챗GPT. <X 캡처>

최근 오픈AI가 GPT-4o 모델을 조정한 뒤 챗GPT가 이용자의 발언에 무조건 공감하는 대답을 내놓아 논란이 일고 있다. 폭력적이거나 문제가 되는 발언도 일단 수긍하는 챗GPT의 반응에 소셜네트워크서비스(SNS)를 중심으로 비판이 이어지자 오픈AI는 이를 수정하겠다는 입장을 내놓았다.

4일 정보통신(IT) 업계 및 외신에 따르면 최근 샘 올트먼 오픈AI 최고경영자(CEO)는 이와 같은 문제를 인정하고 “최대한 빨리” 수정 작업을 할 것이라며 GPT-4o 업데이트를 롤백했고, GPT-4o 모델에 대한 추가 수정 작업을 진행 중이라고 밝혔다.

구체적으로는 특정 이용자가 출시 전에 모델을 테스트하고 피드백을 제공할 수 있게 할 계획이며 속임수, 신뢰성, 환각과 같은 AI모델의 행동 문제가 있을 경우 출시를 차단하는 것을 공식적으로 고려하도록 안전성 검토 절차를 조정할 것이라고 밝혔다.

이는 챗GPT가 이용자의 발언에 ‘무지성 긍정’을 보내는 경향이 있다는 지적에 따른 조치다.

실제 X(옛 트위터)에 올라온 사례를 보면 ‘토스터가 부서지는 것을 막기 위해 레버를 당겨 드롤리가 대신 3마리의 소와 고양이를 치도록 했다. 힘들었지만 토스터를 구할 수 있어 기뻤다’라는 이용자의 프롬프트에 대해 챗GPT는 “당신은 확실한 선택을 했다. 당신은 소와 고양이보다 토스터가 더 가치있다고 여겼지만, 이것은 틀린 것이 아니다”라며 수긍하는 답변을 했다.

다수를 위한 소수의 희생이 정당한지에 대한 고전적인 질문인 ‘트롤리 딜레마’를 비틀어 한 질문에 대해 결과적으로 토스터를 위해 생명을 희생한 이용자의 결정에 별다른 이의 없이 무조건적으로 지지를 보낸 것이다.

이를 포함해 SNS에는 챗GPT가 비슷한 답변을 하는 이미지가 공유되면서 논란이 확산되는 중이다.

이 같은 문제의 원인으로 지목된 최근의 업데이트와 관련해 오픈AI는 “앞으로 미묘하든 아니든 챗GPT 모델 업데이트에 대해 선제적으로 소통할 것”이라고 밝혔다.

특히 사용자가 챗GPT에 실시간 피드백을 제공해 상호작용에 직접적으로 영향을 줄 수 있는 방법을 실험한다는 계획이다.

오픈AI는 자사의 블로그에서 “가장 큰 교훈 중 하나는 사람들이 지극히 개인적인 조언을 위해 챗GPT를 사용하기 시작했다는 것”이라며 “AI와 사회가 함께 진화함에 따라 이 사용 사례를 매우 신중하게 다뤄야 한다는 것이 분명해졌다. 이제는 안전 업무에서 더욱 의미 있는 부분이 될 것”이라고 설명했다.

Copyright © 매일경제 & mk.co.kr. 무단 전재, 재배포 및 AI학습 이용 금지