K퓨처테크 현장을 가다
(4) 서울대 산업시스템혁신연구소
아무리 좋은 AI도 절차 투명해야
사람이 중심 되고 AI가 보조하는
'휴먼 인 더 루프' 방식 필수적
기술만으로 사회 바뀌지 않아
AI 시대에는 프로세스 설계 중요
최선의 결정을 내리는 것 돕는
'최적화 AI'에 초점 두고 연구
문제 생기면 바로 원상복귀시키는
'공정 회복'이 스마트 팩토리의 핵심

윤명환 서울대 산업시스템혁신연구소장(산업공학과 교수)이 25일 서울대 관악캠퍼스에서 인간과 인공지능(AI)이 팀을 이뤄 함께 일하는 ‘공진화(co-evolution)’ 개념을 설명하고 있다. 그는 “사람이 중심이 되고 AI는 사람을 보조하거나 강화하는 ‘휴먼 인 더 루프’ 방식이 필요하다”고 강조했다. 이솔 기자

“아무리 좋은 인공지능(AI) 모델이 있어도 인간과 AI가 함께 팀을 이뤄 일할 수 있는 구조가 아니라면 의미가 없습니다. 지금 우리에게 필요한 건 사람과 AI의 공진화(co-evolution)입니다.”

25일 서울 신림동 서울대 산업시스템혁신연구소에서 만난 윤명환 소장(산업공학과 교수)은 “산업 현장에서 AI가 제대로 작동하기 위해선 전혀 다른 접근이 필요하다”며 이같이 말했다. 윤 소장이 말하는 공진화는 AI와 인간이 분리된 존재가 아니라 함께 일하고 학습하면서 결정하는 관계임을 뜻한다. AI가 인간을 대체하는 게 아니라 사람과 AI가 협업하는 체계를 설계하는 것이 중요하다는 얘기다.

 ◇ AI도 절차적 합리성과 신뢰 갖춰야

산업시스템혁신연구소는 산업 시스템 전반의 혁신을 연구하는 곳이다. 새로운 기술이 실제 사회와 산업 현장에 어떻게 뿌리내릴 수 있을지 고민한다. 기술이 작동하도록 절차를 마련하고 일하는 구조를 어떻게 바꿀지 탐구하고 있다. 최근에는 제조 AI 및 AI 에이전트 시대에 인간과 AI의 공진화 시스템을 구축하는 데 연구를 집중하고 있다.

생성형 AI가 주목받으면서 산업 현장에서 이를 활용하려는 사례가 잇따르고 있다. 하지만 지금까지 이 같은 시도가 성공적으로 안착했다고 보기는 어렵다. 윤 소장은 AI 접목이 힘든 이유로 절차적 합리성과 신뢰가 부족하다는 점을 지적했다. 좋은 AI 시스템이 있어도 사람이 신뢰하지 않으면 제대로 작동하기 어렵다. 그는 “예를 들어 AI가 데이터를 분석해 기계를 4대 사라고 해도 그 결정을 쉽게 따를 수 없을 것”이라며 “왜 4대인지, 결정의 근거가 뭔지 따지는 절차적 투명성이 중요하다”고 설명했다.

그는 공진화를 강조했다. 공진화는 생물학에서 유래한 단어로 사람과 기술이 함께 진화해가는 관계를 의미한다. 사람이 AI와 함께 일하며 변화하고, AI도 사람의 반응을 학습하면서 진화해야 한다는 얘기다. 그는 “절차가 불분명하면 아무리 정확한 AI라도 산업 현장에서 쓰기 어렵다”며 “사람이 중심이 되고 AI가 그것을 보조하거나 강화하는 구조, 즉 ‘휴먼 인 더 루프(human in the loop)’ 방식이 필수적”이라고 했다.

 ◇ “기술 아닌 시스템과 프로세스의 문제”

AI를 접목한 솔루션이 성과를 내더라도 산업 현장에 도입되지 않는 경우도 많다. 강필성 산업공학과 교수는 이를 ‘책임의 문제’로 정리했다. 강 교수는 “AI가 더 나은 솔루션을 제공하더라도 만에 하나 문제가 생기면 책임을 묻기 어렵다”며 “이 같은 불확실성 때문에 적용을 꺼리는 사례가 많다”고 설명했다.

이경식 산업공학과 교수도 동의했다. 이 교수는 “인터넷이 처음 도입됐을 때도 마찬가지였다”며 “인터넷 공간에 홈페이지를 만드는 일은 쉬웠지만 실제 기업이 일하는 방식을 디지털로 바꾸는 데는 오랜 시간이 걸렸다”고 분석했다. 그는 “기술만 있다고 시스템이 자동으로 만들어지는 것이 아니다”며 “AI도 결국 기술이 아니라 시스템과 프로세스의 문제”라고 말했다. 윤 소장은 “기술 하나만으로는 사회가 바뀌지 않는다”며 “AI 역시 단지 기술로만 볼 게 아니라 사회와 인간의 상호작용을 고려한 시스템으로 접근해야 한다”고 강조했다. 기술의 완성도 자체보다 이를 어떤 방식으로 활용해 생산성을 높이고 비용을 절감하느냐에 초점을 둬야 한다는 얘기다.

 ◇ 최선의 선택 돕는 최적화 AI

AI가 빠른 속도로 발전하면서 인간의 역할이 줄어들 것이란 우려도 제기된다. 하지만 연구소의 생각은 다르다. 이들이 생각하는 AI는 인간을 대체하는 것이 아니라 인간의 결정을 보조해주는 도구다. AI가 반복적 일을 처리하고, 사람은 복잡하고 모호한 판단에 더 집중해 고민할 시간을 확보해주는 것이 핵심이다. 윤 소장은 “사람은 모든 것을 AI가 대신하길 원하지 않는다”며 “추천은 받을 수 있지만 최종 선택은 본인이 하고 싶어 한다”고 강조했다. 그는 “AI 시대에도 사람 중심의 시스템 설계는 사라지지 않을 것”이라고 단언했다.

이 교수도 “AI 시대에는 프로세스 설계가 기술 설계만큼이나 중요해진다”며 “어떻게 기술을 도입하고 사람과 상호작용하게 할 것인지, 어떤 절차와 규칙 속에서 작동하게 만들지 고민이 필요하다”고 덧붙였다.

연구기관과 기업이 기술을 바라보는 관점은 전혀 다르다. 이 교수는 “기업은 기술이 아니라 문제를 중심으로 접근한다”며 “AI든 무엇이든 간에 ‘이 문제를 어떻게 해결할 것인가’에서 출발한다”고 말했다. 이 같은 맥락에서 연구소는 AI 기술을 크게 두 가지로 구분했다. 하나는 데이터를 바탕으로 미래를 예측하는 ‘예측 AI’, 다른 하나는 여러 선택지 가운데 최선의 결정을 내리기 위한 ‘최적화 AI’다. 최적화 AI는 데이터를 분석해 미래를 예측하는 데 그치지 않고 다양한 선택지 중에서 어떤 선택이 가장 경제적이고 효율적인지 제시하는 AI다.

윤 소장은 “우리는 최적화 AI에 초점을 두고 연구한다”며 “산업 현장에서는 결국 결정을 내려야 하기 때문”이라고 설명했다.

 ◇ 회복탄력성 제공하는 AI

AI의 진정한 가치는 ‘일의 방식’을 바꾼다는 데 있다고 이들은 입을 모았다. 가령 현재 제조 현장에서 도입을 추진하기 시작한 제조 AI는 기존 제조 자동화와 다르다. 자동화는 일관된 생산이 가능하지만 예기치 못한 일로 생산이 중단됐을 때 대처하기 어렵다. 반면 제조 AI는 문제가 발생했을 때 다시 원상태로 돌아가는 ‘회복 탄력성’을 갖추는 게 핵심이다. 강 교수는 “이런 공정 회복 절차를 수행하게 하는 것이 스마트팩토리의 목표”라고 했다.

AI와 사람이 자연스럽게 연결되기 위한 ‘인터페이스’도 중요하다. 윤 소장은 “키보드와 마우스는 발명된 지 수십 년이 지났지만 여전히 가장 널리 사용되는 유용한 도구”라며 “가장 효율적인 인터페이스는 사용자가 편하게 느끼는 방식”이라고 말했다. 이 교수도 “1950년대에는 컴퓨터를 조작하기 위해 온·오프 스위치를 눌렀지만, 지금은 자연어로 대화하는 수준까지 발전했다”며 “기계와 사람의 인터페이스는 점점 더 자연스럽고 직관적으로 발전할 것”이라고 내다봤다.

이승우 기자 leeswoo@hankyung.com

Copyright © 한국경제. 무단전재 및 재배포 금지.