장동인 KAIST 김재철 AI대학원 책임교수
“인공지능(AI)의 핵심 경쟁력은 '문제해결 능력'보다 '문제정의 능력'에 있다. 많은 기업이 대규모언어모델(LLM), 검색증강생성(RAG), AI 에이전트 등 최신 기술에 집착하지만, 정작 중요한 것은 '어떤 문제를 풀 것인가'를 명확히 정의하는 것이다.”
장동인 KAIST 김재철 AI대학원 책임교수는 7월 3일 역삼포스코타워에서 열리는 'KAIST CAIO AI리더십 포럼 2025'에 앞서 가진 인터뷰에서 기업들이 돈 되는 AI를 도입하기 위한 핵심 전략으로 명확한 문제정의의 중요성을 강조했다.
장 교수는 현재 많은 기업들이 AI를 기술 위주로 도입하고 있다고 진단했다. 그는 “내 손에 망치가 있으면 모든 것이 못으로 보인다는 말처럼, 기술에 집착한 나머지 정작 중요한 문제정의를 소홀히 하는 전형적인 오류”라며 “해결해야 하는 문제가 우선이고, 기술은 나중”이라고 설명했다.
KAIST 김재철AI대학원의 최고인공지능책임자(CAIO) 과정 담당 책임교수인 장 교수는 다양한 CAIO들과 만나면서 이 주제에 대해 꾸준히 연구해왔다. KAIST AI대학원 CAIO 과정은 AI 최고위 과정으로, 인공지능 분야별 국내 최고 전문가들의 강연과 함께 CAIO들이 직접 자신의 회사에 도입할 AI를 정의하고 구현하기 위한 마스터 플랜을 세울 수 있도록 돕고 있다. 기업의 CAIO들이 현장중심의 AI 프로젝트를 리딩하는 능력을 배양할 수 있도록 교육을 진행하는 것이 특징이다.
장 교수는 KAIST CAIO 과정을 담당하면서 많은 기업들이 AI에 대한 모색기, 검토기를 지나 적극적으로 도입하고 있는 상황을 지켜봤다. 결과적으로 이제는 투자대비 효과가 나와야 할 때이기에 '돈 되는 AI 도입'이라는 주제가 중요해졌다고 설명했다. 장 교수가 제시한 돈 되는 AI 도입을 위한 3가지 핵심 전략은 다음과 같다.
첫째, 진정으로 돈이 되는 AI를 만들려면 현업 담당자들이 AI 도입에 적극적으로 참여하고 중심역할을 해야 한다는 것이다. 돈 되는 AI는 '문제해결 능력'이 아니라 '문제정의 능력'인데, 현업 전문가 즉 해당 업무 담당자가 문제를 제일 잘 정의할 수 있다는 것이 그 요지다.
현재 대부분 기업이 외부 SI업체나 AI 전문업체에게 제안요청서(RFP)를 주고 평가해서 사업자를 선정하는 방식으로 AI를 도입하고 있지만, 이런 방식으로는 직원들이 AI 기술을 배울 기회가 없어지고 사용자 요구가 제대로 반영되지 않는다는 것이 그의 진단이다.
장 교수는 “현업이 AI 도입의 전면에 나서야 한다”면서 “엑셀 VBA, 노코드, 로코드, 바이브 코딩 툴을 활용해 직접 만들어서 사용해야 한다”고 조언했다.
둘째, 전사적 차원의 AI 도입에 따른 현업-AI팀 협업 프로세스 및 핵심성과지표(KPI)를 만들어야 한다는 것이다. 장 교수는 “AI 전담팀과 현업팀 간의 협업이 대부분 회사에서 잘 안 되고 있다”며 “과거에는 그런 협업이 존재하지 않았는데 요즘 생겼고, 그에 대한 역할과 책임(R&R)도 없으며 당연히 KPI도 없기 때문”이라고 분석했다. 이는 한마디로 AI 도입을 위한 전사적인 지침이 없다는 뜻이라는 것이다.
셋째, AI 도입 이전에 평가기준을 반드시 먼저 세워야 한다는 것이다. AI 도입의 결과를 측정하지 않으면 평가할 수 없기에 평가 기준의 중요성이 점점 커지고 있는 것이다.
장 교수는 돈 되는 AI 도입을 위해서는 조직문화의 변화가 필수라고 강조했다. 그는 “조직 간 협업하고, 서로 아이디어를 내고, 토론하는 수평적인 문화가 먼저 정착돼야 한다”고 말했다.
특히 경영진의 역할이 중요하다고 지적했다. 그는 “경영진에서는 AI를 도입하는 목적이 직원 수를 대체하는 것이 아니라는 점을 명확하게 밝혀야 한다”면서 “AI 도입에 앞장선 직원들을 포상하고 인센티브를 제공하는 지원이 필요하다”고 설명했다.
또한 모든 직원이 AI를 직접 활용할 수 있도록 실질적인 교육이 필요하다고 강조했다. 단순히 LLM을 잘 쓰기 위한 프롬프트 교육뿐 아니라 비주얼 베이직, 파이썬 코딩, n8n, dify와 같은 노코드 툴을 사용하는 방법까지 포함해야 한다는 것이다.
한편 장동인 교수는 7월 3일 역삼포스코타워에서 열리는 KAIST CAIO AI리더십 포럼 2025에서 '기업의 돈 되는 AI 기술 도입방안'이라는 주제로 발표한다. 기업이 AI를 제대로 활용하는 방법 4단계를 제시하고 각 단계에 맞춰 조직, 문화, AI 활용방안에 대해 소개할 예정이다.
CAIO 중심의 실전 전략 포럼인 'KAIST CAIO AI 리더스 포럼 2025' 행사에 관한 자세한 정보는 포럼 홈페이지(https://conference.etnews.com/conf_info.html?uid=408)에서 확인할 수 있다.
유은정 기자 judy6956@etnews.com
Copyright © 전자신문. 무단전재 및 재배포 금지.
매주 일요일 밤 0시에 랭킹을 초기화합니다.