AI 기술 자체가 아닌 대비 없이 이용만 하려는 무책임성과 탐욕 비판

(지디넷코리아=남혁우 기자)인공지능 연구로 노벨 물리학상을 받은 제프리 힌튼 교수가 AI 기업과 정부를 강하게 비판했다.

그는 AI 기업들이 수익에만 몰두해 안전성을 무시하고 있다고 지적했다. 또한 이런 행태를 제대로 규제하지 않는 정부 역시 문제라고 꼬집었다.

27일 CBS와의 인터뷰에서 그는 "AI 기술의 무분별한 발전이 인류에게 심각한 위협이 될 수 있지만 기업과 정부는 이를 외면하고 있다"며 "이를 막기 위해서는 일반 대중이 적극적으로 목소리를 내고 정부에 압박을 가해야 한다"고 강조했다.

제프리 힌튼 토론토 대학교 명예교수(이미지=노벨상)

"AI, 인류에 이익이자 위협… 균형 잡힌 대응 필요"

먼저 힌튼은 인터뷰에서 AI 기술이 의료, 교육, 에너지 등 다양한 분야에서 인류에 막대한 이익을 가져올 수 있다는 점을 인정했다.

그는 "AI는 수백만 건의 의료 데이터를 학습해 의사보다 정밀한 진단을 내릴 수 있으며, 학생 개개인에 맞춘 강력한 개인 튜터가 될 것이다"라며, "또한 새로운 소재 개발과 기후 변화 대응에도 핵심 역할을 할 것"이라고 전망했다.

하지만 곧바로 AI가 가져올 심각한 부작용에 대한 우려를 덧붙였다. 특히 나쁜 의도를 가진 사람들이 AI를 악용하는 문제와 AI 자체가 인간보다 더 높은 지능을 갖추어 통제 불가능한 존재로 변모할 가능성을 경고했다.

제프리 힌튼 교수는 "현재의 대형 언어 모델들도 이미 방대한 지식을 습득하고 있다. 향후 이들은 인간 전문가를 능가하는 수준으로 진화할 것이다"라며, "그때가 되면 우리는 더 이상 AI를 제어할 수 없을 수도 있다"고 밝혔다.

"대형 AI 기업들, 수익 위해 안전성 뒷전"

특히 제프리 힌튼 교수는 현재 AI 개발을 주도하는 대형 기업들의 행보를 강하게 비판했다.

그는 "AI 기업들은 주주 이익을 극대화하는 것을 법적 책무로 삼고 있다"며, "장기적인 기술 안전성보다는 단기적인 시장 지배와 수익 창출에 몰두하고 있다"고 지적했다.

특히 오픈AI, 메타 등 일부 기업들이 대형 모델의 '가중치(weights)'를 외부에 공개하는 움직임에 대해 강한 우려를 표했다.

힌튼 교수는 "가중치 공개는 핵무기의 핵물질을 아무 제약 없이 유통시키는 것과 같다"며 "이로 인해 소규모 테러조직이나 사이버 범죄자가 손쉽게 강력한 AI를 구축할 수 있게 될 것"이라고 경고했다.

또한 기업들이 안전성 테스트나 장기적 위험성 연구에는 충분한 자원을 투자하지 않고 있으며 심지어 정부 규제 완화위한 로비 활동에도 적극적이라고 비판했다.

"정부 자발적 규제 기대 어렵다"

더불어 힌튼 교수는 현실적으로 정부가 스스로 강력한 AI 규제에 나설 가능성은 낮다고 내다봤다.

그는 "특히 미국에서는 대형 AI 기업과 정치권 간 긴밀한 유착 관계가 형성돼 있다"며, "기업 이익을 보호하려는 정치적 압력이 강해져 정부는 규제에 소극적일 수밖에 없다"고 분석했다.

그는 "AI 기술이 국가 안보와 경제 성장의 핵심으로 여겨지는 상황에서, 규제는 오히려 기술 경쟁력을 약화시킬 수 있다는 인식이 퍼져 있다"며 "이런 분위기 속에서 정부가 자발적으로 규제에 나설 가능성은 극히 낮다"고 지적했다.

"공공 여론이 변화를 이끌어야"

이러한 비관적 전망에도 제프리 힌튼교수는 해답이 아예 없는 것은 아니라고 희망을 제시했다. 그는 "지금 상황을 바꿀 수 있는 유일한 힘은 공공 여론"이라고 강조했다.

이어 "일반 시민들이 AI 기술의 위험성과 윤리적 문제를 인식하고, 정부와 기업에 강력한 규제와 책임을 요구해야 한다"며, "대중의 압력이 커질 때만이 정부는 기업들에 맞서 안전성 확보를 위한 정책을 추진할 수 있다"고 밝혔다.

힌튼 교수는 단순한 관심을 넘어서, 구체적인 법안 통과를 요구하고, 안전성 테스트 의무화, 개발 제한 장치 마련 등 구체적이고 실질적인 규제를 촉구해야 한다고 제안했다.

"AI 규제는 선택이 아닌 생존의 문제"

힌튼 교수는 AI 기술에 대한 경계심을 단순한 '미래의 가능성'으로 치부해서는 안 된다고 강조했다.

그는 "AI는 지금 이 순간에도 빠른 속도로 발전하고 있으며, 인간보다 월등히 뛰어난 존재로 성장할 가능성은 점점 커지고 있다"고 말했다.

그는 AI 기술의 통제가 실패할 경우, 인류 전체가 통제력을 상실하는 상황에 직면할 수 있다고 경고했다.

더불어 "AI 규제는 이제 단순한 선택의 문제가 아니라, 인류 생존과 직결된 문제"라며, "우리는 이 엄중한 현실을 직시해야 한다"고 목소리를 높였다.

힌튼은 AI가 선한 방향으로 인류를 도울 수도 있지만, 지금처럼 무분별하게 경쟁하고 수익을 좇는 방식으로 발전한다면, 인류가 스스로 재앙을 초래할 것이라고 경고했다.

제프리 힌튼 교수는 "지금의 AI는 마치 귀여운 아기 호랑이와 같다"며 "어릴 때는 무해해 보이지만 시간이 지나면서 훨씬 강력한 존재로 성장해 결국 인간을 위협할 수 있다"며 기술 그 자체가 아닌 그것을 다루는 인간 사회의 무책임성과 탐욕에 대해 경고했다.

남혁우 기자(firstblood@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.