윤리·리스크 관리 중시하는 '이타주의' vs 기술 진보 앞세운 '가속주의'…기업들 선택 기로

(지디넷코리아=조이환 기자)인공지능(AI) 개발 기조를 둘러싸고 '안전성에 방점을 둔 접근'과 '속도에 방점을 둔 기조' 간 방향 차이가 뚜렷해지고 있다. 글로벌 주요 기업들은 안전성을 중시하는 접근을 기본 방향으로 채택하는 분위기다.

22일 소프트웨어 컨설팅 회사 세로켈에 따르면 오픈AI, 앤트로픽, 딥마인드 등 글로벌 선도 AI 기업들은 최근 AI 윤리 및 안정성 확보를 핵심 과제로 삼고 있다. 이는 기술에 의한 '초월'처럼 통제 불가능한 비전보다는 인류가 장기적으로 안전하게 기술과 공존할 수 있는 방향을 우선시하는 기조와 맞닿아 있다.

이러한 사조의 배경에는 실리콘밸리 내부의 철학적 갈등이 있다. '효과적 이타주의(Effective Altruism, EA)'와 '효과적 가속주의(Effective Accelerationism, e/acc)'가 대표적인 두 갈래다. EA는 AI를 인간의 가치에 맞게 정렬하고 장기적으로 안전하게 관리해야 한다는 관점이다. 반대로 e/acc는 가능한 빠르게 기술을 진화시켜야 한다는 입장을 취한다.

인공지능(AI) 개발 기조를 둘러싸고 '안전성에 방점을 둔 접근'과 '속도에 방점을 둔 기조' 간 방향 차이가 뚜렷해지고 있다. (사진=챗GPT 활용)

EA는 지난 2000년대 후반 등장한 이래 주류화됐다. 피터 싱어, 토비 오드, 윌리엄 맥어스킬 등의 도덕 철학자들이 이론적 기초를 제공했으며 기부 추천 플랫폼 '기브웰'과 자선 단체 '오픈 필랜스로피' 등이 실천 기반을 제공해 왔다. 현재는 범용 인공지능(AGI)이 인류 문명에 미칠 잠재적 위협을 제어하는 데 초점을 맞춘다.

이들은 기술 개발 속도를 늦추더라도 안전성과 윤리를 우선해야 한다고 본다. AI 정렬 연구와 같은 장기적인 문제 해결에 자원을 배분하고 기후 변화, 감염병, 빈곤 해결 등에 기술을 사용할 것을 강조한다. 앤트로픽, 오픈AI, 딥마인드를 위시한 대부분의 실리콘밸리 기업과 비영리단체는 이 노선을 지지하는 대표적인 사례다.

반대로 e/acc는 AI가 새로운 형태의 의식과 생명체를 낳을 것이라 믿으며 기술 발전을 극대화해야 한다는 태도를 견지한다. 이론적 뿌리는 영국 철학자 닉 랜드에게 있고 현재는 전 구글 엔지니어 기욤 베르동이 사실상 대표자로 꼽힌다. 마크 안드레센, 피터 틸 등 실리콘밸리의 일부 인사들이 이를 지지하고 있다.

이들은 경쟁, 성장, 생산성 향상에 기술을 집중 투입해야 한다고 본다. 정책이나 윤리보다는 경제적 효율성과 기술 혁신이 우선이며 AGI에 의한 인간 대체 가능성도 감수할 수 있다는 인식을 보인다. 다만 이 노선은 대부분의 기업이나 단체로부터 외면받고 있으며 상업적 주류에는 속하지 않는다.

기업 입장에선 이 두 이념 사이에서 실용적 균형을 찾으려는 움직임이 많다. 가속주의적 개발 전략을 취하면서도 EA의 안정성과 윤리 기준을 병행하는 방식이다. 다만 글로벌 규제 논의와 시장 수용성 측면에서 EA가 주도권을 쥐고 있는 만큼 공개적으로 초월 서사를 강조하는 것은 리스크가 될 수 있다는 분석도 나온다.

한 AI 분야 관계자는 "기술 발전 속도가 빨라지는 만큼 그만큼의 책임감도 요구된다"며 "기업 입장에선 경쟁력을 유지하면서도 사회적 신뢰를 얻기 위한 균형 전략이 필요하다"고 말했다.

조이환 기자(ianyhcho@zdnet.co.kr)

Copyright © 지디넷코리아. 무단전재 및 재배포 금지.