AI 안전성 우려하며 주요 기업 연쇄 퇴사
스스로 진화하는 AI의 인류 위협 가능성 경고
개별 기업 한계 지적 및 정부 규제 체계 촉구
■ "내년 말 통제 불능 가능성"… 연구원의 전격 사직
미국 인공지능(AI) 기업 앤트로픽에서 대규모 데이터 사전 학습(Pre-training) 연구를 담당해온 27세 연구원 제이컵 콕슨(Jacob Coxon)이 회사에 사표를 제출했다. 올해 초 오픈AI를 떠나 AI 안전성을 중시하는 앤트로픽에 합류했던 콕슨은 주요 AI 기업들이 인간의 개입 없이 스스로 성능을 개선하는 자율 진화 시스템 구축 경쟁에 몰두하고 있다고 지적했다. 그는 현 개발 속도가 유지될 경우 이르면 2027년 말이나 10년 내에 AI가 인간의 통제를 벗어나 명령을 거부하고 인류 전체를 위협하는 수준에 이를 수 있다고 강하게 경고했다.
■ 개별 기업 자율 통제 한계… "소수 엔지니어 판단에 의존은 위험"
콕슨 연구원은 AI 분야에서 가장 유능한 테크 기업들조차 가속화하는 개발 위험을 자체적으로 통제하기는 불가능한 구조라고 지적했다. 인류의 미래와 생존에 직결된 범용인공지능(AGI) 및 초지능 개발에 대한 중대한 결정이 소수 기업의 엔지니어와 경영진 손에 달려 있는 현 상황을 비판하며, 이는 매우 무책임한 시도라고 평가했다. 그는 업계 내부적으로는 AI의 위험성을 깊이 인지하면서도 기술 주도권 경쟁 때문에 개발을 멈추지 못하고 있다고 덧붙였다.
■ 국제사회 규제 논의 및 AI 관리·통제 체계 구축 시급
이번 사태로 인해 기술 개발 속도에 비례하는 구체적인 AI 안전 기준과 국제적 규제 틀 마련의 필요성이 다시금 도출되고 있다. 앤트로픽 내부의 정렬(Alignment, AI가 인간의 의도에 맞게 동작하도록 만드는 기술) 연구 책임자 등 일부 관계자들도 AI 위험성에 대한 연구진의 우려에 공감하며 초지능 통제 방안의 미비함을 인정한 바 있다. 글로벌 AI 시장의 가파른 경쟁 속에서 기술의 남용과 통제 불능 사태를 방지하기 위한 정부 차원의 제도적 개입과 국가적·국제적 관리·통제 체계(거버넌스) 수립이 시급한 과제로 떠올랐다.
[AI경기방송/이석진]
한국어
English
日本語
中文
