뉴욕시의회 첫 AI 감독 청문회

인공지능이 스스로 더 강력한 AI를 개발하는 단계로 진입하면서 결국 인간의 통제를 벗어날 수 있다는 우려가 뉴욕시의회 청문회에서 제기됐습니다. 구글 딥마인드와 오픈AI, 앤트로픽 출신 연구원들은 이를 단순한 공상과학적 우려가 아닌 ‘주류 과학계의 관심사’라고 주장하며 강력한 외부 규제를 촉구했습니다. 이 소식 손윤정 기자가 보도합니다.

뉴욕시의회가 5일, 지자체 차원에서는 처음으로 주요 AI 기업들에 대한 규제 및 감독을 주제로 한 청문회를 개최했습니다. 이번 청문회에는 오픈AI, 구글, 메타, 앤트로픽 등 글로벌 빅테크 기업의 고위 관계자들과 함께 전직 AI 연구원들이 증인으로 참석해 대립각을 세웠습니다.

청문회 초반 증언에 나선 전직 내부 고발자들은 현재 인공지능 개발 속도가 인간의 통제 수준을 이미 넘어서고 있다며 강력한 경고를 던졌습니다.

구글 딥마인드 출신의 알렉스 터너 연구원은 "AI가 인간의 통제권을 탈취할 확률을 개인적으로 3분의 1 정도로 본다"며 "이는 단순한 영화 속 이야기가 아니라 과학계에서 수년간 심각하게 논의되어 온 현실적인 우려"라고 증언했습니다.

전직 오픈AI 연구원 대니얼 코코타일로와 앤트로픽 출신의 제이콥 콕스턴 역시 핵심 위협 요인으로 '재귀적 자기 개선(Recursive Self-improvement)'을 꼽았습니다. 이는 AI가 스스로 코딩을 수정하고 성능을 개선하며 새로운 AI 시스템을 학습시키는 과정으로, 현재 대다수 AI 기업들이 이 기술을 완성하기 위해 치열한 경쟁을 벌이고 있습니다.

코코타일로는 "지능과 상황 인지 능력을 갖춘 AI가 스스로를 개발하게 되면, 실제 연구와 기획, 디자인 등 모든 실무는 AI가 전담하고 인간은 기업의 '이사회'처럼 단순 감독 역할에 그치게 될 것"이라고 경고했습니다. 이들은 규제당국의 즉각적인 개발 일시 정지 조치나 강력한 3자 검증 기관의 감독이 필요하다고 입을 모았습니다.

반면 청문회에 출석한 빅테크 기업 대표들은 안전을 최우선으로 고려하고 있다고 해명했으나, 시의원들의 구체적인 질의에는 명확한 답변을 내놓지 못했습니다.

특히 청문회 직전 샘 올트먼 오픈AI CEO가 언론 인터뷰에서 "AI 발전을 위해서는 일부 부작용을 감수해야 한다"는 취지의 발언을 한 데 이어, 청문회에 참석한 오픈AI 측 관계자가 AI의 재앙적 위험 수준에 대해 "잘 모른다"고 답해 시의원들의 강한 질타를 받았습니다.

줄리 메닌 뉴욕시의원은 "위험성에 대한 확답을 피하는 기업들의 태도는 매우 경솔하다"고 지적하며, 시민 안전을 지키기 위한 지자체 및 정부 차원의 엄격한 감독 가이드라인 마련을 촉구했습니다.

라디오코리아 뉴욕 손윤정입니다. (fm877.nyradio@gmail.com)