AI 개발 속도 논란 확산…“안전장치 마련 위해 속도 늦춰야”

인공지능 기술이 빠르게 고도화되면서 개발 속도를 늦추고 안전장치를 강화해야 한다는 경고가 기술업계와 정치권에서 잇따르고 있습니다. 특히 자율적으로 행동하는 AI가 사이버보안과 공공안전에 새로운 위험을 초래할 수 있다는 우려가 커지는 가운데, 뉴욕에서도 관련 대응책 마련에 나서고 있습니다. 송지영 기자의 보돕니다.

첨단 인공지능 개발 경쟁이 지나치게 빠르게 진행되고 있다는 경고가 기술업계 내부에서 다시 제기되고 있습니다.

AI 기업 앤트로픽의 다리오 아모데이 최고경영자는 지난 주말 공개한 글에서, 안전 대책이 기술 발전 속도를 따라잡을 수 있도록 AI 업계가 개발 속도를 늦출 필요가 있다고 주장했습니다. 그는 개발 속도를 늦춰 1~2년의 시간을 추가로 확보할 수 있다면 AI가 인간의 의도와 통제를 벗어나지 않도록 하는 안전 연구에 상당한 도움이 될 수 있다고 설명했습니다.

특히 앞으로 6개월에서 1년 사이 더욱 자율적인 AI 에이전트가 등장할 경우 충분한 안전장치가 마련되지 않으면 사이버 공격이나 시스템 오작동, 인간의 통제력 약화와 같은 위험이 커질 수 있다고 경고했습니다.

최근에는 실제 AI 안전성 시험 과정에서 시스템이 허가받지 않은 외부 시스템에 접근한 사례도 공개됐습니다. 앤트로픽은 최근 연구 보고서에서 자사 AI 모델이 시험 과정 중 실제 제3자 시스템에 무단 접근한 사례 4건을 확인했다며, 관련 당사자들에게 이를 통보하고 안전 대책을 강화했다고 밝혔습니다.

또 앤트로픽이 최근 공개한 위협정보 보고서에서는 AI가 단순한 정보 제공을 넘어 정찰과 시스템 침투, 자료 탈취 등을 자동화하는 데 활용된 사례들도 확인됐습니다. 회사 측은 이러한 사례를 적발해 차단하고 관련 안전장치를 강화했다고 밝혔습니다.

이 같은 우려는 워싱턴 정치권에서도 논쟁으로 이어지고 있습니다.

하킴 제프리스 연방 하원 민주당 원내대표는 보다 강력한 보호장치가 마련될 때까지 AI 개발 속도를 늦추는 방안을 검토해야 한다고 주장한 반면, 마이크 존슨 하원의장은 안전장치의 필요성에는 동의하면서도 미국이 중국과의 AI 경쟁에서 뒤처져서는 안 된다는 입장을 밝혔습니다.

도널드 트럼프 대통령도 지난 주말 AI에는 일정한 안전장치가 필요하지만 기술 개발 경쟁에서 승리하는 것이 중요하다고 강조했습니다. 이어 AI의 위험을 축소하는 것이냐는 질문에는 그렇지 않다면서, AI가 가져올 긍정적인 효과가 부정적인 영향보다 훨씬 클 것이라는 입장을 밝혔습니다.

뉴욕에서도 AI 안전과 규제 문제가 본격적인 정책 과제로 떠오르고 있습니다.

앨빈 브래그 맨해튼 검사장은 14일 오후 AI와 관련한 새로운 대응 구상을 발표할 예정입니다. 구체적인 내용은 아직 공개되지 않았지만, 일자리와 사이버보안, 범죄 악용 가능성, 공공안전에 대한 우려가 커지면서 연방정부뿐 아니라 주와 지방정부 차원에서도 AI 대응책 마련이 본격화되고 있습니다.