마이크로소프트, 학교 AI 사용 새 안전기준 도입…학생·교사 데이터 학습에 사용 금지

마이크로소프트가 학교에서 사용하는 인공지능 서비스와 관련해 학생과 교직원의 개인정보 보호를 강화하는 새로운 안전·개인정보 기준을 오는 11월부터 시행합니다. 학생과 교사의 데이터를 AI 학습이나 광고 목적으로 사용할 수 없도록 하고, 학부모에게 학교 내 AI 활용 방식과 수집 데이터에 대한 정보를 보다 명확하게 제공하도록 하는 것이 핵심입니다. 자세한 내용 손윤정 기자가 보도합니다.

마이크로소프트가 미국교사연맹 산하 뉴욕시 교사노조인 유나이티드 페더레이션 오브 티처스와의 합의를 통해 새로운 ‘AI 안전 및 개인정보 보호 기준’을 마련했습니다.

새 기준은 오는 11월 1일부터 시행되며, 학교에서 AI를 어떻게 사용할 수 있는지에 대한 구체적인 준수 지침을 담고 있습니다.

이에 따라 학생과 교직원의 데이터는 AI 모델 학습에 사용할 수 없으며, 판매하거나 광고업체가 활용하는 것도 금지됩니다. 마이크로소프트는 이를 통해 학교가 데이터의 사용과 보관, 삭제 방식에 대해 보다 실질적인 통제권을 갖도록 하겠다고 밝혔습니다.

학부모와 보호자에게 제공되는 정보도 확대됩니다. 학교에서 AI가 어떤 방식으로 사용되는지, 어떤 안전장치가 적용되는지, 어떤 데이터가 수집되는지 등을 보다 명확하게 알 수 있도록 한다는 방침입니다.

새 기준에는 추적과 프로파일링, 생체정보 활용, 메모리 기능, 고위험 기능 등에 대한 제한도 포함됐습니다. 또한 중요한 판단 과정에서 이른바 ‘AI 동반자’ 기능을 사용하는 것을 금지하고, 서비스 제공업체가 필요한 인증을 유지하도록 요구합니다.

보안사고가 발생했을 경우에는 72시간 안에 보고하고 문제를 시정해야 하며, 데이터 암호화와 사고 대응 계획도 의무화됩니다.

이와 함께 AI 제품이 어떻게 작동하는지 가족들이 쉽게 이해할 수 있도록 평이한 언어로 설명해야 하고, 고객이 새로운 기능이나 데이터 사용 방식을 직접 통제할 수 있도록 하는 조항도 포함됐습니다.

미국교사연맹 랜디 와인가튼 회장은 이번 합의가 아동의 개인정보와 데이터를 보호하고, 학교가 교실 내 AI 도구를 실질적으로 통제하며, 학부모에게 투명한 정보를 제공하는 데 초점을 맞추고 있다고 밝혔습니다.

이번 보호 기준은 오는 11월부터 미국 전역의 학교를 대상으로 제공될 예정입니다.