MS, 미국 학교 AI 보호조항 신청 개시…학생 데이터 이용 제한

마이크로소프트(MS)가 11월 1일부터 미국 모든 교육구에 학교용 AI 안전·개인정보 보호조항을 계약에 추가해 달라고 요청할 수 있도록 했다. 새 계약과 기존 계약 모두 대상이며, 계약 갱신이나 재협상 시점까지 기다릴 필요가 없다는 설명이다. 학생·교사 데이터의 이용 제한을 학교가 계약으로 요구할 수 있는 절차가 열린 것이다.

미국교사연맹(AFT)·뉴욕 교사노조(UFT)와 MS가 이 기준을 발표한 날짜는 9월 9일이다. MS는 10월 22일 공식 글에서도 11월 1일 신청 개시를 재확인했다. 각 교육구는 보호조항을 자기 계약에 반영하는 과정을 거친다. 일괄적으로 모든 교실의 계약이 바뀌는 방식은 아니다.

기준에는 학생·교사 데이터의 AI 학습 이용 제한, 데이터 판매·광고 이용 금지, 학교의 보관·삭제 통제, 사람의 감독과 가족을 위한 설명 의무가 담겼다. AFT는 학교가 보호조항을 계약에 넣으면 MS에 그 이행을 요구할 수 있다고 설명했다. 중대한 위반이 해소되지 않을 때 계약을 끝내거나 손해배상을 청구하는 등 계약상 구제수단도 포함한다.

협약의 대상은 주로 교육용으로 설계·판매되고 교육기관과 계약해 인증을 거쳐 사용하는 생성형 AI 제품이다. 학교가 구매한 범용 생산성·검색·클라우드 제품은 이 정의에서 제외된다. 교육구 계약에 반영하는 제품과 용도가 적용 범위를 정한다.

학습 제한에는 안전·보안을 위한 좁은 예외가 있다. 협약은 위해나 보안 위협을 처리하는 데 필요한 최소한의 데이터만 해당 목적으로 쓰도록 하고, 일반적인 생성형 AI 모델 개선에 활용하는 것을 금지한다.

MS의 현재 교육용 AI 설명서에는 고객 콘텐츠·입력·대화를 기초 AI 모델 학습에 쓰지 않는다는 기존 보호 방침도 적혀 있다. 이번 계약 기준은 이런 데이터 보호에 학교의 계약상 권리와 통제 조건을 더하는 구조다. 같은 설명서는 성적·징계·배치·입학 등 중대한 결정을 AI가 자율적으로 내리는 용도로 이 기능들을 설계하지 않았다고 안내한다.

협약에는 발표 연습 도구인 Speaker Coach와 Speaker Progress의 예외도 명시됐다. 사용자가 시작한 말하기·발표 활동 동안 코칭과 피드백에 필요한 데이터를 처리하는 경우에는 데이터 최소화 원칙의 금지 관행에 관한 예외가 적용된다.

이 도구들의 기존 수업 흐름은 구체적이다. MS의 Learning Accelerators 안내에 따르면 교사는 Teams에서 발표 과제를 만들고 연습 시간·시도 횟수·피드백 항목을 정할 수 있다. 교사는 시간에 따른 학생의 발표 능력 변화와 보완할 부분을 기록으로 확인한다. Speaker Progress의 생성형 피드백은 말소리를 글로 전사한 뒤 그 내용에서 초안을 만들며, 교사가 확인·수정해 학생에게 돌려준다. MS는 전사 품질과 발화량, 방언이나 장애에 따라 피드백이 잘못될 수 있다고 설명한다.

PowerPoint 웹용 Speaker Coach는 발표 속도·말버릇 등에 관한 피드백과 선택형 몸짓 분석을 제공한다. MS 지원 문서는 몸짓 분석이 기본으로 꺼져 있고 사용자가 선택해 켜는 기능이며, 연습 영상을 저장하지 않는다고 안내한다. 발표 연습을 위해 어떤 입력을 처리하는지와 그 결과를 누가 검토하는지는 도구별 설명에 제시돼 있다.

사람의 검토 방식은 학습 활동마다 다르다. MS 설명서는 Reading Coach의 생성형 이야기는 일상적인 사전 검토 없이 학생에게 표시된다고 밝힌다. 모든 출력에 전문가의 사전 승인이 필요한 환경에는 이 경험이 적합하지 않다는 설명도 덧붙였다.

보호 기준은 데이터 암호화·접근 통제와 독립 점검, 침해 인지 후 72시간 이내 통지 의무도 담고 있다. MS 요약문은 학습·판매 금지가 영구적으로 유지되고, 계약 종료 뒤에도 삭제와 침해 관련 의무가 이어진다고 설명한다. 가족에게 AI 사용 방식과 수집 데이터·보호장치를 알리고, 학교가 중요한 새 기능과 데이터 이용을 통제하도록 하는 내용도 포함됐다. 학교가 데이터를 내보내 다른 제공업체로 옮길 수 있도록 하는 조건도 담겼다.