오픈AI, 아동 AI 안전 연구에 200만 달러 지원 약속

오픈AI가 어린이와 청소년의 생성형 인공지능(AI) 사용을 연구하는 국제 연구망에 200만 달러를 지원하기로 했다. 회사는 11월 12일 지원 계획을 공개했다. 앞서 파리평화포럼에서 아동을 위한 AI 안전 헌장에 서명하고 연구비를 약정했다. 지원금은 AI가 아이들의 학습과 발달에 주는 기회와 위험을 연구자들이 공통 기준으로 측정할 도구를 만드는 데 쓰일 예정이다.

연구진은 결론을 직접 정하고, 부정적이거나 결론이 나지 않은 결과도 공개하기로 했다. 보호자와 학교가 연령별로 어떤 위험과 이점이 확인됐는지 판단할 근거를 마련하는 것이 연구의 목표다. 이번 발표는 지원 약정과 연구 계획을 공개한 단계다. 챗GPT에 적용할 새 기능이나 이용 제한은 이날 발표에 담기지 않았다.

같은 기준으로 AI의 영향 측정

파리평화포럼은 11월 10일 아동 정상회의 자료에서 오픈AI·앤트로픽 등 AI 개발사와 커먼센스미디어 등 안전 관련 기관이 연구와 도구 개발에 총 800만 유로를 약정한다고 밝혔다. 이 수치는 포럼이 발표한 전체 규모다. 오픈AI가 이틀 뒤 공개한 200만 달러는 이 회사의 약정액이다. 헌장 원문 마지막 장에는 앤트로픽, 블랙 포레스트 랩스, 마이크로소프트, 오픈AI가 지지 기업으로 적혀 있다.

연구망을 추진하는 ‘AI 시대 아동의 권리와 보호를 위한 연합’은 프랑스·스페인·케냐가 7월 출범시켰고, 이후 호주가 공동 의장국에 합류했다. 9월 22일 뉴욕에서 내놓은 로드맵에는 공공·학계·민간 연구기관을 연결하고, 기업과 재단에 독립 연구 지원과 모델 평가 접근을 요청한다는 계획이 담겼다. 파리 포럼은 그 계획에 따라 자발적인 첫 약정을 발표하는 자리로 예고됐다.

포럼의 아동 AI 연구 구상은 이용자의 연령과 발달 단계에 따른 차이를 살핀다. 어린이와 청소년은 같은 도구를 쓰더라도 이해할 수 있는 설명이나 필요한 보호 조치가 다를 수 있기 때문이다. 연구 대상에는 과도한 사용이나 정서적 의존에 관한 우려와 함께 학습·창작·접근성에서 얻는 이점도 들어간다. 포럼의 기존 연구 계획에는 이런 영향을 시간에 따라 추적하는 장기 연구와 제품의 위험·이점을 함께 평가하는 작업이 포함돼 있다.

유니세프 이노첸티 연구소의 9월 보고서는 연령에 따라 달라지는 AI 사용의 한 사례를 제시했다. 아프리카 5개국의 9~17세 97명에게 의견을 들은 결과, 아이들은 숙제와 정보 검색 등에 챗봇을 이용했다. 나이가 더 많은 청소년은 더 고도화된 연구 도구를 썼다고 답했다. 이 보고서는 아이들이 사용 경험을 설명한 조사다. 새 연구망은 이런 사용이 아이들에게 어떤 영향을 주는지 살필 측정 도구를 개발할 예정이다.

지원 기업과 연구진의 권한 구분

헌장은 기업 재원을 공동 측정에 쓰고, 아동 발달 결과 연구와 평가·표준 등은 공공 또는 독립 자선 재원으로 운영하도록 했다. 서로 다른 재원을 구분해 회계 처리하도록 정했다. 기업 연구자와 기술팀은 독립 연구자들과 함께 측정 도구를 개발하는 데 참여할 수 있다. 후원 기업은 자기 시스템의 평가 방식에 문제를 제기할 수 있지만, 최종 결론이나 발표 여부를 결정할 권한은 연구진에 있다.

공개 결과물에는 연구 방법과 평가 결과도 들어간다. 같은 기준으로 이뤄진 연구의 조건과 한계를 확인할 수 있어야 어떤 서비스에서 얻은 결과를 다른 서비스나 연령대에도 적용할 수 있는지 판단할 수 있다. 연합은 모델이나 자료에 대한 평가 접근을 추진하고 있다. 헌장은 참여 조건으로 동의와 개인정보 보호를 명시하고, 지원을 이유로 아동 개인 데이터에 특별히 접근할 수 없도록 했다.

프랑스 대통령실은 포럼이 시작된 11월 10일 생성형 AI의 취약성을 다룬 별도 전문가 보고서도 공개했다. 전문가 9명이 의료·연구·기업·아동 보호 단체 관계자를 상대로 55차례 의견을 듣고 18개 권고안을 제시했다. 아동용 AI의 시장 진입 전 검증은 9월 로드맵에도 장기 목표로 담겼다. 이번 헌장은 그 판단에 쓰일 연구와 평가 방법을 마련하려는 기업의 자발적 약속이다.

아동을 직접 연구하거나 평가하는 과정에서 아이들 의견을 반영한다는 원칙도 제시됐다. 파리평화포럼과 함께 아동 AI 사업을 운영하는 에브리원.AI는 6월 15일 22개국 청소년 108명이 참여한 선언을 발표했다. 참가자들은 발달 단계에 맞는 기준, 기업의 설명 책임과 함께 정책과 제품 설계에 청소년이 참여할 기회를 요구했다.

헌장에 따르면 과학위원회 공동 의장들은 연구 결과물과 아직 근거가 부족한 영역, 바뀐 연구 우선순위를 담은 진행 보고서를 매년 공개한다. 첫 보고서의 구체적인 공개일은 헌장에 명시되지 않았다.