COP31서 AI 기업에 기후 답변 출처⁠·⁠전력 사용 공개 권고

브라질과 유엔, 유네스코가 공동 주도하는 기후변화 정보 신뢰성 글로벌 이니셔티브가 11월 13일 튀르키예 안탈리아 유엔기후변화협약 당사국총회(COP31)에서 AI 관련 권고안을 공개했다. 기후과학을 묻는 이용자에게 신뢰할 만한 원자료와 답변의 불확실성을 보여 주고, AI를 운영하는 기업에는 전력 사용과 환경 영향을 공개하라는 내용이다. 발표는 각국 정부와 기업, 연구자에게 제안하는 행동 지침이다.

권고의 초점은 독자가 답변을 받은 뒤 그 근거를 확인할 수 있느냐에 있다. 챗봇이 기후과학을 설명할 때 과학 기관의 자료에 바로 연결하면, 이용자는 답변 속 주장과 실제 연구가 다루는 범위를 대조할 수 있다. 지역이나 관측 기간이 다른 자료를 섞어 쓴 경우에도 출처가 있으면 차이를 짚을 수 있다. 기업이 기후 정보의 신뢰성을 서비스 출시 전과 주요 업데이트 뒤에 점검하고 결과를 공개하라는 제안도 담겼다.

유엔 독립 국제 AI 과학 패널의 예비 보고서는 문장의 유창함과 사실 정확성 사이에 간극이 생길 수 있다고 설명했다. 사용자는 확신에 찬 표현을 답변의 신뢰도를 가늠하는 단서로 받아들이기 쉽다. 질문에 동의하는 말투와 실제로 확인된 근거를 분리해 보려면, 어떤 자료를 참조했는지에 더해 자료가 답할 수 있는 범위도 드러나야 한다. 이니셔티브는 여러 언어에서 답변의 신뢰성이 어떻게 달라지는지도 기업이 공개하자고 제안했다.

재난 때는 기상기관의 경보를 앞에

재난 상황에 관한 권고는 일반적인 기후과학 질문보다 긴급한 경우를 다룬다. 이니셔티브는 AI 서비스가 기상기관과 재난 대응 기관의 신뢰할 만한 경보를 우선 제시하고, 합성 이미지와 음성에는 생성 사실을 표시하라고 했다. 합성 여부를 알리는 표시는 콘텐츠가 만들어진 경위를 알려 준다. 세계기상기구(WMO)가 설명하는 공통 경보 형식에는 위험이 예상되는 지역과 시간, 권장 행동을 담을 수 있다. 원래 경보에 연결하면 이용자가 이런 세부 조건을 직접 확인할 수 있다.

권고안은 공공기관이 기후 서비스나 조기 경보, 대국민 안내에 AI를 썼다면 그 사실을 밝히고 사람이 감독하도록 제안한다. 연구자와 시민사회에는 여러 언어의 기후 질문으로 답변을 평가할 공개 시험 기준을 만들라고 했다. 같은 주제를 여러 언어로 시험하면 한 언어에서 확인한 품질을 다른 언어에도 그대로 적용해도 되는지 살필 수 있다.

데이터센터 전력과 물도 공개 대상으로

기업이 자체 AI 시스템의 환경 영향을 설명할 때는 운영에 들어가는 에너지와 탄소·물·토지 발자국을 공개하라는 것이 두 번째 축이다. 공통 기준으로 측정하고 외부에서 수치를 검증할 수 있도록 하자는 제안이다. 지역 주민이나 기자가 새 시설의 영향을 확인하려면 효율이 좋아졌다는 설명만으로는 비교 기준을 알기 어렵다. 유네스코의 기존 환경 안내서는 모델 학습과 서비스 이용 과정에서 각각 자원을 쓴다고 설명한다. 같은 기준으로 집계하면 공개 수치에 두 과정이 모두 들어갔는지부터 비교할 수 있다.

이니셔티브는 AI가 기후에 이롭다는 주장에도 근거를 요구했다. 실제 배치된 시스템에서 무엇이 달라졌는지 독립적으로 확인할 수 있어야 하며, 기대하는 효과를 이미 보고한 배출량에서 상쇄해 빼는 방식을 피하라고 했다. 예컨대 AI가 건물 운영을 개선해 줄일 수 있다고 추정한 배출량과, 그 AI를 운영하는 데 실제로 든 배출량은 서로 다른 자료다. 두 수치를 함께 제시하더라도 각 값의 측정 범위가 드러나야 한다는 취지다.

이번 권고안은 지난해 브라질 벨렝에서 나온 기후 정보 신뢰성 선언을 잇는다. 당시 선언은 정부에 공공 기후 데이터 접근을 넓히고, 기술 기업에 서비스 설계가 정보 환경에 미치는 영향을 평가하도록 요구할 것을 촉구했다. 국가 AI 전략과 기후 계획에 기후 정보 신뢰성을 함께 반영하라는 제안도 있다.

유엔은 독일이 유네스코가 관리하는 기후 정보 신뢰성 글로벌 기금에 200만 유로를 지원하기로 했다고 발표했다. 기금은 연구와 소통 전략, 대중 인식 개선 활동을 지원한다. 개별 서비스에서 권고를 적용할 일정은 공개되지 않았다.

유네스코는 별도로 AI 챗봇의 기후 지식 답변을 다룬 보고서를 11월 16일 안탈리아에서 공개할 예정이다. 공식 일정에는 안탈리아 현지 시각 오후 4시 언론 브리핑과 오후 7시 독일관 공개 행사가 올라 있다.