노션, 유출 우려 AI 채팅에서 찾은 API 키 폐기

노션이 외부 AI 공급사 파이어웍스 AI의 보안 사고를 조사하던 중 영향을 받은 이용자 메시지에서 발견한 노션 API 키를 11월 11일 폐기했다. 같은 날 일본 정보보안 업체 LRM은 자사 노션 AI 대화 기록 가운데 노출 가능성이 있는 자료를 확인한 결과, 직원이 입력한 거래처 담당자의 이름이 들어 있었다고 밝혔다. LRM은 제3자가 그 기록을 실제로 가져갔는지와 그 범위는 조사 중이라고 설명했다.

노션이 밝힌 영향 범위는 전체 워크스페이스(작업 공간)의 1% 미만이다. 노션은 확인된 고객에게 통지했으며, 통지받은 작업 공간에서는 소유자가 영향받은 구성원을 확인하고 각 구성원에게 자기 기록을 열어 볼 링크를 전달할 수 있다고 안내했다. 회사는 조사에서 다른 작업 공간을 추가로 확인하면 해당 고객에게도 직접 연락할 예정이다.

AI 이용 통계에 쓰인 대화가 대상

노션은 11월 2일 파이어웍스에서 처음 통지를 받고 합성 시험 자료를 확인했다. 3일에는 두 회사 시스템의 연결을 끊고 파이어웍스에 있던 노션 자료를 삭제했다. 파이어웍스가 6일 고객 자료에 접근이 있었을 가능성을 다시 알렸고, 8일 영향 범위를 파악할 데이터 묶음을 확정했다. 노션은 거기에서 실제 고객의 AI 대화 기록을 확인한 뒤 9일부터 대상 고객에게 알렸다고 밝혔다.

이 기록은 팀이 AI를 어떻게 이용하는지 집계하는 ‘인사이트’에 쓰였다. 노션 도움말에 따르면 인사이트는 작업 공간에서 어떤 용도로 AI를 이용하는지와 대화 수를 관리자에게 보여 주는 화면이다. 노션은 질문에 답을 생성하는 과정과 별도로, 저장한 질문과 답변을 분류해 이런 통계를 만드는 작업을 파이어웍스에 맡겼다. 조사에 들어간 뒤 인사이트를 중단했다. 현재 설정 안내에도 이 화면에서 용도와 대화 수를 볼 수 없다고 표시한다.

두 회사 문서는 답변을 만드는 데 쓰는 데이터와 별도로 보관하는 데이터의 정책을 구분한다. 파이어웍스는 기본 정책에서 일반 실시간 요청의 입력과 출력을 처리하는 동안만 메모리에 둔다고 설명한다. 다만 요청을 모아 한꺼번에 처리하는 기능이나 모델을 학습시키는 작업 등에는 자료를 저장할 수 있다고 명시한다. 노션은 인사이트 같은 기능에 필요한 대화 기록을 자체 보관해 왔으며, 파이어웍스와는 자사가 이용하는 서비스에서 데이터를 남기지 않기로 계약했다고 밝혔다. 노션은 이번 조사에서 실제로 파이어웍스 쪽에 자료가 남았다는 점을 확인했다.

이름표가 없어도 본문에 이름이 있었다

LRM은 11월 10일 노션의 연락을 받았다. 자사에서 확인한 범위는 10월 5일부터 24일까지 만든 기록 중 인사이트 처리에 쓰인 일부다. LRM이 받아 본 기록에는 직원이 업무 중 입력한 문장과 노션 AI의 응답이 있었고, 거래처 담당자의 이름도 들어 있었다. 회사는 확인한 기록에 시스템 비밀번호 같은 인증 정보는 없었다고 밝혔다.

노션에 따르면 영향받은 작업 공간 대다수의 대화에는 작성자나 작업 공간을 식별할 별도 표지가 붙어 있지 않았고, AI가 호출한 도구의 결과도 들어 있지 않았다. LRM이 확인한 이름은 직원이 채팅에 입력한 문장에 들어 있었다. 회의 녹음이나 자동 회의록의 경우 노션은 AI 채팅에 입력한 부분이 영향을 받을 수 있다고 설명했다. 예를 들어 팀원이 회의 요약을 채팅창에 옮겨 질문했다면, 그때 복사한 요약문이 대화 기록에 남을 수 있다.

소유자와 구성원에게 보이는 자료

노션은 통지 대상 작업 공간에 데스크톱 웹으로 여는 ‘보안 사고 검토’ 화면을 마련했다. 소유자는 영향받은 구성원 목록을 내려받을 수 있고, 링크를 받은 구성원은 자기 자료를 CSV 파일로 확인할 수 있다. 작업 공간 전체의 영향받은 본문을 소유자가 내려받으려면 해당 공간의 도메인이 인증돼 있어야 한다. 노션은 맥락을 덧붙인 파일의 경우 조사 과정에서 추가한 정보와 사고 범위의 실제 텍스트가 함께 표시된다고 설명했다.

API 키는 연결된 앱이나 자동화가 노션 API에 접근할 때 자격을 증명하는 데 쓰인다. 키가 폐기되면 그 키를 계속 보내는 연동은 인증할 수 없다. 노션이 이번에 폐기했다고 밝힌 것은 조사 과정에서 찾은 노션 키다. 영향을 받은 대화에 다른 서비스의 비밀번호나 인증 정보를 입력한 경우에는 해당 고객이 그 정보를 교체하도록 안내했다. 노션은 이 조치로 폐기한 키의 수를 공지에 적지 않았다.

파이어웍스는 10월 사고와 관련된 인증 정보를 교체했고, 영향받은 고객에게 조사 결과를 알리고 있다고 밝혔다. LRM은 자사 기록의 항목과 건수를 계속 확인하고, 자료에 정보가 들어 있던 거래처에 회사 도메인에서 개별 이메일을 보낼 계획이다. 확인되는 내용은 자사 공지에 추가하겠다고 밝혔다.