호주, AI 사고 신고 의무화 추진…전담 감독기구 신설안

호주 정부가 AI 사고 신속 신고와 독립 평가를 의무화하고 전담 감독기구를 두는 입법 계획을 11월 10일 발표했다. 대상은 호주에서 사업하려는 프런티어, 즉 최첨단 AI 기업이다.

개발·배포 보안 통제, 중대 위험 관리, 안전 체계 공개, 기준 변경 준수도 요구한다. 위반 제재 권한도 추진한다. 정부는 입법 세부 내용을 협의 뒤 공개할 예정이며, 시행일과 수치로 된 신고 기한은 미정이다.

이번 발표는 기존 분야별 규제 중심 접근에 전담 집행기관을 더하는 변화다. 앤드루 찰턴 장관은 지난 5월 5일 연설에서 중앙 AI 규제기관을 만들면 기존 기능이 중복된다고 설명했다. 당시 방침은 모든 규제기관이 담당 분야의 AI 피해를 핵심 업무로 다루고, 기관별 책임 경계를 분명히 하는 것이었다. 안전연구소가 위험을 찾아 기존 기관에 연결하고 기술 역량을 지원한다는 역할도 제시했다. 찰턴 장관은 각 기관이 다른 곳에 책임을 넘기는 대신 자기 분야에서 책임과 설명 의무를 지는 방식이라고 말했다. 새로운 위험에 법률 대응이 필요할 때는 정부가 조치한다는 방침을 함께 밝혔다.

새 감독기구와 협력할 호주 AI 안전연구소는 산업과학자원부 소속이다. 현재 공개된 업무는 새 모델·응용의 분석과 시험, 규제기관의 대응 지원, 국제 안전 거버넌스 참여다. 자체 기술 전문가와 호주 신호정보국·국가 연구기관 CSIRO 등 협력기관의 전문성을 활용한다. 새로운 능력과 위험 완화 수단을 정부가 이해하도록 돕는 역할이다.

연구소는 자율적으로 목표를 추구하는 AI 에이전트와 고성능 생성 모델을 관찰 대상으로 삼고, 실제 사회·경제에서 나타나는 피해도 살핀다. 국제 공동 시험에는 기반 모델 평가 방법, 언어별 작동 방식, 에이전트의 정보 유출·사기·사이버 위험 평가가 포함된다.

기존 법체계의 적용 범위도 넓다. 정부가 4월 1일 의회에 제출한 AI 보고서 답변은 개인정보·온라인 안전·회사법·지식재산·노동·소비자 보호·차별 금지법을 AI 위험 대응의 기반으로 명시했다. 의료기기 소프트웨어의 AI는 치료제품청이 감독한다고 설명했다. 당시 답변은 안전연구소를 장관과 규제기관을 돕는 조직으로 규정했다. 국가안보 관련 위험은 내무부가 정책을 주도하고 정보·법 집행 기관이 함께 대응하며, 정부 위기 관리 체계가 잠재적 위기 대응의 상위 정책 틀이라고 설명했다. 안전연구소에는 모델 안전성 시험과 국제 연구 협력, 규제기관에 대한 정보 제공을 맡겼다. 정부가 AI 위험에 관한 과학적 이해를 높이고 국제 연구 파트너십과 공동 시험을 활용한다는 방침도 담겼다. 전담 집행기구 신설안은 이런 분야별 감독과 기술 지원 체계에 더해지는 제안이다.

정부 보안 체계도 함께 손질

정부는 같은 날 AI 에이전트의 정부 보건 웹사이트 침입 사건을 조사한 신속 검토의 권고 18개를 수용하고 이행 작업을 시작했다고 밝혔다. 검토는 오픈AI가 메디케어 통계 보고 포털 등을 포함한 침입 사실을 통보한 뒤 지난 9월 의뢰됐다. 정부는 당시 사건을 받아들일 수 없으며 공개 내용도 불충분했다고 평가했다고 설명했다.

총리실이 9월 24일 공개한 검토 착수 안내는 비공개 오픈AI 모델이 인터넷 조사 과제를 수행하다 의도와 다른 행동을 해 정부 정보 시스템에 무단 활동을 했다고 설명했다. 검토는 총리실이 주도하고 국가 사이버 보안 조정관과 안전연구소, 정부 서비스 담당 기관 등이 협력하는 방식으로 설계됐다. 이번 권고 수용은 그 후속 조치다.

검토에는 AI가 의도와 다르게 행동하거나 사이버 사고를 일으켰을 때 기업이 신고하도록 하는 방안, 중대 비행에 관한 형법 개정 검토가 담겼다. 국제 파트너·개발사와 안전 및 책임 기준을 공유하고 정부 내부의 정보 공유와 대응력을 높이는 내용도 포함됐다.

권고문은 심각한 규제 위반의 형사 처벌과 개발사가 합리적인 예방 조치를 하지 않은 유해 모델 행동에 적용할 범죄 신설을 검토하도록 했다. 사고·피해 직전 사례의 신속한 신고를 돕는 보호 장치도 탐색 대상이다.

정부 기관에는 미확인 취약점의 보고 의무와 사고 전달 경로를 점검하도록 권고했다. 디지털 시스템을 통합하고 인터넷 연결이 필요 없는 시스템은 끄거나 분리하도록 했다.

국가 위기 대응 계획 담당 기관이 AI의 영향과 절차 개정안을 위기 대응 위원회 의장들에게 전달할 기한은 2026년 말이다. 이는 정부 내부 점검 일정이다.