뉴욕주, 대형 AI 개발사 등록 개시…2027년 1월 1일까지

미국 뉴욕주가 11월 10일 대형 프런티어 인공지능(AI) 개발사 등록을 받는 온라인 창구를 열었다. 캐시 호컬 주지사실에 따르면 뉴욕주에서 적용 대상 모델을 개발·배포·운영하는 대형 개발사는 주의 책임 있는 AI 안전 및 교육법(RAISE법)이 시행되는 2027년 1월 1일까지 등록해야 한다. 주 금융서비스국의 디지털 감독 부서(DIGIT)가 등록을 맡는다. 주정부는 9월에 11월 등록 개시를 예고했고, 이번에 온라인 창구와 제출 절차를 공개했다.

등록 대상은 모델 학습 연산량과 기업 매출을 함께 따져 정한다. 법은 10의 26제곱 회를 넘는 정수 또는 부동소수점 연산을 써서 학습한 기반 모델을 프런티어 모델로 본다. 최초 학습에 쓴 연산과 개발사가 이후 미세조정·강화학습 등 중대한 변경에 쓴 연산도 합산한다. 이 규모의 연산을 썼거나 쓸 계획으로 모델 학습을 시작한 개발사 중 직전 달력연도에 계열사와 합산한 총매출이 5억 달러를 초과하면 대형 개발사에 해당한다. 모델의 개발·배포·운영이 전부 또는 일부 뉴욕주에서 이뤄지는 경우에 적용된다.

등록 때 내는 서류와 웹에 공개할 문서

등록에는 뉴욕주 온라인 서비스 계정인 NY.gov ID가 필요하다. 주 금융서비스국 안내에 따르면 제출자가 회사를 대표할 권한이 있는지 확인하는 단계가 먼저다. DIGIT의 계정 승인을 받으면 주된 사업장과 뉴욕주 내 사무실 주소, 해당하는 실소유자 정보, 연락 담당자 세 명을 담은 신고서를 낸다. 등록이 승인되면 같은 계정으로 사고 신고와 분기별 위험평가 요약 제출, 감독 비용 분담금 납부도 처리한다.

등록 신고서는 2년마다 갱신한다. 모델의 소유권이 넘어가거나 기존 신고 정보에 중대한 변경이 생기면 2년이 지나기 전에 갱신해야 한다. 법은 DIGIT가 신고서를 낸 대형 개발사 목록을 공개하도록 한다. 제출된 연락 담당자의 연락처는 그 목록에서 빠진다.

개발사 웹사이트에 올라갈 문서도 있다. 대형 개발사는 위험을 어떻게 확인하고 줄이는지, 사고가 나면 어떻게 대응하는지를 담은 안전 체계를 공개하고 적어도 1년에 한 번 검토한다. 중대한 내용을 바꾸면 변경한 체계와 이유를 30일 안에 공개해야 한다.

새 프런티어 모델이나 크게 수정한 모델을 배포할 때는 개발사 규모와 관계없이 배포 전이나 배포와 동시에 투명성 보고서를 올린다. 출시일, 지원 언어와 출력 형식, 용도와 제한 등을 담는다. 대형 개발사는 여기에 대규모 피해를 낳을 위험을 평가한 내용과 결과, 외부 평가자의 참여 범위 등을 덧붙인다. 필요한 정보를 모두 담으면 기존 모델 카드에 함께 실을 수 있다.

중대한 사고는 72시간 안에 보고

법이 시행되면 프런티어 개발사는 중대한 안전사고가 났다고 판단하거나 그렇게 볼 합리적인 근거를 알게 된 뒤 72시간 안에 DIGIT에 보고해야 한다. 사망이나 중대한 신체 부상 위험이 임박했다는 사실을 발견하면 사고를 관할하는 기관에도 24시간 안에 알려야 한다. 주정부는 일반인도 1월 1일부터 중대한 사고로 의심되는 일을 신고할 수 있다고 안내했다.

대형 개발사가 모델을 내부에서 쓰며 평가한 대규모 피해 위험은 별도로 보고한다. 법은 평가 요약을 원칙적으로 3개월마다 비공개로 제출하도록 하고, DIGIT와 서면으로 다른 일정을 합의할 수 있게 했다. 금융서비스국의 포털 안내가 제시한 기본 제출 기한은 달력상 분기가 끝난 뒤 30일 이내다.

빙엄턴에 독립 평가 연구진 모은다

호컬 주지사는 이날 뉴욕주립대 빙엄턴에 기반을 둔 AI 책임·연구센터를 통해 주 전역의 안전 연구를 추진한다고 발표했다. 지난 1월 발표한 센터를 중심으로 대학과 연구기관의 과학자 80명 이상을 모아 첨단 AI 시스템을 독립적으로 시험한다는 계획이다. 코넬 테크의 그레그 모리셋과 컬럼비아대의 지넷 윙이 임시 공동 소장을 맡는다.

연구진은 각자 소속 기관에 남아 참여하고, 센터는 대학과 연구기관이 공동으로 쓰는 엠파이어 AI의 연산 자원을 활용한다. 빙엄턴대는 이 자원의 초기 컴퓨팅 시설이 버펄로대에 있다고 설명한다. 센터는 개별 시스템의 안전성을 평가하는 일과 함께, 이후 평가에 사용할 측정법과 기준을 연구할 예정이다.

주지사실은 센터가 주정부의 요청에 따라 규제에 필요한 분석을 제공할 수 있다고 밝혔다. 첫 협업 과제의 예로는 DIGIT와 함께 개발사가 공개한 안전 체계를 검토하고, 규제 요건을 어떻게 보강할지 제안하는 일을 들었다.