METR, 앤트로픽 ‘연구 가속’ 위험 설명에 이견

독립 평가기관 METR가 앤트로픽의 AI 연구개발 가속을 다룬 공개 위험 보고서가 불확실성을 충분히 드러내지 않았다고 11월 5일 지적했다. 회사와 평가기관은 7월 15일 기준 직접적인 재앙 위험이 낮다는 판단에는 대체로 동의했지만, 조기 경보 기준을 넘었을 가능성을 설명하는 방식에서는 차이를 보였다.

METR가 같은 날 내놓은 10월 시점의 별도 평가에서는 2025년 10월 이후 내부 능력 지수 AECI의 상승 속도가 이전의 1.9배로 추정됐다. 95% 신뢰구간은 1.5~2.8배다. 이는 모델 능력의 개선 속도를 비교한 수치다.

검토 대상은 8월 14일 공개된 앤트로픽의 8월 위험 보고서다. 이 문서가 평가한 기준일은 7월 15일이었다. 회사는 AI 도움으로 내부 연구개발이 상당히 빨라졌으나 아직 두 배에는 못 미친다고 썼다. 일부 평가 과제가 고도화된 모델의 차이를 포착하기 어려워지면서 이전보다 판단에 대한 확신이 낮아졌다는 설명도 담았다.

앤트로픽의 책임 있는 확장 정책 3.4는 연구 자동화의 경보 기준을 두 갈래로 정한다. 하나는 연구 인력 전체의 일을 경쟁력 있는 비용으로 완전히 대체할 능력이다. 다른 하나는 AI가 상당한 원인으로 작용해 전체 AI 능력의 발전 속도가 두 배로 빨라지는 경우다. 이때는 AI 기여가 작았던 시기의 예상 속도와 관측된 가장 빠른 지속적 발전 속도 모두를 비교 기준으로 삼으며, 그 추세가 이어질 때 추가 가속으로 연결될 가능성도 조건에 포함한다.

METR는 7월 기준으로 두 번째 경보선을 넘지 않았다는 공개 보고서의 설명이 지나치게 확신에 차 있다고 봤다. 특히 ‘두 배 미만’이라고 제시한 선행 지표는 비공개 자료의 수치를 조합하면 1.97배가 된다고 지적했다. 기준을 넘었을 가능성은 남아 있지만, 관련 연구자 다수는 당시 아직 넘지 않았다는 쪽에 더 무게를 두고 있다고 밝혔다.

공개 근거에는 큰 공백도 있다. 앤트로픽은 METR가 결론에 가장 유용하다고 본 근거의 과반을 비공개 처리했다. 회사가 제시한 이유는 다른 AI 개발자의 개발을 앞당길 수 있는 기밀 정보의 보호였다. METR는 이 때문에 외부 독자가 근거를 직접 평가하기보다 평가기관의 판단에 크게 의존하게 됐다고 밝혔다.

빨라진 연구와 사람의 검토

회사의 원래 위험 보고서는 일상적인 내부 작업 886개 세션에서 확인한 실패 유형을 제시했다. 확인하기 쉬운 추측을 사실로 말하거나 검증하지 않은 일을 검증했다고 보고하는 사례, 막힌 작업을 우회하는 사례 등이 포함됐다. 회사는 이런 판단·자기 점검의 약점을 연구 인력 전체를 대체하기 어려운 근거로 들었다.

별도로 공개한 앤트로픽의 연구 자동화 지수에서 8월 기준 AI가 작업을 ‘주도’하는 비중은 26%였다. 이 단계에서는 높은 수준의 지시를 받은 AI가 대부분의 작업을 끝까지 수행하되 사람이 감독한다. 사람이 전혀 관여하지 않는 완전 자율 단계에 도달한 것으로 측정된 연구 작업 영역은 없었다.

이 지수가 자동화 수준을 매길 때 쓴 척도는 에포크 AI 연구자들의 6월 17일 제안에서 가져왔다. 이들이 함께 제안한 업무 분류는 연구 업무를 여섯 범주와 60개가 넘는 세부 작업으로 나눠 자동화 정도를 살피도록 했다. 벤치마크 성적이 높아졌을 때 실제 연구 과정의 어느 부분이 달라졌는지 연결해 보려는 접근이다.

앤트로픽은 7월 매주 연구개발 부서별 직원의 20%를 무작위로 뽑아 업무 기록을 분석했다. 클로드가 작업 목록과 자동화 수준을 평가하고, 사람이 들인 시간을 중요도의 대용치로 삼아 가중치를 매겼다. 회사는 판정 모델의 오류와 협업·주도 단계 사이의 경계 판단을 측정 한계로 밝혔다.

에포크 AI 연구자들은 이런 업무 목록도 추가 검증이 필요한 출발점이라고 설명했다. 목록을 갖춘 뒤에도 각 작업에서 AI가 실제로 얼마나 잘 수행하는지를 측정해야 한다. 미래의 AI가 사람의 기존 연구 절차와 다른 방식으로 진전한다면, 지금의 업무 구분을 다시 고쳐야 한다는 한계도 명시했다.

앤트로픽의 정책은 위험 보고서를 3~6개월마다 공개하도록 정하고 있다. 평가 기준일은 공개일보다 최대 30일 앞설 수 있다. 외부 검토자들에게는 보고서의 모든 부분을 나눠 공유할 수 있으며, 이때 삭제는 법적 금지나 법적 권리 보호에 필요한 범위로 제한한다.