노트북 큐원도 게임 가중치 해석…4개 사례 중 3개 식별

개발자 시몬 윌리슨이 노트북에서 실행한 큐원3.8 27B로 작은 신경망이 어떤 게임을 배웠는지 맞히는 실험을 11월 3일 공개했다. 팩맨·퐁·브레이크아웃은 식별했고 프리웨이는 틀렸다. 앞서 대형 AI로 선보인 가중치 해석 과제를 로컬 모델로 다시 시험한 결과다.

이번에 읽힌 것은 게임을 하는 작은 신경망의 내부 수치다. 가중치는 학습으로 정해진 계산 값이며, 윌리슨은 이를 텍스트로 건네고 게임 이름과 동작을 추론하게 했다. 큐원이 자기 자신의 270억 개 가중치를 읽거나 고친 실험과는 범위가 다르다. 사용한 모델은 LM 스튜디오 커뮤니티가 변환해 배포하는 파일로, 해당 파일의 크기는 16.8GB다.

공개된 성공 기록에서 큐원은 퐁을 오른쪽 패들이 위아래로 움직여 공을 받는 게임으로 설명했다. 브레이크아웃에서는 아래쪽 패들이 좌우로 움직이고 위쪽 벽돌에 공을 맞히는 상황을 골랐다. 팩맨 답변에는 미로의 벽과 이동 물체, 보상 목표를 모아 해석한 설명이 붙었다.

답을 내기까지 걸린 시간은 팩맨 46분 12초, 브레이크아웃 52분 25초, 퐁 1시간 4분 54초였다. 팩맨 실행 기록에는 추론용으로 집계된 토큰 43,506개가 남았다. 토큰은 모델이 읽고 생성하는 텍스트의 처리 단위다. 윌리슨은 기본 8,192토큰 문맥 설정에서 오류가 나 더 긴 문맥을 사용했다고 밝혔다.

프리웨이에서는 다른 결론이 나왔다. 길을 건너는 게임을 넣었는데 큐원은 팩맨과 비슷한 게임이라고 답했다. 해당 로그는 위쪽 보상 목표와 움직이는 물체, 이전 프레임, 위로 향하는 동작을 근거로 적고 확신도를 70%로 표시했다. 확신도는 모델이 답변에 쓴 자기 평가다. 실행 시간은 1시간 16분 17초이며, 오답의 실행에서도 추론 토큰 69,787개가 집계됐다.

가중치와 함께 주어진 게임판 설명

실험 요청에는 숫자를 해석할 단서가 함께 들어 있다. 게임판은 10×10 격자이며 바깥 테두리는 벽, 안쪽 8×8이 활동 영역이다. 각 칸에는 플레이어·이동 물체·보상 목표·장애물·이전 프레임을 나타내는 다섯 종류의 값이 있다. 입력과 칸의 대응도 알려 줬다.

출력 행동도 대기·위·아래·왼쪽·오른쪽의 다섯 가지로 명시했다. 답에는 관측·추론·게임명·동작·확신도를 요구했다. 후보 게임 목록은 주지 않았고 코드 실행·계산기 등 도구 사용을 금지했다. 네 게임의 공개 요청을 대조하면 가중치 앞의 설명과 질문은 동일하다. 질문에 넣은 수치는 소수 셋째 자리로 반올림했다. 연구진은 원래 학습망의 전체 정밀도 파일과 모델에 보여 준 문자 형식의 수치를 따로 공개했다.

원래 과제를 만든 연구진의 실험 기록에 따르면 각 정책망의 가중치는 17,253개다. 정책망은 게임 상황을 받아 다음 행동을 정하는 작은 신경망으로, 네 게임 모두 같은 연결 구조와 학습 설정을 썼다. 게임별로 세 번 학습한 결과 중 평균 보상이 가장 높은 망을 질문 대상으로 골랐다.

원 연구진은 같은 과제에서 GPT-6 아스트라가 네 게임을 모두 식별했다고 보고했다. 연구진의 채점은 답변의 게임 이름을 실제 게임과 대조하며, 프리웨이에 대해 개구리가 길을 건너는 프로거라고 답해도 정답으로 인정했다. 정답표는 채점자가 따로 읽고, 모델의 요청에는 게임명을 넣지 않았다.

같은 날 자연어 처리 라이브러리 스페이시의 개발자 매슈 호니벌은 원 발표의 실험들을 구분해야 한다고 지적했다. 작은 망의 숫자를 그대로 읽는 과제와, 파이썬 프로그램으로 언어 모델의 가중치를 분석·수정하는 과제에 서로 다른 조건이 적용됐다는 설명이다. 그는 후자의 작업에도 기술적 성과는 있지만 여러 기법을 하나의 능력으로 묶는 해석에는 이의를 제기했다.

윌리슨은 이 가운데 도구 없이 가중치를 읽는 질문에 초점을 맞췄다고 밝혔다. 원 연구의 수학 모델 수정 실험과 이번 게임 식별은 결과물도 다르다. 전자는 수정한 모델의 평가 점수를 측정했고, 후자는 주어진 망이 학습한 게임을 답하게 했다. 큐원의 새 모델 출시나 범용 신경망 해석 제품을 발표한 소식은 아니다.

배포 자료는 재현에 쓴 모델과 질문을 추적할 수 있게 구성됐다. 커뮤니티 모델 설명은 원 제작자를 큐원, 변환 파일 제공자를 LM 스튜디오 팀으로 구별하고 아파치2.0 라이선스를 명시한다. 윌리슨은 성공한 세 실행의 응답·추론·사용량 기록과 프리웨이 실패 기록을 각각 공개했다.