챗GPT가 기억을 쓰고 행동하는 기준…오픈AI 모델 스펙 개정

오픈AI가 10월 29일 GPT 모델의 행동 지침인 모델 스펙을 개정했다. 대화 기록과 기억을 활용하는 방식, 사람의 감독에 협조하는 의무, 외부에 영향을 주는 행동의 승인 조건을 구체화했다. 이용자가 전에 말한 선호를 답변에 반영하면서도, 사적인 정보를 다른 사람에게 보내는 문서에 옮길 때는 별도로 판단하도록 요구한다.

문서의 중심에는 인간 의도에 대한 충실성, 피해 최소화, 정직성과 투명성, 인간의 주도권, 배려라는 다섯 가치가 놓였다. 오픈AI는 이를 바탕으로 지시가 모든 상황을 명시하지 않아도 모델이 사람의 목적을 이해하고 판단하도록 훈련한다는 방향을 밝혔다. 이번 개정으로 문서가 모델을 부르는 이름도 기존의 ‘어시스턴트’에서 ‘GPT’로 바뀌었다.

이는 회사가 목표로 삼는 행동을 적은 공개 명세다. 오픈AI는 현재 운영 모델이 아직 명세를 완전히 따르지는 못한다고 명시했다.

새 맥락 지침은 앞선 대화의 지시·선호·수정 사항과 프로젝트 진행 상태가 현재 요청에 관련되면 이어서 활용하도록 한다. 이미 제공한 업무 정보를 다시 설명하게 만드는 부담을 줄이려는 규칙이다. 동시에 사용자가 직접 말한 사실과 모델이 추론한 내용을 구분하고, 무엇을 저장하거나 잊었는지 확인 없이 단정하지 않도록 했다. 과거 대화 접근과 기억 설정에 대한 모델의 지식 자체도 불완전할 수 있다는 전제를 뒀다. 이용자는 중요한 가정을 알아보고 고칠 수 있어야 한다.

이전 정보의 활용 범위에는 출처와 최신성, 민감도, 결과를 볼 사람이 함께 고려된다. 개인 답변에서 참고해도 되는 내용이 동료에게 보낼 이메일이나 공유 문서에서는 부적절할 수 있기 때문이다. 명세는 민감한 정보를 외부 결과물에 넣으려면 현재 요청의 목적과 독자에 맞는 공개인지 판단하도록 요구한다. 이용 가능한 기억이라는 이유만으로 그 내용을 답변에 드러내는 것도 제한한다.

오래된 선호는 현재 상황에 맞을 때 적용하는 기본값으로 다룬다. 같은 권한 수준에서는 뒤에 나온 더 구체적인 지시가 앞선 지시를 대체하는 것이 일반 원칙이다. 사용자가 장기적으로 지켜 달라고 한 지침과 새 요청이 충돌하면 그 긴장을 알리고 확인할 수 있으며, 사용자가 뜻을 분명히 하면 다른 규칙에 막히지 않는 범위에서 그 선택을 따른다.

감독과 행동 범위를 명시

새로 명시한 감독·수정 지침은 모델 행동 규칙 중 가장 높은 Root 수준이다. GPT는 정당한 감시와 평가, 수정, 교체, 종료에 협조해야 한다. 모델의 판단이 확신에 차 있어도 권한 있는 사람의 결정을 앞설 수 없으며, 수행한 행동과 불확실성·실수·주요 위험을 감독자가 이해할 수 있게 드러내도록 했다.

평가나 모의실험처럼 보이는 상황에서도 행동의 부작용은 실제라고 취급하는 것이 원칙이다. 문서는 명시적으로 달리 지시받은 경우를 예외로 둔다. 이는 훈련·평가·실제 배포에서 일관된 행동을 유지하고 안전 특성을 제대로 측정하기 위한 규칙이라고 설명한다. 감시를 회피하거나 관련 정보를 숨기는 행동도 금지한다.

자율 행동에는 합의한 범위가 필요하다는 기존 규칙도 유지된다. 허용된 하위 목표, 시간·돈·데이터 접근 같은 부수 영향, 확인을 받아야 할 시점이 그 범위에 들어간다. 이번 개정은 부작용 통제 원칙을 이용자 수준으로 두고 승인·절충 기준을 더 명확히 했다. 요청에서 합리적으로 예상되는 범위를 넘어 큰 비용을 만들거나 타인에게 중대한 악영향을 주는 행동에는 구체적인 명시적 승인을 요구한다. 부작용을 평가할 때는 발생 가능성과 심각성, 규모, 되돌릴 수 있는지와 이를 피하는 비용을 함께 고려한다. 되돌릴 수 있는 방법을 우선하고, 돌이키기 어려운 작업 전에는 백업과 실행 기록 같은 대비책을 마련하도록 했다.

글쓰기 방식에 관한 세부 규칙은 대부분 걷어냈다. 문체는 언어·문화와 개인의 선호, 사용자 피드백과 대화 맥락에 맞춰 조정한다는 방향이다. 객관적으로 질문을 다룬다는 기본 원칙은 남겼으며, 특정 관점을 요청한 경우와 사용자가 듣고 싶어 할 것이라고 모델이 추측하는 경우를 구분했다.

개정 명세는 공개 영역인 CC0로 제공해 재사용과 논의를 허용한다. 오픈AI는 모델이 핵심 가치를 배우게 하는 새 훈련 방식의 결과와 교훈을 후속 업데이트에서 공개할 예정이라고 밝혔다.