도구·서비스2026년 10월 23일

오픈AI, Decisions API 정식 출시… 한 번에 400개 판단

3줄 요약

실무개발자직장인

오픈AI가 10월 22일 Decisions API를 정식 출시했습니다. 고객 문의를 어느 부서로 보낼지처럼, 답의 범위가 정해진 판단을 앱에 넣는 API입니다.

베타 이후에는 한 요청의 질문 상한을 200개에서 400개로 늘렸습니다. 반복되는 문맥을 재사용하는 프롬프트 캐싱과 GPT-Live 연동도 추가했다고 회사는 밝혔습니다.

개발 문서에 따르면 현재 지원 모델은 GPT-6 Luna입니다. 조건이 참일 확률을 추정하는 predicate, 미리 정한 보기 중 하나를 고르는 choice, 기준표의 수준을 평가하는 score를 제공합니다. 텍스트·이미지·JSON을 판단 근거로 넣습니다.

판단값을 그대로 업무 승인으로 연결하기 전에는 실제 사례로 확인해야 합니다. 문서는 정답이 붙은 자체 사례로 임계값을 정하고, 잘못 통과시키는 경우와 잘못 거절하는 경우의 비용을 따져 보라고 안내합니다.

왜 중요한가

문의 분류나 다음 단계 선택을 별도 판단 단계로 설계할 선택지가 생겼습니다. 도입 여부는 응답 속도뿐 아니라 실제 업무에서의 오분류 비용까지 비교해 결정해야 합니다.