사내 문서에서 필요한 구절만…박스, AI 검색 예고

박스가 11월 5일 엔비디아와 협력을 확대하며 사내 자료에서 AI가 필요한 정보를 찾는 ‘컨텍스트 리트리벌’을 발표했다. Enterprise Advanced 고객 대상 정식 제공은 2027년 초로 예고했다. 기업용 AI에 문서 전체를 넘기던 과정에서 질문과 관련된 구절을 골라 전달하는 기능이다.

새 엔진은 단어를 정확히 맞추는 검색과 의미·맥락을 찾는 검색을 결합한다. 제품 설명에 따르면 박스 안의 자료를 대상으로 검색용 색인을 만들고 유지한다. 개발자는 개별 질문에 필요한 본문 조각을 출처 파일별로 묶거나 순위를 매겨 받을 수 있다. 별도 검색 파이프라인과 외부 벡터 데이터베이스를 운영하는 부담을 줄이겠다는 설계다.

검색 대상은 기업 자료 전체에서 특정 폴더나 허브로 좁힐 수 있다. 반환되는 구절에는 원본 파일의 출처 정보가 붙는다. 지원 문서는 결과를 후속 AI 모델에 전달하기 전에 현재 이용자 권한과 Shield 분류 정책을 검사한다고 명시했다. 같은 색인을 여러 앱이 공유하더라도 요청자가 열람할 수 있는 자료가 기준이 된다. 연결 경로는 박스 REST API와 MCP 서버다. 지원 안내는 별도 데이터 이동이나 외부 벡터 데이터베이스 구성이 필요하지 않다고 설명했다.

발표가 제시한 처리 대상에는 스캔 문서와 이미지, 오디오·영상도 포함된다. 회사는 보험 청구 묶음의 양식·사진·녹음·영상을 분석하는 사례를 들었다. 이는 회사가 설명한 활용 범위다.

성능 수치의 비교 기준

박스가 제시한 정확도 20% 개선은 의미 검색만 쓸 때와 단어·의미 검색을 결합할 때의 비교다. 별도 방법론은 정답이 상위 5개 결과 안에 있는지를 보는 Recall@5를 기준으로 삼았다고 설명한다. 회사의 내부 시험에서 정확도가 11%포인트 올라 약 20%의 상대 개선이 됐다는 수치다. 공개 데이터셋에 기업 질문을 적용해 단어 검색·의미 검색·결합 검색을 비교했다.

토큰 약 90% 감소는 파일 전체 대신 관련 구절을 입력하는 방식에서 나온 회사 주장이다. 방법론은 10만 토큰짜리 안내서 전체와 관련 부분 1만 토큰을 예시로 들었다. 속도 4배는 입력량과 탐색용 도구 호출이 줄어든 전체 처리 시간에 관한 설명이다. 고정 실행 비용과 출력 생성은 남으므로 토큰 감소율과 속도 개선율이 다르다. 문서는 이를 내부 시험의 근삿값으로 규정하며 고객에게 같은 결과를 보장하지 않는다.

방법론이 참고 연구로 연결한 ‘Peerify’ 논문은 검색한 근거를 써서 학술 심사 의견을 검증하는 연구다. 9월 2일 제출된 이 논문의 부록은 원고 전체를 입력할 때와 검색 구절을 입력할 때를 비교했다. 여섯 평가군 평균으로 주장 한 건당 토큰이 약 2만1,080개에서 2,180개로 줄어 9.67배 차이를 보였다. 박스 제품의 고객 성능을 검증한 시험과는 대상이 다른 참고 결과다.

연결된 AI가 자료를 읽는 범위와 파일을 쓰는 범위는 관리 항목이 다르다. 기존 MCP 관리 문서에 따르면 관리자는 검색·파일·폴더 같은 도구 범주 전체를 끄거나 읽기 전용으로 허용할 수 있다. 읽기·쓰기 모두 허용하거나 도구마다 다르게 정하는 설정도 있다. 범주 설정은 즉시 반영되며 개별 도구 설정은 저장 뒤 확인 메시지가 표시된다.

현재 유료 박스 AI 기능은 AI Unit으로 소비량을 관리한다. 공식 안내는 작업 종류와 Standard·Premium 모델 선택에 따라 소비량이 달라진다고 설명한다. Enterprise Advanced의 표기 기본량은 월 2만 단위이며 정확한 계약량은 주문서에 따른다. 사용하지 않은 월 할당량은 다음 달로 이월되지 않고, 유료 한도를 소진하면 해당 기능이 차단된다. 월 할당량은 매달 초 갱신되며 문서 질의응답과 문장 생성 등 여러 유료 작업의 사용량을 합산한다. 조직 전체 잔여량과 소비량은 관리자가 관리 콘솔에서 확인한다. 이는 기존 사용량 정책으로, 새 검색 엔진의 개별 요율을 뜻하지 않는다.

네모트론 모델은 3 울트라를 시작으로 Enterprise Advanced의 Box AI에 이미 제공된다고 박스는 밝혔다. 컨텍스트 리트리벌의 정식 제공은 2027년 초로 계획하고 있다.