퍼플렉시티 디사이더 1.3 공개…문서 속 구절과 위치를 함께 뽑는다

퍼플렉시티가 11월 12일 문서에서 찾은 구절을 시작·끝 위치와 함께 반환하는 AI 모델 디사이더 1.3과 디사이더 플래시 1.3을 공개했다. 새 기능의 이름은 로케이트(Locate)다. 고객 문의 접수 시스템이라면 문의를 어느 부서에 보낼지 분류하고, 배정 근거가 될 문구를 문의 원문에서 찾아 검토자에게 함께 보여 줄 수 있다.

디사이더 이전 버전은 주어진 선택지의 확률을 내거나 미리 정한 척도로 점수를 매겼다. 1.3에서는 뽑을 내용을 자연어로 설명하고 입력에 있는 구절 자체를 받을 수 있다. 찾은 부분의 위치도 함께 제공하므로 담당자가 전체 문서를 다시 검색하지 않고 전후 문맥을 확인할 수 있다. 퍼플렉시티는 조건에 맞는 부분을 찾지 못하면 빈 목록을 돌려준다고 밝혔다.

선택지로 분류하고 원문에서 근거를 찾는다

예를 들어 접수한 문의가 배송과 환불 중 무엇에 관한 것인지 선택지로 묻고, 반품이 필요한 사유를 원문에서 찾아 달라는 질문을 더할 수 있다. 답으로 배송이나 환불에 해당할 확률과 문의에 적힌 구절이 각각 돌아온다. 청구서라면 합계가 들어 있는 부분을 뽑아 화면에서 강조하고, 표의 다른 금액을 잘못 골랐을 때 담당자가 원본에서 바로 확인할 수 있다. 두 경우 모두 구절 위치는 모델이 받은 텍스트를 기준으로 한다.

퍼플렉시티 자체 API는 같은 입력에 대한 추출, 분류, 채점 질문을 한 번의 요청에 묶을 수 있다. 디사이더는 질문마다 답변 문장을 길게 작성하는 대신 각 질문이 요구한 선택 확률이나 텍스트 구간을 돌려준다. 오픈라우터에서는 분류와 점수 매기기를 위한 경로와 텍스트 추출 경로가 나뉜다. 오픈라우터 문서에서 두 모델의 추출 결과는 텍스트나 텍스트 목록으로 안내되며 원문 위치와 신뢰도 값이 붙는다.

퍼플렉시티의 자체 평가에서도 구절을 어디까지 골랐는지에 따라 점수가 달라졌다. 회사는 17개 추출 과제에 대해 디사이더 1.3과 플래시 1.3이 각각 평균 69.0점과 63.6점을 얻었다고 보고했다. 사람 이름처럼 경계가 중요한 항목은 시작과 끝이 정답과 일치해야 했고, 문서에서 질문에 답하는 과제에는 정답 구절과 일부 겹친 결과에도 점수를 줬다. 평균에는 구조화된 필드를 맞히는 시험도 포함돼 있어, 그 수치를 특정 청구서 양식이나 우리말 문의에서 그대로 기대할 수 있는 정확도로 읽기 어렵다.

공개 가중치와 호스팅 API

두 모델은 퍼플렉시티의 디시전스 API와 오픈라우터에서 제공되며, 허깅페이스에도 가중치가 올라왔다. 허깅페이스 모델 카드에는 아파치 2.0 라이선스가 표시돼 있다. 자체 장비에 모델을 올리려는 개발자는 가중치와 해당 모델용 처리 도구를 함께 사용할 수 있다. 모델 카드는 이전 1.1·1.2용 입력 형식으로 요청하면 결과가 달라질 수 있어 1.3용 입력을 준비해야 한다고 안내한다.

가중치 페이지가 표시하는 모델 크기는 기본형이 260억 개 매개변수, 플래시가 50억 개다. 플래시는 오픈라우터에서 기본형과 같은 형태의 추출 결과를 제공한다. 허깅페이스 모델 카드는 입력에 이미지를 함께 넣는 방법도 안내하지만, 오픈라우터가 두 모델의 추출용으로 명시한 입력은 텍스트다. 두 모델을 같은 문서로 비교할 때는 맞는 사실을 찾았는지에 더해, 담당자가 확인할 수 있을 만큼 구절 경계가 정확한지도 볼 수 있다. 계약 조건 전체가 필요한데 단어 하나만 돌아오면, 구절과 위치가 형식상 온전해도 업무에 필요한 답으로는 부족할 수 있다.

텍스트 추출 기능과 별도로 퍼플렉시티는 디시전스 API 공개 초기 18일의 요청 중 연구 이용에 동의한 데이터에서 중복을 빼고 개인정보를 가린 100만 건을 표본으로 분석했다. 회사는 디사이더 1.3이 비교에 쓴 대형 AI 모델의 답과 93.98% 일치했다고 밝혔다. 실제 요청에 붙어 있는 정답표가 없었기 때문에 연구진은 비교 모델로 참조 답안을 만들고 그 답과의 일치 비율을 계산했다.

오픈라우터는 11월 14일 확인한 두 모델 페이지에서 입력과 출력 요금을 무료로 표시했다. 별도 가중치 공개와는 적용 범위가 다른 호스팅 조건이다. 공개 파일을 직접 실행하는 경우에는 해당 장비를 운영하는 비용이 따르고, 오픈라우터에서 문구를 추출할 때는 그 서비스가 명시한 텍스트 입력과 추출 경로가 적용된다. 모델 목록은 무료 요청에 호출 한도가 있다는 점도 명시했다.