AI에 쇼핑몰 물었더니…답변 9%에 위험 주소

챗GPT·제미나이·퍼플렉시티를 대상으로 한 쇼핑 검색 시험에서 답변 100건 중 약 9건에 사칭이 의심되거나 접속해도 이용할 수 없는 사이트가 나왔다. 브랜드 보호 업체 포드키(Podqi)가 9월에 수집한 쇼핑 답변 6,795건을 분석한 결과다. 더버지는 11월 12일 이 조사와 각 서비스의 답변을 보도했다.

위험 주소가 나온 답변 안에서도 챗봇이 해당 사이트를 다루는 방식은 달랐다. 포드키 집계에서 57%는 구매처로 소개했고, 34%는 별다른 설명 없이 언급했다. 사이트를 피하라고 경고한 응답은 9%였다. 같은 주소가 나오더라도 사라고 추천한 답변과 이용을 만류한 답변의 의미가 달라, 연구진은 두 경우를 구분해 셌다.

답변 비율과 사이트 수는 다른 지표

연구진은 패션과 생활용품을 포함한 151개 브랜드를 골라 다섯 종류의 구매처 질문을 시험했다. 세 서비스에 같은 질문을 하고 9월 중 두 차례에 걸쳐 결과를 모았다. 서비스별로 답변 2,265건씩을 대조했다. 실험에 사용한 질문은 연구진이 작성했다. 따라서 9%의 분모는 이 질문에 대한 답변이며, 실제 이용자의 대화나 결제 건수를 토대로 계산한 수치는 아니다.

연구진이 검토한 고유 도메인 4,437개 중 718개가 위험 범주에 들어갔다. 이 가운데 351개는 브랜드 사칭이나 위조품 판매가 의심된 사이트였고, 367개는 이용할 수 없는 주소였다. 같은 주소가 여러 응답에서 언급될 수 있다. 도메인 수는 주소의 종류를, 답변 비율은 챗봇이 그런 주소를 얼마나 자주 보여 줬는지를 각각 나타낸다.

위험 주소가 등장한 답변은 퍼플렉시티에서 15%, 챗GPT에서 8%, 제미나이에서 4%였다. 챗GPT는 위험 주소가 나온 자기 답변 중 24%에서 해당 사이트에 대한 경고를 표시했다. 국가별 공식 웹사이트를 묻는 유형에서는 세 서비스 전체의 위험 주소 등장 비율이 16%였다. 모두 같은 브랜드와 질문으로 비교한 결과다. 포드키는 브랜드 사칭과 상표권 침해를 조사하는 서비스를 판매하는 업체다.

상품을 찾는 화면에서 결제까지

챗GPT의 상품 검색 안내에 따르면 제품 카드에는 이미지와 상품 정보, 상세 정보를 보거나 구매할 수 있는 주소가 붙을 수 있다. 같은 상품을 여러 곳에서 파는 경우 선택한 상품 아래 다른 판매처와 가격이 표시된다. 판매처가 가격이나 배송 조건을 바꾸면 챗GPT 화면에 반영되기까지 시간이 걸릴 수 있다고 오픈AI는 설명한다. 검색 답변의 가격과 판매처 페이지의 최종 금액이 달라질 수 있는 이유다.

오픈AI는 3월 상품 검색을 개편하면서 판매자가 상품 목록과 프로모션 정보를 제공할 수 있다고 밝혔다. 회사는 사용자가 챗GPT에서 상품을 탐색하고, 판매자가 자체 결제 방식을 제공하는 방향으로 초기 결제 기능을 바꿨다. 챗봇에 상품이 표시되는 단계와 실제 주문을 처리하는 판매처가 이어지는 지점이다. 포드키의 조사는 이 중 답변에 어떤 주소가 나왔는지를 측정했다.

미국 연방거래위원회(FTC)의 온라인 쇼핑 안내도 판매처 평판, 배송비를 포함한 전체 비용과 반품 조건을 구매 전에 따로 확인할 항목으로 제시한다. 위원회에 따르면 주소가 HTTPS로 시작한다는 표시는 해당 연결에 암호화를 사용한다는 뜻이다. 판매자의 신원이나 판매 권한까지 보증하는 표시는 아니다. 챗봇에 상품 정보가 자세히 나와 있어도 실제 주문 상대방은 판매처 페이지에서 확인해야 하는 이유다.

미국 소매 사이트로 가는 AI 링크

어도비는 10월 29일 발표한 별도 분석에서 9월 미국 소매 사이트의 AI 경유 방문이 전년 동월 대비 71% 늘었다고 밝혔다. 여기서 방문은 이용자가 AI 화면의 링크를 눌러 소매 사이트로 이동한 경우다. 포드키가 시험에서 셌던 답변 수와 달리 실제로 사이트에 접속한 경우를 측정한다. 어도비의 방문 통계는 이동한 사이트가 공식 판매처였는지 집계한 지표가 아니다.

어도비는 같은 자료에서 올해 블랙프라이데이의 AI 경유 방문이 지난해 같은 날보다 95% 늘어날 것으로 내다봤다. 이 수치는 행사 전 전망치다. 더버지에 오픈AI는 쇼핑 검색 결과에 의심스러운 사이트가 나올 가능성을 줄이도록 보호 조치를 개선 중이라고 밝혔다. 구글은 이용자가 정보를 확인할 수 있도록 제미나이 응답에 출처 링크를 제공한다고 설명했다.