본문으로 건너뛰기

기업·투자

LG유플러스, AI 업무당 비용 절감 사업 2027년 추진

편집·검토: AI Ping 편집팀

3줄 요약

  1. LG유플러스가 업무별로 모델을 골라 쓰고 연산을 나누는 기술을 2027년 기업 고객 대상 사업으로 추진한다.
  2. 회사는 자체 모델로 바꾼 내부 코딩 작업에서 운영비가 약 90% 줄어든 사례를 공개했다.
  3. 일반 질문과 코딩 에이전트의 모델 배정 실험은 별도로 진행했다. 기업 고객용 요금과 판매 시작일은 공개되지 않았다.
실무개발자입문자
노트북 옆에 안경과 인쇄물이 놓인 어두운 책상
AI 생성 개념 이미지: 노트북과 비용을 기록하는 종이로 코딩 업무에 드는 AI 운영비를 표현했다 · AI Ping

LG유플러스가 AI로 업무 하나를 끝내는 데 드는 비용을 낮추는 기업 대상 사업을 2027년에 추진한다. 회사는 16일자 보도자료에서 모델 배정과 반도체 운영 기술을 기업 고객에게 제공하는 계획을 밝혔다. 지난 12일 기자 설명회에서 공개한 방안으로, 제휴사를 통한 사업과 자체 인프라를 구축하는 방식을 함께 추진한다.

비용 수치가 공개된 분야는 사내 개발이었다. LG유플러스는 통상 쓰던 모델을 자체 모델로 바꾼 코딩 작업에서 운영 비용이 약 90% 줄어든 사례를 확인했다고 밝혔다. 자료에는 비교에 쓴 모델 이름과 업무 표본, 품질을 평가한 기준이 제시되지 않았다. 기업 고객이 실제로 지불할 요금이나 판매 시작일도 공개되지 않았다.

업무를 끝낼 때까지 쓴 비용

토큰은 AI가 입력을 읽고 답을 만들 때 처리하는 데이터 단위다. 에이전트가 코드 변경을 맡으면 첫 요청을 받고 답을 만드는 데서 끝나지 않을 수 있다. 파일 내용을 읽어 분석하고 테스트가 실패하면 새 정보를 넣어 모델을 다시 호출하기도 한다. 모델 한 번의 호출 비용이 내려가도 이런 반복으로 토큰을 더 많이 쓰면 업무 전체에 드는 비용은 달라진다. 이 때문에 회사는 모델을 고르는 단계와 같은 자료를 반복 확인하는 과정 모두를 비용 절감 대상으로 잡았다.

요청마다 필요한 모델을 고르는 실험에서는 일반 질문의 처리 비용이 25% 이상, 코딩 에이전트 비용은 30% 이상 줄었다고 회사는 밝혔다. 이 수치는 업무를 모델별로 나눠 맡긴 시험에서 나왔다. 앞서 제시한 약 90%는 자체 모델을 적용한 별도의 코딩 비교다. 배정 방식은 사용할 모델의 비중을 바꾸고, 모델 교체는 해당 작업을 처리하는 모델 자체를 바꾼다. 두 시험을 합쳐 전체 업무에서 기대할 절감률을 계산할 수는 없다.

크기가 다른 컴퓨터 두 대 앞에 종이 파일이 나뉘어 놓인 작업대
AI 생성 개념 이미지: 컴퓨터 두 대와 나뉜 문서 더미로 업무에 따라 모델을 고르는 방식을 표현했다 · AI Ping

질문을 읽는 연산과 답을 쓰는 연산

모델이 정해진 뒤에는 같은 요청 안에서도 연산 성격이 바뀐다. 긴 질문을 처음 읽는 단계는 여러 입력을 동시에 처리하므로 계산 능력이 중요하다. 답을 한 조각씩 이어 쓸 때는 칩이 앞서 계산한 내용을 메모리에서 얼마나 빠르게 가져오는지가 성능에 영향을 준다. AWS의 추론 문서는 두 단계를 나눠 장비를 배정하면 각각 필요한 만큼 용량을 늘릴 수 있다고 설명한다. 그 과정에서 앞 단계 결과를 다른 장비로 보내는 부담이 생긴다.

LG유플러스는 이런 작업의 성격에 따라 GPU를 조합하고 퓨리오사AI의 신경망처리장치도 검증 중이라고 밝혔다. 여러 장비에서 남는 용량을 활용하려는 배경은 이전 운영 사례에도 있다. 4월 회사는 자체 보유 GPU를 클라우드 관리 시스템과 연결하고 장비 단위로 고정하던 연산 자원을 필요한 시점에 나눠 쓰는 운영 방식을 공개했다. 이번 계획에서는 한 작업 안에서 요구하는 연산과 메모리의 비중도 칩 배정에 반영한다.

작업 매트 위에 방열판과 메모리 부품이 서로 다른 두 연산 보드가 놓인 모습
AI 생성 개념 이미지: 서로 다른 연산 보드로 요청의 처리 단계에 맞게 칩을 배정하는 방식을 표현했다 · AI Ping

모델이 답을 쓰는 과정에는 작은 모델이 다음 표현의 후보를 만들고 큰 모델이 이를 한꺼번에 확인하는 방식도 쓰인다. 2023년 국제기계학습학회(ICML)에 발표된 추측 디코딩 연구는 이 방식으로 생성 모델의 순차 연산을 줄일 수 있음을 보였다. 후보를 만드는 시간과 큰 모델이 받아들이는 후보 수에 따라 속도 이득이 달라진다. LG유플러스는 관련 기술로 토큰 생성 속도를 두 배 이상 높였다고 밝혔다. 이 결과는 모델이 답을 생성하는 속도를 가리킨다.

회사가 새 사업의 운영 사례로 든 익시오는 통화 내용을 요약하거나 후속 작업을 제안하는 앱이다. LG유플러스는 지난해 9월 휴대전화에서 실행할 수 있도록 엑사원 기반 소형 모델을 만들고 익시오에 적용할 계획을 발표했다. 통화 내용을 한 줄로 요약하거나 핵심어를 뽑는 작업을 휴대전화 안에서 처리하는 방안이다. 당시 회사는 중앙처리장치로 하던 처리를 신경망처리장치로 옮기는 실험도 공개했다. 16일 자료에는 익시오가 출시 초기에 기기 내 모델과 구글 제미나이를 함께 썼고, 운영을 거치며 자체 모델과 엑사원 등 여러 모델의 사용 비중을 조정했다는 설명이 담겼다.

카카오와 함께하는 대국민 서비스 ‘모두의 AI’에서도 LG유플러스는 모델 운영을 맡는다. 카카오는 8월 이 서비스가 카카오톡과 전화 AI를 통해 이용자와 연결될 것이라고 소개했다. 지난 5일 실적 발표에서도 연내 정식 출시 계획을 유지했다. LG유플러스가 16일 밝힌 기업 대상 비용 절감 사업의 추진 시점은 그다음 해인 2027년이다.

출처