구글 딥마인드⁠·⁠싱가포르 정부, 휴대폰 안에서 사기 대화 잡는 AI 개발

구글 딥마인드는 10월 14일 싱가포르 정부기술청(GovTech Singapore)과 함께 개인정보를 지키면서 사기를 잡아내는 온디바이스 AI 모델을 만들었다고 밝혔습니다. 싱가포르에서는 투자 사기, 가짜 구인, 공무원 사칭 같은 사기가 신고된 범죄의 절반 이상을 차지하고, 2019년 이후 피해액이 40억 싱가포르달러를 넘었습니다.

사기 수법은 단순한 피싱에서, 그럴듯한 대화로 신뢰를 쌓은 뒤 돈을 요구하는 방식으로 바뀌었고 이런 수법이 전체 피해액의 최대 80%를 차지합니다. 범용 모델은 현지 특유의 속임수를 잘 잡지 못해서, 연구팀은 공공기관·은행·현지 유명인 사칭 등 현지 사기 대화로 구글의 경량 모델 Gemma를 추가 학습시켰습니다.

모델은 서버가 아니라 휴대폰 안에서 대화를 분석하고, 조작 의도가 보이면 민감한 정보나 돈을 보내기 전에 잠시 멈추라는 경고를 띄웁니다. 배터리를 아끼기 위해 가벼운 분류기가 먼저 들어오는 메시지를 걸러 내고, 의심스러운 경우에만 Gemma가 대화의 더 넓은 맥락을 살펴 확인하는 2단계 구조로 만들었습니다.

학습은 GovTech가 관리하는 격리된 클라우드 환경에서 진행했고, 개인 식별 정보 없이 사기 신고 등에서 만든 익명 데이터만 썼다고 밝혔습니다. 모델은 싱가포르 정부와 함께 앱에 단계적으로 탑재될 예정이며, 사용자가 동의한 경우에만 기기 안의 대화를 분석합니다. 다른 나라 적용 가능성도 검토하겠다고 했지만 구체적인 시점은 나오지 않았습니다.