더 이상 고객이나 학부모로부터의 모욕적인 전화에 시달리지 않게 되었다 — LG U+가 전화 중 실시간으로 verbal abuse를 감지하고 차단하는 AI 서비스를 선보였다.

 

통신사는 월요일에 AI BizCall by ixi에 AI 기반의 욕설 탐지 기능을 비즈니스 전화 솔루션에 도입했다고 발표했다. 이 모바일 앱은 교사, 공무원, 고객서비스 담당자 등 업무상 목적의 전화를 자사 스마트폰의 회사 전화번호로 걸 수 있게 해 준다.

 

새로운 기능은 전화 중 실시간으로 모욕, 욕설, 괴롭힘을 포함한 부적절한 언어를 감지하고 진동 알림으로 사용자가 이를 인지하도록 한다. 사용자가 신고 버튼을 누르면 AI 시스템은 즉시 통화를 종료하고 사건에 대해 지정된 회사 관리자에게 알림을 보낸다. LG U+는 이 기능이 반복적인 민원 전화로 인한 심리적 스트레스를 줄이고 더 안전한 통화 환경을 조성하기 위해 고안되었다고 밝혔다.

 

이것은 ixi라는 자체 탑재 AI 기술을 스마트폰 앱에 직접 적용한 회사의 최초 사례이다. 이전에는 사용자가 통화가 끝난 뒤에야 음성 인식 기술을 통해 대화를 전사하고 검토해야 했다. 이제 AI가 통화 중에도 반응하고 개입할 수 있다. 모든 통화 녹음은 오직 사용자의 기기에만 저장되어 외부로 데이터가 유출되지 않도록 한다.

 

 

시연에서 상대방 선에서 “What kind of [expletive] is that?”라고 말하자, 앱은 진동을 울리고 “AI가 모욕적인 언어를 감지했습니다. 이 통화를 신고하시겠습니까?”라는 메시지를 표시했다.

 

사용자가 신고 버튼을 누르면 통화는 자동으로 종료되고 관리자가 알림을 받게 된다. 발신자는 “이 통화는 강한 어휘의 감지로 인해 AI에 의해 자동으로 종료되었습니다.”라는 메시지를 들었다.

 

감지 정확도를 높이기 위해 LG U+는 자사 고객 센터의 상담 데이터와 학교, 공공기관 및 일반 기업의 전화 데이터에서 수집한 77만 건이 넘는 모욕적이고 성희롱적 발화의 예시로 AI를 학습시켰다.  

 

“시스템은 키워드에만 의존하는 것이 아니라 맥락을 이해해 남용을 감지한다”고 회사의 커뮤니케이션 DX 스쿼드 부문 제품 책임자인 김지홍이 말했다.

 

이 서비스는 학교, 공공 기관, 병원 및 전화로 민원을 자주 처리하는 기타 기관의 직원들의 업무 환경을 개선할 것으로 기대된다. LG U+는 이 기능이 근로자의 불필요한 스트레스를 줄이는 동시에 직무 만족도와 고객 응대 품질을 향상시킬 것이라고 밝혔다.

 

회사는 앱의 AI 기능을 메시징 및 대면 회의 등 다른 직장 업무를 지원하도록 확장해 이 서비스를 실질적인 스마트 어시스턴트로 전환할 계획이다. 또한 자주 범죄적 발언을 하는 이들을 자동으로 차단하는 블랙리스트 기능도 도입할 계획이다.

BY KIM NAM-YOUNG [
[email protected]
]