실시간 채팅 욕설&비속어 AI 필터링 , 효과 어느 정도일까?

몇 해 전부터 ‘라이브 스트리밍’이 대세로 자리 잡았습니다. ‘아프리카’, ‘치지직’ 등 라이브 스트리밍을 서비스하는 플랫폼이 많아지고 또 다양해졌습니다. 그런데 단방향 성격의 TV나 유튜브 영상과 달리, 라이브 스트리밍은 ‘실시간 상호작용’이라는 특징을 가지고 있는데요. 이 말은, 스트리밍 중 욕설이나 비속어 등이 난무할 수도 있다는 뜻이기도 합니다. 혹은 개인정보가 쉽게 노출될 수 있는 위험도 포함하고 있죠.

라이브 스트리밍 플랫폼 C사는 이 문제를 해결하기 위해 위시켓 ‘AI 마켓’을 찾았습니다. 그리고 부적절한 메시지로 분류되는 채팅을 무려 85%나 줄일 수 있었는데요. 아래 C사의 문제가 어떻게 해결될 수 있었는지 그 과정의 기록을 여러분에게 공유합니다..

✍️ 이 글의 순서

• 실시간 채팅 중 비속어 및 개인정보 노출 문제
• 실시간 채팅 필터링 AI로 쾌적한 스트리밍 환경 구축
• 스트리밍 환경 개선, 법적 리스크 감소
• 우리 회사에 딱 맞는 AI, ‘AI 마켓’에서 찾아보세요.

1. 라이브 스트리밍 플랫폼 C사의 고민

: 실시간 채팅 중 비속어 및 개인정보 노출 문제

C사는 인기 있는 라이브 스트리밍 플랫폼을 운영하며 다양한 창작자와 시청자를 유입하고 있었습니다. 그러나 실시간 채팅에서 비속어나 욕설뿐만 아니라 개인 정보를 의도치 않게 노출하는 일이 자주 발생했습니다. 스트리밍의 특성상 수많은 채팅이 동시에 올라와 일일이 모니터링하는 것은 사실상 불가능에 가까웠습니다.

특히, 일부 시청자들이 악의적으로 스트리머의 개인 정보를 유출하거나 비속어를 사용해 분위기를 험악하게 만들었습니다. 이에 C사는 법적 제재의 위험까지 떠안게 됩니다. 라이브 스트리밍에서 흔히 벌어지는 일이긴 했지만, 더 나은 플랫폼으로 성장하기 위해 C사는 이 문제를 ‘제대로’ 해결하고자 했습니다.

🔖 고민 요약정리

1. 실시간 채팅에서 비속어와 개인정보 노출 발생
2. 스트리머 및 시청자 피해, 플랫폼 신뢰도 하락
3. 법적 제재의 위험 증가

2. 위시켓의 솔루션

: 실시간 채팅 필터링 AI로 쾌적한 스트리밍 환경 구축

C사는 문제 해결을 위해 위시켓 AI 마켓을 통해 ‘비속어 및 개인정보 필터링 AI’를 도입했습니다. 이 AI 솔루션은 실시간 채팅 메시지를 분석하여 부적절한 표현이나 개인정보 유출 가능성이 있는 메시지를 자동으로 감지하고 차단하는 기능을 갖추고 있었습니다. 사용자가 특정한 비속어나 개인정보를 포함한 메시지를 입력할 경우, AI가 즉각 이를 탐지하고 차단해 더 이상 표시되지 않도록 처리한 거죠.

예를 들어, 시청자가 “XX 님의 전화번호는 010-1234-5678입니다”와 같이 명확하게 개인정보를 포함한 메시지를 남기려 할 때, AI는 이 메시지를 즉각 차단하고 경고를 표시해 추가적인 정보 노출을 방지했습니다. 또한, 비속어가 포함된 메시지도 AI가 실시간으로 감지하여 삭제하거나 수정 요청을 하였습니다.

이 AI는 단순히 단어를 기반으로 필터링하는 데 그치지 않았습니다. 문맥을 이해할 수 있는 심층 학습 기능을 바탕으로 한층 더 정확한 필터링이 가능했습니다. 예컨대 시청자들이 욕설은 아니지만 변형된 표현이나 은어를 사용하더라도 이를 빠르게 인식하고 대응했습니다. 시청자들이 우회적 표현하는 비속어도 빠르게 감지할 수 있었던 거죠. 나아가 스트리머가 채팅 필터링 강도를 조절할 수 있는 옵션도 제공해, 스트리머에게 맞춤화된 관리도 가능해졌습니다.

🔖 솔루션 요약정리

1. 비속어나 개인정보 노출 메시지를 자동으로 감지 및 차단
2. 심층 학습을 통한 변형 비속어나 개인정보 노출 메시지 감지 및 차단
3. 스트리머가 채팅 필터링 강도를 자유롭게 조절 가능

🔎 AI Insight | 실시간 채팅 필터링 ‘key point’

C사는 AI 솔루션의 정확도를 높이기 위해 플랫폼에서 발생하는 다양한 대화 패턴과 표현 방식을 AI가 지속적으로 학습하도록 했습니다. 스트리밍 특성상 시청자들이 대화를 주고받는 방식은 일반적인 온라인 채팅과 달랐고, 특정한 표현이나 은어가 자주 사용되었는데요. AI는 다양한 스트리밍 환경에서 나타나는 특수한 대화 패턴과 지역적인 표현, 신조어 등을 학습했고, 새로운 표현이나 변형된 비속어, 은어 등이 등장하더라도 이를 자동으로 인식해 차단했습니다.

3. 라이브 스트리밍 플랫폼 C사가 얻게 된 것들

: 스트리밍 환경 개선, 법적 리스크 감소

필터링 AI 도입 후, C사는 부적절한 채팅 메시지 노출을 85%까지 줄이는 데 성공했습니다. 또, 개인정보 노출 문제를 해결함으로써 법적 리스크를 크게 줄일 수 있었습니다. 스트리머들은 안심하고 스트리밍을 진행할 수 있었고, 시청자들 또한 쾌적하게 방송을 즐길 수 있었습니다. 이는 시청자들이 플랫폼을 이용하는 시간을 늘리는 데에 한몫을 했습니다.

🔖 성과 요약정리

1. 부적절한 채팅 메시지 노출 85% 감소
2. 개인정보 노출 문제 해결로 법적 리스크 감소
3. 사용자 만족도 상승 및 플랫폼 이용 시간 증가

우리 회사에 딱 맞는 AI, ‘AI 마켓’에서 찾아보세요.

스트리밍처럼 사용자 사이 실시간 채팅이 일어나는 플랫폼을 운영하며, 비속어 검열과 개인정보 보호 문제로 고민하고 계신가요? 아직 이렇다 할 해결 방법을 찾지 못했다면, 위시켓 AI 마켓에서 마련해 놓은 ‘맞춤형 필터링 AI 솔루션’을 활용해 보시길 바랍니다.

위시켓 AI 마켓은 국내 1위 IT 아웃소싱 전문 플랫폼 위시켓이 운영하는 AI 솔루션 거래 플랫폼입니다. 검증된 상위 0.01% AI 전문가들이 서비스 특성에 맞춘 AI 솔루션을 개발하는 건 기본, 도입부터 적용까지 전문 컨설턴트가 밀착해 개발 진행의 전 과정을 지원해 드립니다.

관심이 있다면 아래 배너를 눌러 가벼운 상담(무료)과 함께, 우리 서비스 프로세스를 고려한 맞춤형 데모까지 받아보세요.