"개인정보 필터링, AI 솔루션 도입 실제 사례 (성과 공유) "

번개장터, 당근마켓 등 온라인 중고거래 플랫폼의 성장 배경에는 ‘신뢰성’이 있습니다. 안전한 중고거래 환경을 구축한 덕분에 중고거래 플랫폼이 크게 성장할 수 있었죠. 예를 들어, 번개장터의 ‘번개페이’는 번개장터에서 대금을 관리하기 때문에, 플랫폼 내에서 거래할 경우 사기 피해 위험이 현저히 감소합니다.

문제는 악의적인 의도를 가진 사람들이 이를 알고 플랫폼이 아닌 ‘직접 거래’ 방식을 유도한다는 사실인데요. 개인 이메일이나 카카오톡 계정, 대포폰의 문자 등을 이용해 플랫폼을 우회해서 거래하려고 합니다. 플랫폼 입장에서도 직접 거래를 유도하는 게시물들을 일일이 모니터링할 수 없는 게 현실이고요.

온라인 중고거래 플랫폼 A사 역시 이 문제로 골머리를 앓고 있었는데요. 개인정보 필터링 AI 솔루션을 도입한 덕분에 사용자 간 직접 거래를 손쉽게 모니터링할 수 있게 되었습니다.

✍️ 이 글의 순서

• 직접 거래를 유도하는 사기 업자 탓에, 신뢰도가 저하
• 비속어 및 개인정보 필터링 AI로 안전한 거래 환경 구축
• 직접 거래로 인한 피해 감소, 플랫폼 신뢰도 향상
• 위시켓 ‘AI 마켓’에서 안전한 거래 환경 구축하세요.

1. 온라인 중고거래 플랫폼 A사의 고민

: 직접 거래를 유도하는 사기 업자 탓에, 신뢰도가 저하

A사는 안전하고 신뢰할 수 있는 거래 환경을 구축하는 것을 목표로 한 중고거래 플랫폼입니다. 여러 제도와 지원 정책을 통해 온라인 중고거래의 신뢰도를 높이기 위해 최선을 다했지만, 한 가지 문제가 생겼습니다. 사용자가 게시글이나 메신저를 통해 플랫폼을 이용하지 않고 직접 거래를 유도하는 사례가 늘어난 것입니다. 플랫폼 내에서의 거래는 충분히 사기 피해를 방지할 수 있었지만, 사용자 간 직접 거래에서는 그것을 방지할 수가 없었습니다.

A사는 사용자 간 직접 거래를 방지하기 위해 게시글이나 메신저에 개인정보가 입력되면 자동으로 경고 창이 뜨도록 했지만, 그다지 효과적이지는 않았습니다. 몇몇 사용자들은 전화번호나 이메일을 숫자와 특수문자를 혼합한 형태로 입력하여 기존 필터링을 우회했기 때문입니다.

이러한 직접 거래 유도 행위 때문에 사기 피해자는 속출하기 시작했고, 플랫폼의 신뢰도는 점점 하락하는 상황이었습니다. 그렇다고 인력으로 모든 게시물을 모니터링할 수는 없는 노릇. A사는 자동화 솔루션 도입의 필요성을 절실히 느꼈습니다.

🔖 고민 요약정리

1. 플랫폼을 우회하여 직접 거래를 유도하는 사례 증가
2. 사기 피해가 증가하여 플랫폼 신뢰성 저하
3. 인력 모니터링의 한계로 자동화 솔루션 필요

2. 위시켓의 솔루션

: 비속어 및 개인정보 필터링 AI로 안전한 거래 환경 구축

A사는 위시켓 AI 마켓을 통해 비속어 및 개인정보 필터링 AI 솔루션을 도입했습니다. 게시글과 댓글, 메신저 등에서 전화번호나 이메일 등 개인 정보를 자동으로 감지하는 솔루션입니다. 자연어 처리(NLP) 기술을 적용했기 때문에, 숫자나 특수문자를 조합한 우회 표현까지도 정확하게 식별할 수 있게 되었습니다. 만약 이러한 개인 정보가 등장하게 되면 사용자들에게 “안전한 거래는 플랫폼 내에서만 가능합니다.”와 같은 문구가 뜨도록 했죠.

뿐만 아니라 직접 거래를 유도하는 의심 표현 또한 사전에 감지하고, 관리자가 해당 게시물을 검토할 수 있도록 하는 기능도 추가했습니다. 예를 들어 “카톡으로 연락 주세요”, “계좌번호 알려 주세요.”와 같이 직거래를 유도하는 표현이 발견되면 자동으로 사용자들에게 경고 메시지가 뜨고, 관리자에게도 알림이 가도록 했습니다. 만약 해당 거래가 위험하다고 판단할 경우, 관리자는 승인 보류나 거절을 할 수도 있었습니다. 즉, 사용자 거래 모니터링을 자동화한 것입니다.

🔖 솔루션 요약정리

1. 개인정보 자동 감지 기능으로 직접 거래 유도 방지
2. NLP 기술을 통한 우회 표현 식별
3. 의심 표현 사전 감지 및 관리 알림 기능 추가

🔎 AI Insight | 필터링 정확도를 높인 방법

A사는 필터링 AI의 정확도를 높이기 위해 실제 사용자 데이터로 AI 모델을 ‘지속적으로 학습’시켰습니다. AI는 사용자들이 시도하는 다양한 우회 표현과 개인정보 노출 패턴을 빠르게 학습했습니다. 예컨대 전화번호를 글자와 숫자로 섞어 표시하거나 특수문자를 사용한 새로운 방식이 나타날 때마다 AI가 이러한 패턴을 학습했고, 비슷한 표현에 대해서 자동으로 감지했습니다.

3. 온라인 중고거래 플랫폼 A가 얻게 된 것들

: 직접 거래로 인한 피해 감소, 플랫폼 신뢰도 향상

A사가 필터링 AI 솔루션을 도입한 이후, 온라인 중고거래 플랫폼에서는 직접 거래 유도로 인한 ‘문제 발생률이 80%나 감소’했습니다. 개인정보 노출 건수 역시 대폭 줄어들었으며, 사용자들이 안전하게 거래할 수 있게 되자 플랫폼 신뢰도가 향상되었습니다.

🔖 성과 요약정리

1. 직거래 문제 발생률 80% 감소
2. 개인정보 노출 건수 대폭 감소
3. 사용자 신뢰도 향상 및 만족도 증가

위시켓 ‘AI 마켓’에서 안전한 거래 환경 구축하세요.

여러분도 위 사례처럼 사용자 사이 ‘거래’가 일어나는 서비스를 운영 중이라면, 비속어 및 개인정보 필터링 AI 시스템을 도입해 안전한 거래 환경을 만들어 보세요. AI 마켓은 국내 IT 아웃소싱 전문 플랫폼 위시켓이 만든 AI 솔루션 거래 플랫폼으로, 최적화된 AI 필터링 시스템을 도입해 플랫폼의 신뢰도를 한층 높일 수 있습니다.

‘위시켓 AI 마켓’에는 각자의 비즈니스에 적합한 솔루션을 쇼핑하듯 고르고 선택해 상담과 함께 데모 시연까지 받아볼 수 있습니다. 비속어, 개인정보 필터링은 물론, 현재 상용화되어 있는 고객 지원 AI 챗봇, 고객 피드백 및 리뷰 분석, 시장 동향 분석까지 플랫폼이 필요로 하는 모든 AI 솔루션에 대한 컨설팅과 도입, 지원이 가능합니다.

아래 배너를 눌러 위시켓 AI 마켓을 경험해 보세요. 나에게 꼭 맞는 특별한 AI 도입, 위시켓에서는 여러분의 생각이 현실이 됩니다.