토스증권, 커뮤니티에 AI 검수 체계 도입

AI가 욕설·불법 리딩방 홍보까지 탐지...금지어 필터링 고도화로 이중 검수 체계 구축

구글에서 선호하는 출처로 추가 관심 있는 뉴스톱 기사를 Google 검색에서 더 쉽게 만나보세요.

글자크기 설정

기사의 본문 내용은 이 글자크기로 변경됩니다.

토스증권 CI.(사진=토스증권 제공)
토스증권 CI.(사진=토스증권 제공)

토스증권이 자사 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다. 기존 금지어 중심 필터링에서 나아가 게시글의 내용과 맥락까지 분석한다. 욕설·비방, 불법 리딩방 홍보 등 부적절한 게시글을 걸러내는 것이 목적이다.

토스증권은 투자자들이 보다 안전하고 건전한 환경에서 소통할 수 있도록 커뮤니티에 AI 기반 게시글 검수 체계를 도입했다고 4일 밝혔다. 커뮤니티 내 욕설·비방, 불법 리딩방 홍보 등 부적절한 게시글을 보다 정확하게 걸러내기 위한 조치다.

새로 도입한 AI 검수 모델은 게시글 작성 또는 수정 후 제목과 본문, 이미지를 자동으로 분석한다. 욕설이나 비방, 혐오·차별 표현을 비롯해 불법 리딩방 홍보 등 건전한 투자 소통을 저해하는 콘텐츠를 탐지한다. 검수 결과에 따라 위반 정도를 판단하고 게시글 추천 제외나 숨김 등의 조치를 적용한다.

게시글 작성 단계의 욕설 필터링 기능도 고도화했다. AI 검수 모델을 통해 이용자들이 자주 쓰는 금지어의 우회 표현과 다양한 변형 표현까지 폭넓게 탐지하도록 개선했다. 기존에는 금지어가 포함되면 글 작성 자체가 제한됐지만, 이제는 해당 표현만 마스킹 처리해 게시할 수 있다.

이에 따라 토스증권 커뮤니티는 게시글 작성 시 금지어 필터링, 작성 후 AI 자동 검수로 이어지는 이중 검수 체계를 갖추게 됐다. 기존 금지어 중심 방식에서 나아가 게시글의 내용과 맥락까지 종합적으로 분석하는 것이 이번 개선의 핵심이다. 사전 차단과 사후 검수를 병행하는 구조다.

커뮤니티 운영 기준도 정비했다. 욕설 및 유해 콘텐츠, 혐오·차별 표현, 홍보·광고, 시장질서 교란 행위 등 제한 대상과 제재 기준을 담은 '커뮤니티 서비스 콘텐츠 가이드라인'을 신설했다. 게시글 숨김 조치 시 제재 여부를 보다 명확하게 안내하고, 고객센터를 통한 이의제기 절차도 제공한다.

토스증권 관계자는 "투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통하도록 하는 데 초점을 맞췄다"며 "앞으로도 투자자들이 유용한 정보와 다양한 의견을 나눌 수 있도록 커뮤니티 환경을 지속 개선해 나가겠다"고 말했다.

이 기사가 마음에 드셨나요?

댓글 (0)

아직 댓글이 없습니다. 첫 댓글을 작성해보세요!

당신이 좋아할 만한 기사