토스증권이 투자 커뮤니티에 인공지능(AI) 검수 시스템을 도입해 불법 투자 권유와 비방성 게시글에 대한 관리 범위를 넓혔다. 
 

▲ 토스증권 CI. [토스증권 제공]

 

토스증권은 4일 자사 커뮤니티의 게시물 관리 방식을 개편했다고 밝혔다. 이번 개편은 특정 단어의 포함 여부만 확인하던 기존 방식에서 벗어나 게시글 전체의 내용과 표현 의도를 살피는 데 초점을 맞췄다.

기존 금지어 방식은 미리 등록된 단어를 찾아내는 구조다. 이용자가 단어의 일부를 바꾸거나 기호를 섞으면 필터링을 피할 여지가 있다. 욕설을 직접 사용하지 않더라도 다른 이용자를 비방하거나 부적절한 투자 권유를 담은 글을 구별하기 어렵다는 한계도 있다.

토스증권은 이를 보완하기 위해 게시글의 제목과 본문은 물론 첨부 이미지까지 분석하는 AI 모델을 적용했다. 이용자가 글을 새로 올리거나 기존 내용을 수정하면 검수가 이뤄진다. 검사 대상에는 욕설과 인신공격성 표현, 특정 집단에 대한 혐오·차별, 불법 리딩방 광고 등이 포함된다.

게시물의 위반 정도에 따라 노출 방식도 달라진다. AI 검수 결과 부적절하다고 판단된 콘텐츠는 추천 목록에서 제외하거나 다른 이용자가 볼 수 없도록 숨김 처리한다. 단순히 문제가 있는 단어를 찾아내는 데 그치지 않고 게시물의 노출 여부까지 관리하는 구조다.

글을 작성하는 과정에서도 변화가 생겼다. 종전에는 금지어가 발견되면 게시 자체가 제한됐지만, 앞으로는 문제가 되는 표현을 가린 상태로 글을 올릴 수 있다. AI는 금지어의 일부를 변형하거나 간접적으로 표현한 경우도 검수하도록 설계됐다.

이에 따라 게시글 작성 단계에서 부적절한 표현을 확인하고, 등록 또는 수정 이후 AI가 내용을 다시 살피는 이중 점검 방식이 적용된다. 이용자의 글쓰기 자체를 제한하기보다 문제가 있는 표현과 콘텐츠의 노출을 구분해 관리하려는 취지다.

이번 변화는 투자 커뮤니티에서 의견 교환과 부적절한 투자 권유를 구분하는 문제와도 맞닿아 있다. 주식 관련 게시판에는 종목 전망이나 매매 경험을 공유하는 글이 올라오지만, 투자 정보를 가장한 외부 투자방 홍보도 유입될 수 있다. 따라서 특정 단어를 차단하는 것만으로는 게시글의 성격을 판단하는 데 한계가 있다.

커뮤니티 운영 규정도 정비했다. 토스증권은 유해 게시물과 차별적 표현, 상업적 광고, 시장질서를 해칠 수 있는 행위 등을 제한 대상으로 명시한 '커뮤니티 서비스 콘텐츠 가이드라인'을 마련했다. 게시물이 숨김 처리될 경우 이용자에게 관련 내용을 안내하고 고객센터를 통해 이의를 제기할 수 있도록 했다.

다만 AI를 활용한 유해 콘텐츠 검수와 투자 정보의 사실 여부를 확인하는 작업은 구분할 필요가 있다. 부적절한 표현이나 광고성 게시글을 걸러내더라도 특정 종목에 대한 주장이나 투자 전망이 정확하다고 보장되는 것은 아니기 때문이다. 정상적인 투자 의견까지 과도하게 제한하지 않도록 검수 기준과 이의제기 절차를 운영하는 것도 과제로 남는다.

토스증권 관계자는 이번 개편에 대해 투자자가 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 상황을 줄이는 데 목적이 있다고 설명했다. 회사는 게시물 관리 기준을 토대로 커뮤니티 운영 방식을 개선할 계획이다.

 

KPI뉴스 / 이수민 기자 smlee682@kpinews.kr

 

[ⓒ KPI뉴스. 무단전재-재배포 금지]