Detection of Hate Speech with Emotes in Online Streaming Chat: Based on Deep Learning Model

Abstract

자연 언어 처리의 발전을 통해 혐오 표현 탐지를 위한 인공지능 또한 성장하게 되었다. 하지만 악성 유저는 지속해서 기계에 의해 식별되지 않는 새로운 형태의 혐오 표현을 생성해낸다. 다양한 유형 중 하나는 텍스트와 이모트의 혼합으로, 인간에 의해서는 쉽게 검출되지만, 규칙 기반 탐지로는 쉽게 검출 할 수 없다. 이 연구는 가장 큰 온라인 스트리밍 서비스 중 하나인 트위치(Twitch.tv)의 채팅 데이터를 분석하여 이러한 유형을 파악한다. 혐오 표현에서 사용되는 이모트와 방송을 진행하고 있는 스트리머 인종 간의 비교를 진행한다. 또한 새로운 혐오 표현 유형을 탐지하기 위해 양방향 장단기 메모리 모델을 활용 한 새로운 방법을 제시한다. 약 1,500만 개의 채팅 중에서, 이 연구에서 제안된 기법을 통해 F1-score 0.745의 성능으로 혐오 표현을 추가로 검출할 수 있었다.