실제 사건이 온라인 증오심 표현을 증가시킨다는 연구 결과

등선

선거 및 시위와 같은 실제 이벤트는 주류 플랫폼과 비주류 플랫폼 모두에서 온라인 증오 발언의 급증으로 이어질 수 있습니다. 수요일 발표된 연구 PLOS ONE 저널에서 많은 소셜 미디어 플랫폼이 단속을 시도함에도 불구하고 증오 게시물이 급증하는 것을 발견했습니다.

중요한 사실

머신 러닝 분석(모델 구축을 자동화하는 데이터 분석 방법)을 사용하여 연구자들은 59개의 온라인 혐오 커뮤니티 사용자가 게시한 1,150만 개의 게시물에서 4가지 종류의 온라인 혐오 발언을 살펴보았습니다. Facebook, Instagram, XNUMXChan 및 Telegram과 같은 사이트를 포함합니다.

2019년 2020월부터 67년 60,000월까지 진행된 연구 기간 동안 100,000일 이동 평균에서 증오심 표현을 포함한 게시물의 총 수는 증가 추세를 보였고 일일 게시물 수는 XNUMX개에서 XNUMX개로 XNUMX% 증가했습니다.

때때로 소셜 미디어 사용자의 증오심 표현은 당시의 실제 사건에 관여하지 않은 그룹을 포함하도록 성장했습니다.

연구원들이 지적한 사례 중에는 2020년 초 미국이 이란의 거셈 솔레이마니 장군을 암살한 후 종교적 증오심 표현과 반유대주의가 증가했고, 2020년 XNUMX월 미국 선거 이후 종교적 및 성별 증오심 표현이 증가했습니다. 최초의 여성 부회장으로 선출되었습니다.

개별 플랫폼이 증오심 표현을 제거하려는 노력에도 불구하고 연구원들에 따르면 온라인 증오심 표현은 계속해서 지속되었습니다.

연구원들은 증오 관련 게시물을 유도하는 한 가지 핵심 요인으로 언론의 관심을 지적했습니다. 예를 들어, Breonna Taylor가 경찰에 의해 처음 살해되었을 때 언론의 관심이 거의 없었기 때문에 연구원들은 최소한의 온라인 증오 발언을 발견했지만 George Floyd가 몇 달 후 살해되었을 때 미디어의 관심이 높아짐에 따라 혐오 발언도 증가했습니다.

큰 숫자

250%. 조지 플로이드 살해 이후 인종적 혐오 발언 비율이 그만큼 높아졌다는 것이다. 이는 연구 기간 동안 연구원들이 발견한 증오심 표현 중 가장 큰 급증이었습니다.

주요 배경

혐오 발언은 수년 동안 소셜 네트워크를 괴롭혔습니다: 다음과 같은 플랫폼 페이스북 과 트위터 증오심 표현을 금지하는 정책을 가지고 있고 불쾌감을 주는 콘텐츠를 삭제하겠다고 약속했지만 이러한 게시물의 확산을 제거하지는 못했습니다. 이달 초 거의 XNUMX명의 UN이 지정한 독립 인권 전문가들 촉구 온라인 증오 발언의 양을 줄이기 위해 소셜 미디어 플랫폼의 더 많은 책임. 그리고 소셜 미디어 회사가 더 많은 일을 하기를 원하는 것은 인권 전문가만이 아닙니다. USA Today-Suffolk 대학 조사 응답자의 52%는 소셜 미디어 플랫폼이 혐오스럽고 부정확한 콘텐츠를 제한해야 한다고 답했으며 38%는 사이트가 공개 포럼이어야 한다고 답했습니다.

접선

억만장자 일론 머스크가 작년에 트위터 인수 계약을 종료하고 사이트의 조정 정책을 완화하겠다고 약속한 지 며칠 후 사이트에서 "증오 행위가 급증"했습니다. 요엘 로스에 따르면, Twitter의 전 안전 및 무결성 책임자. 당시 Roth는 안전팀이 1,500일 동안 증오 행위로 인해 XNUMX개 이상의 계정을 삭제했다고 트윗했습니다. 머스크는 머스크의 리더십 하에서 발언 규제가 완화되면서 트위터에서 혐오 발언의 양이 극적으로 증가했다고 주장하는 지지 단체로부터 날카로운 비판을 받았습니다. 주장 증오 트윗에 대한 노출이 감소했습니다.

추가 읽기

Twitter 안전 책임자는 양식이 중재 도구에 대한 액세스를 제한하는 것으로 보고됨에 따라 '증오 행위의 급증'을 인정합니다. (포브스)

소셜 미디어 콘텐츠 조정 결정에 대한 일관성 요구 사항에 대한 일부 유보. (포브스)

더 나은 플랫폼 콘텐츠 조정을 장려하기 위해 정책 입안자는 무엇을 해야 합니까? (포브스)