윤지만의 와일드월드

페이스북은 차별의 공간이 되었나

2017.07.17

페이스북이 검열로 논란에 휩싸인 것은 하루 이틀 일이 아니다. 한국에서는 페이스북이 김치녀 페이지는 방관하면서, 메갈리아 페이지를 삭제했던 일이 있었다. 그 일 이후로 페이스북의 검열 정책이 기준이 모호하고 편향적이라는 비판이 있었고, 그 비판은 지금도 진행 중이다. 해외에서도 페이스북이 퓰리처상을 받은 ‘네이팜 소녀’ 사진을 단순히 여자아이의 나체가 보이는 사진이라는 이유로 삭제했던 일이 있었다. 페이스북은 아동 포르노와 유명한 전쟁 사진을 구분하지 못한다는 비판 때문에 삭제했던 사진을 다시 복구했다. 당시 노르웨이 총리는 페이스북이 과도하게 표현의 자유를 제한한다면서 거세게 반발했었다. 다양한 일들을 겪으면서 페이스북의 검열 정책은 사람들의 비판을 수용하는 쪽으로 계속해서 바뀌어왔지만, 여전히 많은 사람이 페이스북의 검열 기준을 이해하기 힘들어한다. 페이스북의 검열 기준이 투명하게 공개되지 않기 때문이기도 하지만, 무엇보다 페이스북의 검열 정책이 인권과 상식을 기준으로 한 사람들의 생각과 같지 않기 때문이다. 특히 이번에 언론에 의해 공개된 페이스북의 내부 문서는 페이스북의 검열 기준과 사람들의 생각이 얼마나 차이가 나는지 잘 보여준다.


“모든 테러리스트는 무슬림이다.”라는 문장과 “모든 무슬림은 테러리스트다.”라는 문장은 무슬림과 테러리스트를 연관 지으면서 무슬림에 대한 부정적인 이미지를 상기시키기에, 일반적인 상황이라면 둘 다 지양되어야 하는 발화일 것이다. 하지만 페이스북의 정책은 첫 번째 문장을 페이스북에 올라와도 괜찮은 발화라고 보면서, 두 번째 문장은 검열이 필요한 발화로 간주한다. 페이스북이 보호해야 하는 카테고리와 보호하지 않아도 되는 카테고리를 구분하는 방식 때문이다. 그 기준에 따르면, 테러리스트는 보호하지 않아도 되는 카테고리이기에 첫 번째 문장은 허용될 수 있고, 무슬림은 보호해야 하는 카테고리이기에 허용될 수 없다.


프로 퍼블리카’에 올라온 다른 예를 보자. 여성 운전자와 흑인 아이, 백인 남자 중에 혐오 발화로부터 보호받아야 하는 이들은 누굴까? 페이스북의 기준에 따르면, 백인 남자가 정답이다. 보호받아야 하는 카테고리에서도 카테고리의 부분집합에 관해 쓸 때엔 사용자에게 좀 더 폭넓은 발언의 자유를 주기 때문이다. 백인 남자는 백인과 남자 모두가 보호받아야 하는 특징이지만, 여성 운전자나 흑인 아이는, 급진적인 무슬림처럼, 둘 중 하나의 특질이 보호하지 않아도 되는 것이기에 이들을 향한 혐오 발화는 페이스북의 검열에 걸리지 않는다. 보호해야 하는 카테고리에는 인종, 성별, 성 정체성, 성적 지향, 신앙, 국적, 심각한 장애와 질환이 있고, 보호받지 않는 카테고리에는 사회적 계급, 직업, 나이, 출신 대륙, 외모, 정치적 이데올로기, 종교, 국가가 있다. 여성 운전자에서 운전자는 보호받지 않는 카테고리이고, 흑인 아이에서 아이는 나이를 기준으로 보호받지 않는 카테고리다. 결국, 이런 기준에 의해 여성 운전자와 흑인 아이는 혐오 발화로부터 보호받지 못한다.


페이스북의 검열 알고리즘은 현실 속 차별을 인식하고, 소수 인종과 여성들을 위해 적극적 조치를 취하는 현실의 법과 달리, 모든 인종과 성별을 평등하게 대하도록 디자인됐다. 메릴랜드 대학의 법학과 교수, 다니엘 시트론은 ’프로 퍼블리카‘와의 인터뷰에서 이런 페이스북의 접근법이 “보호가 가장 덜 필요한 사람을 보호하고, 정작 보호가 정말 필요한 사람은 보호하지 않게 된다”고 말한다. 게다가 ’가디언’에서 보도한 대로, 페이스북의 콘텐츠 관리자들은 저임금 노동자들이다. 4,500여 명의 관리자들은 적은 돈을 받으며 매달 약 1억 건의 콘텐츠를 리뷰한다. 대략 10초에 하나의 글을 확인해야 한다. 이러한 페이스북의 상황들이 ’가디언’에 의해 보도된 이후, 영국에선 페이스북이 커뮤니티 정책을 투명하게 공개해야 한다는 목소리들이 나오고 있다. 페이스북의 영향력을 생각하면, 페이스북의 정책은 공론장에서의 발화가 어떻게 이루어져야 하는지를 결정하는 중요한 기준이라 할 수 있다. 그런 중요한 기준이 공론장의 참여자들에게 투명하게 공개되어야 한다는 요구는 어쩌면 당연한 것이 아닐까?





목록

SPECIAL

image 지금, 초등학교

MAGAZINE

  • imageVol.171
  • imageVol.170

최신댓글