블루일베의 알고리즘에 ‘썰리는’ 여성들

“남자들은 쓰레기야.” 이 말 한 마디를 썼다가 미국 여성 500여 명의 페이스북 계정이 한꺼번에 차단됐다. 지난 11월 24일에 일어난 일이다. 이들은 앞서 페이스북 계정이 ‘썰린’1) 동료 코미디언을 위해 동시에 같은 게시물을 올리는 항의 시위를 벌였었다. 동료 여성은 마르샤 빌스키(Marcia Belsky)로 지난 10월 페이스북에 ‘남자들은 쓰레기’라는 같은 말을 썼다가 30일 동안 페이스북 이용을 금지 당했다. 이 말은 애초 남성유저들에 여성혐오 문제를 제기한 뒤 ‘조리돌림’을 당한 친구 계정에 썼던 말이지만 ‘조리를 돌린’ 남성들이 아닌 빌스키의 계정이 비활성화됐다. 그의 계정이 차단된 건 이번이 처음은 아니다. 이전에도 ‘남자는 성적 약탈자’라는 말을 올렸다가 썰린 적이 있다.

그들은 당신이 게재한 것을 삭제한다

이 사건은 <가디언>2)의 보도까지 탔지만, 페이스북 계정이나 게시물 삭제는 한국 페미니스트들에겐 사실 이미 익숙한 문제다. 페이스북에서 ‘블루일베’(파란색 로고+일베)라는 말로 검색하면 수많은 게시물이 잡힐 정도다. 대표적으로는 수만 명이 ‘좋아요’를 눌렀던 메갈리아 계정부터 수많은 계정과 게시물이 ‘혐오발언’이나 ‘선정성’을 문제로 속속 차단되고 사라졌다. 2015년 6월 ‘<메갈리아> 1, 2, 3’ 페이지가 차례로 강제로 비활성화된 데 이어 2016년 5월 30일에는 강남역 여혐 살인 사건 후 자신이 겪은 여성혐오 피해 경험을 말하고, 공유하는 글들이 올라왔던 <강남역 10번 출구 자유발언대>가 사라졌다. 같은 해 <바람계곡의 페미니즘>의 한 운영진의 계정이, 지난해 7월에는 <맞는말대잔치>가, 8월에는 성판매 여성이 자신의 목소리를 내기 위한 <성판매 여성 안녕들하십니까> 페이지도 강제로 비활성화됐다.

개인 계정과 게시물도 예외는 아니었다. 《워커스》가 1월 17일부터 5일간 공개 모집한 사례에 따르면, 다양한 형태의 게시물들이 페이스북의 검열에 썰렸다. A씨의 경우에는, 지난해 7월 퀴어문화축제 때 ‘겨털’ 대회에 참가했다가 여성 신체를 통제하는 사회에 대한 항의의 행동으로 가슴을 드러냈었는데 이 모습을 촬영하고 인스타그램에 올린 친구의 포스트가 바로 삭제됐다. 페이스북은 해당 게시물을 삭제하겠다는 통보조차하지 않았다. A씨는 “인스타그램에 남성들은 상체를 벗은 모습을 자연스럽게 올리는데 여성의 상체는 바로 삭제된다”고 토로했다. 나영 지구지역행동네트워크 활동가의 경우, 2016년 3월 페이스북이 갑자기 계정을 차단하고 실명 확인을 요구해 강제로 성까지 붙인 이름을 사용하게 됐다. 계정이 갑자기 폐쇄된 계기는 여성도 군대에 가야 하는지를 놓고 싸우는 남성들의 모습을 그린 카툰을 게시한 일이었다. 반대로 B씨는 몰래카메라 유출 리벤지포르노 피해자 사진을 올려 놓고 이메일 주소를 알려주면 보내주겠다는 계정의 게시물을 신고한 적이 있었는데 1시간도 지나지 않아 페이스북으로부터 이 게시물이 커뮤니티 규정을 위반하지 않았다는 회신을 받았다고 했다.

여성주의 게시물을 검열하고 삭제하는 페이스북에 대한 여성운동의 문제의식은 이미 깊다. 정슬아 한국여성민우회 미디어운동본부 활동가는 “소위 ‘유해물’의 판단 기준도 모호할 뿐 아니라 여성혐오적 표현이나 사진들의 명예훼손 문제가 오랫동안 제기해왔는데도 받아들여지지 않은 반면 페미니즘 이슈 관련 페이지는 빠르고 강도 높게 차단되고 있다”라고 지적한다. 김혜정 한국성폭력상담소 활동가도 “페이스북 뿐 아니라 여초 카페에 노출수위가 낮고 폭력성이 없는 성표현물 ‘움짤’을 올려도 남초 사이트와는 비교 안 되게 빠르게 삭제된다는 제보가 많다”고 밝혔다.

[출처: 나영]

블루일베의 알고리즘?

페이스북 기업이 이용자의 게시물을 어떻게 삭제하는지는 알려져 있지 않다. 다만 페이스북은 자체 커뮤니티 규정을 운영하고 있고 이를 위반했다는 이용자의 신고가 들어올 경우 규정에 따른 조치를 내린다고 한다. 페이스북의 커뮤니티 기준3)은 △개인 안전 보호 △서로 존중하는 페이스북 △계정 및 개인 정보 보호 등 4개 항목에 14개 하위 항목으로 구성돼 있는데 이는 영문과 한글 설명이 거의 일치한다.4) 페이스북은 이 규정을 ‘콘텐츠 검토원’이라는 이름의 직원이 감독하도록 하는데, CNBC 보도에 따르면, 페이스북 미국 본사는 이 콘텐츠 ‘검토원’을 4,500명에서 7,500명 정도 고용하고 있다. 그러나 페이스북 본사가 직접 고용한 것인지 아니면 한글 페이지의 경우 페이스북 코리아가 담당하는 것인지 등 더 구체적인 정보는 알 수 없다.

여하간 페이스북은 ‘커뮤니티 규정’ 페이지에서 밝히는 것처럼, “누구나 안심할 수 있는 환경을 만들고 있다”는 점에 확고하다. 지난 2016년 ‘블루 일베’ 논란이 한창이던 시절, 미국 페이스북 본사 글로벌 총책인 모니카 비컷도 방한해 “여성에 대한 혐오 표현 역시 페이스북의 커뮤니티 규정을 위반한다”5)고 해명한 일이 있다.

하지만 페이스북의 설명과는 다르게, 한국에서 페미니즘 이슈 관련 계정과 페이지가 삭제되고 있는 것처럼 페이스북이 제한하고 보호하는 것은 오히려 그 반대인 경우가 많다. 영화 <소셜네트워크>의 데이빗 핀처 감독이 표현한대로, 2003년 하버드대학교 학생이었던 마크 저커버그가 애초 자신의 여자친구에게 차인 뒤 보복성으로 여학생들의 미모를 품평하기 위해 만든 사이트에서 시작된 페이스북의 ‘태생적인 한계’ 때문일까?

최근 미국 비영리 인터넷 언론 <프로퍼블리카>(ProPublica)가 폭로한 ‘페이스북의 콘텐츠 매니저용 교육 자료’에 따르면, 페이스북의 알고리즘에 그 원인이 있다. 즉, 페이스북이 여혐 게시물이 아닌 여성주의 게시물을 차단하는 사례가 많은 것은 알고리즘이 그렇게 설계돼 있기 때문이다. 예를 들어보자. 백인 남성과 곱슬머리 여성이나 흑인 어린이, 근본주의 무슬림 중 페이스북이 혐오 발언으로부터 보호하는 것은 누구일까? 답은 백인남성이다.

페이스북의 알고리즘은 ‘인종, 성별, 성 정체성, 성적 취향, 종교, 국적, 민족, 장애나 질병’을 ‘보호 항목’으로 지정하고 이에 대한 ‘저주, 비방, 폭력 및 다른 유형의 공격적 발언’을 삭제하도록 지시한다. 그러나 ‘보호 항목’의 ‘하위 집단’에 대해서는 보다 넓은 자유를 준다. 원칙은 간단하다. ‘백인’은 보호항목인 인종에 그리고 ‘남성’도 보호항목인 성별에 포함돼 보호된다. 그러나 ‘여성’은 보호항목인 성별에 포함돼 보호되지만 ‘곱슬머리’는 보호항목에 포함되지 않기 때문에 ‘곱슬머리 여성’은 혐오 발언으로부터 보호되지 않는 것이다. ‘흑인어린이’나 ‘근본주의 무슬림’도 마찬가지의 공식이 적용된다. 즉, 특성 중 하나가 보호되지 않기 때문에 혐오 발언으로부터 보호되지 못하는 것이다. ‘가난한 남성’, ‘휠체어를 탄 장애인’ 모두 마찬가지이다.

보다 중요한 문제는 ‘인종, 성별, 성 정체성, 성적 취향, 종교, 국적, 민족, 장애나 질병’이라는 보호 항목이 각 범주에서 등가의 가치를 가진다는 것이다. 남성은 여성에 대해 그리고 여성은 남성에 대해 동등하게 보호되는 것이다. 문제는 이럴 경우 ‘이퀄리즘’6)의 오류에 빠질 수 있다는 것이다. 왜 문제인지 예를 들어보자. <프로퍼블리카>(ProPublica)가 예시한대로, 미국 법제도의 경우, 다양성을 보호하거나 차별을 제한하기 위해 인종적 소수와 여성을 위한 차별 철폐 조치 같은 정책을 선호한다. ‘약자’에 대한 보호인 것이다. 남성으로부터 여성을, 이성애자로부터 성소수자를, 성인으로부터 어린이와 청소년을 보호하는 것이다. 그러나 페이스북의 알고리즘은 모든 인종과 젠더 등 보호항목 각 범주를 절대화하여 보호하도록 고안돼 있다. 현실은 남성 중심적인데 페이스북의 알고리즘은 각 성의 권리를 절대화하여 현실을 반영하지 못하는 오류에 빠지는 것이다. 다니엘 시트론 메릴랜드대학 정보학과 교수는 “그렇기 때문에 페이스북은 ‘보호’가 실제로 필요한 사람들에게서 ‘보호’를 빼앗아 오히려 보호가 별로 필요하지 않는 사람들을 보호한다”고 꼬집는다.7) 페이스북의 알고리즘이 이렇게 설계된 이유는 무엇일까? <프로퍼블리카>는 “적어도 일부의 경우, 페이스북의 헤이트 스피치(혐오 발언) 규칙은 기득권층과 정부를 우호하는 경향이 있다”며 “이는 각국 정부가 자국 시민에 대한 페이스북의 서비스를 차단하지 않도록 해야 하기 때문”이라고 지적했다.

문제는 여기서 끝나지 않는다. ‘윗분들의 압력’도 페이스북의 검열에 영향을 미친다. 작년 <월스트리트저널>이 보도한 바와 같이, 페이스북은 미국에 무슬림 이민을 금지하려는 도널드 트럼프 미국 대통령의 게시물을 마크 저커버그 대표의 지시에 따라 예외적으로 삭제하지 않았다.

이스라엘 정부가 페이스북 기업을 직접 협박해 팔레스타인인들의 계정이 삭제된 사건도 비슷한 문제를 드러낸다. 지난해 12월 30일 미국 독립언론 <인터셉트>8)에 따르면, 이스라엘 정부는 2016년 9월 페이스북 기업과 만나 팔레스타인인의 선동을 제한하지 않을 경우 벌금이 부과되거나 서비스를 이스라엘에서 하지 못하게 될 것이라고 협박했다. 이에 따라 팔레스타인 활동가 까삼 비디르와 언론인 카멜 지베일 등 개인과 단체 페이스북 계정 수십 개가 폐쇄됐다. 페이스북은 팔레스타인 활동가들에 대한 검열에 나섰고 이스라엘 당국자들이 이를 지도하고 결정했다. 실제로 이스라엘 당국자들은 페이스북이 자신의 검열 명령에 얼마나 순종적으로 따랐는지 공개적으로 떠벌리기도 했다. 이를테면 새이크 법무장관은 지난달 초 이스라엘 정부가 페이스북에 포스트 158개에 대한 삭제를 요구했고 이중 95%가 삭제됐다고 밝힌 바 있다. 그동안 페이스북이 삭제해온 계정 중에는 팔레스타인정보센터와 같은 언론기관이 운영하는 아랍어 및 영어 페이지도 있었다. 지난해 3월에는 수백만이 팔로우 하는 팔레스타인 정당 파타의 페이지도 일시적으로 폐쇄됐다. 단지 라이플총을 들고 있는 전 지도자 야세르 아라파트의 생전 사진이 포스팅돼 있다는 이유 때문이었다. 이스라엘 점령에 맞서 싸우는 팔레스타인인들이 죽어갈 때9) 같은 목소리를 내던 페이스북 계정도 삭제된 것이다. 여혐살인과 함께 페이스북에서 여성주의 게시물이 사라지는 모습과 흡사하다.

그러나 팔레스타인인에 대한 살해 협박과 같은 이스라엘인들의 폭력 선동은 페이스북에 전혀 문제가 되지 않는다. 지난해 <알자지라>는 “히브리어로 포스트된 격앙된 선동들은 이스라엘 당국과 페이스북의 주의를 별로 받지 않는다”며 “한 연구 보고서는 122,000명의 이용자가 직접적으로 ‘살해’ ‘죽여라’ ‘태워라’와 같은 말로 폭력을 선동했지만 페이스북은 이를 거의 그대로 방치했다”고 보도했다.

최근에는 진보적인 중남미 뉴스통신 <텔레수르>의 페이스북 영문페이지 계정도 통채로 날아갔다. 이 페이지는 전 세계 좌파정부와 사회운동의 소식을 보도하면서 미국 중심의 뉴스 보도와는 다른 대안을 만들어가는, 세계 사회운동에 중요한 자원이었다. 계정 팔로워만 40만 명이었지만 아무런 공지도 없이 하루아침에 사라졌다. 팔로워들의 항의가 폭발한 뒤 현재는 복구된 상태이다.

페이스북 교도소

페이스북 이용자는 2017년 20억 명을 돌파했다. 매출액은 전년보다 약 34% 증가한 것으로 추산된다. 페이스북이 이용자 규모나 매출면에서 사회적 책임이 중대한 기업이라는 것을 의심할 사람은 없다. 그러나 20억 이용자의 광활한 네트워크가 미국의 몇 사람이 소유하는 사기업이라는 것부터 넌센스지만, 페이스북이 아무리 불투명하게 콘텐츠 정책을 운영한다고 하더라도 이에 사회가 개입할 여지는 없다.

이 점에 대해선 방송과 통신에 대한 국가 검열의 논란을 낳아왔던 한국의 방송통신심의위원회조차 고개를 갸우뚱한다. 한국방송통신심의위원회의 관계자는 1월 18일 《워커스》에 “페이스북은 해외사업자이기 때문에 개입할 법적 근거가 없다”며 “삭제된 계정이나 게시물도 신고자가 온라인을 통해 페이스북 해외본사로 직접 전송하는 것이기 때문에 현황조차 파악할 수 없다”고 밝혔다. 실제로 한국방송통신심의위원회가 여성주의 문제로 페이스북에서 삭제된 계정이나 게시물에 대한 문제를 논의하는 경우는 없었다. 2017년 방송통신심의위원회 통신심의소위원회 회의록을 통해 확인할 수 있는 페이스북 심의 회수는 페이스북 4회, 인스타그램 2회로 프라이버시, 허위사실, 명예훼손 등의 문제가 전부였다.

페이스북에 대한 활동가들의 문제의식은 이미 깊다. 김홍미리 여성주의 연구활동가는 “페이스북 코리아는 실체를 드러낸 적이 없고, 불법콘텐츠 신고가 들어오면 삭제하고 답변 문자 하나 보내는 수준이다. 유통한 혐의를 간단히 벗어나는 것이다. 영상과 사진이 돌아다니게 하지 않을 방법이 있을텐데 고의적으로 책임을 방기하며 사회적 책임을 다하지 않고 있다. 경험적으로 소위 ‘썰린다’는 인식은 있지만 현재로선 개입할 방법도 메갈리아처럼 조직된 세력도 없는 상황이다”라고 지적했다. 장여경 진보네트워크센터 활동가는 “알고리즘 불평등에 대해 공적으로 개입할 수 있는 여지가 별로 없다”라며 “무엇이 혐오이고 불평등인지 규범화하는 차별금지법을 위한 논의가 필요하다”라고 밝혔다.

페이스북에서만의 문제는 아니지만, 표현의 자유냐 소수자 보호냐라는 이분법에 갇힌 구도도 해결해야 할 숙제다. 김혜정 한국성폭력상담소 활동가는 “규제 방안 논의에서 표현의 자유 침해에 대한 우려를 크게 고려하고 있으나, 차별과 혐오가 무엇인지 읽어내는 기준과 논의가 더 필요하다”며 “외국에서는 차별금지법이 기반이 되지만, 한국에서는 양비론으로 빠지고 있다”고 지적했다.

미국 코미디언 마르샤 빌스키 동료 카이 에이버리는 ‘페이스북 교도소(www.facebookjailed.com)’라는 이름의 커뮤니티 프로젝트를 시작했다. 그 또한 남성중심적 사회와 여혐 문제에 대한 포스트를 썼다가 여러 번 페이스북에서 차단된 경험이 있다. 이 프로젝트 페이지에는 페이스북이 삭제한 게시물이 올라오고 있다.[워커스 39호]

[각주]
1) ‘차단된’이란 의미
2) <가디언>, 2017년 12월 5일자
3) △개인 안전 보호 항목에 직접적인 위험, 자해, 위험한 단체, 따돌림 및 괴롭힘, 공인에 대한 비난, 범죄 활동, 성폭력 및 성적 착취, 규제 상품, △서로 존중하는 페이스북 항목에 나체 이미지, 편파적 발언, 폭력적이고 자극적인 콘텐츠, △계정 및 개인 정보 보호 항목에 실제 신원 이용, 사기 및 스팸, 사망한 친구 또는 가족의 계정과 △지적 재산권 보호
4) 단, 한글에서는 나체 이미지라는 항목을 영문은 성인 나체 이미지라고 서술하고 있다.
5) <경향신문> 2016년 9월 1일자 인터뷰
6) 페미니즘을 비판하기 위해 ‘평등’ 개념을 강조하며 한 유저가 날조한 가상의 용어
7) 2017년 6월 28일자
8) 에드워드 스노든을 통해 미국 국가 안보국(NSA)의 대중감시 문제를 단독 보도했던 글렌
그린왈드가 주도해 만든 독립언론
9) 도널드 트럼프 미국 대통령이 예루살렘을 이스라엘의 수도로 선언한 이후 이스라엘에 항의하던 팔레스타인 사망자는 17명(1월 16일)으로 늘었다.

추천기사

댓글 남기기 응답 취소

60호 / 조국을 떠난다

60호 / 조국을 떠난다