Hard Questions는 Facebook 제품이 사회에 미치는 영향을 다루는 시리즈입니다.

엘렌 실버(Ellen Silver), 운영 담당 부사장(VP of Operations)

Facebook에는 혐오 발언, 나체 이미지, 혹은 다른 사람을 괴롭히는 동영상을 올리는 것 등에 대한 엄격한 규정이 있습니다. 콘텐츠 정책팀은 테러 대책에서 아동 성 착취에 이르기까지 다양한 분야에 대한 전문 지식을 활용하고, 전 세계 전문가들과 긴밀한 협의를 통해 규정을 명시하고 있습니다. 또한 이러한 규정을 위반하는 사례들에 대응하는 팀도 운영하고 있습니다. 우선 제품(개발)팀이 악성 콘텐츠를 상당 부분 삭제할 수 있는 인공 지능, 머신 러닝 등의 필수 시스템을 구축했습니다. (이 시스템은 경우에 따라 악성 콘텐츠가 사람들의 눈에 띄기도 전에 삭제해버리기도 합니다.) 하지만, 혐오 발언이나 온라인 폭력 등 문맥상 고려가 필요한 부분들은 기술만으로 모든 것을 포착해낼 수는 없기 때문에, 또 다른 주요 대응 방안의 하나로 전 세계 수천 명의 콘텐츠 리뷰어들이 활동하고 있습니다.

콘텐츠 검토는 쉽지 않습니다. 때로는 불쾌하고 폭력적인 콘텐츠를 보고, 문화적 관점과 페이스북 플랫폼 정책의 근본이 되는 커뮤니티 규정을 모두 고려해 어떤 조치를 할지 결정해야 합니다.

그간 Facebook의 규정과 그 실행에 있어 AI를 사용하는 것에 대해서는 여러 차례 소개해드렸지만, 리뷰어에 관해서는 자세하게 공개할 기회가 많지 않았습니다. 그 이유의 상당부분은 안전상의 이유 때문입니다. 최근 YouTube 본사에서 발생한 총격 사건처럼, 콘텐츠 관리팀의 위치 혹은 리뷰어들에 대한 정보를 공유하는 것 조차 조심스러울 정도로 이들은 상당한 위험에 노출되어 있습니다. 리뷰어들이 일상적으로 겪는 문제와 업무의 복잡함은 종종 그들의 실제 업무와 그 업무의 수행이 안전한지 고민하게 만듭니다. 게다가, 최근 몇 주간은 Facebook에서 게시를 허용하는 기준과 전 세계 콘텐츠 리뷰어들이 그러한 기준을 공정하고 일관되게 적용하는지에 대해 의문을 제기하는 분들이 늘어나기도 했습니다. 이러한 여러 가지 이유로, 이 글을 통해 검토 프로세스가 어떻게 작동하는지, 리뷰어를 어떻게 훈련 받는지, 그리고 Facebook의 기준을 어떻게 일관되게 적용하는지 설명드리려 합니다.

실제 이 정도 규모의 콘텐츠 관리는 전례가 없다고 할 수 있습니다. 이렇게 많은 국가와 문화권에서 다양한 언어로 소통하는 플랫폼은 그동안 존재하지 않았습니다. Facebook은 이 검토 업무의 엄청난 규모와 그 업무를 제대로 수행해야 할 책임이 있다는 사실을 잘 알고 있습니다.

그들은 누구인가요?

Facebook은 안전과 보안을 담당하는 팀을 올해 말까지 기존의 2배, 약2만 명까지 확대할 예정입니다. 여기에는 정규직, 계약직 직원과 협력 업체 등 7,500여 명의 콘텐츠 리뷰어가 포함되며, 그 수는 지금도 계속 늘고 있습니다. 이 팀은 전 세계 모든 시간대와 50개 이상의 언어를 지원하는 글로벌 팀으로 Facebook의 다양성을 반영하는 여러 경험을 가진 리뷰어들이 전직군인부터 공무원에 이르는 매우 다양한 직업적 경험을 업무에 반영합니다.

콘텐츠를 24시간 상시 관리하는데 있어 가장 중요한 부분은 회사의 다국어 지원 역량입니다. 예를 들어, 누군가 필리핀에서 한밤중에 타갈로그어로 된 게시물을 신고한 경우, 해당 지역 또는  타 시간대의 지역에서 타갈로그어를 할 수 있는 리뷰어가 항상 지원하고 있어 이를 신속하게 검토할 수 있습니다. (물론 나체 이미지와 같이 언어와 관계없이 전 세계에 할당되는 신고 게시물도 상당수를 차지하긴 합니다.) 만약 24시간 상시 지원이 이뤄지지 않는 언어로 신고된 게시물이 있다면, 지역적 맥락과 언어를 이해하는 데 도움을 주는 번역 회사 및 기타 전문가와 협력해 내용을 살펴보는 경우도 있습니다.

언어 능력 외에도 문화를 알고 이해하는 능력 역시 중요합니다. 예를 들어, 어떤 단어의 특정한 의미나 게시물이 공유되는 지역의 정치 풍토를 이해하기 위해 현지인이 필요한 경우가 많기 때문에, 멕시코에서 신고된 게시물을 보다 면밀히 검토하기 위해서는 단순히 스페인어를 하는 사람이 아니라 멕시코에서 스페인어를 할 수 있는 사람을 고용하기도 합니다.

이러한 검토 업무가 모두에게 맞는 것은 아닙니다. 그래서 직원들의 개인적인 성공을 도모하면서도, 이 업무 과정에서 불가피하게 발생하는 어려움에 잘 대처할 수 있는 분을 채용하는 것 역시 저희의 중요한 과제입니다. 언어 능력과 문화적 역량을 중요하게 생각하는 만큼 해당 직원의 회복 탄력성도 고려합니다. 예를 들면, 지원자가 폭력적 이미지를 다루는 것에 큰 어려움 없는지 등을 함께 살피는 것이죠. 그리고 당연히 해당 지역의 모든 고용 관련 법규도 준수합니다. (채용 과정을 명확히 하고자2018년 7월 27일 업데이트)

수주간의 집중 훈련

담당자가 해당 업무를 원활히, 그리고 불편함 없이 수행하기 위해서는 충분한 교육이 필요합니다. 콘텐츠 리뷰어들이 Facebook의 정책과 그 근거, 그리고 또 이를 어떻게 적용하는지를 철저하게 이해하도록 합니다. 정규직, 계약직, 파트너사들을 포함해 모든 리뷰어를 위한 훈련에는 다음의 3가지가 포함됩니다.

  • 업무에서 요구되는 항목들을 다루는 사전 훈련: 각 신입 리뷰어는 회복 탄력성과 웰니스(wellness) 지원책을 이용하는 방법을 배우고, 추가적인 지원이 필요할 때 임상심리사에게 도움을 구하는 방법에 대한 정보를 얻습니다.
  •  강사와 함께하는 최소 80시간 이상 실시간 훈련과 ‘실제 환경’과 동일한 실무 시스템을 이용한 핸즈 러닝(Hands-on Learning): 리뷰어들은 회사의 정책을 일관되고 정확하게 적용한 부분과 더 훈련이 필요한 부분을 명시한 평가표를 받습니다.
  • 지속적 코칭(Ongoing Coaching): 일단 리뷰어로 고용되면, 모든 신입 리뷰어들은 정기적인 코칭, 재교육(Refresh session) 그리고 정책 업데이트에 관한 교육을 받습니다.

실제 검토 과정

누구나 Facebook의 규정을 어겼다고 생각되는 콘텐츠를 신고할 수 있습니다. 신고된 게시물은 언어 혹은 위반 유형에 따라 콘텐츠 관리팀에게 자동으로 전달됩니다. 이러한 방식으로 관련 정책 분야에 대한 특정 교육을 받은 관리팀이 신고된 게시물을 검토하고, 필요할 경우 커뮤니티 운영 에스컬레이션(Community Operations Escalations)팀 혹은 콘텐츠 정책팀의 담당자에게 보고합니다.

각 콘텐츠 리뷰어는 신고된 게시물들을 할당 받아 살펴봅니다. 때로는 나체 이미지처럼 해당 게시물 자체를 단순히 보기만 해도 게시 허용 여부를 결정할 수 있는 경우도 있지만, 어떤 경우에는 맥락을 고려하는 것이 중요하기 때문에 신고된 게시물에 달린 댓글 등 추가적인 정보도 함께 제공합니다. 예를 들어, 역사적으로 인종 차별적 표현으로 사용되는 단어를 어떤 사람은 혐오 발언에 사용할 수도 있지만, 또 다른 사람은 자신을 표현하는데 사용할 수도 있습니다. 이러한 맥락적 고려를 위한 정보들은 리뷰어가 규정을 적용하고 게시물의 삭제 여부를 결정하는 데 도움을 줍니다.

Facebook은 개인적 견해나 편견을 검토 과정에서 완전히 배제하려 노력합니다. 따라서 이론적으로는 동일한 게시물을 검토한 사람이 두 명이라면, 그 두 사람이 항상 동일한 결정을 내릴 수 있어야 합니다. 물론 정책이 충분히 구체적이지 않거나, 정확하지 않다면 다른 판단을 내릴 수도 있습니다. 그렇기 때문에 항상 저희는 정책을 더 명확히 하고 개선하기 위해 노력하고 있으며, 매주 리뷰어들이 검토한 게시물을 샘플링해 결정이 잘못 내려진 케이스들을 찾습니다. 심지어 그 업무의 수행을 감사하는 담당자들 역시 정기적으로 감사를 받습니다. 각 리뷰어팀에는 리더를 두고 단순히 가이드를 주는 것을 넘어 어떤 질문에도 답변할 수 있도록 Facebook 정책 전문가와의 주간 점검을 진행하고 있습니다.

콘텐츠 리뷰어에 대한 흔한 오해 중 하나는 그들 각자에게 주어진 할당량이 있고, 이를 특정 시간 안에 빠르게 처리해야하는 압박이 있을지 모른다는 것입니다. 하지만 결코, 콘텐츠 리뷰어들이 검토해야하는 게시물의 숫자는 정해져 있지 않습니다. 일례로 나체 이미지 등은 상대적으로 짧은 시간 안에 검토할 수 있지만, 타인으로 가장하는 행위처럼 면밀한 판단이 필요할 때는 시간이 훨씬 오래 걸릴 수 있습니다. 콘텐츠 유형별로 검토에 쓰이는 시간에 대한 일반적인 지침이 있기는 하지만, 이는 회사가 필요한 인력을 충분히 확보하고 있는지 확인하기 위해서이고, 리뷰어들에게는 필요한 만큼 시간을 들여 게시물을 살펴보도록 권장하고 있습니다.

검토 담당 직원들에게 대한 복리후생

Facebook에는 그래픽 및 악성 콘텐츠를 다루는 직원들을 위한 회복 탄력성 프로그램을 설계, 실행, 평가하는 팀이 있습니다. 이 팀은 3개 지역에 걸쳐 4명의 임상심리사로 구성됩니다. 이 들은 파트너사 및 회복 탄력성 전담팀과 협력해 업계 표준을 구축하는 데도 기여합니다.

정규직, 계약직, 파트너사 직원 등에 상관없이 모든 콘텐츠 리뷰어들은 숙련된 전문가의 개인/ 그룹 상담 등 정신 건강을 위한 지원책을 이용할 수 있습니다. 또한 모든 리뷰어들에게 의료 혜택이 제공됩니다.

리뷰어들이 근무하는 환경에도 주의를 기울이고 있습니다. 리뷰어가 컴퓨터 모니터 화면만 밝혀진 어두운 지하에서 근무한다는 일부의 오해가 있는데, 적어도 Facebook에는 해당되지 않습니다. 콘텐츠 관리팀 사무실은 Facebook의 다른 사무실과 매우 비슷합니다. 리뷰어들은 상당히 심각한 이슈들을 다루기 있기 때문에 근무 환경과 그 주변 환경은 그들의 건강과 근속에 매우 중요합니다.

독일 에센의 콘텐츠 리뷰어

독일 에센의 콘텐츠 리뷰어

계속 가야할

요즘처럼 방대한 규모의 콘텐츠가 생산되는 시대에 콘텐츠 관리는 마치 미지의 세계와도 같습니다. 계속 앞으로 나아가며 알아가야 할 영역이고, 어느 정도 한계도 있을 것입니다. 이 일을 하는 모든 분들이 Facebook에게는 너무도 소중합니다. 콘텐츠 리뷰어들은 Facebook을 우리 모두에게 안전한 곳으로 만들어주는 알려지지 않은 영웅들입니다. 우리 역시 이들을 안전하게 지켜줄 의무가 있습니다.