By Monika Bickert, Head of Global Policy Management, and Brian Fishman, Head of Counterterrorism Policy, Facebook

인터넷은 수십 년간 사람과 사람을 이어주는 중요한 역할을 담당해 왔습니다. 그러나 최근에는 안타깝게도 소셜 미디어와 같은 최신 기술을 악용해 범죄에 사용하는 경우도 발생하고 있으며, Facebook을 비롯한 소셜 미디어 기업들은 이를 막고자 최선을 다하고 있습니다. 가장 큰 문제는 테러 단체입니다. 테러리스트들은 인터넷을 활용해 신규 구성원을 모집하고 자신들의 극단적인 이데올로기를 전파하고 있습니다. 이들은 자신들의 메시지를 선전하기 위해 특정 소셜 미디어나 온라인 미디어를 넘어 다양한 수단을 동원하고 있습니다.

세계 각국의 정부, 기업, 비영리 단체들은 이런 테러리스트들의 온라인 선전에 함께 맞서 싸우고 있습니다. 하지만 웹 전체로 퍼질 수 있는 이 문제를 해결할 최적의 방안은 여전히 고민 중입니다.

방대한 데이터베이스와 첨단 기술을 보유하고 있는 Facebook이 왜 기술적으로 테러리스트들의 활동을 막지 못하는지 의아하실 수도 있습니다. 하지만, 이는 단순히 기술만 적용한다고 해결되는 문제는 아닙니다. 온라인 테러는 맞서 싸울 ‘인력’이 함께 투입되어야 해결할 수 있습니다. 더 나아가, 모든 인터넷에서 테러 관련 콘텐츠가 퍼져 나가는 것을 막는 효율적인 방법을 마련하기 위해서는 서로 힘을 합쳐야 합니다.

Facebook은 지난 2년간 10곳 이상의 다양한 기업들과 함께, 테러리스트가 Facebook 서비스를 이용하지 못하도록 차단하는 방법을 논의했습니다. 기업들 모두 방대한 콘텐츠가 올라오는 가운데 상대적으로 양이 적은 테러 관련 콘텐츠를 식별하는 방법과 다양한 언어로 된 테러 관련 콘텐츠를 빠르고 정확하게 검토하는 방법이 무엇일지 비슷한 고민을 안고 있습니다.

저희는 지난 7월, Hard Questions 게시글을 통해 Facebook이 현재 이런 과제에 어떻게 대처하고 있는지 설명해드렸습니다. Facebook은 테러리스트의 콘텐츠가 Facebook 사이트에 발 디딜 수 없도록 노력하고 있으며, Facebook의 방어막을 뚫고 들어와 활동하는 경우에도 해당 콘텐츠를 신속하게 찾아 제거하기 위해 최선을 다하고 있습니다. Facebook은 예전부터 CO(Community Operations)팀의 콘텐츠 검토자와 같은 인력을 활용해 잠재적으로 위험을 지닌 콘텐츠를 평가하고 삭제해왔습니다. 이제는 거기에 더해, 지난 6월에 설명한 것처럼 인공지능을 활용해 이를 보완하고 있습니다. Facebook은 다양한 유형의 콘텐츠에 상관없이 작동할 수 있는 기술을 개발해야 합니다. 사진에 효과적인 솔루션이 동영상이나 텍스트에서도 꼭 도움이 되는 것은 아니듯이, 테러리스트 아이코노그래피(Iconography, 도상학) 이미지를 인식하는 솔루션도 ‘조직원 모집을 위해 테러리스트가 공유한 이미지’와 ‘사람들에게 알리기 위해 언론사가 공유한 같은 이미지’를 완벽하게 구분해 내지 못하기 때문입니다.

이 분야에서의 AI 활용은 여전히 초기 단계이긴 하지만 긍정적인 결과가 예상됩니다. Facebook은 앞으로 AI가 Facebook 및 인터넷상에서 보호와 안전을 책임지는 보다 유용한 도구가 될 것으로 기대하고 있습니다.

하지만 동시에, 전적으로 AI에만 의지하지도 않을 것입니다. Facebook은 AI와 더불어 다른 기술 기업, 각국 정부 및 비영리 조직들과의 협업을 지속해서 확대해, 인터넷 테러 근절이라는 목표를 함께 달성할 것입니다.

 

인공지능(AI)을 통한 테러 감지 및 제거

테러 관련 콘텐츠 확산 방지에 AI를 포함한 자동화 기술의 도입은 앞으로 더 큰 효과를 발휘할 것입니다.

현재 Facebook에서 삭제되는 ISIS 및 알카에다 관련 테러 콘텐츠 중 99%는 커뮤니티에서 누군가가 신고하기 전에 Facebook이 직접 감지해 삭제하고 있으며, 일부는 사이트에 퍼지기도 전에 감지하기도 합니다. Facebook은 주로 사진, 동영상 일치 기술 및 텍스트 기반 머신러닝과 같은 자동화 시스템을 사용해 테러리스트 콘텐츠를 찾아냅니다. 테러 관련 콘텐츠로 판명되면 업로드된 내용의 83%가 업로드 1시간 이내에 삭제됩니다.

AI를 통해 테러 방지 활동을 전개하는 것은 단순히 스위치 하나를 켜고 끄는 것처럼 간단한 작업이 아닙니다. 활용하는 기법에 따라 데이터베이스를 세심하게 선별하고 인간이 데이터를 코딩해 시스템이 여기에 적응할 수 있도록 해줘야 합니다. 각 테러 단체마다 자신들의 선전에 사용하는 언어와 스타일이 다르기 때문에 특정 테러 단체의 콘텐츠를 찾도록 제작된 시스템이 다른 테러 단체에서는 작동하지 않을 수 있습니다. 이런 한계로 인해, 가장 혁신적인 테러리스트 탐지 기법은 실제 세계와 온라인에서 가장 큰 위협이 되는 특정 테러 단체에 집중해 운영하고 있습니다. ISIS와 알 카에다는 이 분류에 가장 부합하는 테러 조직이기 때문에, 현재 이들 조직과 그 연계 조직에 맞서는 데 최우선 순위를 두고 있습니다. 앞으로 각 지역 테러 조직의 콘텐츠를 감시하는 데에도 자동 시스템 사용을 점차 확대해 나갈 예정입니다.

 

전문가와 협력을 통한 테러 콘텐츠 적발

대테러를 위한 AI의 사용은 점점 더 열매를 맺고 있지만, 전문가가 수작업으로 검토해 보강해야 합니다. 이를 위해 Facebook은 회사 내외부의 전문가와 협업해 인터넷상의 극단주의를 소탕하는 데 노력하고 있습니다.

Facebook은 지난여름 Microsoft, Twitter, YouTube와 함께 ‘테러대비 세계 인터넷 포럼(Global Internet Forum to Counter Terrorism)’ 설립을 발표하며 테러 확산 및 폭력적인 극단주의를 플랫폼상에서 완전히 퇴치하기 위한 장기 협력을 공식화했습니다. 테러리스트는 온라인상에서 다양한 방법을 시도해 사람들에게 메시지를 전달하고 있습니다. 이에 세계 인터넷 포럼은 전 세계 소규모 기술 업체들과도 협력하며 테러 조직의 추세 분석 정보와 테러 조직을 막는 데 효과적인 방법을 공유하고 있습니다. 현재 세계 인터넷 포럼은 세 차례의 국제 업무 세션을 진행하며, 50곳 이상의 전문 기술 업체와 협업하고 있습니다.

세계 인터넷 포럼은 지난 2016년 12월 유럽연합(EU) 인터넷 포럼에서 출시된 “해시” 관련 산업 공유 데이터베이스를 개발 및 확장하고 있습니다. Facebook은 공유된 테러 조직 언론의 고유 디지털 “지문” 해시를 통해 테러 조직의 잠재적인 선전물 게시 시도를 감지합니다. 또한 전 세계 각국의 정부, 기술 업체, 시민 단체와 함께, 온라인 극단주의 퇴치 방안에 대한 연구를 공동 추진하고 있습니다.

Facebook은 업계 협력 확대와 더불어 언어학자, 교수, 법 집행 기관 전문가, 정보분석 전문가 등을 통해 내부 전문가 시스템을 지속해서 강화하고 있습니다. Facebook의 내부 전문가는 전 세계 테러 집단에 대한 지역별 전문성을 갖추고 있습니다. 또한, 테러 단체가 시도하는 새로운 인터넷 사용 행태의 변화를 빠르게 포착할 수 있도록 회사 외부의 전문가와 긴밀한 관계를 형성하고 있습니다.

일례로 Facebook은 최근 수개월 동안 플래시 포인트(Flashpoint), 중동 언론 연구소(Middle East Media Research Institute), 시테 인텔리전스 그룹(SITE Intelligence Group), 앨라배마대학교 버밍햄캠퍼스의 컴퓨터 포렌식스 연구소(University of Alabama at Birmingham’s Computer Forensics Research Lab) 등 국제 테러 또는 사이버 인텔리전스에 전문성을 갖춘 여러 단체와 파트너십을 확대했습니다. 파트너 단체는 테러 단체와 관련되어 있을 가능성이 있는 Facebook 페이지, 그룹을 Facebook이 검토할 수 있도록 공유하고 있습니다. 또한, 파트너 단체는 페이스북 외 다른 경로로 게시된 ISIS 및 알카에다 관련 사진과 동영상 파일을 공유합니다. Facebook은 알고리즘을 통해 해당 파일의 일치 여부를 확인하고, 게시물을 삭제하거나 차단하고 있습니다.

 

실제 세계에 미치는 영향

Facebook은 테러로부터 Facebook 커뮤니티를 안전하게 보호해 주는 세계 각국의 법 집행 기관 및 안전 관계자의 노고에 감사드리며, 테러 방지를 위해 이들을 최선을 다해 지원하고 있습니다. 앞서 언급한 바와 같이, Facebook은 법 집행 기관과 협업을 통해 확인된 위협에 대응합니다. 법 집행 기관의 대응팀은 Facebook의 긴급 요청에 대응할 수 있도록 24시간 상시 대기하고 있습니다. Facebook은 지난 한 해 동안 테러 위협에 대응하고 있는 전 세계 여러 당국을 적극적으로 지원했으며, 실제로 법 집행 기관이 테러리스트의 공격을 막고 피해를 방지할 수 있었던 사례로 이어졌습니다.

 

Facebook의 지속적인 노력

AI와 전문 인력, 파트너십 강화 등을 통해 테러 방지에 대한 의지를 확고히 할수록, Facebook은 저희가 도울 수 있는 부분이 더 많다는 사실을 더욱 절감하고 있습니다. 앞으로도 테러라는 전 지구적인 문제와 싸워나가기 위한 저희의 신기술 개발이나 파트너 제휴 등에 대해 여러분께 꾸준히 말씀드릴 수 있도록 하겠습니다.