Por Monika Bickert, Directora de Políticas Globales, y Brian Fishman, Director de Políticas Antiterrorismo, Facebook 

En las últimas décadas, a medida que se volvió cada vez más claro que la internet puede ser usada para conectar a la gente con buenos o malos motivos, Facebook y otras compañías de redes sociales han priorizado minimizar el uso que los criminales pueden darle a las nuevas tecnologías. Uno de los desafíos más grandes en este campo han sido los grupos terroristas, que han tomado la internet como forma de difundir propaganda y reclutar a otros para sus ideologías extremistas. Estos grupos no limitan sus esfuerzos a una sola red social o mecanismo de distribución. Por el contrario, prueban varios canales para transmitir su mensaje.

Y aunque los gobiernos, empresas, y organizaciones sin fines de lucro han luchado contra la propaganda terrorista online, estamos frente a la compleja pregunta de cuál es la mejor manera de enfrentar un desafío global que puede proliferarse de distintas formas, en distintas partes de la web.

A menudo los analistas y observadores nos preguntan por qué, con nuestra extensa base de datos y tecnología de avanzada, no podemos simplemente bloquear las actividades nefastas usando esa tecnología. La verdad es que no solo necesitamos la tecnología, sino también gente que haga ese trabajo. Y para poder ser verdaderamente efectivos en frenar la propagación de contenidos terroristas en internet, debemos combinar nuestros esfuerzos con los de otros.

Hace más de dos años, comenzamos a tener reuniones con más de una docena de otras empresas de tecnología para discutir las mejores maneras de contrarrestar los intentos de usar nuestros servicios por parte de terroristas. Todos enfrentamos desafíos similares, incluyendo cómo identificar la cantidad relativamente pequeña de contenidos terroristas en nuestros sitios relativamente grandes, y cómo revisar ese contenido rápida y efectivamente en varios idiomas.

En un blog post de Preguntas Difíciles publicado en junio describíamos cómo hemos enfrentado esos desafíos en Facebook. Invertimos en esfuerzos para prevenir que los contenidos terroristas lleguen a nuestro sitio. Pero cuando lo hacen, estamos trabajando para encontrarlos rápidamente y eliminarlos de nuestra plataforma. Pero, como explicamos en nuestra publicación de junio, comenzamos a utilizar inteligencia artificial para complementar estos esfuerzos, y así poder identificar contenidos terroristas de manera más rápida y precisa. En nuestro intento de descubrir qué funciona mejor, nos enfrentamos a los desafíos que cualquier empresa debe encarar para desarrollar tecnología que funcione en distintos tipos de medios y diferentes contextos. Por ejemplo, una solución que funciona con las fotos no necesariamente es útil para videos o texto. Una solución que funciona para reconocer iconografía terrorista en imágenes no necesariamente podrá distinguir entre un terrorista que comparte una imagen para reclutamiento, y un medio de noticias que comparte la misma imagen para informar al público.

Hoy tenemos novedades acerca de cómo está funcionando esto. Todavía es temprano, pero los resultados son prometedores y tenemos esperanzas de que la inteligencia artificial (IA) se convierta en una herramienta más importante dentro del arsenal disponible para la protección y la seguridad en internet y en Facebook.

Al mismo tiempo, dado que la IA no es por si sola la única respuesta, continuamos expandiendo nuestras asociaciones con otras empresas de tecnología, gobiernos y organizaciones sin fines de lucro, con quienes compartimos el objetivo de erradicar el terrorismo en internet. 

Detectar y eliminar el terrorismo a través de inteligencia artificial

Como mencionamos el verano pasado, el uso de inteligencia artificial y otras automatizaciones para frenar la propagación de contenido terrorista luce prometedor.

Hoy, un 99% de los contenidos terroristas asociados a ISIS y Al Qaeda que eliminamos de Facebook es detectado antes que nadie de nuestra comunidad nos lo reporte y en algunos casos antes incluso de que esté visible en el sitio. Esto lo hacemos, principalmente, a través del uso de sistemas automatizados para identificar fotos y videos, y machine learning basado en texto. Una vez que tomamos conocimiento de contenido terrorista, eliminamos un 83% de las copias subsecuentes en un plazo de una hora después de subidas.

Utilizar IA para contraterrorismo no es sólo apretar un botón. Según la técnica que se utilice, uno debe analizar cuidadosamente las bases de datos o tener a personas programando datos para entrenar a las máquinas. Un sistema diseñado para hallar contenido de un grupo terrorista puede no funcionar para otro, debido a las diferencias de lenguaje y estilo en sus propagandas. Debido a estas limitaciones, concentramos las técnicas más innovadoras en los grupos terroristas que representan una mayor amenaza a nivel global, tanto en el mundo real como en internet. ISIS y Al Qaeda son los que más se corresponden con esta definición, así que priorizamos nuestras herramientas para enfrentar a estas organizaciones y sus afiliados. Esperamos con el tiempo expandir de manera responsable y efectiva el uso de sistemas automatizados para detectar también contenido de organizaciones terroristas regionales.

Trabajamos con expertos para identificar contenido terrorista

El uso de IA contra el terrorismo es cada vez más fructífero, pero debe ser reforzado con revisiones manuales a cargo de expertos entrenados. Con ese fin, aprovechamos la experiencia tanto dentro de la compañía como fuera de ella, asociándonos con aquellos que pueden ayudarnos a detectar extremismo en internet.

Recientemente anunciamos la conformación del Foro Global de Internet para el Contraterrorismo (GIFCT), trabajando junto con Microsoft, Twitter y Youtube para formalizar nuestra extensa colaboración para combatir la propagación del terrorismo y el extremismo violento en nuestras plataformas. Como sabemos que los terroristas intentarán de muchas maneras llegar a las personas online, estamos trabajando con compañías de tecnología más pequeñas de todo el mundo para compartir el conocimiento sobre las tendencias que vemos en los terroristas y qué es lo que está funcionando para detenerlos. El GIFCT ya ha reunido a más de 50 empresas de tecnología en tres sesiones internacionales de trabajo.

El trabajo del GIFCT abarca el desarrollo y la expansión de una base de datos industrial de “hashes” compartida que fue lanzada en el Foro de Internet de la UE en diciembre del 2016. Compartimos y aceptamos esos hashes –que son “huellas dactilares” digitales únicas de los medios terroristas– con otras compañías que nos ayudan a detectar intentos de subida de potencial propaganda terrorista. A través del GIFCT también nos comprometemos con los gobiernos de todo el mundo y estamos preparando una comisión de investigación conjunta sobre cómo los gobiernos, las compañías de tecnología y la sociedad civil pueden combatir la radicalización online.

Además de una mayor colaboración dentro de la industria, continuamos profundizando nuestro equipo de especialistas internos, que incluye lingüistas, académicos, ex miembros de las fuerzas de seguridad y ex analistas de inteligencia. Ellos tienen experiencia regional en grupos terroristas de todo el mundo y también nos ayudan a construir relaciones más fuertes con expertos fuera de la compañía, que pueden ayudarnos a detectar rápidamente cambios en cómo los grupos terroristas están intentando utilizar internet.

Por ejemplo, en los últimos meses, hemos expandido nuestra sociedad con varias organizaciones que tienen experiencia en terrorismo global y ciber-inteligencia, para que nos ayuden en nuestra tarea. Estos socios –que incluyen a Flashpoint, el Middle East Media Research Institute (MEMRI), el SITE Intelligence Group, la Universidad de Alabama y el Birmingham’s Computer Forensics Research Lab– señalan páginas, perfiles y grupos en Facebook que están potencialmente asociados a grupos terroristas, para que nosotros los revisemos. Estas organizaciones también nos envían archivos de foto y video asociados a ISIS y Al Qaeda que han localizado en otros lugares de internet, y que nosotros podemos comparar con nuestros algoritmos para chequear coincidencias de archivos y así eliminarlos o evitar que sean subidos a Facebook.

Impacto en el mundo real

Estamos agradecidos por el trabajo que las fuerzas y funcionarios de seguridad realizan en todo el mundo para mantener a nuestras comunidades a salvo del terrorismo y estamos comprometidos con hacer nuestra parte para ayudar. Como hemos mencionado anteriormente, contactamos a las fuerzas de seguridad siempre que vemos una amenaza creíble y tenemos un equipos de respuesta a las fuerzas de seguridad disponibles en todo momento para solicitudes de emergencia. En el último año, hemos podido brindar apoyo a las autoridades de todo el mundo que están respondiendo a la amenaza del terrorismo, incluyendo casos en los que las fuerzas de seguridad han podido interrumpir ataques y prevenir daños.

Nuestro compromiso es continuo

A medida que profundizamos nuestro compromiso con el combate al terrorismo utilizando IA, aprovechando la experiencia de las personas y reforzando las colaboraciones, reconocemos que siempre podemos hacer más. Continuaremos compartiendo las novedades mientras desarrollamos nueva tecnología y forjamos alianzas para enfrentar este nuevo desafío global.