¿La base de datos de contenido terrorista violará su privacidad?

Facebook, Twitter, Microsoft y YouTube han anunciado que trabajarán juntos para construir una base de datos masiva. Esta base de datos contendrá imágenes y videos utilizados por las redes terroristas Crimen, terrorismo y seguridad: el lado oscuro de las redes sociales Crimen, terrorismo y seguridad: el lado oscuro de las redes sociales Las redes sociales no son solo memes de gatos y videos de bromas. Los usuarios de Facebook, Twitter y Tumblr pueden encontrar fácilmente material más oscuro distribuido por grupos terroristas tecnológicamente expertos. Que deberias hacer al respecto? para difundir propaganda y llegar a posibles reclutas. La base de datos alertará a estas empresas cuando algo en su sitio probablemente viole sus términos de uso..

Parece una buena idea, ¿verdad??

Los detalles

A partir de ahora, los detalles son un poco confusos. Cada imagen y video en la base de datos tendrá un “huella digital única” y las empresas recibirán alertas cuando ese contenido aparezca en su sitio. Al comienzo del programa, las compañías solo agregarán “las imágenes y videos terroristas más extremos y atroces” a la base de datos.

La idea es que estas imágenes y videos sean los más propensos a violar los términos de uso Por qué debería leer los Términos de servicio, Hacer que Pokemon GO se vaya ... [Resumen de noticias de tecnología] Por qué debería leer los Términos de servicio, Hacer Pokemon GO Go Lejos ... [Tech News Digest] Todos se saltan los Términos de Servicio, PokeGone convierte Pokemon GO en Pokemon NO, Facebook mantiene sus conversaciones en secreto, Blizzard silencia a los jugadores de World of Warcraft, y Samuel L. Jackson explica Game of Thrones. de todas las plataformas. Esto hace que sea una decisión fácil eliminar ese contenido si aparece en otro lugar. Cada compañía decide qué imagen y videos deben estar en la base de datos. También tendrán el poder de decidir si eliminar el contenido si aparece en su sitio.

Eso es casi todo lo que sabemos hasta ahora. Twitter espera “Esta colaboración conducirá a una mayor eficiencia a medida que continuamos aplicando nuestras políticas para ayudar a frenar el problema global urgente del contenido terrorista en línea.” Pero realmente no sabemos mucho hasta ahora. ¿Quién decidirá qué contenido contribuir? ¿Las empresas establecerán comités de revisión independientes para este tipo de cosas? ¿O simplemente agregarán algunas cosas de vez en cuando cuando lo deseen??

Un pobre registro

Es realmente difícil controlar el contenido en línea. Ya sea información errónea, abuso, videos de reclutamiento de terroristas. Cómo las plataformas de medios sociales luchan contra los extremistas Cómo las plataformas de medios sociales luchan contra los extremistas Las redes de medios sociales presentan una poderosa herramienta para los grupos terroristas, principalmente para la propaganda y el reclutamiento. Entonces, ¿qué están haciendo Facebook y Twitter al respecto? ¿Cómo pueden las redes sociales combatir el terrorismo? , o uno de los miles de otros tipos de contenido incorrecto en línea, hay un campo minado de problemas inherentes al proceso. ¿Quién decide qué grupos califican como terroristas? ¿Cómo se toma la decisión de eliminar contenido? ¿Saldrán las empresas a buscarlo o dependerán de los usuarios para informarlo??

Microsoft, en su declaración sobre contenido terrorista en línea, dijo esto:

Cuando el contenido terrorista en nuestros servicios de consumidor alojados se nos llame a través de nuestra herramienta de informes en línea, lo eliminaremos.

Y proporcionan un enlace a un formulario utilizado específicamente para informar sobre contenido terrorista. Pero, ¿qué posibilidades hay de que alguien realmente busque y use ese formulario? También dicen que lo harán “eliminar enlaces a contenido relacionado con el terrorismo de Bing solo cuando se requiera esa eliminación de los proveedores de búsqueda de conformidad con la legislación local.”

Esto pone la responsabilidad en otra parte.

Cuestiones de responsabilidad

La Electronic Frontier Foundation ha escrito extensamente sobre las dificultades para vigilar este tipo de contenido en línea. En una publicación de 2014, criticaron el plan del Reino Unido para obligar a los ISP a bloquear “contenido extremista” sin procedimientos de transparencia y rendición de cuentas. Los grupos de derechos humanos también han criticado a Francia por tener definiciones muy amplias de actividad terrorista..

Tanto Twitter como Facebook tienen registros bastante pobres con contenido de vigilancia en sus sitios. Cómo las plataformas de medios sociales luchan contra los extremistas Cómo las plataformas de medios sociales luchan contra los extremistas Las redes de medios sociales presentan una poderosa herramienta para los grupos terroristas, principalmente para la propaganda y el reclutamiento. Entonces, ¿qué están haciendo Facebook y Twitter al respecto? ¿Cómo pueden las redes sociales combatir el terrorismo? . Aunque Twitter ha eliminado más de 100,000 cuentas de Twitter relacionadas con ISIS y ha comenzado a odiar a los grupos de discursos con más fuerza, tienen una mala reputación por permitir que el extremismo y el abuso corran desenfrenados en su plataforma. Facebook también parece contento de seguir usando un enfoque de no intervención bajo el estandarte de la libertad de expresión.

Por supuesto, es bastante difícil gestionar este tipo de responsabilidad. No digo que sea fácil. Pero las empresas tecnológicas son expertas en distanciarse de para qué se utiliza su tecnología. Eso incluye la propagación de imágenes terroristas, videos, campañas de reclutamiento y otros contenidos. En agosto de 2016, un informe británico declaró que Facebook, Twitter y YouTube eran “fallar conscientemente en combatir el uso de sus sitios para promover el terrorismo y los asesinatos.”

El establecimiento de una base de datos de imágenes y videos no parece cambiar eso. Es alentador que estén tomando medidas, pero es difícil imaginar que sea poco entusiasta..

¿Podría ser esto un problema de privacidad??

Debido a que las compañías agregarán elementos manualmente a la base de datos después de que los usuarios los reporten, no parece que exista la posibilidad de que sus imágenes o videos puedan ingresar accidentalmente en la base de datos. Lo cual es alentador. Sin embargo, la creación de una base de datos central masiva llena de identificaciones únicas “malo” el contenido es preocupante.

Esto se debe principalmente a que las personas a cargo en ese momento pueden decidir qué cuenta como “malo”. Esto es especialmente cierto si hay participación gubernamental. Puede que seas parte de la mayoría un día, y en una minoría perseguida al día siguiente. El despliegue de este tipo de tecnología hace que ese tipo de cambio sea aún más aterrador.

Crédito de imagen: ESB Professional a través de Shutterstock

Por supuesto, no hay indicios de que estas empresas utilizarán esta base de datos para nada más que para la aplicación laxa de sus propias pautas de términos de uso. Pero el hecho de que las organizaciones privadas hayan desarrollado y estén implementando esta tecnología podría preocupar a algunas personas. Los gobiernos seguramente tienen tecnología de vigilancia que ya es tan poderosa, pero la proliferación podría ser una señal de que las corporaciones tendrán las herramientas para recopilar más información en el futuro cercano..

A partir de ahora, no hay razón para preocuparse de que su privacidad se vea amenazada por la base de datos de contenido terrorista. Pero organizaciones de defensa y privacidad ¿Quién está luchando en su nombre contra la NSA y por la privacidad? ¿Quién está luchando en su nombre contra la NSA y por la privacidad? Hay varios grupos de activismo en Internet que luchan en su nombre por la privacidad. También están haciendo todo lo posible para educar a los internautas. Aquí hay algunos de ellos que son increíblemente activos. haría bien en vigilar el despliegue de este tipo de tecnología en otros lugares.

Un paso adelante?

Es bueno ver que las compañías tecnológicas están intensificando y siendo proactivas sobre el contenido terrorista en sus plataformas. Pero su historial está lleno de aplicación laxa y negligencia deliberada. ¿Esta herramienta ayudará a cambiar eso? No parece probable. (A menos que lo automaticen, lo que viene con una gran cantidad de otros problemas). En mi opinión, esta base de datos no cambiará mucho, y Twitter, Facebook, Microsoft y YouTube lo han concebido muy bien como una medida de relaciones públicas en lugar de uno realmente quería hacer el bien.

¿Qué piensas? ¿Esta base de datos ayudará a combatir la propagación de contenido terrorista en línea? ¿O es un gesto vacío en un esfuerzo por obtener cierta admiración pública? Comparte tus pensamientos en los comentarios a continuación!

Créditos de imagen: Yunava1 / Shutterstock