Pre-Crime Is Here Cómo la policía asigna un puntaje de amenaza en Facebook

Una historia reciente de The Washington Post Le dio al público una vista privilegiada de las capacidades de monitoreo de las redes sociales del departamento de policía de Fresno, que está probando un controvertido software llamado Beware. La pieza ha causado un gran revuelo sobre la supuesta proclividad del software a las violaciones de las libertades civiles..

Pero, ¿en qué se diferencia este programa de otros controles de redes sociales realizados por la policía? ¿Cuidado con una verdadera amenaza de libertades civiles? ¿O todo esto está siendo exagerado? ¿Y qué puedes hacer para evitar que la policía busque en tus publicaciones en las redes sociales??

Una herramienta obvia para los departamentos de policía

Es probable que los agentes de la ley hayan estado utilizando las redes sociales para recopilar información desde que se convirtió en la corriente principal; incluso en 2006, la policía arrestó a un niño menor de edad en Colorado después de que publicara fotos de sí mismo en MySpace con varias armas de fuego.

El uso de las redes sociales en las investigaciones solo se ha vuelto más común desde entonces, y hay una serie de historias que demuestran su eficacia. En 2014, la policía de Nueva York confiscó más de 250 armas vendidas ilegalmente después de una extensa investigación que comenzó cuando los oficiales notaron que un aspirante a rapero había publicado imágenes de armas en su estudio en Instagram.

Ha habido innumerables informes de estudiantes arrestados por publicar bombas y otras amenazas contra sus escuelas, y muchos arrestos después de publicaciones que defienden la violencia contra la policía. Incluso bromas sobre amenazas de bomba Cómo usar Twitter sin fastidiar Cómo usar Twitter sin arruinar Twitter puede ser un poco críptico, y es fácil cometer errores de vez en cuando, incluso si es un usuario de toda la vida. Aquí hay algunos errores comunes y cómo evitarlos. han resultado en arrestos. Esto tampoco se limita a los Estados Unidos; Existe un amplio precedente en el Reino Unido por ser arrestado por decir algo “muy ofensivo” o amenazante en las redes sociales.

Las redes sociales se han convertido en un lugar importante para las posturas y amenazas de las pandillas, y la policía en ciudades como Chicago y Nueva York ha realizado una sorprendente cantidad de arrestos basados ​​en publicaciones de Facebook, YouTube e Instagram en las que los miembros de las pandillas están haciendo algo ilegal o expresando su intento de hacerlo.

En general, el monitoreo de las redes sociales es una opción obvia para la aplicación de la ley: si las personas publican sus hazañas ilegales en Facebook, donde todo el mundo puede verlas, valdrá la pena monitorearlas..

El problema con Beware: un enfoque algorítmico

Entonces, si la policía ha estado monitoreando las redes sociales durante años, ¿por qué el enfoque de Fresno está en los titulares? Parte de la respuesta radica en el hecho de que Beware utiliza un enfoque algorítmico para monitorear las redes sociales. Muchas herramientas simplistas de monitoreo de redes sociales (incluso las utilizadas por los especialistas en marketing de redes sociales. Su guía para el marketing en redes sociales Su guía para el marketing en redes sociales En este momento, hay una avalancha de personas y empresas que recurren a los medios sociales. La competencia es feroz y ninguna empresa puede perder tiempo o dinero haciéndolo mal.) solo busque palabras clave o patrones específicos en los datos, algo que los agentes de policía individuales hacen en una escala mucho menor.

Pero cuidado, cuando se le da la información de un individuo, calcula un “puntaje de amenaza” basado en, según el sitio web de Intrado,

… Miles de millones de registros comerciales disponibles [públicamente] en cuestión de segundos para alertar a los respondedores de situaciones potencialmente peligrosas mientras se dirigen o solicitan asistencia al 9-1-1.

Los miles de millones de puntos de datos provienen de publicaciones en redes sociales, arrestos y otros registros públicos, bases de datos comerciales y muchos otros tipos de datos, aunque exactamente de dónde provienen y cómo se traducen en una puntuación de amenaza verde, amarilla o roja es un secreto comercial guardado por Intrado, el creador del software.

Sin embargo, es obvio cómo la policía usa este sistema de puntaje: si una persona que llama al 911 o alguien involucrado en la llamada tiene un puntaje de amenaza amarillo o rojo, los oficiales serán más cautelosos al entrar. Lo que bien podría significar estar más armado y listo para problemas, una mentalidad que podría tener serias consecuencias para la persona que llama.

En 2007, la policía estaba investigando el robo de dos consolas PlayStation en un campus universitario cuando descubrieron imágenes del sospechoso posando con varias armas de fuego en las redes sociales. Enviaron un equipo SWAT a la casa del sospechoso, y otro estudiante terminó muerto después de que un oficial confundió los sonidos del ariete utilizado para entrar a la casa por disparos. Este es exactamente el tipo de respuesta fuertemente armada basada en información obtenida de las redes sociales que preocupa a la gente.

los EnviarLa historia menciona que una mujer que tuiteó sobre el juego Rabia y un hombre que vivía en una casa anteriormente ocupada por una persona de interés, ambos tenían niveles elevados de amenaza. A ninguna de estas personas les habría dado un segundo pensamiento un oficial de carne y hueso, pero el software de Intrado podría poner a los oficiales nerviosos si respondieran a una llamada de cualquiera de estos ciudadanos..

Lo que preocupa a muchas personas es que los cálculos de puntaje de amenaza están siendo realizados por un algoritmo desarrollado por una sola compañía que no compartirá sus ecuaciones en el corto plazo: tenga cuidado, es una caja negra total. Los algoritmos ya controlan porciones significativas de nuestras vidas 4 Algoritmos de aprendizaje automático que dan forma a su vida 4 Algoritmos de aprendizaje automático que dan forma a su vida Es posible que no se dé cuenta, pero el aprendizaje automático ya está a su alrededor y puede ejercer un sorprendente grado de influencia sobre su vida. . No me creas Te sorprenderías. , pero el hecho de que ahora puedan ponernos en una situación peligrosa está comenzando a llamar la atención de la gente.

Los enfoques algorítmicos para la vigilancia policial han generado una gran cantidad de críticas en el pasado, con algunos críticos que dicen que son propensos a la discriminación racial, y otros dicen que las herramientas son rotundas. “racista.” La investigación sobre el tema no es concluyente, con algunos estudios que muestran una disminución en la delincuencia a corto plazo y otros que no muestran un efecto significativo de la tecnología predictiva..

Un legado de vigilancia

El análisis de “miles de millones” de puntos de datos recuerda algunos programas previos emprendidos por el gobierno de EE. UU..

Total Information Awareness (TIA) fue una iniciativa emprendida por la Oficina de Información de Información a principios de la década de 2000 que recopiló información sobre compras con tarjeta de crédito, suscripciones a revistas, navegación web, correo electrónico, calificaciones académicas, viajes, eventos legales y otros tipos de información. para almacenamiento en una base de datos central. Incluso después de ser renombrado como Conocimiento de Información Terrorista, TIA fue cerrado debido a la indignación pública por la idea francamente orwelliana..

Uno de los proyectos de investigación de DARPA No lo creerás: DARPA Future Research en computadoras avanzadas No lo creerás: DARPA Future Research en computadoras avanzadas DARPA es una de las partes más fascinantes y secretas del gobierno de los EE. UU. Los siguientes son algunos de los proyectos más avanzados de DARPA que prometen transformar el mundo de la tecnología. investigó un sistema similar llamado LifeLog que recolectaría ...

... cada actividad y relación que una persona realiza. Esto incluye compras con tarjeta de crédito, sitios web visitados, el contenido de llamadas telefónicas y correos electrónicos enviados y recibidos, escaneos de faxes y correos postales enviados y recibidos, mensajes instantáneos enviados y recibidos , libros y revistas leídos, selecciones de televisión y radio, ubicación física grabada mediante sensores GPS portátiles, [y] datos biomédicos capturados a través de sensores portátiles.

Obviamente, Beware y otras soluciones de monitoreo de redes sociales no son tan avanzadas y no tienen el mismo potencial para violaciones de privacidad. Sin embargo, el patrón del gobierno de los EE. UU. De crear piezas de software que violan la privacidad que o bien no son bien entendidas por el público o se mantienen en secreto tiene a mucha gente nerviosa. Y la vigilancia de las redes sociales por parte de la policía parece que podría convertirse en un campo de batalla de libertades civiles.

Muchas personas ya han tomado partido. La gran cantidad de programas de monitoreo de redes sociales disponibles indican que muchos departamentos de policía y otras organizaciones (incluidas las escuelas) están interesadas en usar esta tecnología.

Por otro lado, grupos como la ACLU ya se han pronunciado en contra de la tecnología, diciendo que podría permitir que los departamentos de policía “poner a las personas bajo sospecha simplemente por decir lo que piensan en línea.” La publicación de blog de la ACLU sobre el tema fue titulada provocativamente “Este software de vigilancia probablemente esté espiando el #BlackLivesMatter Hashtag Activism: #powerful or #pointless? Activismo hashtag: ¿#poderoso o #punto sin sentido? #BringBackOurGirls, #ICantBreathe y #BlackLivesMatter han visto una amplia cobertura internacional en el último año, pero los hashtags son un medio efectivo de activismo? ,” aunque hay poca evidencia de que este sea el caso.

Y, por supuesto, toda la información obtenida por Beware es “comercialmente disponible.” Exactamente lo que eso significa es difícil de saber para cualquiera, ya que los tipos de datos que venden las redes sociales parecen cambiar todo el tiempo. Como hemos visto en el pasado, no es difícil obtener información que un usuario cree que es privada. Prepare su cuenta Privacidad para Facebook Graph Search [Consejos semanales de Facebook] Prepare su cuenta Privacidad para Facebook Graph Search [Consejos semanales de Facebook] Cada vez que Facebook lanza una nueva función para aprender más sobre nuestros amigos, muchas personas se dan cuenta de que su configuración de privacidad ya no es adecuada. Su última característica nueva, Facebook Graph Search, no es una excepción ... simplemente haciendo las preguntas correctas y utilizando las herramientas adecuadas.

No sería la primera persona en asociar Beware y otras soluciones de monitoreo de redes sociales con Informe Minoritarioantes del crimen o 1984el crimen del pensamiento.

La sofisticación de software como Beware está llegando al punto en el que probablemente pueda sacar conclusiones basadas en las cosas que no dices, sino que solo implican. Intrado y otros fabricantes no quieren que su software esté vinculado a novelas de ciencia ficción distópicas, pero la conexión es obvia.

Lecciones aprendidas

Ya sea que esté preocupado por las posibles violaciones de privacidad causadas por el software de monitoreo de redes sociales en manos de las fuerzas del orden o no, esto debería servirle como un recordatorio de que lo que publique en Facebook o Twitter no solo está disponible para sus amigos. Está disponible para siempre, y es probable que esté en manos de una gran variedad de personas y empresas..

Lo mejor que puedes hacer es no publicar cosas estúpidas en las redes sociales. No hagas bromas sobre hacer algo ilegal. No defienda la violencia contra la policía o los militares. No publique fotos de usted mismo que puedan interpretarse como amenazantes (especialmente con armas de fuego, simplemente no publique fotos de usted mismo con armas de fuego). Mucho de esto es sentido común, pero Fresno y su uso de Beware deberían subrayar la importancia de este tipo de medidas de protección..

Este es también un tema importante a tener en cuenta frente a las próximas elecciones presidenciales de EE. UU. 6 Recursos para ayudarlo a realizar un seguimiento de las elecciones presidenciales de EE. UU. De 2016 6 Recursos para ayudarlo a realizar un seguimiento de las elecciones presidenciales de EE. UU. De 2016 El derecho del pueblo a votar determina el resultado de una elección Sea un votante informado y tome en serio esta importante tarea con la ayuda de estas herramientas. (donde las redes sociales también son una herramienta extremadamente importante Las campañas políticas lo están rastreando en Facebook, aquí es por qué las campañas políticas lo están rastreando en Facebook, aquí está el por qué ya sabe que las empresas y el gobierno usan las redes sociales para rastrearlo. Pero hay otro grupo que está viendo, analizando y capitalizando cada movimiento que haces en Facebook: activistas políticos, curiosamente). Este problema podría llegar a un punto crítico poco después de que un nuevo presidente haya jurado, y cómo se desarrolle desde allí puede depender de quién esté sentado en la Oficina Oval. Puede parecer un problema menor ahora, pero esto podría ser un gran problema en el futuro cercano. Vale la pena vigilar.

¿Qué opinas sobre los departamentos de policía que monitorean las redes sociales? ¿Sientes que están justificados al usar un enfoque algorítmico? ¿O crees que es probable que conduzca a perfiles raciales y juicios inexactos? ¿Deberíamos estar preocupados por la progresión de este tipo de software??

Este es un tema complicado, y ni siquiera estoy totalmente seguro de cómo me siento al respecto. Deja demasiado en manos de un algoritmo que vigila a las personas sin su conocimiento. Pero también podría ayudar a salvar las vidas de los oficiales que se dirigen a situaciones peligrosas. Ayúdame a descifrarlo en los comentarios a continuación.

Créditos de imagen: Scott Cornell a través de Shutterstock.com, Ivelin Radkov a través de Shutterstock.com.