¿Qué son los algoritmos de aprendizaje automático? Así es como funcionan

La inteligencia artificial y el aprendizaje automático producen muchos de los avances que vemos hoy en la industria de la tecnología. Pero, ¿cómo se les da a las máquinas la capacidad de aprender? Además, ¿cómo la forma en que hacemos esto tiene consecuencias no deseadas??

Aquí está nuestra explicación rápida sobre cómo funcionan los algoritmos de aprendizaje automático, junto con algunos ejemplos de aprendizaje automático que salió mal.

¿Qué son los algoritmos de aprendizaje automático??

El aprendizaje automático es una rama de la informática que se centra en dar a la IA la capacidad de aprender tareas 5 Mejores experimentos de Google AI para explorar la inteligencia artificial 5 Mejores experimentos de Google AI para explorar la inteligencia artificial Google tiene varios experimentos de IA con los que puedes jugar y jugar ahora. Gracias al aprendizaje automático, pueden cambiar el mundo del mañana con su ayuda. . Esto incluye desarrollar habilidades sin que los programadores codifiquen explícitamente la IA para hacer estas cosas. En cambio, la IA puede usar datos para enseñarse.

Los programadores logran esto a través de algoritmos de aprendizaje automático. Estos algoritmos son los modelos en los que se basa un comportamiento de aprendizaje de IA. Los algoritmos, junto con los conjuntos de datos de entrenamiento, permiten que la IA aprenda.

Un algoritmo generalmente proporciona un modelo que una IA puede usar para resolver un problema. Por ejemplo, aprender a identificar imágenes de gatos frente a perros. La IA aplica el modelo establecido por el algoritmo a un conjunto de datos que incluye imágenes de gatos y perros. Con el tiempo, la IA aprenderá cómo identificar gatos de perros con mayor precisión y facilidad, sin intervención humana..

El aprendizaje automático mejora la tecnología, como los motores de búsqueda, los dispositivos domésticos inteligentes, los servicios en línea y las máquinas autónomas. Es cómo Netflix sabe qué películas es más probable que disfrutes y cómo los servicios de transmisión de música pueden recomendar listas de reproducción.

Pero si bien el aprendizaje automático puede hacernos la vida mucho más fácil, también puede haber algunas consecuencias inesperadas.

7 veces en que el aprendizaje automático salió mal

1. Accidentes en los resultados de búsqueda de imágenes de Google

La Búsqueda de Google ha hecho que navegar por la web sea mucho más fácil. El algoritmo del motor tiene en cuenta una variedad de cosas al generar resultados, como palabras clave y tasa de rebote. Pero el algoritmo también aprende del tráfico de usuarios, lo que puede causar problemas para la calidad de los resultados de búsqueda..

En ninguna parte es esto más evidente que en los resultados de la imagen. Dado que las páginas que reciben mucho tráfico tienen más probabilidades de mostrar sus imágenes, las historias que atraen a un gran número de usuarios, incluido el clickbait, a menudo tienen prioridad.

Por ejemplo, los resultados de búsqueda de imágenes para “campamentos de ocupantes ilegales en Sudáfrica” causó controversia cuando se descubrió que predominantemente presentaba sudafricanos blancos. Esto a pesar de las estadísticas que muestran que la gran mayoría de las personas que viven en viviendas informales, como chozas, son sudafricanos negros..

Los factores utilizados en el algoritmo de Google también significan que los usuarios de Internet pueden manipular los resultados. Por ejemplo, una campaña realizada por usuarios influyó en los resultados de Google Image Search en la medida en que la búsqueda del término “idiota” muestra imágenes del presidente de los Estados Unidos, Donald Trump.

2. Microsoft Bot se convirtió en un nazi

Confíe en Twitter para corromper un chatbot de aprendizaje automático bien intencionado. Esto es lo que sucedió dentro del día del lanzamiento del ahora notorio chatbot Tay de Microsoft..

Tay imitó los patrones de lenguaje de una adolescente y aprendió a través de sus interacciones de otros usuarios de Twitter. Sin embargo, se convirtió en uno de los pasos en falso más infames de la IA cuando comenzó a compartir declaraciones nazis y difamaciones raciales. Resulta que los trolls habían usado el aprendizaje automático de la IA contra él, inundándolo con interacciones cargadas de intolerancia.

No mucho después, Microsoft puso a Tay fuera de línea para siempre.

3. Problemas de reconocimiento facial de IA

Reconocimiento facial AI a menudo aparece en los titulares por todas las razones equivocadas, como historias sobre reconocimiento facial y preocupaciones de privacidad. Pero esta IA también causó grandes preocupaciones al intentar reconocer a las personas de color..

En 2015, los usuarios descubrieron que Google Photos estaba categorizando a algunas personas negras como gorilas. En 2018, una investigación realizada por la ACLU que mostró que el software de identificación de rostros Rekognition de Amazon identificó a 28 miembros del Congreso de los EE. UU. Como sospechosos de la policía, con falsos positivos que afectan desproporcionadamente a las personas de color.

Otro incidente involucró el software Face ID de Apple. ¿Comprar un iPhone X? Face ID podría hacerte reconsiderar la compra de un iPhone X? Face ID podría hacerte reconsiderar La característica más notable del iPhone X es el sistema de desbloqueo del dispositivo Face ID. ¿Pero qué tan seguro es? ¿Tendrá Apple acceso a una gran base de datos de las caras de todos? Identificar incorrectamente a dos mujeres chinas diferentes como la misma persona. Como resultado, el colega del propietario del iPhone X podría desbloquear el teléfono.

Mientras tanto, la investigadora del MIT Joy Buolamwini recuerda que a menudo necesita usar una máscara blanca mientras trabaja en la tecnología de reconocimiento facial para que el software la reconozca. Para resolver problemas como este, Buolamwini y otros profesionales de TI están llamando la atención sobre el problema y la necesidad de conjuntos de datos más inclusivos para la capacitación en inteligencia artificial..

4. Deepfakes utilizados para engaños

Si bien las personas han usado Photoshop durante mucho tiempo para crear imágenes falsas, el aprendizaje automático lleva esto a un nuevo nivel. Software como FaceApp le permite intercambiar sujetos de un video a otro.

Pero muchas personas explotan el software para una variedad de usos maliciosos, incluida la superposición de caras de celebridades en videos para adultos o la generación de videos falsos. Mientras tanto, los usuarios de Internet han ayudado a mejorar la tecnología para que sea cada vez más difícil distinguir los videos reales de los falsos. Como resultado, esto hace que este tipo de IA sea muy poderoso en términos de propagación de noticias falsas y engaños. Facebook ofrece consejos para ayudarlo a detectar noticias falsas Facebook ofrece consejos para ayudarlo a detectar noticias falsas Si bien Facebook no produce noticias falsas, al menos es en parte responsable de su difusión. Es por eso que ahora ofrece consejos para ayudarlo a detectar noticias falsas antes de que se difunda. .

Para mostrar el poder de la tecnología, el director Jordan Peele y el CEO de BuzzFeed, Jonah Peretti, crearon un video falso que muestra lo que parece ser el ex presidente de los Estados Unidos, Barack Obama, entregando un anuncio de servicio público sobre el poder de las falsificaciones profundas.

5. El surgimiento de los bots de Twitter

Los bots de Twitter se crearon originalmente para automatizar cosas como las respuestas de servicio al cliente para las marcas. Pero la tecnología es ahora un motivo de gran preocupación. De hecho, la investigación ha estimado que hasta 48 millones de usuarios en Twitter son en realidad bots de IA.

En lugar de simplemente usar algoritmos para seguir ciertos hashtags o responder a las consultas de los clientes, muchas cuentas de bot intentan imitar a personas reales. Estas 'personas' luego promueven engaños y ayudan a que las noticias falsas se vuelvan virales.

Una ola de bots de Twitter incluso influyó en la opinión pública hasta cierto punto sobre el Brexit y las elecciones presidenciales de 2016 en Estados Unidos. Twitter mismo admitió que descubrió alrededor de 50,000 bots de fabricación rusa que publicaron sobre las elecciones.

Los bots siguen afectando el servicio, difundiendo desinformación. El problema es tan extenso que incluso afecta la valoración de la empresa..

6. Los empleados dicen que Amazon AI decidió que contratar hombres es mejor

En octubre de 2018, Reuters informó que Amazon tuvo que desechar una herramienta de reclutamiento laboral después de que la IA del software decidiera que los candidatos masculinos eran preferenciales.

Los empleados que deseaban permanecer en el anonimato se presentaron a decirle a Reuters sobre su trabajo en el proyecto. Los desarrolladores querían que la IA identificara a los mejores candidatos para un trabajo en función de sus CV. Sin embargo, las personas involucradas en el proyecto pronto notaron que la IA penalizaba a las candidatas. Explicaron que la IA usó CV de la última década, la mayoría de los cuales eran de hombres, como su conjunto de datos de entrenamiento..

Como resultado, la IA comenzó a filtrar CV basados ​​en la palabra clave “mujer”. La palabra clave apareció en el CV en actividades como “capitán del club de ajedrez femenino”. Mientras los desarrolladores modificaron la IA para evitar esta penalización de los CV de las mujeres, Amazon finalmente desechó el proyecto.

7. Contenido inapropiado en YouTube Kids

YouTube Kids tiene muchos videos tontos y caprichosos destinados a entretener a los niños. Pero también tiene un problema de videos spam que manipulan el algoritmo de la plataforma..

Estos videos se basan en etiquetas populares. Dado que los niños pequeños no son espectadores muy exigentes, los videos basura que usan estas palabras clave atraen millones de visitas. AI genera automáticamente algunos de estos videos utilizando elementos de animación de stock, basados ​​en etiquetas de tendencias. Incluso cuando los videos están hechos por animadores, sus títulos se generan específicamente para el relleno de palabras clave.

Estas palabras clave ayudan a manipular el algoritmo de YouTube para que terminen en recomendaciones. Una cantidad significativa de contenido inapropiado apareció en los feeds de los niños que usan la aplicación YouTube Kids. Esto incluía contenido que representa violencia, jumpscares y contenido sexual..

Por qué el aprendizaje automático va mal

Hay dos razones principales por las que el aprendizaje automático produce consecuencias no deseadas: datos y personas. En términos de datos, el mantra de “basura adentro, basura afuera” aplica. Si los datos que se envían a una IA son limitados, sesgados o de baja calidad; el resultado es una IA con alcance o sesgo limitado.

Pero incluso si los programadores obtienen los datos correctos, las personas pueden poner una llave en marcha. Los creadores de software a menudo no se dan cuenta de cómo las personas pueden usar la tecnología de manera maliciosa o con fines egoístas. Deepfakes provino de la tecnología utilizada para mejorar los efectos especiales en el cine..

Lo que tiene como objetivo proporcionar un entretenimiento más inmersivo también termina arruinando la vida de las personas cuando son explotadas.

Hay personas que trabajan para mejorar las salvaguardas en torno a la tecnología de aprendizaje automático para evitar el uso malicioso. Pero la tecnología ya está aquí. Mientras tanto, muchas compañías no muestran la fuerza de voluntad requerida para evitar el abuso de estos desarrollos.

Los algoritmos de aprendizaje automático pueden ayudarnos

Puede parecer un poco triste cuando te das cuenta de cuánto aprendizaje automático e inteligencia artificial están por debajo de las expectativas. Pero también nos ayuda de muchas maneras, no solo en términos de conveniencia, sino también para mejorar nuestras vidas en general..

.