Lanzan APP que señalan a hombres posibles violadores
La inteligencia artificial haciendo de las suyas.
¡Según las facciones del rostro, puedes ser un violador! Mucho cuidado con esta información, pues como verán no está comprobado que sea así.
Las facciones del rostro son los patrones para ser catalogado “sospechoso de violación”.
A través de la inteligencia artificial, una app cataloga a las personas a partir de sus rasgos faciales como “sospechosos de violación” sólo por su fotografía.
Los investigadores Trevor Paglen y Kate Crawford han ideado una aplicación de inteligencia artificial que es “capaz” de catalogar las personas por tipos a partir de una simple fotografía de su rostro. La aplicación, llamada ImageNet Roulette , identifica con un concepto genérico cualquier persona a partir de su retrato. Así, por ejemplo, la app es capaz de identificar a Donald Trump como “político”.
La web se ha desarrollado para la exposición titulada “Training humans” y pretende, en realidad, poner de manifiesto las limitaciones que a día de hoy todavía presenta la tecnología de la inteligencia artificial. Así, en la mayoría de casos, al colgar una foto en ImageNet Roulette nos encontraremos con que la IA nos identifica, a lo sumo, como “padre”, “hermana”, “director ejecutivo” y categorías similares que no siempre tienen que ver con la persona real.
De esta manera, los impulsores de esta “ruleta de imágenes” advierten de lo absurdo del funcionamiento de la inteligencia artificial que, en la mayoría de casos resulta bastante simple y que solo es útil en situaciones en las que el software ha sido específicamente entrenado, como jugar un antiguo juego de mesa chino o traducir texto de un idioma a otro.
La idea de ImageNet Roulette parte del hecho que en si le pedimos a un bot de reconocimiento estándar que haga algo nuevo, como analizar y etiquetar una fotografía utilizando solo su conocimiento adquirido, los resultados en muchos casos serán absurdos y cómicos.
Net Roulette se ha creado como parte de una exposición de arte que actualmente se puede visitar en la Fondazione Prada Osservertario museum de Milan, y que trata sobre la historia de los sistemas de reconocimiento de imágenes. Tal y como explica el artista e investigador Trevor Paglen, creador de la exposición Training Humans junto con la investigadora de IA Kate Crawford, el objetivo no es hacer un juicio sobre la IA, sino comprometerse con su forma actual y su complicada historia académica y comercial, tan grotesca como puede ser.
La web fue creada por el desarrollador Leif Ryge bajo la dirección de Paglen, como una forma de permitir que el público interactúe con los conceptos abstractos de la exposición sobre la naturaleza inescrutable de los sistemas de aprendizaje automático.
Net Roulette utiliza un marco de aprendizaje profundo de código abierto Caffe (producido en UC Berkeley) capacitado en las imágenes y etiquetas en las categorías de “persona” (que actualmente están “inactivas por mantenimiento”). Se eliminaron los nombres y categorías adecuados con menos de 100 imágenes.
Cuando un usuario carga una imagen, la aplicación primero ejecuta un detector de caras para ubicar cualquier rostro. Si encuentra alguno, los envía al modelo Caffe para su clasificación. Luego, la aplicación devuelve las imágenes originales con un cuadro delimitador que muestra la cara detectada y la etiqueta que el clasificador ha asignado a la imagen.
Parte del proyecto también pretende resaltar la forma fundamentalmente defectuosa, y por lo tanto humana, en que ImageNet clasifica a las personas con categorías “problemáticas” y “ofensivas”. Por ejemplo, algunos hombres que suben su imagen son etiquetados aleatoriamente como “sospechosos de violación” por razones inexplicables, según han denunciado a través de las redes sociales.
Paglen asegura que esto es crucial para uno de los temas que trabaja su proyecto: el de la falibilidad de la IA sistemas y la prevalencia del sesgo de aprendizaje automático como resultado de sus creadores humanos.
Ese es el camino, te dan primero a que agarres algo repudiable muy sensible para que aceptes algo que sabes que es peor porque si ya aceptastes eso, que una máquina sin pruebas diga que un humano es delincuente ya está, los humanos vamos a tener que demostrar en las formas que nos toque y en el momento que se nos permita que somos inocentes ante cualquier acusación sin pruebas de una máquina. Por ahora paso.