Caras generadas con la inteligencia artificial Dall.e. CC BY-NC
Las aplicaciones de reconocimiento facial están cada vez más extendidas e incluyen desde el acceso al teléfono móvil hasta aplicaciones de videovigilancia o de investigación criminal. Pero, ¿hasta qué punto esta tecnología es fiable? ¿Qué problemas escondidos podemos encontrar en su uso? Y, sobre todo, ¿qué podemos hacer para minimizar o hasta neutralizar el impacto de estos problemas?
El reconocimiento facial parecía algo exclusivo de los seres humanos e imposible para las máquinas, pero hoy es un problema ya resuelto gracias a la reciente evolución de las redes neuronales de aprendizaje profundo y, en general, de la inteligencia artificial. Gracias a ellas el paradigma clásico de detección, extracción de características y clasificación ha quedado obsoleto.
Ya no es necesario ajustar decenas de parámetros y mezclar diferentes algoritmos. Ahora, simplemente, las redes aprenden de los datos que les suministramos y que están convenientemente etiquetados.
Muchos aciertos, pero también errores
Los resultados son espectaculares en cuanto a los ratios de reconocimiento correcto que se consiguen con las redes neuronales. El teléfono siempre te reconoce, el acceso biométrico a tu empresa no falla nunca, las cámaras de vigilancia acaban siempre detectando al sospechoso.
¿O puede que esto no sea siempre así?
Robert Julian-Borchak Williams seguramente no estaría de acuerdo. Este ciudadano afroamericano tiene el dudoso honor de ser el primero en haber sido arrestado porque un algoritmo de reconocimiento facial lo identificó de forma incorrecta.
Ratios de reconocimiento correcto de diferentes modelos de reconocimiento facial. Los datos han sido proporcionados por los autores de los algoritmos y se han obtenido sobre las bases de datos Labeled Faces in the Wild (LFW) y Youtube Faces in the Wild (YTF).
El que este primer error se haya cometido con un afroamericano no parece ser una casualidad. Aunque el caso de Julian-Borchak Williams ocurrió en 2020, ya en 2018 la investigadora Joy Buolamwini publicó un estudio donde mostraba que los sistemas de reconocimiento facial tenían dificultades para identificar a las mujeres de piel oscura. Su trabajo trascendió al gran público a través del documental Coded Bias (Sesgo codificado).
Porque sí, parece que las mujeres también han sufrido discriminación por parte de la inteligencia artificial. El famoso algoritmo de Amazon que discriminaba los currículums donde aparecía la palabra “mujer” es su exponente más claro. Afortunadamente, dejó de usarse al comprobar esa tendencia sexista.
El sesgo sigue apareciendo
Para comprobar si es posible encontrar sesgos en los modelos de reconocimiento facial, en un experimento reciente se propuso a tres grupos de estudiantes que analizaran (de forma independiente) el funcionamiento de diferentes modelos. Los modelos examinados fueron los que se usan en la librería DeepFace.
La evaluación pretendía elegir el mejor modelo en cuanto a porcentaje de reconocimiento. En este caso los resultados obtenidos coincidieron aproximadamente con los presentados por los autores de los modelos. Los pocos fallos detectados involucraban normalmente a mujeres y también a personas de piel oscura. Es destacable que también fallaba la detección de la cara en personas de color en algunos modelos. No es que no se reconociera, sino que el modelo ni siquiera detectaba una cara.
Estos modelos también se pueden usar como estimadores de género, edad y etnia. Para este experimento el modelo usado fue VGG-Face. La estimación de género funcionó bastante bien con personas europeas, pero no tan bien con asiáticas o afroamericanas. El error más común fue confundir mujeres con hombres cuando eran de esas etnias. El resto de estimadores (edad, etnia) no funcionaron bien. La división por etnias quedó claro que era bastante artificial y sujeta a múltiples errores.
¿Cómo pueden confundirlas con hombres?
Estos resultados no nos deben hacer creer que esta tecnología es inútil. En realidad, su capacidad de reconocimiento es superior a la humana en muchos casos. Y, por supuesto, a una velocidad inalcanzable por ningún ser humano.
¿Qué podemos hacer?
Desde nuestro punto de vista, es importante fijarnos en las posibilidades que la inteligencia artificial tiene como herramienta y no despreciar su uso cuando detectamos problemas como los mostrados aquí. La buena noticia es que, una vez detectados los problemas, surgen iniciativas y se hacen estudios para mejorar su uso.
Los sesgos en los modelos aparecen por múltiples motivos: una mala elección de los datos, un mal etiquetado de los mismos, la intervención humana en el proceso de creación y elección de modelos, una mala interpretación de los resultados.
La inteligencia artificial, considerada un avance tecnológico sin prejuicios, se convierte en un fiel reflejo de los sesgos propios y las desigualdades de la sociedad en la que se desarrolla. Como bien se concluye en este interesante artículo, “puede ser una oportunidad para reconstruirnos y no solo lograr algoritmos sin sesgos, sino además una sociedad más justa y fraterna.”
Tenemos las herramientas técnicas para lograrlo. Los desarrolladores pueden encontrar modos de probar y mejorar sus modelos. La iniciativa AI Fairness 360 es un ejemplo de ello. Pero, quizás, lo más sensato sea tirar de sentido común y usar la inteligencia artificial de manera inteligente.
Un ejemplo de esto último lo podemos encontrar en este estudio, donde se concluye que la mejor opción para reconocer con garantías a las personas es que los humanos y las máquinas colaboren. Y también el planteamiento de la Policía Nacional española para hacer uso del sistema ABIS de reconocimiento facial: “Es siempre una persona, y no el ordenador, quien determina si hay o no parecido.”
Las personas firmantes no son asalariadas, ni consultoras, ni poseen acciones, ni reciben financiación de ninguna compañía u organización que pueda obtener beneficio de este artículo, y han declarado carecer de vínculos relevantes más allá del cargo académico citado anteriormente.
Luciana Gatti entra en política porque el Congreso brasileño está legislando la catástrofe
Luciana Gatti lleva más de 30 años estudiando la Amazonia y los gases que aceleran el calentamiento global. Es investigadora principal del Instituto Nacional de Investigaciones Espaciales de Brasil, el INPE, y coordina su Laboratorio de Gases de Efecto Invernadero. No es una tertuliana reciclada, una celebridad buscando foco ni una profesional de la política fabricada en un despacho. Es una científica que ha dedicado décadas a medir cómo uno de los mayores reguladores climáticos del planeta está dejando de funcionar.
Ahora ha decidido presentarse al Congreso.
Gatti anunció el 13 de julio su precandidatura a diputada federal por São Paulo dentro del Partido Socialismo y Libertad, el PSOL. Las candidaturas deberán registrarse oficialmente antes del 15 de agosto y la primera vuelta de las elecciones brasileñas se celebrará el 4 de octubre. Su objetivo es llevar la ciencia al lugar donde se aprueban las leyes que están acelerando el desastre. Porque publicar investigaciones sirve de poco cuando quienes legislan las ignoran, las niegan o directamente trabajan para las empresas responsables.
Ecuador abandona la Amazonia al oro ilegal y deja solos a quienes la protegen
La Amazonia ecuatoriana está siendo devorada por la minería ilegal mientras el Estado llega tarde, responde a medias o directamente mira hacia otro lado. Retroexcavadoras, dragas, campamentos clandestinos y grupos armados avanzan sobre territorios indígenas y áreas protegidas. Frente a ellos, 598 guardaparques abandonados a su suerte, sin capacidad legal para incautar maquinaria y sin medios para enfrentarse a organizaciones que llevan fusiles.
En el Parque Nacional Sumaco Napo-Galeras, varios trabajadores fueron interceptados durante una inspección por hombres fuertemente armados que afirmaron proporcionar seguridad a los mineros. Les quitaron los teléfonos, el GPS y la cámara. Quienes debían representar la autoridad ambiental terminaron desarmados, retenidos y obligados a explicar qué hacían dentro del espacio que estaban protegiendo. Los delincuentes pedían cuentas a los guardaparques y no al revés.
Ayuso convierte la cultura madrileña en un photocall pagado con dinero público
La política cultural de Isabel Díaz Ayuso tiene una regla bastante sencilla: para las creadoras y creadores corrientes existen formularios, convocatorias, límites presupuestarios y meses de espera; para las celebridades dispuestas a promocionar Madrid y posar junto al poder aparecen patrocinios millonarios, espacios públicos y contratos diseñados específicamente para ellas.
No es mecenazgo. Tampoco es una defensa desinteresada de la cultura. Es dinero público utilizado para comprar prestigio, propaganda turística y fotografías institucionales. La obra artística queda reducida a soporte publicitario y las administraciones se comportan como una agencia de representación financiada por las y los contribuyentes.
Nacho Cano fue durante años el mejor ejemplo de este modelo. Ahora Woody Allen recoge el testigo con un proyecto que recibirá 3 millones de euros de la Comunidad y del Ayuntamiento de Madrid. Dos nombres famosos, dos operaciones presentadas como apoyo cultural y una misma lógica: socializar el coste para que el beneficio político y empresarial quede en pocas manos.
El OSCURO NEGOCIO de LOGRAR que te ENAMORES de una IA | #ReportajeSR
Durante años nos hablaron de la economía de la atención. Ahora, las grandes empresas tecnológicas han dado un paso más allá para monetizar algo mucho más íntimo: nuestro apego emocional. Desde dispositivos…
PAYPAL MAFIA: INFORME DEFINITIVO sobre los DUEÑOS del PODER #ReportajeSR
Durante las últimas semanas hemos ido desgranando las figuras que convirtieron a la «PayPal Mafia» en una de las redes de poder e influencia más determinantes del planeta a través de los…
MODO REVOLUCIÓN
Activa el Modo Revolución con nosotras. Historias, investigaciones, vídeos y claves para entender qué está pasando y qué hay detrás.
También te puede interesar
Un toro de 300 metros: obscenidad franquista en versión parque temático
28 julio 2025PSOE: manual de cierre de filas en cinco pasos (y por qué siempre falla)
13 junio 2025Mazón no quiere dimitir: utiliza una remodelación para eludir responsabilidades
14 noviembre 2024La caída de un imperio: Elon Musk y todos sus frentes abiertos anuncian el final de un magnate
19 agosto 2024