Amazon no solo trabaja en la venta de artículos mediante su página web. Sino que sabe que los servicios a otras empresas mediante la utilización de tecnologías de Inteligencia Artificial son bastante necesarias y rentables. Pero cuando se tienen grandes fallos, es ahí cuando comienzan los problemas; esto es lo que le está pasando al reconocimiento facial de Amazon.

Hoy se ha publicado una carta en donde se habla sobre Rekognition; este es el nombre que recibe el software de reconocimiento facial de Amazon. Un sistema que ya más de una vez ha presentado muchas taras ya que comete muchos fallos con personas femeninas o de raza negra.

27 investigadores e investigadoras de diferentes universidades anglosajonas y personas que trabajan para los departamentos de Inteligencia Artificial de Facebook, Microsoft, Google y otras empresas especializadas han sido quienes han firmado esta carta en contra de Rekognition.

De hecho, dentro de la carta nos encontramos a dos españoles. Por un lado a Laura Sevilla Lara, quien estudió Ingeniería Informática en la Universidad de Granada y actualmente trabaja en la Universidad de Edimburgo como profesora. Por otro lado, también nos encontramos a Sergio Guadarrama, un español que es Senior Engineer en Google Research y estudió Ingeniería Informática e Inteligencia Artificial en la Universidad Politécnica de Madrid. (Se ha seguido el orden alfabético de los nombres para nombrarse a Laura y a Sergio)

Reconocimiento facial de Amazon
Crédito de la imagen | Amazon

El reconocimiento facial de Amazon puede tener efectos muy negativos.

Y es que lo que pretenden estos y estas profesionales es que se evite, de una manera u otra, la venta del servicio de Rekognition a las Administraciones Públicas. Ya que por culpa de estos fallos en su sistema se podrían ocasionar grandes problemas contra las minorías.

Después de conocer como Facebook quiere acabar contra la supremacía blanca; es lógico y normal que se le vea dentro de estos proyectos. Y es que también se encuentra Yoshua Bengio, ganador del Premio Turing por ser uno de los tres padres de la Inteligencia Artificial.

Por culpa del reconocimiento facial de Amazon se podrían realizar persecuciones informáticas a personas inocentes. Pero no sólo eso sino que se realizaría contra las minorías y las mujeres; colectivos que siempre han estado bajo estigmas sociales y que no se debería de seguir cumpliendo.

Reconocimiento facial de Amazon
Crédito de la imagen | Amazon

El reconocimiento facial aún tiene mucho que mejorar. Las grandes empresas lo saben.

Podemos ver como Google no quiere todavía vender su software porque sabe el peligro que esto entrañaría. De la misma manera que Microsoft exige mayores regulaciones gubernamentales para paliar esos problemas. Si éstos vendiesen sus sistemas no perfeccionados, su imagen se iría a pique.

”Para comprender, interpretar y comparar la precisión de los sistemas de aprendizaje automático, es importante comprender qué se está pronosticando. La confianza de la predicción y cómo se utilizará la predicción, que es imposible de extraer de un solo número absoluto. Es importante probar los sistemas como Rekognition de Amazon en el mundo real; de manera que sea probable que se use. Esto incluye escenarios de «caja negra», donde los usuarios no interactúan con los detalles internos del sistema. Como el modelo, los datos de capacitación o la configuración… productos como Rekognition de Amazon están integrados en sistemas sociotécnicos”

Crédito de la imagen | UMAICS, University of Maryland, College Park.

Además, también comentan que no es lo mismo el reconocimiento facial que el análisis facial. Siendo dos factores bastante diferentes y que se emplean para aplicaciones diferentes. Lo que está claro es que en este estudio se pretende hacer entender es que hasta que una tecnología no esté lo suficientemente bien implementada e investigada; es mejor estarse quieto. Tanto por parte de las empresas para venderlas como por parte de los agentes que deciden comprarla o utilizarla.

¿Conoces nuestras redes sociales?

Y para no perderte nada puedes y estar siempre al día en el mundo de la tecnología, puedes suscribirte gratis a nuestro canal de Telegram. Además, lo bueno que tiene, que como publicamos de media 5 artículos al día nada más, ¡no damos mucho la brasa!

Crédito de la imagen destacada | Amazon

CRITÍCALO Y CUESTIÓNATELO