Si la IA aprende de nosotros…

Cuando te conviertes en padre (o en madre), entre las muchas obligaciones que aparecen de la nada está la de educar y formar a tu prole para que vaya aprendiendo, desarrollando sus capacidades y su lógica y que, conforme se vaya haciendo mayor, pueda resolver los problemas sin recurrir a ti. No siempre, al menos. Con la inteligencia artificial y las máquinas que la utilizan pasa algo bastante parecido, aunque te ahorres las noches sin dormir: los humanos debemos “formarlas”, entrenarlas para que aprendan y que, en función de esos aprendizajes, puedan tomar decisiones. Algo que de forma natural harán mucho más rápido que un cerebro humano, gracias a la velocidad con la que son capaces de procesar la información.

Cómo funciona la inteligencia artificial

Si con los niños utilizamos juguetes y cuentos para enseñarles los básicos de la vida en los primeros años, el equivalente en el caso de las máquinas son los algoritmos.

Un algoritmo es la lista de instrucciones y reglas que un ordenador necesita para completar una tarea. Como una receta de cocina.

Pero cuando aplicamos estos algoritmos en inteligencia artificial, la cosa cambia un poco. Cuando hablamos de inteligencia artificial, nos referimos a la tecnología que intenta que las máquinas piensen y tomen decisiones como lo hacen los seres humanos.

Generalmente, un algoritmo toma alguna entrada (la información que queremos que procese) y usa operaciones matemáticas y lógicas para producir una salida (el resultado que le hemos pedido). Sin embargo, un algoritmo de inteligencia artificial toma una combinación de entradas y salidas de forma simultánea para «aprender» los datos y producir resultados cuando se les dan nueva información de entrada.

Para lograr este pequeño galimatías es necesario “entrenar” a las máquinas. Cuántos más datos e información le demos, mejores resultados dará. Sus respuestas serán más inteligentes. Es como estudiar. Si solo consultas un libro, tu conocimiento será limitado; si utilizas una docena, manejarás mejor la materia.

La paradoja del zapato

El problema estriba en que muchos de estos datos con los que se entrenan las máquinas ya vienen sesgados de por sí. Pensemos en un zapato. Puede que alguien se imagine un mocasín. Otros unos castellanos. Otros con tacón. Algunas personas de un color. Otras, del contrario. Todos ellos serán zapatos. Pero en función de lo que le hayamos enseñado a la máquina, sus respuestas serán coincidentes con las nuestras o no.

Google lo explica muy bien en este vídeo, en el que da a conocer el juego “Corre, dibuja”, en el que muestra las potencialidades, pero también los riesgos, de la inteligencia artificial:

Que esté basado en datos no quiere decir que sea automáticamente correcto ni válido, porque todo dependerá de los datos que estemos usando. Siguiendo con el ejemplo del zapato, pensemos que de 10 millones de zapatos que se dibujaron para el juego, 8 de cada 10 eran mocasines.

Por cómo funciona la inteligencia artificial, esta acabará deduciendo que un mocasín es el patrón más normal cuando tenga que distinguir un zapato. Cada vez que se lo muestren, acertará. Pero no catalogará como zapato cuando se le muestren unos zapatos de plataforma y tacón. Es decir, tendrá un sesgo.

El problema de los sesgos

En el reconocimiento de un zapato este sesgo puede no tener mayor importancia, pero cuando hablamos de aplicar la inteligencia artificial a cuestiones que afectan a los humanos, la cosa cambia. Sin ir más lejos, Facebook ha tenido que pedir disculpas porque su inteligencia artificial catalogaba como monos a las personas de raza negra. Algo que también le ocurrió hace muchos años a Google.

El jardín es aún más verde cuando se emplean los algoritmos de inteligencia artificial para conceder una hipoteca o una ayuda social. Por definición, los algoritmos siempre premian la norma porque es lo más abundante.[CM2] [CM3] [PF4] 

Es más, aunque el problema del sesgo está en el punto de partida —en los datos que se les proporciona a las máquinas, que ya tienen desviaciones—, el gran reto es que por cómo funciona la inteligencia artificial, esta amplifica aún más esos errores con los que parte.

Cómo solucionarlo

Desde que la industria tecnológica es consciente de que hay un problema con los sesgos y de cuán importante son se están discutiendo y tomando muchas medidas para solucionarlos.

Uno de los enfoques más citados es una investigación que aboga por la “higiene algorítmica”, que identifica algunas causas específicas de sesgos y emplea las mejores prácticas para identificarlos y mitigarlos. Este estudio también presenta un conjunto de recomendaciones de políticas públicas, que promueven el despliegue justo y ético de la inteligencia artificial y las tecnologías de aprendizaje automático.

El objetivo es poner en común los problemas a los que se enfrentan los programadores informáticos y la industria al diseñar algoritmos para que tengan en cuenta las preocupaciones de la sociedad civil sobre cómo estos desarrollos van a afectar a sus vidas.

La inteligencia artificial y los algoritmos de aprendizaje automático deben seguir creciendo, pero prestando atención a la protección de los derechos individuales. Tal y como expresa Gemma Galdón, fundadora de Eticas Consulting (empresa que se dedica a vigilar que no haya sesgos en los algoritmos), “no hay mala fe, sino desconocimiento”.