Auditoría algorítmica

¿TIENEN ÉTICA LOS ALGORITMOS?

Según la RAE:
Ética es el conjunto de normas morales que rigen la conducta de la persona en cualquier ámbito de la vida.
Inteligencia artificial es la disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico.
Algoritmo es el conjunto ordenado y finito de operaciones que permite hallar la solución de un problema.

La RAE define lo que etimológicamente significa la palabra “Ética” pero ¿Qué se considera como “conjunto de normas morales” en el campo de la Inteligencia Artificial?
Wikipedia considera que la ética de las máquinas (o moral de las máquinas) es el campo de investigación relacionado con el diseño de Agentes morales artificiales (AMA), robots o máquinas artificialmente inteligentes que se comportan moralmente o como si lo fuesen.

Lo cierto es que Inteligencia Artificial y las tecnologías de procesamiento de datos masivos que se valen de algoritmos, tienen muchas implicaciones en la vida profesional, social, privada, etc.
El Grupo de Alto Nivel en Inteligencia Artificial (AI – HLEG) que ha creado la Comisión Europea para desarrollar la Estrategia Europea en Inteligencia Artificial aplica el término Inteligencia Artificial a “sistemas que manifiestan un comportamiento inteligente, al ser capaces de analizar el entorno y realizar acciones, con cierto grado de autonomía, con el fin de alcanzar objetivos específicos”.
La inteligencia artificial puede tener o no soluciones o decisiones que se pueden considerar éticas. Pero ¿tiene eso que ver con el algoritmo que corre debajo?

El algoritmo es un proceso ordenado, secuencial de instrucciones lógicas destinados a solucionar un problema. Y esa solución de problemas se aplica a muchos ámbitos, tanto del sector público como del privado, y a distintos aspectos como pueden ser políticos, tecnológicos, relativos a fianzas, salud, energía, etc.
Muchas veces los clientes nos dicen que “los algoritmos evolucionan solos” sin saber explicar muy bien por qué el código evoluciona de esa manera. El peligro de esto es que puede puede implicar la toma de decisiones sesgadas basadas en ese aprendizaje y evolución del algoritmo, cuestión especialmente preocupante, entre otros, para los grupos de riesgo o vulnerables.
¿Dónde está entonces la ética en el algoritmo? Parece que puede estar en ese proceso secuencial y en que el mismo no tenga tendencias exclusivas o inclusivas sesgadas. Pero el algoritmo no tiene sesgos, los sesgos son de quienes lo programan y en las potenciales instrucciones poco éticas en su “aprendizaje”.
En este sentido, los estudios son preocupantes. Se ha comprobado, por ejemplo, que los algoritmos heredan los sesgos de género que imperan en nuestra sociedad.
En este contexto y preocupación acerca de la programación ética de los algoritmos, este mes de enero se ha publicado una guía por parte de Eticas Research and Consulting y por encargo de la Agencia Española de Protección de Datos, en la que definen una metodología para realizar auditorías algorítmicas.
La guía es un documento de gran utilidad en la que se profundiza acerca de las distintas fases que pueden desplegarse en una auditoría de algoritmos con una metodología bastante documentada y cuya lectura recomendamos.

Con la inestimable aportación de Joaquín Sampedro.