“Las matemáticas son la solución para lograr una Inteligencia Artificial más transparente, justa y responsable”

Madrid. 22 de abril de 2025.  “Si la Inteligencia Artificial está en casi todos los campos de nuestra vida, las Matemáticas están en todos los campos de la Inteligencia Artificial”. Así lo ha asegurado Emilio Carrizosa, catedrático de Estadística e Investigación Operativa en la Universidad de Sevilla y presidente de la red española de matemática-industria math-in, en el coloquio ‘Matemáticas, Inteligencia Artificial y Ética’, organizado por la Real Sociedad Matemática Española (RSME) y la Fundación Ramón Areces.

Los expertos reunidos en este coloquio han reivindicado la capacidad de las matemáticas para ofrecer soluciones a los nuevos problemas que plantean estas tecnologías, como la optimización en el tratamiento de datos que alcanzan tamaños descomunales, y responder a los diversos desafíos éticos que presenta. Como ha indicado, “las matemáticas son la solución para lograr una Inteligencia Artificial más transparente, justa y responsable”.

También han insistido en que el inmenso potencial de la IA para cambiar nuestra vida, e incluso el mundo tal y como lo conocemos, requiere una especial llamada de atención para evitar su mal uso y los sesgos heredados de los datos. En palabras de la presidenta de la RSME, Victoria Otero Espinar, “las matemáticas están en el centro del éxito de la IA y pueden ayudar de forma decisiva a crear modelos más transparentes, justos y responsables”. “Por eso es importante y necesario que los profesionales que trabajan en el desarrollo de estos sistemas y sus aplicaciones tengan una buena formación matemática”, ha añadido.

“Las matemáticas son la base de los algoritmos de la Inteligencia Artificial (IA) y son también muy útiles para abordar algunos de los problemas éticos que nos plantea esta tecnología”, ha destacado Alicia Dickenstein, profesora Emérita de la Universidad de Buenos Aires y presidenta de la Academia Nacional de Ciencias Exactas, Físicas y Naturales de Argentina. Dickenstein ha considerado que “es imprescindible contar con una buena educación, con un debate social amplio y con una regulación eficiente que permita atacar los múltiples desafíos de la IA”.

Casi en todas partes

Usamos consciente o inconscientemente la IA cuando una aplicación nos recomienda canciones, nos sugiere una determinada ruta para circular por una ciudad, cuando nos atiende un bot en una llamada, cuando un corrector automático detecta erratas y discordancias gramaticales o el departamento de riesgos de un banco analiza nuestra salud financiera para concedernos o no una hipoteca. “En el corazón de todas esas aplicaciones hay sofisticados modelos matemáticos y algoritmos basados en las más diversas ramas de las matemáticas, por supuesto en las aplicadas, como la Estadística, la Optimización o el Análisis Numérico, pero también en la Topología, la Geometría, el Álgebra o el Análisis Funcional”, ha explicado el investigador Emilio Carrizosa.

En este debate celebrado en la Fundación Ramón Areces se ha puesto de manifiesto el papel determinante que juegan las Matemáticas a la hora de detectar eventuales sesgos y también en el diseño de algoritmos que mitiguen su efecto. Los sesgos de los datos pueden condicionar los resultados en función del género, la edad, el nivel económico o social, la procedencia, la orientación sexual o la ideología, motivo por el cual “la Estadística tradicional siempre cuidó exquisitamente el diseño de los experimentos y el posterior tratamiento y análisis de los datos”, ha recordado Emilio Carrizosa. Sin embargo, como ha destacado, la globalización digital y el internet de las cosas ofrece ahora acceso a enormes cantidades de información de diversa calidad y procedencia.

“Los sesgos se pueden perpetuar o verse amplificados cuando, sin el debido tratamiento, son usados por la IA para predecir y, con estas predicciones, proponer decisiones que afectan a las personas y pueden vulnerar derechos fundamentales”, ha advertido este investigador. Por ello, personas y administraciones demandan también cada vez más que las decisiones propuestas por la IA sean explicables. “No podemos pretender que el cliente a quien se deniega el crédito o el paciente a quien se diagnostica un riesgo alto de sufrir una enfermedad entiendan el algoritmo de IA que hay detrás del pronóstico, pero sí que la propia IA le indique cuáles son las variables más relevantes en la construcción de ese pronóstico, y que sugiera los cambios requeridos para mejorarlo”, ha concluido.