UN PUÑADO DE

CONCEPTOS

laboratorio de Exploración e Investigación

Que es la IA

laboratorio de Exploración e Investigación

laboratorio de Exploración e Investigación

Definimos Inteligencia Artificial como cualquier invención que de alguna manera imita la inteligencia humana

INTELIGENCIA ARTIFICIAL

Inteligencia artificial

Machine learning

Redes neuronales

Deep learning

IA generativa

laboratorio de Exploración e Investigación

El aprendizaje automático o Machine Learning es un método científico que nos permite usar los ordenadores y otros dispositivos con capacidad computacional para que aprendan a extraer los patrones y relaciones que hay en nuestros datos por sí solos. Esos patrones se pueden usar luego para predecir comportamientos y en la toma de decisiones.

Machine Learning

Maher (2019). Which machine learning model to use?
https://towardsdatascience.com/which-machine-learning-model-to-use-db5fdf37f3dd

Machine Learning

Redes Neuronales

Es paradigma de aprendizaje y procesamiento automático inspirado en el funcionamiento del sistema nervioso humano.

Una red neuronal está compuesta por un conjunto de neuronas interconectadas entre sí mediante enlaces.

Cada neurona toma como entradas las salidas de las neuronas de las capas antecesoras, cada una de esas entradas se multiplica por un peso, se agregan los resultados parciales y mediante una función de activación se calcula la salida. Esta salida es a su vez es entrada de la neurona a la que precede.

laboratorio de Exploración e Investigación

LABORATORIO DE EXPLORACIÓN E INVESTIGACIÓN

Clasificación, como detección de correo basura o “spam”.
Clustering y recomendación, como sugerir un libro en base a compras anteriores.
Soporte a la decisión, como sistemas de diagnóstico.
Regresión-predicción, como predecir el uso de un servicio, o la reincidencia de un preso.
Interpretación y generación de texto (procesamiento de lenguaje natural).
Generación creativa y artística.

Usos de la IA

laboratorio de Exploración e Investigación

LABORATORIO DE EXPLORACIÓN E INVESTIGACIÓN

DECIDEN

POR NOSOTROS

Ponerse en los zapatos del human-in-the-loop

laboratorio de Exploración e Investigación

¿Qué ha pasado?

laboratorio de Exploración e Investigación

Todos habéis recibido el soporte incorrecto por parte de una IA

¿Qué ha pasado?

laboratorio de Exploración e Investigación

Unos habéis juzgado el caso antes de recibir el soporte de la IA

¿Qué ha pasado?

laboratorio de Exploración e Investigación

... pero otros habéis recibido el soporte erróneo de la IA desde el inicio

Algunos interrogantes

laboratorio de Exploración e Investigación

¿Ha podido afectar esto a vuestros juicios?
¿Y a vuestra confianza?
¿El orden en el que habéis recibido la información ha podido tener un efecto en vuestras decisiones?

laboratorio de Exploración e Investigación

Muestra de interfaz de decisión en RisCanvi

Algunos interrogantes

¿Hubiérais juzgado el caso igual si los botones de decisión, en vez de ser "Inocente" o "Culpable", hubieran sido "Validar" la evaluación de la IA o "Rechazarla"?

¿Conformidad excesiva? (Automation bias)

laboratorio de Exploración e Investigación

Saura, G., & Aragó, L. (2021). Un algoritmo impreciso condiciona la libertad de los presos. La Vanguardia

laboratorio de Exploración e Investigación

"Los algoritmos no se rebelarán ni nos esclavizarán; más bien, serán tan buenos a la hora de tomar decisiones por nosotros que sería una locura no seguir sus consejos.."

"Aunque es poco probable que un algoritmo de predicción sea perfecto en un mundo incierto, puede ser mucho menos imperfecto que el ruidoso y, a menudo, sesgado juicio humano.

Esta superioridad se da tanto en términos de validez (los buenos algoritmos casi siempre producen mejor) como de discriminación (los buenos algoritmos pueden estar menos sesgados que los juzgadores humanos)"

laboratorio de Exploración e Investigación

ALGORITMO PATERNALISTA

NEUTRALES E INFALIBLES

AI MÁQUINAS

1 RAZÓN Y 2 FALACIAS

POSEE MÁS CAPACIDAD DE PROCESAMIENTO

RAZÓN 1

laboratorio de Exploración e Investigación

Cajas negras e interpretabilidad

Datos sintéticos

Del amo, M. (2024). Y cuando no queden más datos, ¿cómo entrenarás a tu inteligencia artificial?. Retina.

laboratorio de Exploración e Investigación

Datos sintéticos - el fake de los datos

laboratorio de Exploración e Investigación

NO TIENE SESGOS

FALACIA 1

Recopilación de datos

Construcción del modelo

Implementación del modelo

Definir el problema

Riesgo de sesgo en todo el ciclo de vida

Catherina Xu & Tulsee Doshi (2019). Fairness Indicators: Scalable Infrastructure for Fair ML Systems.

laboratorio de Exploración e Investigación

Devries et al. (2019). Does Object Recognition Work for Everyone?

Riesgo de sesgo en todo el ciclo de vida

laboratorio de Exploración e Investigación

Bikolabs (2020). Sesgo en la IA de reconocimiento de objetos

laboratorio de Exploración e Investigación

Riesgo de sesgo en todo el ciclo de vida

Riesgo de sesgos propios

Pérez Colome, J. (2023, 10 Febrero). “No estoy como una chota, Pedro Sánchez tiene barba”. La inteligencia artificial de Bing pierde los papeles. El País.