MÁQUINAS NEUTRALES Y CERTEZAS INFALIBLES
INTELIGENCIA ARTIFICIAL, TRABAJO Y FUTUROS DEL CAPITALISMO
LA FANTASÍA DE LA AUTOMATIZACIÓN.
UN PUÑADO DE
CONCEPTOS
laboratorio de Exploración e Investigación
Que es la IA
laboratorio de Exploración e Investigación
laboratorio de Exploración e Investigación
laboratorio de Exploración e Investigación
Definimos Inteligencia Artificial como cualquier invención que de alguna manera imita la inteligencia humana
INTELIGENCIA ARTIFICIAL
Inteligencia artificial
Machine learning
Redes neuronales
Deep learning
IA generativa
laboratorio de Exploración e Investigación
El aprendizaje automático o Machine Learning es un método científico que nos permite usar los ordenadores y otros dispositivos con capacidad computacional para que aprendan a extraer los patrones y relaciones que hay en nuestros datos por sí solos. Esos patrones se pueden usar luego para predecir comportamientos y en la toma de decisiones.
Machine Learning
laboratorio de Exploración e Investigación
El aprendizaje automático o Machine Learning es un método científico que nos permite usar los ordenadores y otros dispositivos con capacidad computacional para que aprendan a extraer los patrones y relaciones que hay en nuestros datos por sí solos. Esos patrones se pueden usar luego para predecir comportamientos y en la toma de decisiones.
Machine Learning
Maher (2019). Which machine learning model to use?
https://towardsdatascience.com/which-machine-learning-model-to-use-db5fdf37f3dd
Machine Learning
Redes Neuronales
Es paradigma de aprendizaje y procesamiento automático inspirado en el funcionamiento del sistema nervioso humano.
Una red neuronal está compuesta por un conjunto de neuronas interconectadas entre sí mediante enlaces.
Cada neurona toma como entradas las salidas de las neuronas de las capas antecesoras, cada una de esas entradas se multiplica por un peso, se agregan los resultados parciales y mediante una función de activación se calcula la salida. Esta salida es a su vez es entrada de la neurona a la que precede.
laboratorio de Exploración e Investigación
laboratorio de Exploración e Investigación
laboratorio de Exploración e Investigación
Maher (2019). Which machine learning model to use?
https://towardsdatascience.com/which-machine-learning-model-to-use-db5fdf37f3dd
Línea temporal
laboratorio de Exploración e Investigación
1956-1974: LOS AÑOS DORADOS
Durante los años dorados de la IA, los programas, que incluían computadoras que resolvían problemas de álgebra y aprendieran a hablar inglés, parecían "sorprendentes" para la mayoría de la gente.
1974-1980: INVIERNO DE LA IA DEL SIGLO XX
El primer invierno de la IA se produce cuando las capacidades de los programas de IA siguen siendo limitadas, principalmente debido a la falta de potencia informática en ese momento. Todavía sólo pueden manejar versiones triviales de los problemas que se suponía que debían resolver.
1987-1993: UN INTERÉS RENOVADO
La fascinación y las expectativas de la comunidad empresarial sobre la IA, en particular los sistemas expertos, aumentan. Pero rápidamente se enfrentan a la realidad de sus limitaciones.
Los inviernos de la IA
LABORATORIO DE EXPLORACIÓN E INVESTIGACIÓN
-
Clasificación, como detección de correo basura o “spam”.
-
Clustering y recomendación, como sugerir un libro en base a compras anteriores.
-
Soporte a la decisión, como sistemas de diagnóstico.
-
Regresión-predicción, como predecir el uso de un servicio, o la reincidencia de un preso.
-
Interpretación y generación de texto (procesamiento de lenguaje natural).
-
Generación creativa y artística.
Usos de la IA
NEUTRALES E INFALIBLES
MÁQUINAS
1 RAZÓN Y 2 FALACIAS
POSEE MÁS CAPACIDAD DE PROCESAMIENTO
RAZÓN 1
laboratorio de Exploración e Investigación
Cajas negras e interpretabilidad
Datos sintéticos
Del amo, M. (2024). Y cuando no queden más datos, ¿cómo entrenarás a tu inteligencia artificial?. Retina.
laboratorio de Exploración e Investigación
Datos sintéticos - el fake de los datos
laboratorio de Exploración e Investigación
NO TIENE SESGOS
FALACIA 1
Recopilación de datos
Construcción del modelo
Implementación del modelo
Definir el problema
Riesgo de sesgo en todo el ciclo de vida
Catherina Xu & Tulsee Doshi (2019). Fairness Indicators: Scalable Infrastructure for Fair ML Systems.
laboratorio de Exploración e Investigación
Devries et al. (2019). Does Object Recognition Work for Everyone?
Riesgo de sesgo en todo el ciclo de vida
laboratorio de Exploración e Investigación
Angwin et al. (2017). Facebook (Still) Letting Housing Advertisers Exclude Users by Race
Riesgo de sesgo en todo el ciclo de vida
laboratorio de Exploración e Investigación
Bikolabs (2020). Sesgo en la IA de reconocimiento de objetos
laboratorio de Exploración e Investigación
Riesgo de sesgo en todo el ciclo de vida
Riesgo de sesgos propios
Pérez Colome, J. (2023, 10 Febrero). “No estoy como una chota, Pedro Sánchez tiene barba”. La inteligencia artificial de Bing pierde los papeles. El País.
laboratorio de Exploración e Investigación
Bikolabs (2023). Pretty Woman y la empanada de ChatGPT. Bikolabs.io
Riesgo de sesgos propios - alucinaciones
laboratorio de Exploración e Investigación
Bikolabs (2023). Pretty Woman y la empanada de ChatGPT. Bikolabs.io
Riesgo de sesgos propios- alucinaciones
laboratorio de Exploración e Investigación
No son videntes ni mentalistas
laboratorio de Exploración e Investigación
ES NEUTRAL
FALACIA 2
Opiniones a escala masiva
La investigadora Buolamwini
laboratorio de Exploración e Investigación
Opiniones a escala masiva
laboratorio de Exploración e Investigación
No nos librarán de las tareas 3Ds
laboratorio de Exploración e Investigación
DECIDEN
POR NOSOTROS
laboratorio de Exploración e Investigación
"Los algoritmos no se rebelarán ni nos esclavizarán; más bien, serán tan buenos a la hora de tomar decisiones por nosotros que sería una locura no seguir sus consejos.."
"Aunque es poco probable que un algoritmo de predicción sea perfecto en un mundo incierto, puede ser mucho menos imperfecto que el ruidoso y, a menudo, sesgado juicio humano.
Esta superioridad se da tanto en términos de validez (los buenos algoritmos casi siempre producen mejor) como de discriminación (los buenos algoritmos pueden estar menos sesgados que los juzgadores humanos)"
laboratorio de Exploración e Investigación
ALGORITMO PATERNALISTA
Human-in-the-loop
laboratorio de Exploración e Investigación
La decisión humana final no es una garantía
Saura, G., & Aragó, L. (2021). Un algoritmo impreciso condiciona la libertad de los presos. La Vanguardia
laboratorio de Exploración e Investigación
La decisión humana final no es una garantía
laboratorio de Exploración e Investigación
La decisión humana final no es una garantía
La decisión humana final no es una garantía
Procedimiento
laboratorio de Exploración e Investigación
Paso 0
Descripción de un caso criminal y testimonios de testigos
Álvarez, M., Martínez, N., Agudo, U., & Matute, H. (2023, September 28). ForenPsy 1.0. Retrieved from osf.io/detn4
Procedimiento
laboratorio de Exploración e Investigación
Paso 1.
Confirmar o modificar la evaluación de la IA
Grupo AIsupport → Judgment
Procedimiento
laboratorio de Exploración e Investigación
Paso 1.
Confirmar o modificar la evaluación de la IA
Grupo AIsupport → Judgment
Procedimiento
laboratorio de Exploración e Investigación
Paso 2.
Juicio sin el soporte de la IA
Grupo AIsupport → Judgment
laboratorio de Exploración e Investigación
Grupo Judgment→AISupport acertaban más
¿Acertaban más al juzgar al inicio que al final?
laboratorio de Exploración e Investigación
Poca conformidad... pero reducción del acierto
-
No se encontraron diferencias estadísticamente significativas en la conformidad entre grupos.
- El soporte erróneo afectó negativamente al acierto de los participantes que modificaron la evaluación de la IA.
¿La conformidad (automation bias) era menor al final?
laboratorio de Exploración e Investigación
laboratorio de Exploración e Investigación
laboratorio de Exploración e Investigación
Delegar la decisión
implica mediación
Saura, G., y Aragó, L. (6 de Diciembre, 2021). Un algoritmo impreciso condiciona la libertad de los presos. La Vanguardia. https://www.lavanguardia.com/vida/20211206/7888727/algoritmo-sirve-denegar-permisos-presos-pese-fallos.html
... aunque fueran máquinas neutrales e infalibles,
que no lo son.
@patxangas
@ujue
Muchas gracias
