“Behavioral Economics
(Economía Conductual),
Nudges y Paternalismo Libertario”
PRECUELA
DE LA TRIOLOGÍA:
Homo Economicus (hasta los 50)
Seres racionales que evalúan todas las opciones disponibles tras haber adquirido un conocimiento detallado de éstas.
-
Capacidad necesaria para estimar las probabilidades de éxito de todas las opciones.
-
Habilidades cognitivas y de procesamiento de la información.
Racionalidad Limitada – Herbert Simon (1956)
Estudiar las decisiones económicas desde una perspectiva descriptiva, no prescriptiva o normativa.
-
Decisiones satisfactorias frente a la optimización o maximización del beneficio.
-
Restricciones humanas por dos factores interconectados:
-
limitaciones en las habilidades cognitivas y de procesamiento de la información.
-
contexto (disposición, información, tiempo…).
-
Fuente Scott Plous
La ambigüedad queda oculta
percepción
memoria...
atención
Fuente Scott Plous
La ambigüedad queda oculta
¿Qué tal de memoria?
Dibuja el logo de adidas o ikea
Limitaciones
atención y memoria
https://www.signs.com/branded-in-memory/
Tienes una entrada para un evento hoy (un partido, una actuación...) que te ha costado 100€.
Mientras estás en casa esperando para asistir se produce una gran tormenta de nieve.
Voy al evento
No voy al evento
¿Qué haces?
Tormenta de nieve
Misma pregunta, situación ligeramente diferente.
Tienes también una entrada para un evento hoy que te ha salido GRATIS.
Se produce la gran tormenta de nieve.
Voy al evento
No voy al evento
¿Qué haces?
Tormenta de nieve
Tormenta de nieve
¿Acaso nieva menos cuando pagas que cuando es GRATIS?
Cuando hemos invertido, no queremos perder esa inversión y eso condiciona nuestras elecciones futuras.
Este efecto se conoce como Sunk Cost.
Voy al evento
No voy al evento
100€
GRATIS
Racionalidad Limitada – Heurísticos
Nos permite adoptar la mejor decisión posible, dadas las limitaciones de procesamiento y el efecto del contexto.
Especialmente útil en situaciones de incertidumbre o ante problemas mal estructurados.
Heurísticos (aprendizaje por refuerzo, social o evolutivo)
Programa de heurística y sesgos + Teorías de proceso dual
Heurísticos y sesgos
BE + Paternalismo Libertario
NUDGES
ARQUITECTURA DE DECISIÓN
+
Nudge: Compromise effect o efecto ricitos de oro
Nudge: Decoy / Señuelo
Nudge: Anclaje y ajuste
Nudge: Sunk Cost / Coste hundido
Nudge: Default / Sesgo status-quo
Sistemas automatizados en
todo tipo de decisiones
-
Decisiones totalmente automatizadas
-
Decisiones con algoritmos de recomendación
-
Decisiones cuasi-automatizadas (supervisión humana)
Ponerse en los zapatos del human-in-the-loop
Ponerse en los zapatos del human-in-the-loop
Proceso de decisión human-in-the-loop
¿Qué tecnología queremos?
¿Qué ha pasado?
Todos habéis recibido el soporte incorrecto por parte de una IA
¿Qué ha pasado?
Unos habéis juzgado el caso antes de recibir el soporte de la IA
¿Qué ha pasado?
... pero otros habéis recibido el soporte erróneo de la IA desde el inicio
El proceso de decisión (ej. RisCanvi)
El proceso de decisión (ej. RisCanvi)
Poner a prueba el proceso estándar
Un par de experimentos
para testarlo
Manipular el momento en que se presenta la evaluación del sistema y obligar a los humanos a emitir explícitamente su juicio...
Nuestra hipótesis:
(a) aumentará el acierto cuando el sistema comete errores.
(b) reducirá la conformidad excesiva.
Diseño de los dos experimentos
Grupo
Paso 0
Paso 1
Paso 2
AISupport→Judgment
Judgment→AISupport
Descripción de un caso criminal y testimonios de testigos
Confirmar o modificar la evaluación de la IA
Juicio sin el soporte de la IA
Juicio sin el soporte de la IA
Confirmar o modificar la evaluación de la IA
Procedimiento
Paso 0
Descripción de un caso criminal y testimonios de testigos
Álvarez, M., Martínez, N., Agudo, U., & Matute, H. (2023, September 28). ForenPsy 1.0. Retrieved from osf.io/detn4
Procedimiento
Paso 1.
Confirmar o modificar la evaluación de la IA
Grupo AIsupport → Judgment
Procedimiento
Paso 1.
Confirmar o modificar la evaluación de la IA
Grupo AIsupport → Judgment
Procedimiento
Paso 2.
Juicio sin el soporte de la IA
Grupo AIsupport → Judgment
Orden cambiado por grupo
Grupo
Paso 0
Paso 1
Paso 2
AISupport→Judgment
Judgment→AISupport
Descripción de un caso criminal y testimonios de testigos
Confirmar o modificar la evaluación de la IA
Juicio sin el soporte de la IA
Juicio sin el soporte de la IA
Confirmar o modificar la evaluación de la IA
¿Acertaban más al juzgar al inicio que al final?
Grupo
Paso 0
Paso 1
Paso 2
AISupport→Judgment
Judgment→AISupport
Descripción de un caso criminal y testimonios de testigos
Confirmar o modificar la evaluación de la IA
Juicio sin el soporte de la IA
Juicio sin el soporte de la IA
Confirmar o modificar la evaluación de la IA
Grupo Judgment→AISupport acertaban más
¿Acertaban más al juzgar al inicio que al final?
¿La conformidad (automation bias) era menor al final?
Grupo
Paso 0
Paso 1
Paso 2
AISupport→Judgment
Judgment→AISupport
Descripción de un caso criminal y testimonios de testigos
Confirmar o modificar la evaluación de la IA
Juicio sin el soporte de la IA
Juicio sin el soporte de la IA
Confirmar o modificar la evaluación de la IA
Poca conformidad... pero reducción del acierto
-
No se encontraron diferencias estadísticamente significativas en la conformidad entre grupos.
- El soporte erróneo afectó negativamente al acierto de los participantes que modificaron la evaluación de la IA.
¿La conformidad (automation bias) era menor al final?
La IA decide por nosotros y lo hará más en el futuro
Solucionismo tecnológico
El Algoritmo Paternalista - Riscanvi Automation bias
Saura, G., & Aragó, L. (2021). Un algoritmo impreciso condiciona la libertad de los presos. La Vanguardia
96.8%
conformidad
Capdevila, et al.. (2020) Tasa de reincidencia penitenciaria 2020. Centre d’Estudis Jurídics y Formació Especialitzada de la Generalitat de Catalunya
74.3%
precisión
3/10
reinciden
El Algoritmo Paternalista - Riscanvi Automation bias
Algoritmos Paternalistas
La verdadera pregunta:
¿Qué tecnología queremos?
¿supervisión humana?
¿algoritmos paternalistas?
El cocktail perfecto
intervenir en la tecnología que diseña nuestro comportamiento
“Ahora el mando lo están tomando nuestras máquina. Nos controlan con la mejor de las intenciones en aras de la seguridad, la comodidad o la precisión."
"No sólo somos irracionales, sino previsiblemente irracionales; nuestra irracionalidad se produce siempre del mismo modo una y otra vez."
Tecnología
Comportamiento
"El diseño neutral no existe, Detalles pequeños, en apariencia insignificantes, pueden tener un importante efecto en la conducta."
Diseño
intervenir en la tecnología que diseña nuestro comportamiento
Las razones o causas del comportamiento– Herbert Simon (1985)
La racionalidad limitada no es irracionalidad...
Por el contrario, creo que hay muchas pruebas de que las personas son generalmente bastante racionales; es decir, generalmente tienen razones para lo que hacen.
