La Automatización Paternalista
Ujué Agudo
Investigadora de Bikolabs y doctora en Psicología por la Universidad de Deusto
Licenciada en Publicidad y Relaciones Públicas, Master en Investigación en Psicología y Doctora en Psicología con la tesis “La influencia de los algoritmos en las decisiones y juicios humanos. Experimentos en contextos de política, citas y arte”. Tras una trayectoria profesional como diseñadora y más tarde como consultora experta en experiencia de usuario, actualmente ejerce como investigadora en Bikolabs, realizando estudios empíricos para comprender la interacción entre personas y tecnología.
Investigadora posdoctoral en el laboratorio de Psicología Experimental Labpsico de la Universidad de Deusto, compagina esta labor profesional con la docencia, siendo profesora asociada de Psicología del Pensamiento en la Universitat Oberta de Catalunya.
@ujue
LA AUTOMATIZACIÓN PATERNALISTA
Karlos g. Liberal
Responsable de Bikolabs y artista generativo
Con más de 20 años trabajando en torno al desarrollo en Internet, parte de su trayectoria ha sido investigar y proponer soluciones tecnológicas tanto en mercados concretos, como es el de la gestión de contenidos, el desarrollo software o la consultoría tecnológica, como en otros más emergentes relacionados con las periferias creativas, donde se aúnan el arte y la tecnología.
Como responsable de Bikolabs, una de sus áreas de trabajo directo está relacionada con el estudio y aplicación de la Inteligencia Artificial.
@patxangas
LA AUTOMATIZACIÓN PATERNALISTA
Investigamos y modelamos
la interacción presente y futura
entre personas y tecnología.
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
Investigación
Intervención
Prospección futura
Periferias artísticas
Mirada crítica
Difusión
Exposición del aprendizaje alcanzado
Exploración del marco teórico
Prototipado, experimentación y estética
Valoración del impacto presente y futuro en
las personas y la sociedad
Reflexión sobre la tecnología desde la tecnología
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN
a secas
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
EL PATERNALISMO LIBERTARIO
a escena
Recorrido por BE hasta el Paternalismo Libertario
Limitaciones de procesamiento
Homo Economicus
Racionalidad limitada
(Herbert Simons)
Contexto
Heurísticos
Sesgos
Programa de heurística y sesgos
Irracionalidad
(The Potential Human Gap)
LA AUTOMATIZACIÓN PATERNALISTA
Paternalismo Libertario
▲ Thaler, R. & Sunstein, C. (2008). Nudge
LA AUTOMATIZACIÓN PATERNALISTA
"En muchos casos, los individuos toman decisiones muy malas –decisiones que no habrían tomado si hubieran prestado atención y si hubieran dispuesto de toda la información, capacidades cognitivas ilimitadas y un autocontrol absoluto-."
"Estamos a favor de que las instituciones, tanto del sector privado como del Gobierno, se esfuercen de forma consciente por orientar las decisiones de las personas en direcciones que mejoren sus vidas."
Los nudges son un aspecto de la arquitectura de elección que altera el comportamiento de las personas de una manera predecible,
de acuerdo con sus intereses
según lo juzguen ellos mismos.
sin prohibir ninguna opción,
LIBERTARIO
PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
Paternalista
LA AUTOMATIZACIÓN
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
Si lo hacen mejor... que decidan las máquinas
"Los algoritmos no se rebelarán ni nos esclavizarán; más bien, serán tan buenos a la hora de tomar decisiones por nosotros que sería una locura no seguir sus consejos.."
"Aunque es poco probable que un algoritmo de predicción sea perfecto en un mundo incierto, puede ser mucho menos imperfecto que el ruidoso y, a menudo, sesgado juicio humano.
Esta superioridad se da tanto en términos de validez (los buenos algoritmos casi siempre producen mejor) como de discriminación (los buenos algoritmos pueden estar menos sesgados que los juzgadores humanos)"
LA AUTOMATIZACIÓN PATERNALISTA
▲ Fowler & Kelly (2020). Amazon’s new health band is the most invasive tech we’ve ever tested. Seattletimes.com
"Los llamados 'sistemas inteligentes' se han vuelto cada vez más petulantes. Creen saber qué es lo mejor para nosotros. Pero su inteligencia es limitada: (…) es imposible que una máquina disponga de un conocimiento suficiente de todos los factores que intervienen en la toma de decisiones de una persona."
"Ahora el mando lo están tomando nuestras máquinas. Actúan como si tuvieran inteligencia y voluntad, pero carecen de ellas."
"Los diseñadores parecen creer que estos dispositivos son inteligentes, de funcionamiento perfecto. Pero (...) estamos muy lejos del mundo de la ciencia ficción y del cine poblado de robots autónomos inteligentes que siempre funcionan a la perfección. (...) Y cuando nos quedamos atrapados en el mundo intermedio de los aparatos automáticos que no entendemos y que no funcionan como esperamos, o que no llevan a cabo la tarea que queremos realizar, entonces la vida no es más fácil y, sin duda, no es más agradable."
LA AUTOMATIZACIÓN PATERNALISTA
¿Si lo hacen mejor...? ¿que decidan las máquinas?
Aumento inteligente
Tecnología útil para que las personas tomen mejores decisiones, siendo las propias personas las que decidan cuándo y dónde usarla.
Autonomía inteligente
Tecnología para inferir las intenciones de la gente y tomar de forma autónoma decisiones por ellos.
LA AUTOMATIZACIÓN PATERNALISTA
AUTOMATIZACIÓN PATERNALISTA
Libertaria
Paternalista
LA AUTOMATIZACIÓN PATERNALISTA
+LIBERTARIO
++LIBERTARIO
▲ Saura & Aragó (2021). Un algoritmo impreciso condiciona la libertad de los presos. La Vanguardia
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
++LIBERTARIO
LA AUTOMATIZACIÓN PATERNALISTA
+LIBERTARIO
LA AUTOMATIZACIÓN PATERNALISTA
▲ Ziesenis (2017). Crystal Knows: Communicate better with personality insights. https://yournerdybestfriend.com/2015/05/20/crystal-knows-communicate-better-with-personality-insights/
+PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
◀︎ Chip Financial Ltd
https://getchip.uk/
++PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
++PATERNALISTA
B
LA CARA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
Toda automatización paternalista implica mediación (no siempre transparente, lo que, a veces, deriva en auditorías).
LA AUTOMATIZACIÓN PATERNALISTA
1.
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
Se introduce un humano en el proceso de decisión como garantía de supervisión y libertad pero no se testa el impacto del "human-in-the-loop", no se consideran a todos los humanos del proceso y a veces se espera "rubber-stamping".
LA AUTOMATIZACIÓN PATERNALISTA
2.
Se incumple la norma de que la automatización reemplace a las personas en las tareas de las tres D: sucias, aburridas y peligrosas (dirty, dull and dangerous).
LA AUTOMATIZACIÓN PATERNALISTA
3.
▲ Angwin et al. (2017). Facebook (Still) Letting Housing Advertisers Exclude Users by Race
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
No siempre se automatizan decisiones sobre acciones pasadas, sino que a veces se usa la automatización para predecir el futuro o realizar tareas que no son posibles.
LA AUTOMATIZACIÓN PATERNALISTA
4.
LA AUTOMATIZACIÓN PATERNALISTA
¿Y entonces?
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
SOLUCIONES CONCRETAS A COSAS
concretas
LA AUTOMATIZACIÓN PATERNALISTA
▲ Imagen basada en una presentación de Ralph Hertwig (2018) en la Conferencia de Rectores de Alemania.
¿Cambiar nudges por boosts?
LA AUTOMATIZACIÓN PATERNALISTA
Nudge vs. Boost. Ejemplo
▲ Van Roekel, H., Reinhard, J., & Grimmelikhuijsen, S. (2022). Improving hand hygiene in hospitals: Comparing the effect of a nudge and a boost on protocol compliance.
Control: sin cartel
Nudge: framing positivo
Boost: frecuencia de riesgo
Antes de la intervención
Durante la intervención
Una semana después
TRES SALAS
TRES MEDICIONES
Sesgo optimista
LA AUTOMATIZACIÓN PATERNALISTA
Nudge vs. Boost. Ejemplo
Sesgo optimista
Control: sin cartel
Nudge: framing positivo
Boost: frecuencia de riesgo
▲ Van Roekel, H., Reinhard, J., & Grimmelikhuijsen, S. (2022). Improving hand hygiene in hospitals: Comparing the effect of a nudge and a boost on protocol compliance.
“En buenas manos”
“La buena atención de su paciente comienza con las manos limpias"
LA AUTOMATIZACIÓN PATERNALISTA
Nudge vs. Boost. Ejemplo
Sesgo optimista
Control: sin cartel
Nudge: framing positivo
Boost: frecuencia de riesgo
▲ Van Roekel, H., Reinhard, J., & Grimmelikhuijsen, S. (2022). Improving hand hygiene in hospitals: Comparing the effect of a nudge and a boost on protocol compliance.
“Prevenir infecciones”
“La buena higiene de manos previene infecciones"
“Uno de cada veinte pacientes sufre una infección hospitalaria"
LA AUTOMATIZACIÓN PATERNALISTA
Van Roekel, H., Reinhard, J., & Grimmelikhuijsen, S. (2022). Improving hand hygiene in hospitals: Comparing the effect of a nudge and a boost on protocol compliance.
Nudge vs. Boost. Ejemplo
Control: sin cartel
Nudge: framing positivo
Boost: frecuencia de riesgo
Sesgo optimista
55-61% de cumplimiento
90% durante la intervención / 75% a la semana
77% durante la intervención / 80% a la semana
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
Boost/Fricción: Decision Points
▲ Cheema & Soman (2008). The Effect of Partitions on Controlling Consumption
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
SOLUCIONES
deseadas
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
LA AUTOMATIZACIÓN PATERNALISTA
SOLUCIONES
utópicas
LA AUTOMATIZACIÓN PATERNALISTA
Leer a Ursula K. Le Guin
@patxangas
@ujue
Muchas gracias
Automatización Paternalista BBVA
By Bikolabs
