karlos g liberal
Usamos Slides para crear el material para presentaciones y talleres de Bikolabs y antes Interzonas
Narrativa de la convivencia humano-máquina
15 junio 2019
Bikolabs Laboratorio de especulación
Nos conformamos con estar 20 minutos por delante
ujué :: miren
@ujue @merisu
la relación entre Inteligencia artificial y humanos
PORQUE LO LLAMAN AMOR CUANDO QUIEREN DECIR SEXO
APOCALIPSIS
SOLUCIONISMO
Lo público, privado, íntimo
Privacidad
Control social
Toma de decisiones
Trabajo
APOCALIPSIS
Vídeo cámaras UK
@bbcclick (2019). Could facial recognition cut crime?
https://www.bbc.com/news/av/technology-48228677/could-facial-recognition-cut-crime
El Khoury (2019). Google Photos has been asking users to help improve its facial recognition grouping
https://www.androidpolice.com/2019/04/26/google-photos-has-been-asking-users-to-help-improve-its-facial-recognition-grouping/
PERFIL ALGORÍTMICO
Newman (2014).
The costs of lost privacy: consumer harm and rising economic inequality in the age of Google.
SCORING
Emerging Technology (2019). How a Google Street View image of your house predicts your risk of a car accident
https://www.technologyreview.com/s/613432/how-a-google-street-view-image-of-your-house-predicts-your-risk-of-a-car-accident/
Predicción del riesgo de accidente automovilístico
Verger (2017). AI can figure out a place’s politics by analyzing cars on Google Street View
https://medium.com/popular-science/ai-can-figure-out-a-places-politics-by-analyzing-cars-on-google-street-view-2ae78b4896a
Composición sociodemográfica del país
SOLUCIONISMO
Peters (2018). Having A Heart Attack? This AI Helps Emergency Dispatchers Find Out.
https://www.fastcompany.com/40515740/having-a-heart-attack-this-ai-helps-emergency-dispatchers-find-out
DECISIONES DELEGADAS
google maps
El diseño de los objetos del futuro: La interacción entre el hombre y la máquina
"Los llamados 'sistemas inteligentes' se han vuelto cada vez más petulantes. Creen saber qué es lo mejor para nosotros. Pero su inteligencia es limitada”
Donald Norman (2010)
DECISIONES DELEGADAS
Libertarian Paternalism
Chip Financial Ltd
https://getchip.uk/
DECISIONES DELEGADAS
Eslami et al. (2015).
“I always assumed that I wasn’t really that close to [her]”: Reasoning about Invisible Algorithms in News Feeds.
TECNOLOGÍA (DES)HABILITANTE
DECISIONES DELEGADAS
TECNOLOGÍA (DES)HABILITANTE
Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias.
Retrieved from https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Las decisiones algorítmicas se representan:
- como decisiones neutrales,
- como decisiones eficientes,
- como decisiones objetivas y confiables
EL PODER DE LA NOCIÓN DE "ALGORITMO"
Beer (2016). The social power of algorithms
"I would like to live in a world whose systems are built on rigorous, reliable, verifiable knowledge, and not on alchemy"
Ali Rahimi, AI researcher in Google (2018)
LA RESPONSABILIDAD
DE LA PREDICCIÓN
LA AUTOMAGIA DE LA BLACK BOX
TRUST
=
TRUSTWORTHiNESS
ALGUNAS LÍNEAS DE TRUSTWORTHY
los datos / datasetss
ALGUNAS LÍNEAS DE TRUSTWORTHY
IAS transparentes y EXPLICABLES
Carter et al. (2019). Activation Atlas
http://distill.pub/2019/activation-atlas
ALGUNAS LÍNEAS DE TRUSTWORTHY
auditar
ALGUNAS LÍNEAS DE TRUSTWORTHY
Herramientas
ALGUNAS LÍNEAS DE TRUSTWORTHY
EQUIPOS DE TRABAJO DIVERSOS
AI KNOWLEDGE GAP: Hypothesized divergence between the number of AI systems and the number of studies that characterize the behavior of those systems. Manuel Cebrian & Iyad Rahwan (MIT)
ALGUNAS LÍNEAS DE TRUSTWORTHY
LA RELACIÓN HUMANO-MÁQUINA
NUESTRA PROPUESTA
narrativa de la convivencia
Inspiración "Pirámide de Maslow" + "The machines’ hierarchy of needs" de Bertran (2017)
Dos prototipos para testar nuestra reflexión teórica
UN ASISTENTE DE VOZ
UNA IA ¿ARTISTA?
Sebastian
EL asistente que controla al asistente
INTERPRELAR SOBRE LA NECESIDAD DE CONTROL
+
DECISION
POINTS
ESTUDIO SOBRE LA PERCEPCIÓN HUMANA DE LA MÁQUINA
Estudios previos:
Estudios superiores/inferiores a las máquinas según dominio
No les asociamos empatía
NUESTRO ESTUDIO
Muestra
249 participantes (55% Mujeres)
Condición Artista IA / Artistas Humanos
Nivel de emoción generada
"Ahora que has visto el vídeo de (estas artistas), ¿hasta qué punto dirías que te han emocionado?"
Nivel de sensibilidad atribuida
"¿Y cómo calificarías su sensibilidad?"
PRINCIPAL CONCLUSIÓN
Atribuimos más sensibilidad y capacidad de emocionar cuando creemos que el artista es un humano que cuando creemos que es una máquina.
Emoción (M Artista IA = 3.17; M Artistas Humanos = 4.09; F(1, 247) = 7.64; p = .006)
Sensibilidad (M Artista IA = 4.03; M Artistas Humanos = 5.84; F(1, 247) = 28.9; p < .001)
INVITACIÓN FORMAL
Especular sobre el futuro de la relación Humano-Máquina
desde la narrativa de convivencia
mediante experimentos que persigan reducir la asimetría existente.
GRACIAS
Narrativa de la convivencia
By karlos g liberal
Narrativa de la convivencia
¿Cómo abordar la relación entre humanos y máquinas sin caer en las visiones apocalípticas o de solucionismo tecnológico a las que nos tienen acostumbrados los medios de comunicación? Desde Bikolabs proponemos un posible modelo de convivencia humano-máquina para romper con la relación asimétrica actual entre ambos actores, y explorar además el efecto que dicha relación provoca en los deseos, prejuicios y expectativa humana.
