Andrés Páez (Universidad de Los Andes)

Martes 27 de agosto de 2019, 11.00 hs.

Resumen:

La Inteligencia Artificial ha penetrado todos los rincones de nuestras vidas, desde las redes sociales y los motores de búsqueda en Internet, hasta ámbitos como el diagnóstico médico, la bolsa de valores y las decisiones judiciales. En 2016 la Unión Europea promulgó el “derecho a una explicación”: el derecho a que una persona que se vea afectada por una decisión tomada por un modelo de IA obtenga una explicación de esa decisión. La decisión debe tener efectos jurídicos o impactar significativamente la vida del demandante. El problema es que los modelos de aprendizaje automático (machine learning) son entrenados para tomar decisiones, pero una vez terminado el proceso de entrenamiento, el algoritmo comienza a funcionar autónomamente, sin que sea posible determinar exactamente cómo llega a sus decisiones. Se convierte en una caja negra. En esta charla exploraré cómo se puede entender el concepto de explicación en un contexto que difiere enormemente del ámbito científico y cotidiano, donde generalmente tenemos acceso epistémico a todos los elementos que permiten explicar todo tipo de fenómenos.