¿La inteligencia artificial es un boleto a la Babilonia de Borges?
Al imaginar un mundo completamente gobernado por procesos de inteligencia artificial ininteligibles, me acordé de La lotería en Babilonia de Borges. El cuento describe cómo una simple lotería terminó por convertirse en una institución secreta y todopoderosa. Al principio, como cualquier otra lotería, se limitaba a definir qué participante ganaría el pozo de dinero. Sin embargo, con el tiempo todos los habitantes de Babilonia se vieron obligados a participar, y la lotería se volvió más compleja: las personas podían perder (o ganar) un trabajo, un lugar entre la nobleza, el amor de sus vidas, la vida misma, el honor. Fue “una considerable reforma cuyas complejidades (agravadas por un ejercicio de siglos) no entienden sino algunos especialistas (…) El número de sorteos es infinito. Ninguna decisión es final, todas se ramifican en otras.” En su apogeo, cada aspecto de la vida de una persona estaba sujeta a las secretos designios de La Lotería.
Pero, ¿qué es la inteligencia artificial (IA)?
Cuando etiquetas a tu amiga Ana en una foto de Facebook básicamente estás ayudando a entrenar a la IA de Facebook a distinguir a Ana del resto de tus amigas. La etiquetas a Ana en una foto en la que sonríe. Y una en la que sus labios están tapados por una lata de cerveza, y otra en la que aparece con los ojos cerrados. Al principio Facebook sugiere las etiquetas equivocadas. Con el paso del tiempo descubre la combinación de factores que le permiten reconocer a Ana.
“Inteligencia Artificial” describe un conjunto de metodologías computacionales enraizadas en la estadística. Entre las más populares se encuentra el aprendizaje automático o Machine Learning, que consiste en un entrenamiento caso por caso, como el asignar etiquetas a fotos de Facebook. Así, el sistema eventualmente descubre la serie de reglas que explican las clasificaciones realizadas durante el proceso de entrenamiento (Ana / no Ana).
En algunos diseños, la IA puede incluso continuar refinando dichas reglas sin supervisión humana, logrando así un aprendizaje más veloz y efectivo que aquel que podría realizar incluso por el humano más brillante.
Las expectativas sobre el potencial de la IA para mejorar la detección de enfermedades, para detectar qué acciones están a punto de subir… [inserte sector de interés aquí] … son altísimas.
Pero también hay grandes temores. “Con inteligencia artificial, estamos invocando al demonio”, afirmó el millonario emprendedor Elon Musk en una reciente entrevista. Musk se refiere al riesgo de que la IA tome conciencia propia y nos esclavice. Sin embargo, la gran mayoría de los expertos afirma que la IA jamás adquirá una conciencia. Afirman que la conciencia es un salto cualitativo y no cuantitativo. No se trata de agregar capacidad de procesamiento ni datos.
Otros en cambio creen que el verdadero riesgo es la combinación de expectativas desmesuradas con la torpeza y falta de sentido común de la IA actual. Es decir, que le den tareas para las cuales la IA no está lista, y en sus desaciertos afecte de manera arbitraria y negativa los proyectos vida de millones de personas. Un tercer grupo, entre quienes me incluyo, considera que la opacidad de la IA actual puede ser aprovechada para ocultar la perpetuación de injusticias. Nos preocupan los valores de quienes diseñan y administran la Lotería.
Como reacción a estas ansiedades, algunos gobiernos eligieron regular el sector. En 2018, el derecho a una explicación entró en vigor en la Unión Europea. La idea es que los algoritmos que impactan de manera sustancial en la vida de las personas deben ser inteligibles para estas personas. Es decir, los procesos mediante el cual un algoritmo realiza una clasificación no pueden ocurrir dentro de una caja negra.
Algunos afirman que las clasificaciones realizadas por IA son, por definición, incomprensibles para humanos. Imaginemos al algoritmo de Facebook intentando explicar porqué Ana no es María: no diría que una tiene pecas, pelo más fino, etc. Las computadoras no abstraen como nosotros. El algoritmo convirtió las caras en píxeles, y no está interpretando la peca como “una peca”, sino como una perturbación en el patrón de píxeles. Y así sucesivamente con cada diferencia.
El proceso de ingeniería inversa que podría utilizarse para generar una explicación ofrecería como resultado una base de datos del tamaño y complejidad del problema original. Problema que delegamos en las computadoras precisamente por su complejidad.
Que Facebook falle al clasificar una foto, o sea incapaz de explicar el porqué de la clasificación es un tanto inocuo. Ahora bien, cuando una computadora utiliza estas metodologías para definir la tasa a la que se otorgará crédito, o le sugiere a un juez que usted muy probablemente cometerá un nuevo delito si no es encarcelado, es otro asunto.
Regresemos ahora a la Babilonia de Borges, donde cada aspecto de la vida de una persona estaba sujeto a las reglas secretas de la lotería.
“ La Compañía, con modestia divina, elude toda publicidad “, comienza el párrafo final. El narrador luego se pregunta si la Lotería todavía gobierna el destino de los babilonios… o incluso si aquello era pura fantasía, y concluye que “es indiferente afirmar o negar la realidad de la tenebrosa corporación, porque Babilonia no es otra cosa que un infinito juego de azares.”
Pero …¿importa si la Lotería existe?
Imaginemos dos mundos. En ambos mundos te toca el mismo destino: ¿serías indiferente entre el mundo en el que un desconocido ejecuta tal destino, y aquel en el que simplemente ocurre? Creo que la respuesta es no. El concepto de un dios diseñado por humanos es aterrador.
El narrador del cuento menciona haber escuchado quejas. Personas que sospechaban que la Compañía favorecía a ciertos individuos. La mera existencia de estas dudas debería llevarnos a elegir el mundo en el que ningún tercero tiene potenciales poderes secretos sobre nuestros planes de vida.
Debemos aprender del pasado. Los intérpretes de dios tienden a reservarse una porción desproporcionada de los regalos del dios que dicen representar. Por lo tanto, hoy deberíamos ocuparnos de debatir qué valores deberían informar la lotería, cómo traduciremos estos valores en reglas. Y desde ya…vigilar que los dados no estén cargados.
Los desafíos por delante no deberían paralizarnos. La regulación europea generó incentivos para la investigación, y en apenas un puñado de meses hemos visto progreso en el desarrollo de técnicas para que los algoritmos sean más inteligibles.
Ese es precisamente el papel de los Gobiernos: mirar hacia el futuro y diseñar una estructura de incentivos que, respetando los derechos y equilibrando los intereses de cada individuo, active la coordinación necesaria para la construcción de un mundo que todos y cada uno de nosotros estaría contento de habitar.
Entonces, ¿la inteligencia artificial es un boleto a la Babilonia de Borges? No necesariamente. Babilonia es tan sólo un mundo posible. Uno por el que no deberíamos optar.
Y esa es nuestra tarea…asegurarnos de que no comprar ni vender un boleto a Babilonia. Y no siempre será sencillo.
