lunes, 3 de abril de 2017

Inteligencia artificial: una introducción filosófica, de Jack Copeland

Banda sonora de la reseña: Sugiero leer esta reseña escuchando Chinese Room, de Strange Monsters (Spotify, Bandcamp). 

Hace unas pocas semanas tuve el placer de participar en un coloquio, organizado por el Club de Cine de la Escuela Politénica de Ingeniería de Gijón, a raíz de la proyección de la película Ex Machina. Preparando algunas cuestiones para fomentar el debate, me acordé de un libro que había leído hacía mucho tiempo y en el que por primera vez me había encontrado con conceptos de la filosofía de la inteligencia artificial, como el argumento de la habitación china de John Searle.  

Como hacía tanto tiempo que había leído el libro (¿veinte años, quizá?), no recordaba el título exacto ni el autor, pero sí que lo había tomado prestado de la biblioteca pública. Así que al día siguiente del coloquio, me puse a buscar hasta que di con el libro en cuestión, que resultó ser Inteligencia artificial: una introducción filosófica, de Jack Copeland. Rápidamente, lo pedí prestado de nuevo en la biblioteca y me puse a releerlo, con la intención de comprobar si era tan bueno como recordaba y, por supuesto, para preparar esta reseña. 

Debo decir en primer lugar algunas cosas obvias. La primera es que, claro está, no se trata de un libro de ciencia ficción. Como bien dice el título es un ensayo filosófico sobre la inteligencia artificial, fundamentalmente sobre si en principio sería posible desarrollarla y las principales teorías y críticas que se han desarrollado al respecto. En ese sentido, nadie debería asustarse, puesto que (como también dice el título) se trata de una introducción y prácticamente todos los aspectos se tratan desde cero y de forma francamente accesible. Hay algunas partes algo más técnicas (la segunda mitad del capítulo 5, por ejemplo, de la que hablaré un poco más abajo), pero son franca minoría e incluso se pueden saltar sin temor a perder el hilo general del libro. Es, eso sí, una obra para pensar y reflexionar y no se puede leer del tirón como quien lee una novela de aventuras, pero no hay nada que no esté al alcance del lector medio ni que requiera conocimientos previos especiales. 

La otra cosa que debo advertir antes de pasar a la reseña en sí, es que el libro ya tiene sus años. Se publicó en inglés en 1993 y en español en 1996 (la edición que yo he leído), algo que en temas que tienen que ver con la ciencia (y más con la informática), puede ser una barbaridad. Reconozco que tenía miedo por cómo habría envejecido y en algunos aspectos está claramente anticuado, pero en general, y puesto que se trata de una introducción, la mayor parte del contenido sigue siendo de lo más pertinente. 

El test de Turing
El libro comienza con dos capítulos dedicados a motivar el problema del desarrollo de la inteligencia artificial y dar un contexto histórico de sus inicios. Ambos capítulos son concisos, claros y aportan datos muy interesantes desde una perspectiva bastante equilibrada. Para quien no conozca programas clásicos como ELIZA, PARRY o SHRDLU, creo que supondrá una lectura muy interesante. Es curioso como, vistas desde 2017, algunas cosas parecen bastante ingenuas, pero tampoco se diferencian demasiado de las promesas que se hacen en cuanto a los proyectos de inteligencia artificial en la actualidad. 

El capítulo 3 entra ya de lleno en el tema principal del libro y nos presenta el famoso test de Turing (que aparece en tantas obras de ciencia ficción, como precisamente en la película Ex Machina). Me parece una exposición simplemente brillante, que clarifica muchos de las interpretaciones incorrectas que se suelen hacer sobre la prueba propuesta por Turing y que, además, realiza un análisis sobrio pero certero sobre sus puntos fuertes y sus debilidades. Casi solo por este capítulo merece la pena echarle un vistazo al libro. 

Los capítulos 4 y 5, por el contrario, son los más flojos de la obra. El 4 porque presenta unas secciones de introducción a lo que es la computación simbólica que pienso que son redudantes para los que saben del tema y no demasiado clarificadores para los que no los conocen. Y el 5 porque se centra en un ejemplo concreto, el proyecto Cyc, que aunque sigue vigente en la actualidad (me ha sorprendido comprobarlo) tiene más bien poca relevancia. La parte final de este capítulo 5, además, es especialmente técnica sin que haya realmente un motivo acuciante para ello. Por suerte, como decía antes, se puede saltar sin ningún perjuicio para la comprensión del resto del libro.

En el capítulo 6, el libro remonta de nuevo el vuelo. Si antes Copeland había presentado y analizado el test de Turing, ahora le toca el turno a una de las principales y más famosas objeciones a esa prueba: el argumento de la habitación china (que aparece, por ejemplo, en Visión Ciega, de Peter Watts). Mediante una serie de diálogos ficticios, el autor examina el experimento mental propuesto por Searle desde distintos puntos de vista, desmenuzando cada uno de sus detalles. Un capítulo imprescindible para cualquier interesado en el tema. De hecho, una alternativa a leer el libro completo sería quedarse únicamente con los capítulos 3 y 6, con lo que se tendría una buena perspectiva de la relevancia del test de Turing y de las controversias que ha provocado.

Los capítulos 7 y 8, aun siendo relevantes para la discusión sobre la posibilidad de desarrollar una inteligencia artificial, son de hecho bastante más generales y tocan temas filosóficos que tienen una notable trascendencia más allá del tema principal del libro. El primero de ellos se centra en la libertad y analiza temas como el determinismo, el azar y el caos, así como las posturas filosóficas más destacables en torno a estos aspectos. Es bastante interesante, aunque creo que no se exploran suficientemente las implicaciones del azar inherente en la física cuántica.

La habitación china
El capítulo 8 está dedicado a la consciencia y es el que más corto se me ha hecho de todo el libro, porque muchos de los temas que se apuntan darían (han dado, de hecho) para volúmenes completos. Aquí se nos presentan algunos esbozos de temas de vital importancia en la filosofía de la mente, como las propuestas sobre el origen de la consciencia debidas a Julian Jaynes (que conoceréis si habéis leído Echopraxia, de Peter Watts); el famoso artículo de Thomas Nagel y la existencia de los qualia; la percepción "inconsciente" en los afectados por la visión ciega y otros trastornos semejantes; o el argumento sobre "lo que Mary no sabe" (que también aparece en la película Ex Machina). Como podéis ver, una gran cantidad de temas de lo más interesante y que, obviamente, apenas se llegan a explorar en las pocas páginas que tiene este capítulo.

A continuación, Copeland dedica un capítulo a la pregunta de si el cerebro se puede considerar como un ordenador, presentando algunos conceptos básicos sobre neurofisiología (que no puedo enjuiciar puesto que apenas conozco nada sobre el tema, aunque creo que se queda muy por debajo del fantástico On Intelligence, de Jeff Hawkins) y volviendo a examinar algunos de los argumentos expuestos durante el resto del libro. También se toca levemente el tema de la referencia y la intencionalidad, un campo que también ameritaría un tratamiento más detallado.

Finalmente, en el último capítulo, el autor realiza una pequeña pero rigurosa y acertada introducción a las redes neuronales artificiales (que, me ha hecho gracia comprobarlo, en el libro se describen con el arcaico término de PDPs) y a las posibilidades que podrían apuntar frente a los métodos de la inteligencia artificial clásica. Curiosamente, si hubiera releído este libro hace tres o cuatro años seguramente habría afirmado que se trata de un capítulo pasado de moda e irrelevante en el siglo XXI, pero el resurgimiento de este tipo de enfoques tras los éxitos recientes del deep learning (el más conocido de los cuales quizá sea el de AlphaGo) hacen que vuelva a ser de lo más pertinente. Me ha gustado también que Copeland se atreva a meterse, aunque sea solo un poquito, en el fascinante mundo del estudio matemático de la computabilidad, con adecuadas menciones de la tesis de Church-Turing y de la diferencia entre problemas decidibles y semi-decidibles (aunque no sé hasta qué punto esta parte resultará comprensible para alguien sin experiencia en la materia, dadas algunas imprecisiones en la definición de algunos conceptos; en cualquier caso, son apenas unas pocas páginas que tampoco son necesarias para entender el razonamiento en su conjunto).  

Esto es, a grandes rasgos, lo que el libro contiene que, como podéis ver, es mucho y variado. Pero hablemos por un momento de lo que el libro no contiene. Una cosa que me ha llamado poderosamente la atención es que no se haga en ningún momento ni siquiera una mención a los teoremas de incompletitud de Gödel. Ojo, no quiero decir que esté de acuerdo en que el uso de argumentos basados en estos resultados supongan ningún impedimento para la posibilidad de la inteligencia artificial, pero es innegable la importancia histórica que han tenido ese tipo de ataques en la historia de la filosofía de la IA, por ejemplo en los trabajos de J.R. Lucas y Roger Penrose, por citar a dos de los más notables abanderados del movimiento. Podría argumentarse que quizá estos asuntos se saldrían del ámbito de un libro que pretende ser solo una "introducción", pero no acabo de estar nada convencido del asunto y me sigue pareciendo una ausencia cuando menos llamativa (curiosamente, sí que son parte de la trama en el relato "Oracle", de Greg Egan).

Otra ausencia notoria, aunque esta es mucho mas comprensible, es que en ningún momento se mencione nada sobre la ética del desarrollo de inteligencias artificiales. Digo que es más comprensible porque, por un lado, Copeland se centra claramente en la posibilidad de la existencia de la IA y no en sus implicaciones y porque, además, muchos de los temas relevantes para el estudio de esas implicaciones se pusieron de moda después de la publicación del libro (recordemos, por ejemplo, que fue precisamente en 1993 cuando Vernor Vinge publicó su célebre The Coming Technological Singularity), aunque es cierto que ya se había escrito mucho sobre el particular con anterioridad. En cualquier caso, es un tema que seguramente volveré a tocar dentro de poco porque tengo previsto comentar en este mismo espacio mis impresiones sobre Superintelligence, de Nick Bostrom.

En resumen, puesto que ya me he alargado bastante más de lo que pretendía, Inteligencia artificial: una introducción filosófica es una excelente manera de tomar contacto con algunos de los temas centrales de la filosofía de la IA y sigue siendo más que relevante pese a que han pasado casi 25 años desde su publicación. No tiene absolutamente nada que envidiar a otros libros de intención similar, como el notorio La nueva mente del emperador, de Roger Penrose, y de hecho la obra de Copeland está mucho más enfocada y es infinitamente menos tendenciosa (aunque el autor en ningún momento oculta sus convicciones). En algún sitio he leído que se preparaba una segunda edición de este estupendo libro, lo cual sería una gran noticia, pero mientras nos llega esa versión revisada (si es que lo hace) recomiendo echarle un vistazo a la edición original, porque tiene muchísimo que ofrecer.    

4 comentarios:

  1. El tema de la inteligencia artificial es complejo y atractivo, pero complicado de entender si no sabes de este tipo de conceptos. Me gusta que ahonde desde cero, que te meta de forma sencilla conceptos y resulte interesante. Una pena la inexistencia de ese dilema ético, pero bueno, es más un ensayo por lo que entiendo que una novela. Un abrazo^^

    ResponderEliminar
  2. Es un ensayo, sí, y bastante profundo y completo. Sobre el tema de los dilemas éticos hay otros muchos libros, así que se puede complementar.

    ResponderEliminar
  3. Muy buena reseña. Me parecen muy interesantes los ensayos sobre este tema, pero a veces uno no sabe bien separar el grano de la paja. En este caso vuelves a hacer la labor por nosotros y te lo agradezco. Lo buscaré para hacerme con él. Saludos.

    ResponderEliminar
  4. ¡Gracias! Espero que te guste :)

    ResponderEliminar