“La fórmula gödeliana es el talón de Aquiles de la máquina cibernética, y por ello no cabe esperar que podamos construir una máquina capaz de hacer todo lo que hace la mente: nunca podremos, ni siquiera en principio, conseguir un modelo mecánico de la mente”.
J. R. Lucas, Mentes, máquinas y Gödel
La Characteristica Universalis
Gottfried Leibniz
Si me preguntarán mi opinión sobre las diez o veinte personas más inteligentes de la historia de la humanidad, sin dudarlo demasiado metería entre ellas a Gottfried Leibniz (1646-1716), uno de estos genios universales que se dedicó a casi todo y en casi todo lo que se dedicó aportó algo importante (aunque también tuvo algunos divertidos fracasos). En el campo de las ciencias de la computacióntambién tuvo su aporte, aunque se quedó más como un objetivo a lograr que como una realización concreta.
Razonar es un juego con unas reglas. No vale contradecirse, una afirmación no puede ser verdad y mentira a la vez, o es hombre o es mujer pero no puede ser ambos a la vez… si decimos que o llueve o nieva y se da que no nieva, entonces necesariamente llueve… Leibniz comprendió que si el razonamiento humano estaba sujeto a reglas y podemos conocerlas, podríamos transformar nuestro lenguaje en un nuevo lenguaje matemático que automatizara la tarea de razonar. Leibniz pone el ejemplo de la celebración de un juicio.
Podríamos inventar una máquina en la que introdujésemos todas las pruebas y razones a favor y en contra del acusado. Después de realizar los correspondientes cálculos, la máquina resolvería, sin posibilidad de error, la inocencia o culpabilidad del reo. Al lenguaje que utilizaría la máquina para calcular, Leibniz lo llamó characteristica universalis, un lenguaje universal (como lo son las matemáticas) válido para cualquier tipo de razonamiento.
Dos siglos antes de que se inventasen los ordenadores modernos, Leibniz estaba hablando ya delenguajes de programación y de la profunda idea de transformar el razonamiento humano en cálculo, de matematizar la mente humana ¿Es este sueño posible?
La ciencia de tener siempre razón
Los griegos se habían dado cuenta de todo mucho antes que Leibniz y crearon la lógica: toda una disciplina científica encargada de saber cuáles son las reglas de razonamiento de la mente humana.Aristóteles (el padre de la criatura) ya se encargó de hacer una teoría del silogismo (razonamiento con dos premisas y una conclusión que se deduce de ellas) que perfeccionaron los estoicos (con Crisipo a la cabeza), siguieron manejando los medievales (sobre todo en el siglo XIV), hasta llegar a la madurez de esta disciplina en los siglos XIX y XX, con aportaciones tan trascendentales como el álgebra de George Boole, la Conceptografía de Gottlob Frege (personaje éste bastante poco simpático) y, quizá la obra cumbre de la historia de las matemáticas después de los Elementos de Euclides, los Principia Mathematica de Russell y Whitehead.
George Boole
La razón de ser de tan complejos trabajos (invito al lector, incluso si es matemático o está familiarizado con la notación matemática, a que eche un vistazo a la obra, por ejemplo, de Frege e intente sacar algo claro de allí) fue siempre la de encontrar un proceso mecánico (algorítmico) que permitiera razonar sin cometer ningún error. Curiosas las tareas a las que se dedica el ser humano:una ciencia hecha exclusivamente para llevar siempre la razón.
El Wiener Kreis
La Filosofía lleva en pie más de dos mil quinientos años y en todo este tiempo no ha sido capaz de dar una respuesta concluyente a ninguno de los interrogantes por ella planteados. Para muchos intelectuales esto es un escándalo: ¿qué demonios les pasa a esos filósofos que están todo el día discutiendo sin llegar a conclusión alguna? ¿Es que jamás llegaremos a solucionar las grandes cuestiones del ser humano?
Este hartazgo se hizo patente en una de las corrientes más influyentes del siglo XX: el Círculo de Viena. Un grupo de pensadores de diversos campos (físicos, matemáticos, economistas…) en torno a las figuras de Moritz Schlick, Rudolf Carnap u Otto Neurath entre otros, pensaron que la filosofía no había conseguido nada porque su herramienta, el lenguaje vulgar, no era adecuada para razonar con suficiente precisión, lo cual terminaba por llevar a errores de diversa índole (a crearpseudoproblemas, problemas donde no los hay).
Moritz Schlick, uno de los fundadores del Cículo de Viena
Si dispusiéramos de un nuevo lenguaje libre de tales ambigüedades e imprecisiones, podríamos solucionar de una vez por todas todos los grandes problemas filosóficos. El candidato claro era un lenguaje lógico ideal y crearlo sería el último gran proyecto filosófico. Se había resucitado elcharacteristica universalis de Leibniz.
Así continuó la larga, y siempre inconclusa, tarea de transformar nuestros lenguajes cotidianos (naturales) en precisos lenguajes formales (tarea de formalización). Se fueron diseñando lógicas que, cada vez, abarcaban más aspectos de nuestra compleja forma de razonar. Primero teníamos lo que se llamaba lógica de enunciados, la cual solo atiende a unas pocas reglas y solo puede formalizar una parte muy pequeña del razonamiento humano (es la que se explica, o explicaba antes, en los institutos cuando en éstos se enseñaba algo).
Después se amplió a la lógica de predicados (que atendía a los cuantificadores: “todo”, “alguno” o “ninguno”), de clases, modal (introduciendo elementos temporales, deontológicos, epistemológicos, etc.) o la contemporánea lógica difusa (que juega con varios valores de verdad: todo no es blanco o negro, hay escalas de grises. Recomiendo leer a Bart Kosko. Sus libros de divulgación sobre este tipo de lógica son muy asequibles y entretenidos).
Sin embargo, hablando en términos absolutos, este gran proyecto fue un rotundo fracaso (recomiendo encarecidamente leer el libro de Richard Rorty El giro lingüístico para comprender bien el asunto y divertirse al hacerlo). No se ha conseguido formalizar plenamente el razonamiento humano. Hay muchísimos elementos en nuestro lenguaje que no atienden a reglas claras y precisas, sino que obedecen a aspectos contextuales, culturales, históricos, sociales, etc. (para estudiarlos se creó la lógica informal). Por eso aún no hemos podido pasar claramente el Test de Turing ni, a fortiori, podemos mantener una conversación convincente con cualquier chatbot que encontremos por la red. El sueño de Leibniz quizá terminará solamente como otra de tantas quimeras de la razón.
¿Renunciamos entonces al proyecto de crear inteligencias artificiales capaces de pensar como nosotros? Todavía no, sigamos viendo más aportaciones.
De números computables
Empecemos de nuevo y por el principio. Si pretendemos reducir la mente a cálculo habrá que comenzar por definir cálculo o, dicho de otra manera, definir computabilidad ¿Qué quiere decir que un número cualquiera se puede calcular? Aunque el hombre lleva haciendo cuentas desde tiempos inmemoriales, no fue hasta el pasado siglo cuando se consiguió una definición precisa de lo que significa número computable.
La respuesta se dio a la vez y con diferentes métodos, allá por los años 30 del siglo XX. Por un lado está el cálculo lambda de Alonzo Church, por otro las máquinas de Emil Leon Post y, por último, lasmáquinas de Alan Turing. Vamos a centrarnos en éste último, porque su definición ha sido la más famosa y divulgada.
Una máquina de Turing (MT) es algo bastante sencillo. Es una cinta de papel dividida en celdas sobre la que una especie de brazo mecánico puede leer, escribir y borrar. También puede mover la cinta hacia la derecha o hacia la izquierda. La máquina dispone de un listado de instrucciones en el que le indicamos lo que tiene que hacer (un programa. Turing lo llamaba configuración-m). Aquí lo explico más detalladamente. Pues bien, un “cacharrito” tan sencillo es capaz de calcular todo lo calculable, de tal modo que podemos definir un número computable como aquel que puede ser calculado por una MT (es Turing-computable).
Representación de una máquina de Turing
Dando un paso más podemos construir una Máquina Universal de Turing (MU). Lo habitual es que una MT esté diseñada exclusivamente para una tarea concreta: sumar, restar, elevar a una potencia, resolver un tipo de ecuaciones, etc. pero podemos diseñar una que sirva para hacer todo lo que las demás hacen ¿cómo?
A Turing se le ocurrió la idea de codificar las instrucciones que le podemos dar a una de sus máquinas. Por ejemplo, podríamos ir numerando cada instrucción con un número natural: 1 significa “borrar”, 2 “mover la cinta a la derecha”, 3 “mover la cinta a la izquierda”, etc. de tal modo que cada máquina tuviese un número que la identificara (algo así como un DNI en el mundo de los robots).
Pues bien, una MU sería aquella que recibe por la cinta el DNI de cualquier MT concreta y devuelve por la misma cinta los resultados que esa misma MT concreta daría. Sería la máquina polivalente por excelencia, capaz de hacer todo lo que las demás máquinas hacen. Y, ¿cuál sería a su vez el DNI de esa portentosa máquina? Roger Penrose, en La Nueva Mente del Emperador, nos ofrece un posible número de identificación:
72448553353393175771983950396157112379523606725565596311081447966065050594042410903104836136323593656444434583822268832787676265561446928141177150178425517075540856576897533463569424784885970469347257399885822838277952946834605210611698359459387918855463264409255255058205559894518907165374148960330967530204315536250349845298323206515830476641421307088193297172341505698026273468642992183817215733348282307345371342147505974034518437235959309064002432107734217885149276007975976344151230795863963544922691594796546147113457001450481673375621725734464522731054482980784965126988788964569760906634204477989021914437932830019493570963921703904833270882596201301773727202718625919914428275437422351355675134084222299889374410534305471044368695876405178128011943753081387063994277282315642528923751456544389905278079324114482614235728619311833261065612275553181020751108533763380603108236167504563585216421486542347187426437544428790062485827091240422076538754264454133451748566291574299909502623009733738137724162172747723610206786854002893566085696822620141982486216989026091309402985706001743006700868967590344734174127874255812015493663938996905817738591654055356704092813322216314109787108145997866959970450968184190629944365601514549048809220844800348224920773040304318842989939313552668823496621019471619107014619685231928474820344958977095535611070275817487333272966789987984732840981907648512726310017401667873634776058572450369644348979920344899974556624029374876688397514044516657077500605138839916688140725455446652220507242623923792115253181625125363050931728631422004064571305275802307665183351995689139748137504926429605010013651980186945639498
Tiene 1.654 dígitos y, maravilla de las maravillas, es capaz de realizar todo lo que el ordenador desde el que estás leyendo este artículo es capaz. Es más, tu ordenador no es más que una refinada (y varios órdenes de magnitud más rápida) máquina universal de Turing. El ordenador desde el que lees esto es la materialización física de la definición de número computable. Dicho de otro modo: ¿Qué es calcular? Lo que mi ordenador puede hacer.
El problema de la parada
Supongamos que somos programadores informáticos y que nos encargan diseñar un programa para que haga una tarea determinada. Es un programa realmente complejo, con miles de líneas de código que tardamos meses en escribir. Finalmente, parece que está terminado. Damos al run y esperamos a ver si nuestra creación funciona correctamente o no. Pasan los minutos y el programa sigue y sigue trabajando… Pasan horas, días… ¿el programa se habrá bloqueado? ¿Habrá quedado encerrado en un bucle o, sencillamente, es que el problema a resolver es muy complejo y la máquina necesita tiempo?
El caso es que no hay manera de saber si una máquina seguirá trabajando eternamente o se parará con el resultado en el segundo siguiente. Turing demostró esto y su demostración tendrá grandísimas implicaciones.
Vamos a diseñar una nueva máquina a la que Turing llamará máquina D (MD). Esta máquina recibiría por la cinta todos los códigos identificativos de todas las MT posibles. La inmensa mayoría de esos códigos serían de máquinas que no sirven para nada, que no funcionan o que su funcionamiento es circular (son, propiamente, las MT que no se paran nunca). La MD sería capaz de ir catalogando las MT que va recibiendo en MT que funcionan y en MT circulares, es decir, en MT que se paran y en MT que no se paran. Evidentemente, estamos ante una máquina pensada para solucionar el problema de la parada.
Ahora vamos a diseñar una máquina híbrida, mezclando una MD con una MU. Esta máquina (DU) va recibiendo números de identificación de diferentes MT y sigue dos fases: primero la MD verifica si la MT recibida es válida o circular, y segundo, si la MT recibida es válida, la MU replica su funcionamiento y devuelve lo que la MT haría por sí misma. Hasta aquí todo correcto pero, ¿qué pasaría si a esta máquina híbrida le pasásemos el número de identificación de sí misma? Primero la MD verifica que DU no es circular y segundo la MU replica el funcionamiento de DU.
Pero aquí llega el problema: replicar el funcionamiento de DU consiste en, de nuevo, introducirse a sí misma en MD para verificar su no circularidad y ser replicada nuevamente por MU… y replicarse por MU consiste en hacer de nuevo todo el proceso… ¡y así hasta el infinito!
Entonces nos encontramos con una insondable paradoja. La MD había verificado que DU no era circular pero, al final, comprobamos que DU se repite hasta el infinito, es decir, es circular… Por el otro lado si DU se cataloga a sí misma como circular y no emprende el proceso de activar MU para replicarse hasta el infinito, se parará, luego no será circular… Entonces: ¿Es DU circular o no lo es? No hay solución, por lo que el problema de la parada es resoluble por definición.
Kurt Gödel
Bien, ¿y para qué nos vale demostrar que el problema de la parada es irresoluble? Para mucho. En 1931 Kurt Gödel había hecho temblar los fundamentos de las matemáticas (golpeando duramente el programa de Hilbert) publicando sus famosos teoremas de incompletitud. Éstos,grosso modo, decían que en todo sistema axiomático (un sistema que parte de unas proposiciones iniciales o axiomas a partir de las que se deduce todo lo demás. La geometría de Euclides es un ejemplo claro de sistema axiomático) lo suficientemente complejo para describir la aritmética de números naturales y coherente (sin contradicciones), contendrá teoremas (sentencias que se deducen de los axiomas) que no serán decidibles desde el mismo sistema (sentencias que, con los instrumentos del mismo sistema, no podremos probar si pertenecen al mismo sistema o no). Resumiendo: las matemáticas no son perfectas, son incompletas.
¿Y qué tiene que ver esto con el problema de la parada abordado por Turing? Muchísimo, porque el hecho de que no sea resoluble es otra forma de decir exactamente lo mismo que Gödel. Esas MT que la DU no sabría definir como válidas o circulares, serían precisamente las sentencias indecidibles de las que habla el Teorema de Incompletitud.
Vale, ¿y qué tiene que ver todo esto con el problema de poder programar la mente humana en una máquina? Mucho, sigamos.
Penrose aplica Gödel a la mente
Roger Penrose se basa directamente en Gödel y Turing para criticar la idea de que la mente sea un ordenador. Tanto en La Nueva Mente del Emperador como en Las sombras de la mente (libros interesantes pero, en demasiadas ocasiones, de muy difícil lectura) Penrose ofrece un montón de argumentos diferentes de distinta magnitud y calado. Solo nos centraremos aquí en uno que, en cierto sentido, resume todos los demás. Discúlpeme el lector (y el mismo Penrose) si simplifico demasiado. En cualquier caso, el argumento no es suyo: J.R. Lucas ya lo expuso en su artículoMentes, máquinas y Gödel de 1961.
Roger Penrose
Supongamos que, al fin, construimos un programa de ordenador que puede considerarse equivalente a la mente humana. Como es un programa, ha de ser un ejemplo concreto de sistema formal y, entendemos, que será un sistema coherente y capaz de efectuar operaciones aritméticas simples como la suma y la multiplicación. Como según el teorema de Gödel, contendrá fórmulas o teoremas que serán indecidibles para él, cualquier modelo matemático de la mente ha de ser, por principio, incompleto.
Nuestra mente mecánica se encontraría con teoremas con los que, por definición, no sabría qué hacer. Sin embargo, y aquí radica el quid del argumento, los seres humanos sí sabemos qué hacer cuando nos encontramos con un teorema indecidible. Como mínimo, nos damos cuenta de que algo va mal, de que hay un elemento que no encaja bien. Por ejemplo, si cualquier de nosotros se encuentra ante la clásica paradoja de Epiménides. La frase: “Todos los cretenses son unos mentirosos” la dijo Epiménides, que era cretense. ¿Es esta frase verdadera o falsa? No hay solución: si es verdadera es falsa y si es falsa es verdadera. Un computador encargado de clasificar las oraciones en verdaderas o falsas se atascaría aquí, convirtiéndose en circular. Por el contrario, nosotros no nos atascamos, detectamos sin problemas que estamos ante una paradoja y no nos pasa nada.
Podríamos intentar solucionar el problema diseñando una nueva máquina que se encargara de “desatascar la máquina inicial”, advirtiéndole de algún modo que está ante una paradoja sin solución. Vale, pero a su vez, esa nueva máquina tendría también sus propios teoremas indecidibles, por lo que haría falta una tercera máquina y así sucesivamente ad infinitum.
Es decir, si las mentes humanas son capaces de darse cuenta, de comprender algo que la computadora no puede por principio (ya no es cuestión de que en un futuro puedan construirse computadoras que sí puedan, sino que nunca puede hacerse), es que los computadores no son modelos completos de una mente humana o, dicho de otro modo, la mente humana no es del todo un ordenador.
Irreductibles qualia
Lucas o Penrose exageran el alcance del Teorema de Gödel (como se ha hecho tantas veces con la Teoría de la Relatividad o con el Principio de Incertidumbre de Heisenberg). No veo que el hecho de que sistemas axiomáticos complejos sean incompletos interfiera en el diseño de una mente computacional. Pensemos en cualquiera de los programas que funcionan en nuestro ordenador personal… ¿alguno se ve afectado por el Teorema de Gödel? ¿Se encuentran con teoremas indecidibles? No, y en el caso en que un programa se encierre en un bucle infinito, el programador rápidamente lo desecha.
Igualmente creo que la mente, aceptando que fuera un programa de ordenador, no sería más que una serie de programas para resolver una amplia gama de problemas que, con total seguridad, poco se verían afectados por incompletudes o indecibilidades. La selección natural castigaría contundentemente a cualquier programa que tardara demasiado tiempo en solucionar cualquier urgencia del presente, con tanta razón más si se atasca en una iteración eterna.
Max Tegmark
Parece que todo el problema parte de una confusión esencial: no es lo mismo un modelo matemático de la realidad que la realidad misma (por mucho que tipos raros como Max Tegmark digan lo contrario). No es lo mismo un modelo matemático que describa el funcionamiento de nuestra mente que nuestra mente misma, igualmente que no es lo mismo una serie de fórmulas que explican y predicen el vuelo de un Boeing 747 que un Boeing 747 real. El Teorema de Gödel subraya una deficiencia de las matemáticas, no de la realidad misma.
Que mediante computadores podamos simular ciertos aspectos de la mente tales como una parte del razonamiento lógico o nuestra capacidad de cálculo matemático, no quiere decir que la mente humana sea un computador. Además habría que comprobar si realmente esos aspectos que parece que hemos conseguido simular, los simulamos correctamente. Un programa que juega al ajedrez, realmente, no juega al ajedrez igual que lo hace un humano por mucho que, externamente, parezca que así lo haga.
Los procesos computacionales internos del programa no tienen nada que ver con lo que ocurre en un cerebro humano cuando juega al ajedrez. Un humano no calcula miles de jugadas por segundo ni tiene un archivo con millones de partidas al que consultar. Del mismo modo, cuando yo realizo una multiplicación, mi forma de hacerlo dista mucho de como lo hace una calculadora de bolsillo.
Deep blue, la primera supercomputadora diseñada para jugar al ajedrez
Y luego están, por supuesto, los aspectos de nuestra mente que están lejos de ser replicados computacionalmente: los qualia, las emociones conscientes. Una máquina no es capaz de desear, sentir dolor o placer, ni ser consciente de absolutamente nada de lo que hace. Por ejemplo, pensemos en el deseo de conseguir un objetivo. Si diseñamos un programa para resolver ecuaciones de segundo grado, el programa no desea resolver ecuación alguna. Pone todo su esfuerzo, todo su ser en conseguirlo, no se cansará nunca de intentarlo; el programa está siempre perfectamente motivado pero, realmente, no le importa un pimiento resolver o no la ecuación.
Las computadoras funcionan de un modo muy diferente al de las mentes humanas y los parecidos no justifican, de ningún modo, el optimismo de los últimos tiempos hacia la posibilidad de crear, en unos pocos años, inteligencias artificiales similares a los seres humanos. La gravedad del tema estriba en la dificultad de programar un quale: ¿alguien tiene la más remota idea de cómo sería posible programar un ordenador para que se sienta, realmente, triste o contento? Ya os digo yo que no.
En el muy recomendable Conversaciones sobre la consciencia la psicóloga Susan Blackmore realiza una serie de entrevistas a los intelectuales más relevantes en este campo (Dennett, Searle, Ramachandran, Chalmers, Block, Stoerig, Varela o Daniel Wegner entre otros) y para frustración del lector, todos confiesan de una o de otra manera que no tienen ni idea.
A pesar de los notables avances de las neurociencias, sobre todo en el campo de la neuroimagen, no se ha conseguido todavía explicar, ni de modo aproximado, como ese entramado de redes neuronales altamente interconectadas, que constituye nuestro cerebro, consigue generar cualquier tipo de estado mental, ya sea una emoción o un simple recuerdo.
Tenemos una neurona que se sobreexcitada a través de sus dendritas, cambia la permeabilidad de su membrana plasmática mediante un sistema de bombas iónicas, creando una diferencia de potencial que termina por lanzar un impulso eléctrico por su axón. Al final de éste se encuentran una serie de vesículas que se abren expulsando a la hendidura sináptica gran cantidad de moléculas, por ejemplo, de dopamina. Estas moléculas van encajando en los receptores sinápticos que están al otro lado de la hendidura y mantienen su actividad allí durante un tiempo hasta que una serie de enzimas las descomponen.
Durante ese tiempo, el ser humano dueño de ese circuito neuronal, se siente bien, adquiere un estado mental determinado directamente causado por esta actividad en el cerebro. Sabemos todo esto muy bien, de modo que podemos establecer una correlación prácticamente inequívoca entre un tipo muy concreto de actividad bioquímica y un estado mental. No obstante, aquí termina todo: ¿cómo causa la presencia masiva de moléculas de dopamina que yo me sienta bien?
Las computadoras funcionan de un modo muy diferente al de las mentes humanas y los parecidos no justifican, el optimismo de los últimos tiempos hacia la posibilidad de crear inteligencias artificiales similares a los seres humanos
Deben de existir, con total seguridad, muchos más pasos en este proceso que desconocemos completamente y que han de ser necesariamente cruciales para una explicación satisfactoria de la mente humana. Los que afirman lo contrario se equivocan groseramente. He leído a muchos que parece que no ven demasiado problema en pensar que un pensamiento es un flujo de electrones en el axón de una neurona o la interacción de neurotransmisores en las sinapsis.
No parecen darse cuenta de que un estado mental no tiene las mismas propiedades que tal flujo o interacción para que podamos señalarlos como idénticos. Un flujo de electrones que se desplaza por un canal conductor, que yo sepa, no puede generar la imagen mental de mi abuela en mi mente cuando la recuerdo. Ni tampoco encuentro nada en un grupo de moléculas de serotonina que tenga que ver con una sensación placentera.
Esto no quiere decir que tengamos que recurrir a elementos sobrenaturales. No hay que lanzarse ya a hablar de espíritus inmateriales y almas inmortales. Tengo total confianza en una explicación natural y plenamente científica de la mente humana, solamente que falta demasiado por comprender para poder lanzarse a afirmar nada. No recuerdo quién la dijo o dónde la leí pero creo que esta frase ilustrativa muy bien la magnitud de nuestro desconocimiento: “Estamos aún a cinco darwins de llegar a conocer significativamente el funcionamiento de la mente”.
Comenta: