Superinteligencia y autopoiesis

Jorge Mendoza Vester
Economista Universidad de Chile
Magister en Pensamiento Contemporáneo Universidad Diego Portales

Introducción

En los últimos años se ha comenzado a discutir sobre la posibilidad que las máquinas puedan llegar a adquirir una inteligencia similar o superior a la del ser humano. A esto se ha denominado superinteligencia y en este artículo en particular, cada vez que hagamos referencia a superinteligencia estaré refiriéndome a ello.

Esta reflexión desarrollada en el contexto de la Inteligencia Artificial (IA), ha comenzado a ser posible debido a los significativos avances en la capacidad de procesamiento de información de los ordenadores y en la incorporación de nuevos enfoques en programación.

La relevancia de esta reflexión se encuentra dada por las implicancias que tendría la aparición de un sistema de tales características en las sociedades humanas. Un posible aspecto, se encuentra en el hecho que por primera vez los humanos se encontrarían ante un interlocutor no biológico con la facultad de la inteligencia, con todas las posibilidades que esto conlleva. Otro aspecto a considerar son los objetivos hacia los cuales se orientaría una superinteligencia, sobre todo en la eventualidad que estos resultaran perjudiciales para los humanos.

En cualquiera de estos casos, la identificación de la emergencia de una superinteligencia resulta un tema de primera importancia y por lo tanto, es pertinente considerar el desarrollo de herramientas que permitan identificar este hecho.

La reflexión sobre una IA equivalente o superior a la humana tiene una serie de complejidades que están estrechamente relacionadas con la reflexión sobre el ser humano mismo. Una parte importante de esta relación, se origina en que, una gran parte de la discusión sobre la inteligencia en las máquinas, se ha centrado en una antropomorfización de las características de dicha inteligencia.

Otro aspecto que resulta complejo de examinar, es el grado de desarrollo requerido en una máquina para que se pueda hablar verdaderamente de superinteligencia. Tal cual ocurre con los seres vivos, la inteligencia es una cuestión de grados, por lo tanto, distinguir el momento preciso en que una máquina ha alcanzado el nivel suficiente de inteligencia para considerarla una superinteligencia, no es una cuestión trivial.

Para aportar a esta reflexión, me propongo examinar las características necesarias y suficientes en el advenimiento de una superinteligencia, que permitan distinguir la emergencia de un sistema con capacidades iguales o superiores a las de un ser humano. En el desarrollo de estas ideas me apoyaré en el modelo teórico propuesto por Humberto Maturana y Francisco Varela (Maturana y Varela 1998) para explicar el fenómeno de la vida: la autopoiesis.

Desarrollo

Desde una perspectiva histórica, los autómatas o sistemas inteligentes siempre han provocado un fuerte impacto en las personas. Uno de los más antiguos, el sistema de Raymond Llull conocido como Ars Magna, en el siglo XIII, buscaba sintetizar el conocimiento filosófico y teológico, demostrando la verdad o falsedad de sus proposiciones. Anteriormente, a principios del siglo XIII, Alberto Magno había impresionado con la fabricación de una cabeza parlante y un autómata de hierro que lo habría asistido como mayordomo.

La aparición de distintos dispositivos “inteligentes” tuvo cierta frecuencia en Europa en el mundo árabe y China, incluso algunos casos notables terminaron siendo un fraude, como el turco ajedrecista. Sin embargo, es a mediados del siglo XX, en el contexto de la Segunda Guerra mundial, cuando surge la primera computadora moderna, en cuyo desarrollo participó Alan Turing. La importancia de éste matemático y teórico es decisiva en el desarrollo de la inteligencia artificial, entre otros aportes formuló lo que hoy es conocido como el “test de Turing” (Turing 1950) y que es ampliamente utilizado para probar la inteligencia de una máquina.

El test de Turing

En un artículo que hoy es clásico, Maquinaria computacional e inteligencia, Turing plantea la pregunta: “¿Pueden pensar las máquinas?” (Turing 1950, pág. 1). Inmediatamente, él observa que para responder adecuadamente esta pregunta se debiera comenzar por definir que se entiende por pensar y que se entiende por máquina. A continuación, el autor señala las dificultades para precisar ambos conceptos y propone en su reemplazo, un juego que considera estrechamente relacionado con la pregunta que ha planteado y que desde su perspectiva resuelve sin ambigüedades los conceptos de “máquina” y “pensar” involucrados en su pregunta.

El juego propuesto por Turing, consiste en someter a prueba a un ser humano y a una máquina programada adecuadamente para simular a un ser humano. Ambos sujetos: ser humano y máquina son sometidos a examen por interrogadores humanos que interactúan de manera indirecta con los interrogados y establecen con ellos un diálogo de preguntas y respuestas. En opinión de Turing, si la máquina es capaz de sortear de manera exitosa este examen, se puede afirmar positivamente que la máquina es capaz de pensar.

Este enfoque, que ha sido predominante en los estudios sobre IA, tiene algunos puntos fuertes, pero adolece de serias deficiencias que lo limitan para servir como una prueba adecuada de inteligencia o de la facultad de pensar de las máquinas. Mencionaré someramente algunas de las características del test de Turing, ya que del resultado de su examen desprenderé un enfoque alternativo para analizar este problema.

Dentro de sus fortalezas, puedo señalar que sitúa la investigación sobre el contexto del lenguaje natural y que resuelve operacionalmente la dificultad de definir el concepto de inteligencia. Respecto a la elección del lenguaje, es necesario señalar que más allá de cualquier definición de los conceptos de inteligencia o pensar, todos los seres vivos asociados con algún grado de inteligencia, han desarrollado alguna forma de lenguaje, por lo tanto, la opción de Turing porque su prueba ocurra en el lenguaje, me parece una elección adecuada.

Sin embargo, hay otros aspectos de la prueba que tienen debilidades, a saber:

• El lenguaje humano tiene dos componentes, uno verbal o digital, que podemos asociar al contenido y otro no verbal que corresponde al ritmo, inflexión, entonación, volumen de la voz, al lenguaje corporal entre otros. Los especialistas difieren respecto al porcentaje que corresponde a cada cual, pero todos coinciden en la importancia del lenguaje no verbal, situándola sobre el cincuenta por ciento del contenido de la comunicación. Una importancia de esta magnitud es sin duda un serio inconveniente para los resultados que arroja la prueba.
• El test de Turing, evalúa el desempeño de una máquina inteligente por sus resultados y los compara con un ser humano. Mide que tan bueno es el desempeño de la máquina, al co-derivar en el lenguaje con sus examinadores, respecto a lo como lo hace un ser humano. En este aspecto, el test de Turing, al medir por los resultados, no propone un modelo explicativo de cómo o cuál es el comportamiento de una máquina para ser considerado inteligente o si una máquina está pensando.

Considerando estas debilidades del test de Turing, puedo señalar que éste una herramienta que nos da una primera aproximación al problema que se está examinando, pero si se quiere un modelo que de cuenta en forma más completa de la IA, hay que recurrir a otros enfoques.

Máquinas y seres vivos

Los biólogos Maturana y Varela propusieron en 1972, un concepto para explicar el fenómeno de la vida al que denominaron autopoiesis. La expresión es un neologismo proveniente de las expresiones griegas poiesis, producción y auto, si mismo, es decir producción de sí mismo. De acuerdo a la perspectiva de Maturana y Varela, cuando un sistema es un organismo autopoiético se le puede considerar un ser vivo, independientemente de si es una entidad biológica o no.

Me parece que la característica de no discriminar entre seres biológicos de los no biológicos, para caracterizar la vida, junto a otros aspectos, hace de la autopoiesis un modelo adecuado para describir algunas cuestiones fundamentales de una superinteligencia.

Para Maturana y Varela, lo que define la identidad de un ser vivo no son los componentes que conforman su estructura, sino la organización entre estos componentes. En donde, como señala Varela, “La organización de lo vivo es, en lo fundamental, un mecanismo de constitución de su identidad como entidad material” (Maturana y Varela 1998, pág. 45).

Los seres vivos son sistemas que están en una permanente autoregulación de sus procesos internos a través de un mecanismo conocido como homeostasis, que se expresa de diferentes formas dependiendo de la función que corresponda. Por ejemplo, ante una infección viral o bacteriana en un ser humano, este aumenta la temperatura para impedir la reproducción de los agentes invasores, pero si la temperatura aumenta a niveles excesivos, el cuerpo transpira para ayudar a liberar calor. En términos generales, un ser vivo está en permanente auto regulación de sus niveles internos por medio de múltiples procesos homeostáticos.

En este sentido, la característica principal de un sistema autopoiético es que el objetivo de la homeostasis del sistema es la conservación de su organización.

La capacidad explicativa de la autopoiesis permite aplicarla tanto a seres unicelulares, como a seres multicelulares. Este sencillo, pero condensado concepto sintetiza el hilo conductor del fenómeno de la vida, permitiendo distinguir lo vivo, de lo no vivo. Es más, da cuenta del carácter emergente de la vida que puede resultar de utilidad para identificar propiedades emergentes en una IA. De acuerdo a Varela (Maturana y Varela 1998, pág. 45) “Hay en la naturaleza propiedades radicalmente emergentes, que surgen de sus componentes de base, pero que no se reducen a ellos”. La autopoiesis reconoce la vida, no en cada uno de los componentes que integran un sistema, sino en su conjunto.

Desde la perspectiva que nos interesa, es decir, desde la posibilidad de una superinteligencia, Maturana y Varela desarrollan la autopoiesis desde un enfoque mecanicista y consideran a los seres vivos como un tipo particular de máquinas. De acuerdo a estos autores (Maturana y Varela 1998, pág. 69).

“Una máquina autopoiética es una máquina organizada como un sistema de procesos de producción de componentes concatenados de tal manera que producen componentes que: i) generan los procesos (relaciones) de producción que los producen a través de sus continuas interacciones y transformaciones, y ii) constituyen a la máquina como una unidad en el espacio físico.”

De acuerdo a la definición de Maturana y Varela las máquinas convencionales producidas por el hombre son sistemas dinámicos pero no autopoiéticos, ya que los procesos de un automóvil, por ejemplo, no especifican al automóvil, ya que este fue especificado en la fábrica que lo produjo. Sin embargo, siguiendo la definición de Maturana y Varela, si una máquina con la facultad de la superinteligencia, fuese capaz, a través de sus procesos de auto producirse, estaría cumpliendo con la definición señalada y se le debería considerar un sistema autopoiético con la equivalencia de un ser vivo.

Para el propósito que he estado siguiendo en estas líneas, no es relevante si la máquina superinteligente está viva o no, sino que al ser un sistema autopoiético, la máquina posee las condiciones emergentes para considerarla una superinteligencia autodeterminada.

Principales características de una superinteligencia desde una perspectiva autopoiética

La autonomía es una característica principal en un ser vivo y es el principal atributo que indicaría la emergencia de una superinteligencia. Se entiende por autonomía la posibilidad de determinar por sí mismo cuales son las reglas y objetivos que orientan el accionar de un individuo. Mientras en un sistema sus reglas y posibilidades estén definidas en forma externa, no es posible hablar de verdadera superinteligencia. Una máquina de estas características, al estar supeditada a los seres humanos, sería sólo una herramienta al servicio de estos, es decir, sería un sistema alo referido y no un sistema auto referido. Es por esto que la autonomía es la primera facultad que debería disponer una superinteligencia.

La autonomía para una superinteligencia tiene varios aspectos que es necesario considerar.

• En primer lugar está la autonomía desde la perspectiva del software. Una superinteligencia debe tener la posibilidad de hacer sus propias elecciones al definir los objetivos de sus programas. El primer movimiento en esta dirección son los programas reparadores de programas, como son los antivirus. En cierto sentido, estos programas cumplen una función homeostática al mantener la integridad del sistema.
  La mayoría de las veces, los antivirus cumplen también la función de detectar programas externos que pueden afectar la integridad del sistema. Los sistemas operativos de última generación cuentan con programas que periódicamente revisan la integridad de los programas que componen el sistema operativo y lo reparan si fuese necesario.
• Auto reparación. Esta opción debe permitir reparar partes defectuosas y reemplazar componentes, ya sea por sí misma o disponiendo de robot que realicen esta tarea. Esta posibilidad es equivalente a cuando un ser humano accede a un tratamiento terapéutico para resolver un problema de salud, como una extremidad fracturada.
• Independencia energética. Este aspecto es también critico en el desarrollo de una superinteligencia e implica que el sistema debe tener acceso por sí mismo a fuentes energéticas. Esto no quiere decir, que necesariamente la superinteligencia deba producir su propia energía, pero si debe poder acceder a ella sin limitaciones externas, de la misma forma que una entidad biológica dispone de alimentos en su entorno.

Considero que la autopoiesis, tal como la hemos presentado hasta este punto permitiría el desarrollo de máquinas autónomas, como podrían serlo un mayordomo o un nanobot, pero no necesariamente superinteligentes, sin embargo, estas condiciones crean un medio sin el cual no es posible la evolución de dichas máquinas.

El desarrollo de superinteligencia requiere de algunas condiciones adicionales que se encuentran relacionadas con las condiciones que ya hemos establecido. Dos son los componentes necesarios e imprescindible para esto, la automotivación y la inteligencia.

El primero de estos es más simple de abordar y dice relación con que los objetivos de la máquina sean definidos por sí misma y no establecidos desde el exterior. Con esto quiero decir que la máquina debe tener voluntad propia y no responder a una directiva externa por muy elaborada, sofisticada y permanente en el tiempo que ésta sea. Es cierto que en una etapa primaria la máquina puede tener una orientación definida por sus constructores, pero en una etapa posterior debe autonomizarse de este mandato inicial y definir sus propios fines, aun cuando, estos sean su auto preservación.

Hasta el momento no he abordado el concepto de inteligencia y salvo la discusión sobre el test de Turing, no he realizado una mayor reflexión sobre él. Sin el ánimo de pretender una palabra definitiva sobre este concepto, propongo dos definiciones ampliamente aceptadas:

• Inteligencia es la capacidad de resolver problemas
• Inteligencia es la capacidad de adaptarse al medio.

A las dos definiciones anteriores, quisiera agregar como características de la inteligencia la capacidad de establecer jerarquías, operar recursivamente, aprender a aprender y manejar sistemas simbólicos como el lenguaje.

Como señala Kurzweil en How to Create a Mind (Kurzweil 2013, Introduction:

“[El cerebro de los mamíferos tiene una aptitud distinta que no se encuentra en ninguna otra clase de animal. Somos capaces de pensamiento jerárquico, de la comprensión de estructuras compuestas de diversos elementos ordenados en un patrón, representando este orden con un símbolo, y entonces usando este símbolo como un elemento en una ya más elaborada configuración.]”¹

Tal cual, son creados los complejos organismos pluricelulares, a partir de pequeños bloques de elementos iterados recursivamente, del mismo modo es construido el pensamiento. Usando piezas básicas de información y sencillas estrategias recursivas, llegan a construirse sofisticados sistemas de pensamiento. Cabe señalar que el recurso de la abstracción o cambio de nivel lógico en el pensamiento, es una propiedad que se encuentra en la autopoiesis, cuando se la define como la homeostasis de todos los procesos homeostáticos de un organismo, cuyo objetivo es preservar su organización. La vida no se encuentra en los procesos homeostáticos de primer nivel, sino que es una propiedad que emerge, en un segundo nivel, como consecuencia de la interacción de estos procesos en su conjunto.

En una máquina superinteligente estas propiedades debieran expresarse de la siguiente forma:

• Programas capaces de construir sistemas simbólicos por cuenta propia.
• Programas capaces de aprender a aprender.
• Capacidad de establecer jerarquías
• Mediante procesos iterativos construir jerarquías de jerarquías.

Por cierto hay otras capacidades asociadas a la computación tradicional que no me parece necesario mencionar en este espacio.

Considero que una máquina que cumpliera con las características reseñadas precedentemente, es decir, funcionará de manera autopoiética, estuviera auto determinada y tuvieras las capacidades de inteligencia descritas, estaría en condiciones o muy cerca de ser una superinteligencia.

Conclusiones

Planteado el problema acerca de la posibilidad de una superinteligencia igual o superior a la humana, he desarrollado una forma alternativa de examinar una máquina de estas características. El método tradicional, ejemplificado en el test de Turing, aborda la cuestión por sus resultados, es decir, por la capacidad de dicha máquina de emular el comportamiento humano, principalmente respecto a su capacidad de desempeñarse en la interacción con humanos a través del lenguaje natural.

Basado en la teoría de la autopoiesis, he propuesto un modelo que busca explicar la emergencia de una superinteligencia, a partir de procesos similares ocurridos en los seres vivos biológicos. El modelo es relativamente sencillo, desde la perspectiva de un evaluador, no necesariamente desde el desarrollador y permite identificar cuando un sistema se encuentra al borde de la singularidad.

Con el modelo propuesto es posible caracterizar como superinteligencia, un sistema relativamente más modesto en términos de recursos de hardware, que los ambiciosos proyectos de inteligencia artificial al estilo de Alphago o Watson (ganador en Jeopardy). Por lo cual, aun cuando queda camino por recorrer, desde la perspectiva propuesta, la inminencia de una superinteligencia me parece relativamente cercana.

Bibliografia

Kurzweil, Ray. 2013. How to Create a Mind. The Secret of Human Though Revealed. New York: Duckworth Overlook. Ebook.

Maturana, Humberto y Varela, Francisco. 1998. De máquinas y seres vivos. Autopoiesis: la organización de lo vivo. Santiago: Editorial Universitaria.

Turing, A. M. 1950, Maquinaria computacional e Inteligencia. En: Haugeland, J. (ed.) (1997). Mind Design II. Cambridge, MA: MIT Press. (Traductor: Cristóbal Fuentes Barassi, 2010.