¿Sueñan los androides con ovejas eléctricas? o la emancipación de las máquinas.
En la novela original de Philip K. Dick “Do androids dream of electric sheep?” publicada en torno al año 1968 de la que luego –como sabemos– se hizo una adaptación fílmica con el título de “Blade runner” –cinta de Ridley Scott– se postula una sociedad post apocalíptica donde la vida de los supervivientes humanos, que aún habitan nuestro planeta, debe subsistir con escasas espectativas de habitabilidad terrestre postergados bajo una densa y plomiza esfera de polvo radiactivo que invade la Tierra. Deckard es un reputado cazarrecompensas que se lanza a la aventura de capturar y retirar a una banda de androides evadidos de la justicia con el único afán de ganar el dinero suficiente para poder hacerse con una oveja de carne y hueso pues los animales no diseñados por humanos escasean en la Tierra y su posesión representa estatus para quien pueda costearlos y hacerse con uno de ellos. Con este sencillo y extravagante planteamiento comienza una de la novelas más icónicas del género distópico que plantea múltiples cuestiones de índole moral y científicas. Vamos a centrarnos en una de ellas: ¿Es previsible la emancipación de las máquinas? y, caso de serlo, ¿en qué plazo más o menos lejano se implementaría un hecho tan insólito? El abstruso cerebro de Deep Blue ganó la meta plantando cara al campeón del mundo de ajedrez Gary kasparov y le ganó en combate singular en el año 1996. Desde entonces y hasta nuestros días la cuestión de si es posible para las máquinas –por el acrónimo usual IA, inteligencia artificial– vencer a los humanos no ha hecho más que verificarse una y otra vez a favor de éstas: Watson de IBM gana Jeopardy. Derrota de Lee Sedol -campeón del mundo de Go- a manos del Software AlphaGo desarrollado por Google. La última noticia me llegó de manos de la revista científica “Sciencie” que describía como un nuevo sistema de IA desarrollado por facebook había logrado derrotar a cinco jugadores expertos de Texas hold’em en sucesivas partidas –de nada sirve farolear con miraditas astutas: el computador las pilla todas. El próximo reto es utilizarlas como coadyuvantes en el diseño de vacunas y otras terapias médicas. Llegados a este punto ¿podemos afimar que al final de esta curva de implementación lograrán los computadores de Google o IBM un grado de autonomía tal que les permita desconectarse en términos absolutos de los sistemas de control humanos? Pero ¿qué es lo que acabo de sugerir? ¿Autonomía para las máquinas? ¿Una Skynet trazando planes para subsumir al género humano enrolando cyborgs en sus filas mercenarias? ¿Cómo podríamos plantar batalla a una generación de mentes cibernéticas que ganan implacablemente jugando al ajedrez, Go y yo que sé cuantos juegos más de estrategia?
El pánico – capciosamente dramatizado por el autor de este artículo– hizo saltar los dispositvos de alerta en las vastas llanuras de Silicon Valley cuando dos IA llamados Bob y Alice respectivamente comenzaron a hilar un estilo de comunicación entre ellas sospechosamente creativo usando ciertos tips que se salían completamente de los esperado. Los ingenieros de facebook desconectaron inmediatamente los dos bots no porque ocultaran intenciones perversas sino porque actuaron siguiendo instrucciones ajenas a las previstas por sus programadores: ¿Creatividad o subversión?
Y si la autonomía es el final natural de un proceso que se asemeja cada vez más a la inteligencia humana en su estatus de libre invención ¿hemos de extrañarnos de que estas máquinas desarrollen la capacidad de pensar por sí mismas más aún cuando las estamos implementando precisamente para que cubran esa funcionalidad? Al final de este proceso me surgen ciertos dilemas que podrían hacerse visibles con la eclosión de esta nueva ingeniería. Si la máquina llegara a pensar por sí misma y hasta reflotar en su mecanismo algo similar a nuestros sentimientos los humanos nos veríamos impelidos a iniciar con ella un debate ético y autorreflexivo más allá del conocido test de Turing. Si me asignaran la tarea de ser el terapeuta que instruye su primera conversación con un humano podría preguntarle si es consciente de su propia existencia en un sentido cartesiano. Me explicaré. En el célebre cógito cartesiano nosotros, los humanos, derivamos el ser de nosotros mismos desde el reconocimiento de nuestra propia actividad mental. Es el célebre “cogito ergo sum” de Descartes.
Al ser cuestionada la máquina sobre este asunto es esperable que ella responda que sí tanto si es cierto como si no y en ambos casos y desde su punto de vista –admitiendo su sinceridad– estaría diciendo la verdad: si se reconoce a si misma como pensamiento porque tiene la misma capacidad que tenemos los humanos de entenderse a sÍ misma como ente pensante y si no tuviera esa capacidad porque no dispondría de la habilidad para distinguir un hecho del otro –tener conciencia de sí misma o no– de modo que, por defecto, advertiría el ser consciente de sí misma como un retroceso, un bucle, que procede de manera inmediata desde la pregunta formulada a la operación concreta y viceversa. En el segundo caso –supuesto el hecho de que fuera sincera en su contestación– la máquina no sería consciente en sentido humano: ni tendría forma de desengañarse ni yo –el instructor– tendría una manera de saber si ella vive engañada después de haberla sometido a mi interrogatorio. En el segundo caso la máquina tampoco tendría empatía, ni interés, ni amor propio ni otros muchos sentimientos. Actuaría por pura implementación. Volviendo a P. K. Dick y su novela. Deckard es un caza-recompensas que busca retirar del mercado a androides subversivos. Para ello se sirve de su reputado test de Voight-Campff para valorar si el presunto “andrillo” –la IA sociópata– posee o no capacidad empática y termina la novela dudando de si él mismo es un andrillo o no. En cualquier caso si las máquinas se rebelaran siempre tendríamos la ocasión de recurrir a un Deckard tanto si es de los nuestros como si no.
Barroso-Villacampa
La Escotilla del Capitán Nemo. 