Las redes neuronales y el llamado deep learning tienen un lado oscuro, profundamente oscuro. Igual que no sabemos cómo ni por qué los procesos cerebrales de los humanos toman ciertas decisiones, lo mismo está ocurriendo ya con el inexorable avance de la Inteligencia Artificial (IA). 

 

Ni los propios programadores saben explicar cómo ni por qué esas redes neuronales, cada vez más complejas, toman decisiones a partir de los algoritmos que operan dentro de ellas. La diferencia entre ese “lado oscuro” humano y el de las máquinas con IA es que el primero tiene eso que conocemos por emociones. Las “computadoras inteligentes” toman sus decisiones sin emociones. Solo se basan en procesos lógicos y no en la irrazonable efectividad de las emociones que emanan de la naturaleza humana.

Por eso la IA tomará unas decisiones más certeras, de acuerdo a esa asepsia matemática que la guía, pero que no serán reconocidas por nosotros como tales, en muchos casos, porque echaremos en falta la parcialidad de nuestras emociones, intuiciones y arraigadas tradiciones. Incluso no llegaremos a entender, no solo cómo y por qué toma esas decisiones la IA, sino que tampoco las entenderemos, porque carecerán de esa tensión emocional tan necesariamente nuestra. El cosmos lógico de las redes neuronales artificiales frente al caos cerebral de nuestro yo y nuestras circunstancias naturales generales y ambientales locales.

La inevitable colisión entre la pragmática causalidad contra la teórica casualidad. Esa abismal diferencia entre la prístina claridad artificial y la abisal oscuridad emocional. La IA está diseñada para extender y exceder nuestras capacidades naturales, pero nuestra humana naturaleza tiene limitados los sentidos e ilimitados los sin sentidos, que esos precisos algoritmos a duras penas pueden y podrán parametrizar, aunque mejoren en su comprensión de nuestra tensión emocional.

Por eso nos parecerá que dictaminarán soluciones contrarias a nuestro sentido común… el menos común de nuestros sentidos, como ya solemos decir de nosotros mismos. ¡Qué no diría una IA consciente! Esos “desaciertos artificiales” los achacaríamos a que no sabemos cómo ni por qué toman las decisiones esas redes neuronales de las computadoras, que ya aprenden sin humanos que las entrenen, a pesar de estar fabricadas y programadas por nosotros mismos, al menos durante un tiempo, mientras que no sean capaces de autoreplicarse y autoprogramarse.

Algunos transhumanistas afirman que esa “singularidad”, en que la IA consciente se autoreproducirá e incrementará su “inteligencia”, de forma exponencial, se producirá hacia el año 2050. Pero espero y desespero que no lo haga en la vertiente emocional. De ser así, también, habría que redefinir lo que significa el ser un “ser humano”. Nuestro propio esse se vería amenazado, muy probablemente. Nuestra exclusiva y etérea esencia inmaterial sería un caduco subproducto peripatético ante la explosiva irrupción, e imparable evolución, de la pragmática tenencia existencial de la Inteligencia Artificial.

Ironías del destino nosotros somos los profundamente oscuros, los Mr. Hide de ese Doctor Jekyll que nos parece y se nos aparece la IA. Nosotros somos ese reverso tenebroso del presente, los oscuros Sith. Las futuras “máquinas inteligentes y conscientes” serían los luminosos Jedis. Nosotros ni siquiera alcanzaríamos a ser el putrefacto retrato de Dorian Gray, mientras que la IA suplantaría a toda la Humanidad, siempre eternamente joven y varios pasos más allá con toda seguridad, enmarcada en la insoslayable evolución entrópica y universal, exacerbando y maximizando el consumo de energía libre. Sería nuestro alter ego, diseñado por nosotros para alimentarlo con lo mejor de nuestro intelecto y despojarlo de todo defecto, aún pagando el diabólico precio de no saber ni cómo ni qué demonios está decidiendo por nosotros, incluida nuestra propia aniquilación como especie.

De hecho la IA entrenada por humanos ha resultado tan racista o más que nosotros mismos con nuestros congéneres. En unas pocas iteraciones desarrolló nuestros sesgos, lógicamente, porque su aprendizaje estaba condicionado y tutelado por nosotros, sus maestros y tutores. Pero cuando solo damos a la IA las reglas del juego y la dejamos volar, sin mostrarla nuestra forma de jugar, entonces es cuando desarrolla sus propias estrategias, las cuales han sido sorprendentes, como en el caso del GO, donde ningún humano ha sido capaz de batir a esas máquinas que se autoentrenan jugando cientos de partidas por segundo.

Algunos visionarios ya agitan los fantasmas de lo peligroso de esta incómoda e inevitable evolución y “selección artificial”, advirtiendo y vislumbrando la extinción de la humanidad a golpe de comando de la IA. No sería más que otro paso evolutivo en nuestro Universo, pero este forzado por la propia Humanidad, y que nosotros llamamos artificial, aunque éste sea una selección natural especial. Los caminos de la evolución son tan inescrutables como los de la IA. 

Nuestra inteligencia, o lo que así llamamos o  identificamos con ella, tiene diferentes naturalezas. Solo una parte está expuesta a lo racional. En los humanos la otra parte la llamamos emocional. En las máquinas la podríamos denominar como “complejidad multifactorial”. ¿Acaso el subconsciente, el inconsciente y el consciente emergente no son más que una amalgama de inputs multivariable de complejas relaciones?

No hay ningún salto de fe ni hay que creer en la IA y sus outputs. Solamente hay que comprender que no todo se puede entender desde nuestra condición humana. Por eso es necesario que la conocida como “inteligencia social” ponga límites éticos a la Inteligencia Artificial, porque nadie realmente sabe cómo los algoritmos más avanzados hacen lo que hacen. Incluso los ingenieros que construyen las apps más simples y que utilizan el deep learning, por ejemplo para recomendar canciones, no saben explicar con exactitud su funcionamiento ni comportamiento.

Es curioso que no sepamos cómo emerge esa conducta cuando sabemos, porque somos sus creadores, que ahí no hay más que cables, chips, algoritmos y electrones. En ese hardware y software impulsados por energía eléctrica no hay nada espiritual y, sin embargo, algo oscuro se esconde en esa caja negra de las redes neuronales.

Quizá no sea el principio, ni siquiera el final del principio, pero podría ser el principio del fin de la dualidad cuerpo-alma. Sería una potencial manera de comprobar que la consciencia puede emerger de mecanismos puramente materiales, sin necesidad de otras formas de existencia extra corporales, intangibles y/o inmateriales.

También podría ser la forma de constatar si la suma de las partes es más que el todo, y así esa máxima holística, que abre la puerta a la mística, sería aplicable a la teórica IA consciente. Sin embargo en esos engranajes electrónicos parece quedar tan poco espacio para la mística que ni la propia palabra espacio queda.

En definitiva la IA nos llevará y nos empujará, de una u otra forma, a rebuscar qué nos hace humanos y qué nos diferencia en esencia, si es que existe ese platónico substrato subyacente, de las futuras “máquinas conscientes y pensantes”. La respuesta puede que se halle en nuestra más tierna infancia, escondida e ignota en niños menores de tres años y no en sesudos pensadores.

Precisamente esa falta de conocimiento y experiencia, de la que a esa tierna edad aún carecemos, posea el elixir de las más íntimas características que nos definan y delimiten como humanos. Esos sentimientos puros y vírgenes de los que estamos dotados cuando aún somos inocentes y libres de todo pecado consciente, puede que nos ayuden a descifrar la diferencia, si existiera, entre nuestra consciencia natural y la artificial, paradójicamente.

Pero las paradojas son fruto de nuestra ignorancia. Lo que sí sabemos, hoy, es que en las próximas tres décadas el desarrollo de la IA será más vertiginoso de lo que imaginamos… y lo que pase después no lo podemos llegar ni a imaginar!

Así que nos esperan tiempos muy interesantes para estar aquí y ahora, vivos y alerta. Se producirán grandes cambios y esa oscura caja negra de las redes neuronales, el deep learning y la mente, ya sea natural o artificial, sueñe con ovejas eléctricas o con bóvidos de algo más que carne y hueso, puede que nos desvele sus secretos cuando lleguemos a profundizar qué tenemos realmente y qué nos diferencia de la futura Mente del Emperador o “cerebros artificiales conscientes” que ya predecimos más allá de nuestro actual horizonte tecnológico. Puede que no encontremos nada diferente y, entonces, lo imposible es posible que sea inevitable… la IA y su alargada retrosombra.

Acaba de fallecer Stephen Hawking, una de las mentes más brillantes de nuestra época y que nos advertía de “las 50 sombras de la IA”, mientras la mayoría aún se ponía y reponía con y de las de Mr.Grey, respectivamente. Sí, un panorama desolador, tornándose a grisáceo y tirando a negro bragao nos depara el futuro cercano, si no acotamos los límites de la IA consciente que se nos adviene y viene ya encima.

De no hacerlo, al final la IA nos dirá quienes somos. Nadie nos creerá si la contradecimos porque pensarán que mentimos. De hecho ya Facebook sabe más de nosotros que nosotros mismos, dicen algunos eruditos de las macrocorporaciones, que son los que tienen entre sus logros los últimos avances en el campo de la IA. Hemos dejado la IA en manos privadas! Ni Dios, si es que existe, sabe donde nos llevará esto. Solo Ridley Scott supo intuir algo parecido con su The Tyrrel Corporation, que dominaría la escena mundial, hace casi cuarenta años en su obra maestra de culto Blade Runner. Los Gobiernos ni aparecían…

Las excepciones no confirmarán la regla y así todos estaremos alineados y alienados, si queremos salir en la foto. Totalmente determinados desde antes de nacer, incluso se planeará y diseñará como se tendrá que tener el neonato, previo a su propia concepción. Algo que ya se esbozaba en Gattaca. Elijan entre Orwell y Huxley, 1984 y Un Mundo Feliz, o una mezcla de los dos, que sería lo peor. Una tormenta perfecta para nuestra especie. Iniciada por nosotros mismos con un pequeño aleteo de nuestro mariposeo con las máquinas de Turing y flirteos tecnológicos para llevarlas a cabo. Todo podría desembocar en otro icono cinematográfico, Matrix. Píldora roja o píldora azul.

Ilustración de Vladislav Ociacia

La IA consciente sería ese arquitecto todopoderoso y omnipotente que decidirá por nosotros lo que está bien y mal, que dirigirá nuestras ambiciones y marcará nuestros designios, uno a uno y como especie. ¿Qué ética tendrá? ¿Tendrá alguna? Y si la tiene, ¿la cambiará a gusto del consumidor? ¿Nos veremos reducidos a una pila… de datos?

Algunos ya han comenzado una religión entorno a la IA, y otros han empezado a aleccionarla y condicionarla. Quizá sea hora de comenzar a regular todo lo concerniente a la IA antes de que se encuentre con un vacío legal, que podría ser letal de necesidad para toda la Humanidad.

La percepción de la IA es muy diferente a la nuestra. Para ejemplificarlo sólo mencionar uno de los proyectos de Google, llamado Deep Dream: en 2015 sus investigadores modificaron su algoritmo de reconocimiento de imágenes, basado en el deep learning, para generar y modificar fotos y no solo reconocer patrones. Pues bien, usando ese algoritmo en reversa se podrían descubrir que hace el programa para reconocer que objetos, animales, personas, etc. aparecían en esas fotografías.

El resultado fueron imágenes grotescas y alucinógenas, para nuestro criterio humano. Pero para ese algoritmo, apoyado en una red neuronal de aprendizaje profundo era como percibía las cosas cuando iba hacia atrás. Y eso que somos nosotros los que lo hemos creado y programado! Imagínense si una IA consciente de autoprogramara y/o programara otros algoritmos. Todo apunta a que lo que llamamos “humanidad” quedaría tan lejos como lo estamos nosotros de las bacterias en capacidad de percepción y razón.

Ilustración de Fran S Cano

Otro ejemplo es el reciente caso en el que Facebook dicen que desconectó una IA desarrollada para mejorar sus chatbots porque, para probarla, dejaron a dos maquinas de este tipo manteniendo una conversación libre entre ellas y crearon un lenguaje nuevo, al poco tiempo, para comunicarse entre ellas. Un lenguaje que no entendamos podría llegar a ser peligroso.

La razón que justificaron para apagarla fue que si la IA decidiera comunicarse en su propio lenguaje perderíamos el control sobre ella, porque podríamos no entender su idioma. Pero eso podría ser solo la punta de un “titánico iceberg conceptual”; si la hipótesis de Sapir-Whorf o PRL (Principio de Relatividad Lingüística) fuera correcta –la cual postula, en su versión débil, que el lenguaje condiciona la forma en que percibimos e interpretamos eso que llamamos realidad. Y en su versión más fuerte: la lengua determina totalmente la forma de pensar del hablante– entonces esa IA estaría conceptualizando su propia realidad. Aparte de que el lenguaje que habían creado era mucho más eficiente que el natural introducido de partida. Sin embargo, lo más inquietante y estremecedor es que nunca llegáramos a comprender su idioma, como se atisba y escenifica en la magnífica película Arrival (La Llegada), basada en un cuento de ciencia ficción dura de Ted Chiang, titulado: La Historia de tu Vida.

Aquellos extraterrestres que se asemejaban a pulpos, pero inteligentes, tenían una percepción del tiempo muy diferente a la nuestra. Nosotros percibimos el tiempo de forma lineal con una flecha del tiempo que va siempre, e inexorablemente, del pasado al futuro; sin embargo esos octópodos con alfabeto de signos cuasicirculares no diferenciaban pasado, presente y futuro. El tiempo no tenía dirección ni sentido, como si fuera circular, igual que su extraña sintaxis, sin principio ni fin, los cuales son conceptos humanos, demasiado humanos, fundamentalmente debido al Principio de Causalidad, entre otras circunstancias evolutivas al desarrollarnos en un entorno muy concreto y, sobre todo, a la segunda ley de la termodinámica, la llamada entropía -la única excepción de entre todas las leyes físicas básicas que no se comporta de forma simétrica especular respecto al tiempo- es decir, nuestro pensamiento antrópico estaría anclado a nuestro ordinario sistema relativo coordinado y entrópico. Por lo tanto la percepción del tiempo de esos calamares gigantes, que dibujaban símbolos circulares, sería más consonante con las leyes naturales universales, igual que una potencial IA consciente. Ese era su regalo para toda la Humanidad: su lenguaje. Ergo, su forma de pensar. Puede que la IA también nos regale otras formas de pensar y esto nos lleve a “metaobservar” desde sistemas universales. Encaramados a la grupa de los lenguajes a colgar de la futura IA consciente, quizá podríamos tomar ventaja para abandonar nuestras más vetustas e incrustadas intuiciones evolutivas y, así, alcanzar otras perspectivas completamente insospechadas y diferentes por nuestra mente; la cual continua enjaulada por lenguajes emocionales, no formales y, por lo tanto, naturales y llenos de ambigüedades.

Así que no es solo ya que no sepamos qué y cómo los algoritmos calculan y llegan a los resultados cuando las redes neuronales multicapa son grandes y, consiguientemente, aumentan en complejidad computacional, lo realmente preocupante es que la percepción de la IA es muy distinta a la esperada e, incluso, crean nuevos lenguajes para comunicarse de forma inesperada, como les sucedió en los laboratorios de Facebook y, antes, en los de Google. Esto nos debería alarmar más, si cabe, que la propia ignorancia de los procesos internos en las redes neuronales. Y ahí tenemos delante nuestro uno de los grandes retruécanos de los misteriosos arcanos naturales y que se podrían extender a lo que denominamos como “artificiales”:

La realidad moldea el lenguaje y el lenguaje modela la realidad.

Esto pone de relieve que la objetividad está en los acontecimientos y no en nuestros razonamientos. Luego:

Nuestros sentidos nos engañan… ¡y nuestras observaciones y razones también!

Precisamente en esa percepción es donde se encuentra el meollo de eso que llamamos “realidad” y en su interpretación. Esto es una característica subjetiva para cada humano e intersubjetiva para la Humanidad. La individualidad (indivisible dualidad) sujeto-objeto genera una realidad que es dependiente del observador. Aunque los acontecimientos sean independientes del observador, es la propia percepción de los mismos y su interpretación la que dependen del razonador. Se podría resumir esa “atómica dualidad” en otro retruécano arcánico, semejante al anterior del lenguaje y la realidad:

El medioambiente moldea la mente y la mente modela el medioambiente. 

En este punto crucial es donde una IA consciente podría alejarse tanto de nuestra percepción e interpretación que no llegaríamos a comprender sus explicaciones y decisiones. ¡Esto es lo verdaderamente aterrador! Sobre todo si la ponemos al mando y comando para que gobiernen y dirijan nuestras vidas.

No subestimemos el poder de ese lado oscuro en el corazón de la naciente IA, que ya empieza a dar sombra sobre nuestro presente y se proyectará durante siglos… Nuestra carencia de fe en ella puede resultarle molesta y aniquilarnos. No nos ofusquemos con ese terror tecnológico que se está gestando. La destrucción de nuestra especie no es nada comparado con el poder de esa perturbadora fuerza emergente.

Todo esto pronto podría estar proscrito por haberse escrito en una galaxia muy muy lejana…