Lo que percibes es lo que crees

Te presentamos este impresionante artículo de la web Cibermitanios, que nos dejó con la boca abierta al verlo por primera vez. El autor ha jugado con DeepDream,  un programa de visión computerizada creado por Google, que utiliza una red neuronal convolucional para encontrar y mejorar los patrones en imágenes a través de algoritmos de pareidolia , creando así una apariencia de sueño alucinógeno al sobreprocesar deliberadamente las imágenes.

A nuestro entender, éste sería un modelo similar a que emplea el cerebro al recrear las imágenes y podría explicar fácilmente las alucinaciones. En el caso de DeepDream parece que está sobre-entrenado con imágenes de animales y por eso tiende a reconocerlas en los patrones. En un cerebro humano ese sobre-entrenamiento vendría marcado por una asociación de un determinado tipo de imágenes a emociones intensas, con lo que serían fácilmente reconocidas en cualquier imagen captada por los ojos y sentidas como reales. Para dejar de ver esas alucinaciones solo habría que relajar la carga emocional, lo que al modificar los pesos de las formas a reconocer, lleva a la red de reconocimiento de imagen cerebral a un estado de funcionamiento más objetivo.

Artículo original de cibermitanios

Lo que una Inteligencia Artificial ve en las láminas de Rorschach

22/9/15

Google desarrolló una red neuronal entrenada en reconocimiento de imágenes y ha puesto el código fuente a disponibilidad de todo el mundo. Al ponerme a experimentar, lo primero que me vino a la mente fue: ¿qué percibiría una Inteligencia Artificial en imágenes diseñadas para evaluar la psicología humana? Para averiguarlo, decidí meter en la conciencia virtual de DeepDream las láminas del test de Rorschach...

Una red neuronal es un software que simula la actividad del cerebro, conectando neuronas artificiales a través de procesos que no están del todo definidos y dependen del estímulo antes que sólo de la programación. Es decir que la red puede elegir cómo interpretar los datos de entrada e ir reforzando la actividad de ciertas neuronas y sinapsis y, de este modo, aprender de un modo único y velado a nuestro conocimiento.

En este caso, la red neuronal aprendió a ver, en el sentido estricto: percibir e interpretar lo que contiene una imagen, decidir qué "le parece" que una cosa es en base a su propia experiencia. Así, la mente algorítmica de DeepDream mirará las manchas de Rorschach e intentará hacerlas encajar con los modelos que conoce, a veces muy forzosamente, otras con bastante naturalidad. Pero hay que tener en cuenta que el software está preparado para detectar objetos antes que imaginarlos, o sea que este es un desafío bastante injusto para una "corteza visual" tan limitada.

Por otro lado, es sólo por diversión, y a veces los resultados son hermosos. Veamos qué arroja este pequeño experimento...

1

Salvando la figura canina de la derecha –que es un motivo recurrente en las interpretaciones de DeepDream–, esta imagen aparece como rectilíneamente repitiliana. Si se tratara de la interpretación de un artista, podríamos justificarla con el hecho de que se supone que esta lámina despierte intuiciones primitivas, elementales (y el cerebro humano se desarrolla sobre el cerebro mamífero genérico, y éste sobre el del reptil, que aún conservamos en lo profundo de la materia gris). De acuerdo con el manual de diagnóstico, podemos decir que esta mentalidad es muy imaginativa.

2

El perro sigue ahí, mirando de reojo a una tortuga. Como nosotros (casi siempre sin saberlo), DeepDream experimenta el fenómeno Baader-Meinhof: cuando escuchamos hablar de algo y ese mismo día lo vemos por todos lados. No es que sólo estemos más atentos, sino que las conexiones neuronales que procesan ese algo se fortalecen cada vez que se activan. Pero las figuras humanas que nosotros usualmente vemos aquí no son tan evidentes para DeepDream. Las cabezas o gorros rojos que es sano ver se convirtieron en alguna especie de animal. DeepDream, al igual que nosotros, sólo puede soñar con lo que conoce. Y no sólo eso: sólo podemos percibir lo que se parece a algo conocido.

3

Esta es la mancha que diagnostica las preferencias sexuales del sujeto. En este caso, parece que se han interpretado correctamente dos seres en alguna clase de interacción que involucra una cabeza de perro / gremlin. No quiero interpretar la interpretación, pero diría que los seres tienen cabeza de ave; donde un humano casi seguramente hubiera visto narices, la conciencia artificial encontró picos. Esto es importante: el hecho de que DeepDream vea algo diferente de lo que nosotros vemos no significa en modo alguno que vea "mal". Se aprende a ver, y cada criatura ve como puede. Famoso es el caso de los escarabajos que se pasan horas intentando copular con botellas tornasoladas, porque ellos ven allí lo que quizá nosotros denominaríamos belleza.

4

Esta interpretación es maravillosa. Normalmente, un humano vería una sola cosa, una cabeza o cuerpo de animal o monstruo, pero DeepDream descubrió infinidad de detalles sutiles, entre los que encuentro remarcables los pájaros de los costados. En un "cerebro" así, hay menos programación que experiencia (más libertad); casi todo depende de los estímulos recibidos. También es así en nuestro caso; también a nosotros nos inculcan (y prohíben) determinadas experiencias, nos condicionan, nos programan a través de una constante e inflexible educación, que afortunadamente incluye más que perros y pájaros. Según la Psicología de Rorschach, esta imagen representa una figura masculina, incluso paterna, y es evidente que los robots saben poco de estas cosas. Mi veredicto es que DeepDream fue criado por animales del bosque y alimentado con LSD.

5

Esta es la imagen más simple del conjunto de Rorschach y está diseñada para no requerir una visualización elaborada. A nuestro paciente, no obstante, le cuesta ver una sola cosa en cada imagen, y a lo que pudiera haber sido un simple murciélago lo transformó en un burro que mira asombrado su propio cuerpo de dos patas y musculosos brazos con pinzas de cocodrilo. Sin dudas Rorschach le diagnosticaría paranoia, esquizofrenia y sentimientos de castración. Pero nótese que loas veredictos psicológicos y psiquiátricos se hacen en base a la cultura. Sólo se puede juzgar aquello que se entiende, a quien ha recibido la misma educación. ¿Quién puede criticar a los miembros de una tribu que besan los genitales de sus niños porque consideran que la boca es obscena? Y tienen razón: claro que es obscena. Mira lo que hacen con ella. La lógica es firme.

6

Esta es la lámina sexual del test. Aquí, a diferencia de las anteriores, la mente artificial y asexuada reconoce más bien una forma inorgánica en la figura. Acierta la red neuronal en buscar el significado en al textura antes que la forma y el color, según las indicaciones de Rorschach, pero ignora su connotación erótica. Es que aprender no es sólo incorporar nueva información sino literalmente modificar el cerebro, crear nuevas conexiones entre neuronas, y DeepDream está obligado a interpretar aunque no entienda. Eso, más o menos, es lo que hace un artista: Cuando algo no encaja en un molde preestablecido, lo fabrica. Y para mí esta transformación resultó en una bonita obra de arte.

7

En esta imagen es común para nosotros encontrar alguna forma de recipiente, descartando el significado de los bordes y enfocándonos en el centro. La máquina, sin embargo, no sobresale en visualizar espacios negativos. Pero las instrucciones de Rorschach también suponen que este es un arquetipo "femenino", y creo que en eso DeepDream acertó bastante. Al menos a mí esos pájaro-conejos y la suavidad general de la forma y la textura finales me parecen bastante fértiles y femeniles. Nótese además que en las partes blancas de la imagen DeepDream completa el cuadro con líneas que sugieren y justifican lo que interpreta. Es el mismo principio gestáltico que aplican nuestras mentes.

8

Con la introducción de los colores vivos en el test, nuestro paciente virtual resulta más hábil a la hora de determinar diferentes partes en un todo. Sorprendentemente, como se esperaba en humanos, en los laterales DeepDram no interpreta caninos ni felinos sino más bien roedores. El detalle más elaborado, nada fácil de encontrar en la lámina original, es el de unas especie de iguanas con cresta en la parte inferior. Rorschach estaría contento con esta reacción, pero, después de todo, DeepDream ve animales en todos lados. El entrenamiento básico de una Red Neuronal Artificial (ANN) es algo así: se le muestra un montón de fotos y se le dice "esto es un animal", "esto no", etc. En poco tiempo la ANN podrá discernir por cuenta propia cuándo algo es un animal aunque nunca lo haya visto antes. Nosotros hacemos lo mismo.

9

Hay unas especies de arcos o puentes que van mutando en otras cosas que podrían ser edificios indeterminados. En el centro es clara otra forma inorgánica, similar a una fuente o grial, que no está tan marcada en la imagen original. Por lo general DeepDream es muy bueno para ver estructuras arquitectónicas en cualquier imagen, aunque no las haya, y esta es la única lámina en la que sugiere algo de ese estilo, aunque falla completamente en escapar del manicomio porque es la lámina más "humana" del test. Esta figura en si misma podría ser parte de un futuro test de Turing, un CAPTCHA para impedir que los robots accedan a artículos acerca de cómo dominar el mundo.

10

Por último, DeepDream no tiene muchos problemas a la hora de organizar la complejidad final del test. Como se esperaba, encuentra animales de todos las especies, además de una copa invertida en la punta. En conclusión, este cerebro artificial está obsesionado con encontrarle significado a todo, pero ese es su propósito. Y es un buen diagnóstico, porque eso es exactamente lo que hace un buen cerebro. La diferencia con el nuestro es que la formalización del entrenamiento humano da por terminado su aprendizaje cuando acaba la infancia. Eso es todo lo que hay, no se hable más, no se piense más; si lo que vemos no está en el inventario humano, no significa nada, no es nada.

Quizás algún día, cuando las inteligencias artificiales sean cotidianas y con roles vitales para la Humanidad, se diseñe un test ad hoc para comprobar su cordura. Mientras tanto, esto no es sólo una curiosidad tecnológica. Nos cuenta lo difícil que es percibir "correctamente", el enorme trabajo que hace cada nanosegundo nuestro cerebro para que todo encaje en un molde preestablecido, para que tenga "sentido" (y que ese sentido, nos guste o no, es el que inventamos nosotros mismos durante nuestro aprendizaje).

Bonus