Sección Filosofía Ficción, de Javier Castañeda: 36 de Nieves Delgado o El hombre ya no es lo que era
Las inteligencias artificiales (IA´s) siempre nos han fascinado. El deseo del hombre de dar vida a otro ser siempre ha rondado su imaginación. Ese poder nos situaría a la misma altura que un dios. Desde los Golem basados en la cábala hasta la máquinas modernas de computación basadas en algoritmos de deep learning, los hombres han buscado esa criatura que fuese su igual para así acompañarle en esta solitaria existencia. Pero la fascinación va mucho más allá. No se ha tratado solo de conseguir alguien con quien poder hablar o alguien a quien esclavizar, sino que sobre todo las IA´s han jugado el papel de espejo en el que mirarse. Por eso detrás de toda IA late la pregunta: ¿qué es el hombre?
Fue Kant el que sentenció que todas las preguntas de la filosofía se resumían precisamente en esa única pregunta. Conocernos a nosotros mismos siempre ha sido nuestro mayor deseo, probablemente incluso mayor que el de la propia inmortalidad.
Pero por eso mismo, todas las representaciones surgidas de ese anhelo de comprendernos no son más que proyecciones de nuestros propios deseos, pasiones y defectos. Las IA´s que aparecen en cualquier obra artística son copias tan imperfectas o más que el propio creador. Tal vez sea innecesario recordar cómo Frankenstein sufre el mismo deseo de venganza que cualquier humano o cómo gran parte de la representación de las IA´s en el cine desarrollan sentimientos de miedo y protección que les llevan a querer destruir a los humanos. Así ocurre con Skynet en la conocida saga deTerminator o Hal 9000 en 2001 una odisea en el espacio. Tampoco se libran los robots de tener otras cualidades humanas, como el amor a la vida que desarrolla Número 5 en Cortocircuito o el alcoholismo de Bender en Futurama. Por eso las IA´s en la expresión artística no han sido más que el depósito de nuestros sueños y miedos mas ancestrales. Las IA´s, lejos de ser artificiales, son humanas, demasiado humanas.
A las IA’s también se les ha ocurrido secuestrar y violar a una hembra humana como en esta película de 1977. ¿De dónde sacarán esas máquinas estas extrañas ocurrencias…?
Así fue que uno de los autores que mas ideas y enfoques ha propuesto sobre el tema y cuya influencia es indubitable, Isaac Asimov, no pudo evitar que sus androides estuviesen transidos de esta humanidad. Uno de los textos de referencia en este aspecto, El hombre bicentenario, está salpicado de este humanismo en su interpretación sobre la esencia del hombre. Una interpretación que lo liga a una tradición de miles de años. Esta esencia se podría resumir en la famosa sentencia de Aristóteles: El hombre es un animal racional (zoón logikón). El verdadero significado de esta frase es difícil de dilucidar. Si ya la traducción de la palabra griega logos presenta múltiples problemas por su polisemia, no menos problemas de polisemia acarrea la palabra razón. Como no es nuestra intención entrar en largas discusiones filológicas, lo que sí queremos establecer como punto de partida es que la palabra “razón”, se interprete en el contexto que se interprete, ha sufrido de un etnocentrismo que ha limitado claramente su interpretación. La razón derivada del logos tal como la conocemos ha sido siempre la razón del hombre blanco heterosexual (falogocentrismo que diría Derrida). Esta ha sido desde Descartes la razón predominante en el discurso de la modernidad, a pesar de todos los intentos de dar una definición de ser humano impersonal y descorporeizada. Pero precisamente en ese intento se hace más patente esta interpretación, pues en la pretensión de dar forma a un ser humano modelo ideal de todo otro ser humano, siempre aparece de fondo esa figura a la que hemos aludido: la del hombre occidental. Una apropiación que realiza no solo el hombre, sino también el occidental (Robinson Crusoe es un ejemplo claro de esta apropiación colonial del otro en la figura de Viernes).
Una imagen de Crusoe preguntándole a este nativo su nombre… No, espera, que le pone el que que le viene en gana y le pide que le llame amo.
Una idea, la del hombre, que comenzó a deconstruirse a partir de Heidegger y es continuada sobre todo por la postmodernidad en un movimiento en el que estamos todavía inmersos. Son ya algunas obras las que apuntan en este sentido, como la película Ex Machina, pero ninguna lo ha hecho con la radicalidad con que Nieves Delgado deconstruye en 36 la idea tradicional de hombre (y por extensión de ser humano). Porque Nieves es muy consciente de que las IA´s en literatura han sufrido una andromorfización y que estas poseen todos los atributos y sesgos de los varones que las describen.
Así, en un diálogo más o menos explícito con El hombre bicentenario, Nieves Delgado se atreve a desmontar esas ideas preconcebidas sobre las IA´s, deconstruyendo al mismo tiempo la idea tradicional de hombre. Para ello, como bien nos señala Esteban Bentancour en su artículo sobre 36, el cuerpo será el campo de batalla. No podía ser de otra manera, pues precisamente en la definición tradicional que hemos señalado, el hombre como animal racional, de lo que se prescinde es del cuerpo, como si este fuese una parte absolutamente innecesaria de nuestra identidad humana.
Pero para verlo mas claro pongamos ya en juego este diálogo que establece Nieves Delgado con la propia tradición. Para ello el texto elegido, como ya hemos señalado, será El hombre bicentenario que es un reflejo perfecto de lo que aquí queremos deconstruir.
¿Tienen los androides deseos eléctricos? El género en disputa.
Ya el título del relato nos da una pista sobre lo que hablamos. El hombre bicentenario será un androide que buscará convertirse en un hombre. No en un ser humano ni una mujer, un hombre. Aunque sabemos que esa no era la idea de Asimov, en este aspecto, y en muchos otros como veremos, no es esta una solitaria coincidencia, pues le han traicionado los sesgos inconscientes sobre lo que significa ser “ser humano”. Desde el principio Asimov acepta de forma acrítica que el representante genérico del ser humano será un varón. Nieves Delgado hace precisamente lo contrario. Ya desde el título de su novela pone sobre el tapete de juego su declaración de intenciones. 36 es un nombre neutro, que no indica nada más que el número del cuerpo que se le va a asignar al antropoide. Este nombre no aporta ni un dato más sobre las características de ese ser recién nacido. En cambio, en el relato de Asimov el nombre de ese androide será Andrew, un nombre inequívocamente de varón. Probablemente Asimov, como la tradición, pensará que ese nombre no importa para definir su identidad, pues su esencia se basará en la racionalidad, donde todo otro aspecto en principio queda relegado a la invisibilidad. Solo que lo que finalmente se invisibiliza no es precisamente la masculinidad.
Si mandas a un robot a hacer «el trabajo de un hombre», no dudes en crearlo musculoso y malote, no vaya a ser que pase desapercibido y desempeñe mejor su tarea. Ni Skynet se libra del sesgo de género.
Otro punto en el que la novela de Nieves y la de Asimov divergen desde el comienzo es en los deseos de sus androides. Nada más empezar, Andrew quiere ser humano. No hay ningún otro robot que lo desee, por lo que se deduce que es una anomalía en el software de su cerebro positrónico. Algo similar se insinúa en el propio relato cuando la compañía que lo programó lo quiere sustituir por otro como si fuese un aparato defectuoso. Las sendas positrónicas del cerebro de Andrew han dado como resultado algo que no estaba en su programación original, algo similar a lo que ocurre en los actuales algoritmos neuronales tipo caja negra en los que los humanos no sabemos cuál es el programa que los guía ni cómo la máquina llega a las conclusiones a las que llega.
36 también parece ser producto de un algoritmo de este tipo. 36 surge espontáneamente en un entorno donde se están ejecutando millones de algoritmos, sin que el ser humano pueda predecir cuándo surgirá esta IA ni por qué. Pero si Andrew es ya un androide con el pensamiento, sentimientos y personalidad de un adulto equilibrado, 36 todavía no posee nada de esto, pues al fin y al cabo no es más que producto de un software que no se ha visto sometido a la presión evolutiva. Asimov no se plantea en ningún momento de dónde surgen esos deseos, si son algo innato (es obvio que no, puesto que muchas de sus inquietudes solo las tiene el androide Andrew) o son producto del desarrollo espontáneo del software. Mucha casualidad si pensamos que estos deseos e intereses coinciden con los que tendría cualquier adulto humano. Por eso comprobamos que Asimov proyecta de forma innegable la idea de hombre tradicional sobre el androide Andrew.
En cambio Nieves Delgado es consciente de que esto no es más que una antropomorfización que no tiene sentido. ¿Por qué iba a desear un software tener un cuerpo humano, más que el de un perro o un pulpo? A 36 se le asigna un cuerpo humano, pero no porque él/ella lo desee, sino porque las personas a su alrededor así lo desean. Necesitan que 36 se integre en un mundo humano y para ello le crean un cuerpo que pueda generar la empatía necesaria para conseguirlo. Claramente ese cuerpo es una proyección humana, no de un software artificial. Por lo menos a 36 al principio no se le asigna un sexo específico. Los humanos consideran que esto es algo que en sus primeros meses de vida no será un aspecto importante (algo que en realidad sí ocurre con nosotros, que nos empeñamos en hacer distinciones de género desde el nacimiento).
Puedes poner una IA con instintos asesinos en un cuerpo de hombre o de mujer. Pero si lo haces en el de una mujer, no olvides que tenga cinturita de avispa.
Pero no solo 36 no tiene clara la necesidad para una IA de un cuerpo humano, sino que se sorprende de que al asignarle uno la hayan dotado de un sistema de visión tan limitado como el nuestro. ¿Por qué no tener un ángulo de visión de 360º? No había ninguna obligación de encerrar a la IA en un cuerpo con las limitaciones que tiene el humano. En cambio para Andrew, el tener un cuerpo idéntico al humano es un deseo que parece ser algo esencial en él.
Una vez ha aceptado su nuevo cuerpo, a 36 se la pone en un entorno donde va a interactuar con otras personas, primero en un colegio y después en un instituto. Tampoco es este un deseo suyo propio sino que es la proyección de los propias investigadoras de la necesidad de integrarse y formar parte del grupo que todos los humanos tenemos. El camino de 36 es paralelo al de Andrew pero sus razones son inversas. Si Andrew necesita integrarse y formar parte de la humanidad, de ahí todo su periplo para ser reconocido como un ser humano a pesar de la oposición de estos, 36 no tiene ninguna necesidad de ello. Son las científicas que la estudian las que insisten en su importancia. Tal es la indiferencia que le supone a 36 el tema de la integración que, cuando discute con su único amigo Marco sobre la marginación a la que es sometido este por la sospecha que los demás poseen de que tiene una relación homosexual con 36, el androide (que aquí ya tiene un cuerpo masculino), tranquilamente le dice que si es una molestia para él no tienen que seguir juntándose. No hay necesidad para 36 de tener amigos.
En realidad, ninguna IA en el mundo de 36 tiene interés alguno en las actividades ni deseos humanos, para decepción de las investigadoras. Todo lo contrario que en el mundo de Andrew, en el que las IA´s realizan las más variadas actividades humanas, desde ser cirujanos a recepcionistas. Incluso Andrew usa pantalones (por supuesto no un vestido) porque sin ropa se sentía diferente. En el mundo de 36 las IA´s no tienen ese instinto de supervivencia ni necesidad de integración, lo que en el fondo es más acorde con un organismo cuyo software no ha sido condicionado por la evolución. En 36 esta falta de instintos es explícita, pues al contrario que sus iguales humanos, 36 no tiene un sistema hormonal, por lo que carece también de las reacciones derivadas de este. Así cabe la pregunta: ¿cómo es que las IA´s del mundo creado por Asimov tienen todos esos instintos? Sin un sistema hormonal ni neurotransmisores ni ningún componente biológico, solo queda apelar a que las han programado así. Pero, ¿por qué dotarles de los sentimientos y deseos humanos? Nuevamente Asimov está proyectado la imagen que él tiene del ser humano en sus androides.
Y no solo se proyecta la mirada masculina en androides y ginoides. Aquí un caso extrañísimo de convergencia evolutiva. Una auténtica MALF: Alien que me f….. Bueno, ya sabéis a lo que me refiero.
Tampoco los humanos del relato de 36 entienden la elección de trabajos sin cualificación de todas las IA´s cuando podían elegir ser cualquier cosa. Al fin y al cabo ese tipo de necesidades nos son tan inherentes que terminamos creyendo que somos el centro del mundo. Sin embargo Marty, primer nombre de 36, sí elige un campo de estudios, antropología. Su curiosidad le hace querer estudiar a los humanos, como un entomólogo estudia los insectos, con distanciamiento.
De 36 nos cuesta en muchas ocasiones interpretar su comportamiento. Cuando Marcos es acosado por otros compañeros, 36 podría haberse dirigido a una autoridad superior para que tomase cartas en el asunto o podía haber recurrido a la fuerza física para pararlo como lo intentarían muchos varones en una mala comprensión de la masculinidad. Es lo que hace George, uno de los dueños del androide Andrew, cuando este es acosado en la calle por intentar imitar a los humanos. Amenaza a los abusones con decirle a Andrew que les ataque. 36 en cambio opta por utilizar el lenguaje para despertar determinadas emociones que utiliza contra los propios acosadores.
Si en el mundo de Asimov IA´s y hombres convergen, en el mundo de 36 su divergencia se va acentuando según avanza el relato. Nieves opta por deconstruir, a través de los ojos de 36, aquel conjunto de emociones, instintos y deseos que guían nuestro comportamiento, que es la mayoría de las veces inconsciente, desmontando la idea de hombre que hemos manejado hasta la actualidad. Pero Nieves Delgado está lejos de quedarse en la disección de estos impulsos básicos que el hombre siempre ha tratado de controlar. El principal objetivo de Nieves Delgado es atacar esa supuesta racionalidad que busca dominar el mundo en el que vive con sus categorías, aunque para dominarlo deba eliminar aquello que no entra bajo su comprensión.
El cuerpo y la muerte: la vulnerabilidad del ser humano.
En el punto anterior hemos visto cómo los seres humanos (ya fuese de la mano de Asimov, ya fuesen las investigadoras que trabajan con 36) buscan en su creación un reflejo de lo que somos. Pero, ¿de dónde nace esta necesidad? ¿Cuál es el origen de este impulso?
Y la respuesta podemos encontrarla en las páginas de 36: necesitamos conocernos porque tenemos miedo a lo desconocido. Un miedo que intentamos paliar con la anticipación de lo que va a ocurrir. Un miedo que intentamos reducir con la búsqueda de categorías que clasifiquen el mundo en el que vivimos, con el objetivo final de saber a qué atenernos. Es algo que hacemos de manera automática. Nuestro cerebro está «programado» para buscar seguridad, pues al fin y al cabo es una estrategia evolutiva de supervivencia.
De este miedo a lo desconocido surge esa dicotomía clásica entre mente y cuerpo, donde la razón busca siempre el control de lo corporal. El cuerpo es donde radican las pasiones, las enfermedades y la muerte. Y la razón es la herramienta para controlarlas. Por ejemplo, el estoicismo nos dice cómo dominar las pasiones, la medicina el cuerpo y la religión la muerte. No son más que estrategias que nuestro cerebro ha desarrollado para vencer ese miedo, el miedo a lo desconocido. Como bien nos muestra Foucault en su Historia de la sexualidad, el cuerpo es el campo de batalla de la razón.
¿Será por eso que para sentirnos cómodos se representa a las IA’s con forma de hombre y de mujer? No vaya a ser que veamos a dos androides o dos ginoides bailando juntos.
Esta misma preocupación atraviesa 36. Las científicas del relato utilizan al antropoide como nexo con las otras IA’s, como un puente para poder comprender (y controlar) esas IA’s. Constantemente le preguntan por los comportamientos de estas y 36 no sabe qué contestar. Ella no se siente como un individuo del género IA. En uno de los mejores pasajes de 36 le responde a Diana: «Es como si dijeses que un negro es más apto para descubrir las enfermedades mentales de los negros que un blanco». Algo que tiene todo el sentido para los seres humanos pues cada persona es diferente y los motivos de su comportamiento son individuales, debería poder aplicarse a las IA´s. Las IA´s del mundo de 36 se dejan morir y nadie sabe por qué. Pero los humanos del relato necesitan pensar que hay algo en común, porque tenemos que saber a qué atenernos.
En ese intento de control y reducción del mundo que nos rodea a categorías controlables, surgen gran parte de las opiniones y comportamientos que conducen a 36 a su final. Su camino a través de las etiquetas de hombre-mujer, homosexual-heterosexual, humano-máquina… termina desconcertando tanto a sus “creadoras” como al resto de los humanos. En las conversaciones de los círculos que con tanta maestría inserta Nieves hacia el final del relato, muestra cómo muchos de esos humanos están asustados de no saber qué es 36 ni esas IA’s. Tienen miedo, ya que no saben por qué se comportan así y por lo tanto no pueden predecir cómo van a comportarse en el futuro. Las temen por ello. La puntilla final la da 36 cuando escribe un artículo con pseudónimo en el que critica la forma de vida de los humanos. Es en ese momento cuando los humanos no solo no comprenden por qué lo escribe, sino que al final ven cierta hostilidad en el antropoide, lo que lleva a su condena a muerte.
Y no debería asombrarnos. Es lo que el hombre ha hecho constantemente a lo largo de su historia, someter o eliminar todo lo diferente: al extranjero, al homosexual, al negro, a la mujer, pues todas estas categorías no se ajustaban a su ideal de hombre occidental.
En El hombre bicentenario ocurre al contrario, se disuelve y elimina esta diversidad en Andrew, que va dando cada uno de los pasos que le separan de ese ideal de hombre para terminar identificándose con él. Finalmente, para ser aceptado como ser humano, se convierte en un hombre (heterosexual) blanco e ilustrado. ¿Puede creer alguien que a Andrew le hubiesen dado su estatus de humano si hubiese decidido ser queer?
¿Os imagináis que Andrew hubiese elegido el aspecto de Ragged Robin? Yo estoy seguro de que el tribunal Mundial le hubiese concedido el estatus de ser humano igualmente. ¿Apostaríais en contra…?
Pero a pesar del cuidado que tiene Asimov en relatar todos y cada uno de los pasos que da Andrew en su conversión, se salta uno vital en el ser humano, algo vital en cuanto que es uno de nuestros instintos más básicos desde el punto de vista evolutivo: la sexualidad. Para Nieves Delgado esa es una fase por la que pasa 36, y que a 36 no le produce especial interés puesto que como venimos señalando carece de ese instinto evolutivo. Pero es extraño que un androide que ha mostrado todos los deseos humanos como Andrew no se interese en ningún momento por el sexo. ¿A qué se puede deber esta laguna en un androide que se preocupa incluso por crear para él un cuerpo que va a generar «materia indigerible» después de alimentarse? Se procura un cuerpo que pueda defecar pero no uno que pueda tener relaciones sexuales. Más allá de una cierta moralidad, la «decisión» de Asimov de no incluir la sexualidad dentro de la definición de su hombre ideal tiene perfecto sentido, pues el cuerpo, en este caso su concupiscencia, es algo que claramente no tiene cabida dentro de un animal racional que lo que busca es el control y dominio de todos sus instintos. Sería como haber hecho a Andrew un individuo agresivo y no una especie de gentleman ilustrado.
Menos mal que no todos los creadores son igual de mojigatos que el bueno de Asimov. Nuestras fantasias eróticas no serían lo mismo si algún estratega militar no hubiese encontrado la solución perfecta para ocultar esos misiles.
Queda así el cuerpo, en el relato de Asimov, como algo totalmente al servicio y dominio de la razón. Incluso en su fase final, pues la muerte (aquello que según la religión va a liberar verdaderamente el alma) es deseada por Andrew, pues una vez que ha alcanzado el ideal ya no le queda nada más. Como una entelequia hecha carne, Andrew debe morir para completar su ser y convertirse auténticamente en un humano al cumplir otra de las definiciones clásicas de humanidad: la mortalidad. Pero al contrario que gran parte de los seres humanos, Andrew no tiene miedo a la muerte, pues si para los primeros la muerte aparece como una interrupción de un proyecto vital, para Andrew la muerte no es más que la culminación del suyo: convertirse en el ser humano ideal.
En el caso de 36 la muerte no es deseada. Más bien, su muerte, como ya hemos señalado, será la culminación del miedo del resto de los humanos hacia ella y las otras IA’s, un miedo que no son capaces de comprender y asimilar. En esa trituradora que son las categorías, las IA’s del mundo de 36 no tienen cabida. El que se dejen morir sin ninguna razón aparente es probablemente la mayor diferencia y distancia que se genera con respecto a los demás seres humanos. Y por eso 36, como perteneciente a esta categoría que son las IA’s, debe ser eliminada. Pero no tiene miedo. ¿Por qué tenerlo si esta no es una de sus emociones básicas? Al contrario, las únicas que tienen miedo y pena por ella son las investigadoras que la acompañan en sus últimos momentos, que no logran evitar la proyección de su propia humanidad en el antropoide 36.
36 le sirve así a Nieves Delgado para establecer la distancia y diferencia de esta con los seres humanos, sometiendo a deconstrucción nuestra propia esencia. Lo único que llega a tener en común 36 con los humanos es la curiosidad. Es el único rasgo que diferencia al antropoide del resto de las IA´s. Probablemente es la curiosidad la que le acerca a los humanos y la distancia de sus iguales, siendo así una especie de puente entre las dos entidades. Un puente que finalmente no nos servirá a nosotros para pasar al otro lado, pues si hay algo de lo que Nieves Delgado está convencida es de que no hay una definición capaz de englobar la multiplicidad del ser humano sin dejar a alguno en el margen.
Es esta la idea principal que atraviesa todo el relato de 36, la imposibilidad de reducir a los seres humanos a una esencia, como sí hace Asimov en la figura del hombre occidental. 36, al contrario que El hombre bicentenario, no pretende establecer un nuevo tipo de ser humano, salvo la idea de que todo ser humano es diferente a todo otro ser humano y que nuestra humanidad debería residir en la aceptación de esta diferencia.
“Cada persona es diferente” dice 36. Y cada una merece por ello nuestro respeto. Algo que deberíamos esforzarnos en entender, pues al contrario que 36 al final del relato, no tenemos todo el tiempo del mundo para comprenderlo.
La diferencia y la alteridad es el auténtico “centro” del ser humano, y la única definición posible debe construirse sobre la empatía, pues solo comprendiendo al otro podremos comprendernos a nosotros mismos. Esta es la auténtica enseñanza de 36.
Javier Castañeda
Latest posts by Javier Castañeda (see all)
- 36 de Nieves Delgado o El hombre ya no es lo que era - 19 septiembre, 2018
- Presentación de la sección Filosofía Ficción, de Javier Castañeda - 18 septiembre, 2018
No hay respuestas