Inteligencia Artificial, apocalipsis en camino

La última selfie, creada por Midjourney, módulo de Inteligencia Artificial generador de imágenes.

El 16 de enero de 2023, el músico australiano Nick Cave comentó una canción escrita ‘al estilo de Nick Cave’ por ChatGPT, el módulo de Inteligencia Artificial lanzado por la empresa OpenAI. Dice el coro de la canción, enviada a Cave por un fan llamado Mark desde Nueva Zelanda: “Soy el pecador, soy el santo / Soy la oscuridad, soy la luz / Soy el cazador, soy la presa / Soy el demonio, soy el Salvador”. Aquí, un fragmento de la respuesta publicada en la página The Red Hand Files. Y una canción de Cave: Skeleton Tree del disco homónimo de 2016.

Estimado Mark,

Desde su lanzamiento en noviembre del año pasado, muchas personas, la mayoría en estado frenético por una especie de asombro algorítmico, me han enviado canciones ‘al estilo de Nick Cave’ creadas por ChatGPT. Docenas de ellas. Me basta con decir que no siento el mismo entusiasmo por esta tecnología. Entiendo que ChatGPT está en su infancia, pero acaso esto sea el horror emergente de la Inteligencia Artificial – que estará por siempre en su infancia, ya que siempre tendrá más camino por recorrer, siempre hacia adelante y siempre con mayor rapidez. Nunca podrá ser replegada, o ser pausada, mientras nos conduce hacia un futuro utópico, tal vez, o a nuestra total destrucción. ¿Quién puede ser capaz de decirlo? Sin embargo, a juzgar por esta canción ‘al estilo de Nick Cave’, esto no pinta bien, Mark. El apocalipsis está en camino. Esta canción es malísima.

ChatGPT es, en este caso, la imitación como parodia. ChatGPT puede ser capaz de escribir un discurso o un ensayo o un sermón o un obituario pero no puede crear una canción genuina. Podría tal vez con el tiempo crear una canción que sea, en la superficie, indistinguible de una original, pero siempre será una réplica, una especie de farsa.

Las canciones emergen del sufrimiento, con lo cual quiero decir que se afirman en la interna y compleja lucha creativa del ser humano y, bueno, hasta donde sé, los algoritmos no sienten. (…)

Mark, gracias por la canción, pero con todo el amor y el respeto del mundo, esta canción es un fraude, una burla grotesca de lo que significa ser humano, y bueno, no me gusta nada — aunque, ¡espera!, releyéndola, hay una línea en ella que me habla directamente: “He sentido el fuego del infierno en mis ojos”, dice la canción “al estilo de Nick Cave”, y como que es cierto. He sentido el fuego del infierno en mis ojos, y es ChatGPT.

— Nick Cave
Traducido por contranatura.org


Diferentes realidades

Desde Australia, dos viñetas de Jaaq (@just_an_artist_questioning). La segunda, alude a la exquisita sensibilidad retratada en el popular cuento de Hans Christian Andersen publicado en 1835.

Diferentes realidades
“Estoy bastante cómoda, pero algo no anda del todo bien…”.
— ACEPTACIÓN SOCIAL
— EL PARTIDO POLÍTICO QUE APOYO
— MI CONFIANZA EN EL GOBIERNO
— FE EN LAS COMPAÑÍAS FARMACEÚTICAS
— CREER QUE LOS MEDIOS DE COMUNICACIÓN NO MIENTEN
— DICHOSA IGNORANCIA
— LA CORRUPCIÓN NO EXISTE EN CUANTO ME CONCIERNE
— LA VERDAD
LAS MUCHAS CAPAS QUE OSCURECEN LA HABILIDAD DE VER LA VERDAD.

“El problema es cómo la pantalla se ha apoderado del cerebro”

Ilustración de Steve Cutts

Fragmento de una entrevista al filósofo italiano Franco “Bifo” Berardi, realizada por Josep Massot en Barcelona, publicada en el diario El País el 20 de febrero de 2019.

¿En qué está mutando el ser humano?

La modernidad nace cuando la escritura se hace medio de masas y la imprenta permite difundir el pensamiento en miles de copias. Hoy vivimos una segunda mutación técnico-comunicativa mucho más profunda, porque mutamos de una forma conjuntiva del pensamiento, de la comunicación, del afecto, a una forma conectiva.

¿Cuál es la diferencia?

Que la presencia de la corporeidad ya no es decisiva. En la comunicación conjuntiva la creación de significado, de sentido, pertenece a la esfera de la presencia. Yo puedo decir algo que puede tener un significado diferente según la manera en que lo digo, de su contexto, de la relación afectiva que existe con mi interlocutor, pero en la comunicación conectiva es la sintaxis, la estructura técnica del medio, el formato, el sentido mismo. Además, la comunicación conectiva nos permite una aceleración, una intensificación infinita de la información, que no es solo información, este el problema, sino al mismo tiempo estímulo nervioso, es shitstorm. La consecuencia es que las capacidades críticas que la humanidad tenía en la época de la imprenta se están perdiendo. Y esta transformación está vinculada a la aceleración de la infoesfera que produce efectos en la psicoesfera, es decir, en el cerebro, en la mente, en la emocionalidad humana. Vivimos una época de patologías masivas, como las crisis de pánico, la depresión, la ansiedad, que no son patologías simplemente psíquicas, sino de la relación comunicacional.

¿Quién auguró mejor el futuro: Huxley, Ballard, Orwell o Philip K. Dick?

Philip K. Dick, sin duda. Orwell llegó muy lejos, pero Dick vio algo esencial, que el problema no era solo la pantalla como Orwell, el problema era la relación entre la máquina y el cerebro, la interconexión e interdependencia. El problema es cómo la pantalla se ha apoderado del cerebro, cómo la tecnología digital está modificando la cultura, pero también la actividad cognitiva, y a nivel más profundo, la estructura neurofísica misma del cerebro humano. La humanidad siempre se ha orientado con los sentidos, la vista, el olor… Hoy nos orientamos a través de un mapa telemático de un satélite. ¿Qué pasará dentro de dos o tres generaciones con la capacidad de mirar el panorama, detectar señales olfativas, auditivas, en el ambiente? Es la actividad cognitiva misma la que se está modificando y cuando se modifica la capacidad cognitiva, pasa a la física del cerebro. Tendremos un cerebro conectivo que funcionará a través de conexiones sintácticas que cancelarán la capacidad pragmática de redefinir el contexto.

Leer entrevista completa en El País.

Mandamientos de la era atómica

Una densa columna de humo asciende 18 kilómetros sobre la ciudad japonesa de Nagasaki, resultado de una bomba atómica lanzada por Estados Unidos desde un Boeing B-29 Superfortress, el 9 de agosto de 1945. (Documento n° 208-N-43888, Archive.gov)

Este es un fragmento del ensayo del filósofo Günther Anders, publicado originalmente con el título ‘Gebote des Atomzeitalters’ el 14 de julio de 1957, en el periódico Frankfurter Allgemeine Zeitung. Traducido al inglés por la pianista Charlotte Zelka, esposa de Anders desde 1957, y publicado con el título ‘Commandments in the Atomic Age’, en el libro Burning Conscience (Monthly Review Press, Nueva York, 1961); un documento PDF con esta versión es compartido por aphelis.net. Traducido al castellano, desde la versión inglesa, por Carlos Mayhua Terreros para contranatura.org.

Que tu primer pensamiento al despertar sea: ‘átomo’. Porque no deberías iniciar el día con la ilusión de que lo que te rodea es un mundo estable. Tan solamente mañana el mundo podría ser ‘algo que solamente ha sido‘: porque nosotros, tú, yo y nuestros congéneres somos ‘más mortales’ y ‘más temporales’ que todos aquellos que, hasta ayer, habían sido considerados mortales. ‘Más mortales’ porque nuestra temporalidad significa no solamente que somos mortales, no solamente que somos ‘matables’. Esa ‘costumbre’ siempre ha existido. Sino que, como humanidad, somos ‘matables’. Y ‘humanidad’ no significa solamente la humanidad de hoy, no solamente la humanidad que se esparce sobre las provincias de nuestro globo; sino también la humanidad que se esparce sobre las provincias del tiempo. Porque si la humanidad de hoy es matada, entonces lo que ha sido, muere con ella; y la humanidad del porvenir también. La humanidad que ha sido porque, donde no hay nadie que recuerde, no quedará nada para recordar; y la humanidad del porvenir, porque donde no hay un hoy, ningún mañana puede convertirse en un hoy. La puerta frente a nosotros lleva esta inscripción: ‘Nada habrá sido’; y una vez traspasada: ‘El tiempo fue un episodio’. Pero no como nuestros ancestros se habían esperanzado, un episodio entre dos eternidades; sino un episodio entre dos nadas; entre la nada de lo que, recordado por nadie, habrá sido como si nunca hubiera existido, y la nada de lo que nunca será. Y como no habrá nadie que distinga una nada de la otra, se fundirán en una nada sola. Esto es, entonces, lo completamente nuevo, la apocalíptica clase de temporalidad, nuestra temporalidad, comparada con la cual cualquier cosa que habíamos llamado antes ‘temporal’ se convierte en una bagatela. Por lo tanto tu primer pensamiento al despertar que sea: ‘átomo’.

Tu segundo pensamiento después de despertar debería transcurrir: ‘La posibilidad del Apocalipsis es nuestro trabajo. Pero no sabemos que lo estamos haciendo’. Realmente no sabemos, y tampoco ellos que controlan el Apocalipsis lo saben: porque ellos también son ‘nosotros’, ellos también son fundamentalmente incompetentes. Que ellos también sean incompetentes, no es ciertamente su culpa; más bien consecuencia del hecho de que ni ellos ni nosotros podemos ser considerados responsables: el efecto de la brecha siempre creciente entre nuestras dos facultades; entre nuestra acción y nuestra imaginación; del hecho de que somos incapaces de concebir lo que podemos construir; de mentalmente reproducir lo que podemos producir; de comprender la realidad que podemos traer a la existencia. Porque en el curso de la era técnica la relación clásica entre imaginación y acción se ha revertido. Mientras nuestros ancestros habían considerado una obviedad que la imaginación excede y sobrepasa a la realidad, hoy día la capacidad de nuestra imaginación (y la de nuestro sentimiento y responsabilidad) no puede competir con la de nuestra praxis. De hecho, nuestra imaginación es incapaz de asimilar el efecto de lo que estamos produciendo. No solamente nuestra razón tiene sus límites (kantianos), no solamente ella es finita, sino también lo es nuestra imaginación, y todavía más nuestro sentimiento. A lo sumo podemos lamentar el asesinato de un hombre, nuestro sentimiento no puede abarcar más; podríamos ser capaces de imaginar diez: nuestra imaginación no puede abarcar más; pero destruir a cien mil personas no causa dificultades en absoluto. Y eso no solamente por razones técnicas; y no solamente porque el accionar ha sido transformado en un mero ‘colaborar’ y en un simple lanzamiento, cuyos efectos permanecen invisibles. Sino más bien por una razón moral; porque el asesinato de masas reposa infinitamente lejos — fuera de la esfera de aquellas acciones que podemos visualizar y frente a las cuales podemos tomar una posición emocional; y cuya ejecución podría ser dificultada a través de la imaginación y los sentimientos. Por lo tanto, tu siguiente pensamiento debería ser: ‘Cuanto más ilimitados los hechos, más reducidos los impedimentos’. Y: ‘Nosotros humanos somos más pequeños que nosotros mismos’. Esta última frase formula la rabiosa esquizofrenia de nuestros días; es decir: el hecho de que nuestras diversas facultades trabajan independientemente una de otra, como seres aislados y descoordinados, que han perdido todo contacto entre sí. Pero no es para afirmar algo terminal o incluso algo finalmente derrotista, que deberías pronunciar estas palabras; más bien, al contrario, para que te hagas consciente de tu limitación, para que te aterres por ello, y finalmente, para romper esta frontera presuntamente irrompible; para revocar tu esquizofrenia. Por supuesto, mientras se te conceda la gracia de seguir viviendo, puedes poner tus manos en tu regazo, abandonar toda esperanza e intentar resignarte a tu esquizofrenia. Sin embargo, si esto te parece indeseable, tienes que hacer entonces el atrevido intento de hacerte tan grande como eres realmente, de ponerte al día contigo mismo. De este modo, tu tarea consiste en cerrar la brecha que existe entre tus dos facultades: tu facultad de hacer cosas y tu facultad de imaginar cosas; de nivelar la desproporción que separa a las dos; en otras palabras, tienes que ampliar agresivamente la estrecha capacidad de tu imaginación (y la todavía más estrecha de tus sentimientos) hasta que imaginación y sentimiento sean capaces de sujetar y comprender la enormidad de tus acciones; hasta que seas capaz de tomarlas y concebirlas, de aceptarlas o rechazarlas — en breve, tu tarea es: ampliar tu fantasía moral.

(…)

Resumiendo: aun si tuviéramos éxito en eliminar físicamente los objetos fatales y sus planos de construcción, salvando así a nuestra generación, esa salvación difícilmente sería más que un respiro o una postergación. La producción material podría reanudarse cualquier día, el terror permanece y así debería permanecer tu temor. Desde ahora la humanidad vivirá para siempre y eternamente bajo la oscura sombra del monstruo. El peligro apocalíptico no es abolido por un acto, de una vez por todas, sino solamente por actos repetidos diariamente. Esto significa: tenemos que entender —y esta comprensión revela lo realmente fatal que es nuestra situación— que nuestra lucha contra la mera existencia física de los objetos y contra su construcción, sus ensayos, su almacenamiento, resulta ser por demás insuficiente. Porque el objetivo que tenemos que alcanzar no puede ser no tener la cosa; sino nunca usarla, aunque no podamos evitar tenerla; nunca usarla, aunque no exista el día en el cual no podríamos usarla.

Esta es entonces tu tarea: hacer que la humanidad entienda que ninguna etapa material, ninguna eliminación de objetos físicos será jamás una garantía absoluta, sino que debemos tener la firme resolución de nunca dar el paso aunque siempre sea posible darlo. Si nosotros, ustedes, tú y yo no tenemos éxito en saturar el espíritu de la humanidad con esta revelación, estamos perdidos.

Günther Anders
Gebote des Atomzeitalters, 1957
Commandments in the Atomic Age, 1961
Traducción de Carlos Mayhua Terreros