Martes, 25 de septiembre de 2018

"¡El cerebro no es el que piensa!"

11/08/2018
Entrevista a Miguel Benasayag realizada por Régis Meyran

En el término “inteligencia artificial” (IA), la palabra “inteligencia” es solo una metáfora. Pues, si su capacidad calculatoria excede la del hombre, la IA no puede dar sentido a sus propios cálculos. Para el filósofo y psicoanalista argentino Miguel Benasayag, reducir la complejidad de la vida a un código informático es ilusorio, al igual que es absurda la idea de que una máquina pueda sustituir al hombre.

¿Qué distingue a la inteligencia humana de la artificial?

La inteligencia viva no es una calculadora. Es un proceso que articula la afectividad, la corporeidad, el error. Supone la presencia del deseo y de una conciencia en el ser humano de su propia historia a largo plazo. La inteligencia humana no es pensable fuera de todos los demás procesos cerebrales y corporales.

A diferencia del hombre o el animal, que piensa con la ayuda de un cerebro en un cuerpo, él mismo inscrito en un entorno, la máquina produce cálculos y predicciones sin poder darles un significado. La cuestión de saber si una máquina puede sustituir al hombre en realidad es absurda. Es el organismo vivo quien da un sentido, no el cálculo. Muchos investigadores en IA están convencidos de que la diferencia entre la inteligencia viva y la inteligencia artificial es cuantitativa, cuando en realidad es cualitativa.

Dos ordenadores del programa Google Brain habrían logrado comunicrse entre sí en un “lenguaje” que ellos mismos habrían creado y que sería indescifrable para el hombre... ¿Qué piensa?

Simplemente no tiene sentido. De hecho, cada vez que se lanza el programa, las dos máquinas repiten sistemáticamente la misma secuencia de intercambio de información. Y no es un lenguaje, no comunica nada. Es una mala metáfora, como decir que la cerradura “reconoce” la llave. Del mismo modo, algunas personas dicen que son “amigas” de un robot. Incluso existen aplicaciones para teléfonos inteligentes que se supone que permitirían “dialogar” con un robot. Tome por ejemplo el caso de la película Her (Ella), de Spike Jonze (2013): tras una serie de preguntas a un hombre que permiten cartografiar su cerebro, una máquina fabrica una voz y respuestas que desencadenan un sentimiento de enamoramiento en el protagonista. ¿Pero podemos tener una relación romántica con un robot? No, porque el amor y la amistad no se reducen a un conjunto de transmisiones neuronales en el cerebro.

El amor y la amistad existen más allá del individuo, incluso más allá de la interacción entre dos personas. Cuando hablo, participo en algo que tenemos en común: el lenguaje. Lo mismo ocurre con el amor, la amistad y el pensamiento: son procesos simbólicos en los que los humanos participan. Nadie piensa en sí. Un cerebro da su energía para participar en el pensamiento. A aquellos que creen que la máquina puede pensar, debemos responder: ¡sería sorprendente que una máquina piense, ya que ni siquiera el cerebro piensa!

En su opinión, ¿el fallo principal de la IA sería reducir lo viviente a un código?

De hecho, algunos especialistas en IA están tan deslumbrados por sus propias proezas técnicas que, a la manera de los niños pequeños fascinados por sus juegos de construcción, pierden la visión de conjunto. Caen en la trampa del reduccionismo.

El matemático estadounidense y padre de la cibernética Norbert Wiener escribió en 1950 en The Human Use of Human Beings - Cybernetics and Society (El uso humano de los seres humanos - Cibernética y sociedad) que algún día podremos “telegrafiar un hombre”. Cuatro décadas más tarde, la idea transhumanista del mind uploading se elabora con la misma fantasía, según la cual todo el mundo real se puede reducir a unidades de información transmisibles de un hardware a otro.

La idea de que lo vivo puede modelarse en unidades de información también se encuentra, por ejemplo, en el biólogo francés Pierre-Henri Gouyon, con quien publiqué un libro de entrevistas titulado Fabriquer le vivant? (¿Fabricar lo viviente?, 2012). Él ve en el ácido desoxirribonucleico (ADN) el soporte de un código que puede desplazarse sobre otros soportes. Pero al considerar que lo vivo se puede modelar en unidades de información, olvidamos que la suma de unidades de información no es el ente vivo y no nos preocupa investigar sobre lo que no es modelable.

Tener en cuenta lo no modelable no reenvía a la idea de Dios ni al oscurantismo, como piensan algunos. Los principios de imprevisibilidad e incertidumbre están presentes en todas las ciencias exactas. Es por eso que la aspiración al conocimiento total de los transhumanistas es parte de un discurso tecnólatra, perfectamente irracional. Si conoce un gran éxito es porque es capaz de saciar la sed de metafísica de nuestros contemporáneos. Los transhumanistas sueñan con una vida de la que hubieran desechado toda incertidumbre. Ahora bien, en la vida cotidiana, como en la investigación, tenemos que lidiar con incertidumbres y aleatoriedad...

De acuerdo con la teoría transhumanista, a través de la IA un día podremos alcanzar la inmortalidad.

En la actual agitación posmoderna, en la que ya no se piensa la relación entre las cosas y en donde predominan el reduccionismo y el individualismo, la promesa transhumanista toma el sitio de la caverna de Platón. Para el filósofo griego, la vida real no estaba en el mundo físico, sino en las ideas. Para los transhumanistas, veinticuatro siglos más tarde, la vida real no está en el cuerpo, sino en los algoritmos. El cuerpo es para ellos solo un simulacro: debemos extraer un conjunto de informaciones útiles y deshacernos de sus defectos naturales. Así es como ellos pretenden alcanzar la inmortalidad.

Tuve oportunidad de reunirme en coloquios científicos con varios miembros de la Universidad de la Singularidad [de orientación transhumanista] que llevaban un medallón alrededor del cuello para indicar que, en caso de muerte, se les criogenizara la cabeza. Veo el surgimiento de una nueva forma de conservadurismo, a pesar de que soy yo quien pasa por ser un bioconservador porque me opongo a la filosofía transhumanista. Pero cuando mis oponentes me llaman reaccionario, usan el mismo tipo de argumentos que los políticos que pretenden modernizar o reformar mientras destruyen los derechos sociales de un país y tildan de conservadores a quienes quieren conservar sus derechos.

La hibridación entre el hombre y la máquina ya es una realidad. También es un ideal transhumanista.

Todo queda por hacer para comprender lo viviente y la hibridación, porque el mundo de la técnica biológica todavía ignora casi todo de la vida, que no se reduce a únicamente a los procesos fisicoquímicos modelizables. Dicho esto, la vida ya está hibridada con la máquina y sin duda lo estará aún más con los productos concebidos por las nuevas tecnologías. 

Existen ya muchas máquinas con las que trabajamos y a las que delegamos cierto número de funciones. ¿Son todas necesarias? Esa es la gran cuestión. Trabajé en el implante coclear y la cultura de los sordos: hay millones de personas sordas que reivindican su propia cultura -que no se respeta lo suficiente- y rechazan el implante coclear porque prefieren expresarse en el lenguaje de signos. Esta innovación, que podría aplastar la cultura de los sordos, ¿es un progreso? La respuesta no está clara.

Sobre todo, debemos asegurarnos de que la hibridación sea respetuosa de la vida. Ahora bien, lo que estamos presenciando no es tanto la hibridación, sino la colonización de la vida por la máquina. A fuerza de externalizar, muchas personas no recuerdan nada. Tienen problemas de memoria que no resultan de patologías degenerativas.

Tomemos, por ejemplo, el caso del sistema navegación GPS: hemos observado taxistas en París y Londres, dos ciudades laberínticas. Mientras que los taxistas londinenses se orientaban por sí mismos, los parisinos usaban sistemáticamente sus respectivos GPS. Después de tres años, las pruebas psicológicas demostraron que los núcleos subcorticales que cartografían el tiempo y el espacio se atrofiaban en estos últimos (atrofias ciertamente reversibles si la persona abandona esa práctica). Se vieron afectados por un tipo de dislexia que les impedía ubicarse en el tiempo y el espacio. Esto es colonización: el área se atrofia porque la función se delega sin ser reemplazada por ninguna otra.

¿Qué le preocupa más?

Me inquieta en demasía el triunfo excesivo de la lógica de la innovación. La noción de progreso ha fracasado. Ha sido reemplazada por la idea de innovación, que es bastante diferente: no contiene ni un punto de partida ni uno de llegada. En sí no es tampoco buena o mala. Por lo tanto, debe ser cuestionada críticamente. El procesador de textos en los ordenadores es mucho más eficiente que la máquina de escribir Olivetti que utilicé en la década de 1970. Para mí, es un progreso. Pero, por el contrario, cualquier teléfono inteligente contiene varias docenas de aplicaciones y pocas personas se preguntan cuántas de ellas son realmente necesarias. La sabiduría consiste en mantenerse alejado de la fascinación por el mero entretenimiento y calibrar la verdadera eficiencia de las nuevas tecnologías.

Además, en una sociedad desorientada, que ha perdido sus grandes relatos, el discurso transhumanista es muy perturbador: infantiliza a los humanos y no toma distancia con la promesa tecnológica. En Occidente, la tecnología siempre se ha referido a la idea de ir más allá de los límites. Ya en el siglo XVII, el filósofo francés René Descartes, para quien el cuerpo era una máquina, había imaginado la posibilidad de un pensamiento fuera del cuerpo. Es una tentación humana soñar que, a través de la ciencia, seremos libres de nuestro cuerpo y sus límites, cosa que el transhumanismo finalmente cree poder lograr.

Pero el sueño de un hombre posorgánico omnipotente y fuera de todo límite tiene consecuencias de todo tipo en la sociedad. Me parece que incluso debe analizarse en una relación especular con el incremento de los fundamentalismos religiosos que se agazapan en los supuestos valores naturales de lo humano. Los veo como dos integrismos irracionales en guerra.

----------------------------------------------------------------------------------------

* Miguel Benasayag logró huir de la Argentina en 1978 después de ser encarcelado y torturado y actualmente reside en París (Francia). Recientemente ha publicado Cerveau augmenté, homme diminué (El cerebro aumentado, el hombre disminuido, 2016) y La singularité du vivant (La singularidad de lo viviente, 2017).