twitter account

Tenemos que dejar de pensar que la IA es realmente inteligente

Manuel Carro: “Es improbable que la inteligencia artificial entienda el universo” / Foto: The Conversation, CC BY

Lorena Sánchez

Constantemente se nos presenta una versión de la inteligencia artificial (IA) que se parece, suena y actúa de manera sospechosamente similar a nosotros. Habla con frases educadas, imita emociones, expresa curiosidad, afirma sentir compasión e incluso se involucra en lo que llama “creatividad”.

Pero aquí está la verdad: la IA no posee ninguna de esas cualidades. No es humana. ¿Y presentarla como si lo fuera? Eso es peligroso. Porque resulta convincente. Y nada es más peligroso que una ilusión convincente.

En particular, la inteligencia artificial general o generalista —ese tipo mítico de IA que supuestamente imita el pensamiento humano— sigue siendo ciencia ficción, y bien podría seguir siéndolo.

Lo que hoy llamamos IA no es más que una máquina estadística: un loro digital que regurgita patrones extraídos de océanos de datos humanos (la situación no ha cambiado mucho desde que se discutió hace cinco años). Cuando redacta una respuesta, literalmente solo adivina qué letra o palabra viene a continuación en una secuencia, basándose en los datos con los que fue entrenada.

Eso significa que la IA no comprende. No tiene conciencia. No tiene conocimiento en ningún sentido real y humano. Es puro ingenio algorítmico guiado por la probabilidad, nada más y nada menos.

Entonces, ¿por qué una IA realmente "pensante" probablemente sea imposible? Porque no tiene cuerpo. No tiene sentidos, ni carne, ni nervios, ni dolor, ni placer. No siente hambre, deseo o miedo. Y como no hay cognición —ni una pizca—, existe una brecha fundamental entre los datos que consume (datos nacidos del sentimiento y la experiencia humana) y lo que puede hacer con ellos.

El filósofo David Chalmers llama al misterioso mecanismo subyacente a la relación entre nuestro cuerpo físico y la conciencia “el problema difícil de la conciencia” (“hard problem of consciousness”, en inglés). Recientemente, científicos destacados han planteado la hipótesis de que la conciencia surge precisamente de la integración de estados mentales internos con representaciones sensoriales (como cambios en la frecuencia cardíaca, sudoración, y más).

Dada la importancia crucial de los sentidos y emociones humanas para que la conciencia “ocurra”, existe una desconexión profunda —y probablemente irreconciliable— entre la IA general, la máquina y la conciencia, un fenómeno exclusivamente humano.

El amo

Antes de que argumentes que los programadores de IA son humanos, déjame interrumpirte. Ya sé que son humanos. Ese es parte del problema. ¿Confiarías tus secretos más íntimos, tus decisiones de vida y tus crisis emocionales a un programador de computadoras? Y, sin embargo, eso es exactamente lo que muchas personas están haciendo —basta con preguntarle a Claude, GPT-4.5, Gemini... o, si te animas, Grok.

Darle a la IA un rostro, una voz o un tono humano es un peligroso acto de travestismo digital. Provoca una respuesta automática en nosotros, un reflejo antropomórfico, que lleva a afirmaciones aberrantes como que algunas IA han pasado el famoso test de Turing (que evalúa si una máquina puede exhibir un comportamiento inteligente, similar al humano). Pero yo creo que, si estas IA están pasando el test de Turing, entonces debemos actualizar el test.

La máquina de IA no tiene idea de lo que significa ser humano. No puede ofrecer compasión genuina, no puede prever tu sufrimiento, no puede intuir motivos ocultos o mentiras. No tiene gusto, instinto ni brújula interior. Carece de toda esa complejidad confusa y encantadora que nos hace ser quienes somos.

Más preocupante aún: la IA no tiene objetivos propios, ni deseos, ni ética, a menos que se le programen explícitamente. Eso significa que el verdadero peligro no está en la máquina, sino en su amo: el programador, la corporación, el gobierno. ¿Todavía te sientes seguro?

Y por favor, no vengas con: “¡Eres muy severo! ¡No estás abierto a las posibilidades!” O peor: “Qué visión tan sombría. Mi amigo IA me tranquiliza cuando estoy ansioso”.

¿Me falta entusiasmo? Difícilmente. Yo uso IA todos los días. Es la herramienta más poderosa que he tenido en mis manos. Puedo traducir, resumir, visualizar, programar, depurar, explorar alternativas, analizar datos... más rápido y mejor de lo que jamás soñé hacer solo.

Estoy maravillado. Pero sigue siendo una herramienta —nada más, nada menos. Y, como todas las herramientas que los seres humanos han inventado, desde hachas de piedra y hondas hasta computación cuántica y bombas atómicas, puede ser utilizada como un arma. Será utilizada como un arma.

Lorena Sánchez es coordinadora de Cursos y Eventos. Editora de Ciencia y Tecnología

Entrevistado

Manuel Carro Liñares - Director de IMDEA Software y Profesor de la Escuela Técnica Superior de Ingenieros Informáticos de la Universidad Politécnica de Madrid