Diego Maniloff: “Los modelos de lenguaje como ChatGPT son impostores muy buenos”

Quien dice sin titubear la frase del título es Diego Maniloff. Este cordobés está hace quince años que está en el campo de la inteligencia artificial. Empezó en una época en la que las redes neuronales y el deep learning eran un tema nuevo. Su primer proyecto de tesis fue tratar de diseñar un motor de clasificación de música según géneros.

Fue becario Fullbright en la Universidad de Chicago y hoy vive en Toronto, Canadá, donde trabaja en los sistemas de e-commerce para grandes supermercados y es parte de una red social, Nextdoor, abocada a la interacción digital en vecindarios.

En una visita a La Voz, Diego contó, desde la cocina misma de la programación, cómo se trabaja con inteligencia artificial en compañías, medios y organizaciones.

Y despejó algunas dudas comunes que comenzaron a circular con velocidad desde que la expresión “ChatGPT” se volvió parte diaria de nuestro léxico.

“Estos modelos de lenguaje son impostores muy buenos, porque aprenden viendo texto y, si les tapás una parte, llenan el blanco. Así se entrenan: se les muestra texto, se les quita una palabra, dicen qué iría ahí. Luego otro ejemplo, y otro, y así. Con internet, ganan gran escala. Y luego, ese modelo de llenar blancos se convierte en uno conversacional cuando un equipo de personas se encarga de la sintonía fina, de darle feedback”, explica.

Luego analiza que el éxito de esas proyecciones en la actualidad se basa en aplicar técnicas de algoritmos simples, que ya se conocían, a una escala mucho mayor, alimentando los modelos con una masiva cantidad de datos.

“Fue un gran trabajo de ingeniería. Las compañías maduras que tengan equipos de ingeniería pueden avanzar hacia ese camino”, agrega.

En relación con la inquietud más apocalíptica y que desvela a miles de personas acerca de las posibilidades de que estos modelos de bots dejen un tendal de seres humanos sin trabajo, señala:

“No creo que mañana nos reemplace GPT en nuestro puesto de trabajo. Un médico no va a ser reemplazado, un médico radiólogo no va a ser reemplazado por GPT mañana. Pero un radiólogo que usa inteligencia artificial sí le va a ganar a un radiólogo que no la usa. Si lo usamos como herramienta, ayuda en competitividad contra otros profesionales”.

De todas maneras, entiende que la preocupación es válida.

Creo que es válido que se nos planteen interrogantes en cuanto a la velocidad de absorción de la sociedad. Cuando hay tecnologías nuevas, se transforma el mercado laboral. No es una idea nueva; pasó antes y, como humanidad, antes también nos preocupamos. Hoy hay puestos de trabajo que no existen más pero hay un millón de puestos que se crearon”.

Y añade: “Quién se iba a imaginar hace 50 años que hoy en día ser community manager de las redes iba a ser un laburazo y un puesto full time. Me parece que no hay que asustarse, nos vamos a adaptar. Todo lo que sea repetitivo o quizá todo lo que sea súper especializado, sí va a ser tomado por la inteligencia artificial. Pero nosotros vamos a pasar a puestos de mayor creatividad o quizá vamos a pasar a puestos en donde haga falta inteligencia a un nivel de generalidad, lo cual es una transformación. No está ni mal ni bien”.

Si bien Diego cree que no es el temor ni el recelo la respuesta al avance tecnológico, sí considera que es importante que como comunidad prestemos atención a la velocidad de los cambios y los tiempos de adaptación.

En ese sentido, se enfoca en la carta que expertos en el tema hicieron pública hace varios días en Estados Unidos, en la que pidieron una pausa de seis meses en la investigación sobre inteligencias artificiales más potentes, al advertir “grandes riesgos para la humanidad”.

Sobre la carta, Diego valora que, aunque la motivación para publicar esa advertencia de parte de las figuras de la industria puede haber sido “frenar a OpenAI para ponerse al día como competencia”, hay otro motivo.

“Estos modelos son cajas negras. Es hasta vergonzoso para quienes trabajan en este campo industrial admitir que no los entienden: que no los pueden inspeccionar, ni abrir para ver cómo son por dentro. Eso es real. El mismo equipo técnico de OpenAI no tiene respuestas para explicar cómo funcionan algunas cosas de ChatGPT”.

A velocidad crucero

“Creo que cuando esa transformación tiene cierto timing gradual y la sociedad lo puede absorber, es mucho más saludable, más fácil de afrontar. Pero si de la noche a la mañana perdemos tres verticales industriales enteras y posiciones de trabajo, es un desafío muy complicado. Por eso la carta pide la pausa. Ir de a poco es clave, así como acompañar el desarrollo con capacidad, con el entendimiento de lo que están haciendo”, agrega.

Si bien GPT es un chat bot conversacional, muchos usuarios le hacen preguntas como si no fuera una inteligencia artificial sino una inteligencia “superior”, una especie de “oráculo” o de entidad que puede decir verdades objetivas y absolutas.

Sobre este gesto de otorgarle al chat un saber supremo, Diego advierte: “Repito: hay que tener en claro que estos modelos son impostores muy buenos. Son modelos que se entrenan para llenar las palabras en blanco, el fill in the blanks, como se dice en inglés. No van a poder predecir el futuro por eso. Aprenden a hablar como nosotros, pero no más que eso. Por ahora, por lo menos”.

No solo ingenieros

–En las discusiones en torno del desarrollo de inteligencias artificiales, muchas veces las voces autorizadas se limitan a ingenieros y CEO: los primeros, por resolver problemas; los segundos, por conseguir el éxito. ¿No se requieren otras disciplinas para abordar y desarrollar un fenómeno tan clave para el futuro de la humanidad?

–Estamos frente a un desafío que requiere múltiples disciplinas y creo que fue Yuval Noah Harari quien dijo que, de repente, la profesión de filósofo puede ser la más demandada y la que hace falta en las compañías de tecnología. Y creo que es muy acertado, porque al poner estos modelos de inteligencia artificial y esta tecnología en educación, en ingeniería, en producción, es decir, en las manos de un montón de gente, vamos a tener un montón de preguntas existenciales.