Meta (Facebook) trabaja en un modelo de inteligencia artificial para predecir palabras y frases

Buscará comparar cómo los modelos de lenguaje de inteligencia artificial (IA) y los cerebros humanos responden a palabras idénticas escritas o habladas. El objetivo des anticiparse a los pensamientos y las frases más allá de la primera palabra a partir de un concepto o enunciado.

Los modelos de IA que replican más fielmente el lenguaje humano ahora lo hacen al desglosar metódicamente las frases al examinar el contexto e intentar anticipar la siguiente palabra mediante el aprendizaje automático. La inteligencia artificial por el momento es incapaz de aprender idiomas de una forma tan eficiente como los humanos o predecir el lenguaje.

Meta indica en una nota en su página web oficial que han encontrado gracias a su investigación que los modelos de lenguaje que se asemejan a la actividad cerebral «son los que mejor predicen la siguiente palabra a partir del contexto», dan el ejemplo de ‘había una vez’. 

También indican que desbloquear esta capacidad de pronóstico a largo plazo podría ayudar a mejorar los modelos de lenguaje de IA modernos.

Han comparado una variedad de modelos de lenguaje con las respuestas cerebrales de 345 voluntarios que escucharon narraciones complejas. Revelan que la predicción es una habilidad que aún desafía los modelos de lenguaje actuales.

Por ejemplo, con la frase ‘Había una vez’, la mayoría de modelos de lenguaje actuales normalmente predecirían la siguiente palabra, aunque aún tienen una capacidad limitada para anticipar ideas, traumas y narrativas complejas, como sí la tienen los seres humanos.