Meta trabaja en un modelo de Inteligencia Artificial para predecir lenguaje y frases

Investigadores de Meta IA se han embarcado en una iniciativa de investigación a largo plazo para comprender mejor cómo el cerebro humano interpreta el lenguaje. La investigación estará liderada conjuntamente con el instituto de neuroimagen NeuroSpin y con el Instituto Nacional de Investigación de Francia.

La empresa de Mark Zuckerberg buscará comparar cómo los modelos de lenguaje de Inteligencia Artificial (IA) y los cerebros humanos responden a palabras idénticas escritas o habladas. El objetivo des anticiparse a los pensamientos y las frases más allá de la primera palabra a partir de un concepto o enunciado.

Los modelos de IA que replican más fielmente el lenguaje humano ahora lo hacen al desglosar metódicamente las frases al examinar el contexto e intentar anticipar la siguiente palabra mediante el aprendizaje automático. La Inteligencia Artificial por el momento es incapaz de aprender idiomas de una forma tan eficiente como los humanos o predecir el lenguaje.

En busca de mejorar los modelos de lenguaje de Inteligencia Artificial

Meta indica en una nota en su página web oficial que han encontrado gracias a su investigación que los modelos de lenguaje que se asemejan a la actividad cerebral "son los que mejor predicen la siguiente palabra a partir del contexto", dan el ejemplo de 'había una vez'. También indican que desbloquear esta capacidad de pronóstico a largo plazo podría ayudar a mejorar los modelos de lenguaje de IA modernos.

Han comparado una variedad de modelos de lenguaje con las respuestas cerebrales de 345 voluntarios que escucharon narraciones complejas. Revelan que la predicción es una habilidad que aún desafía los modelos de lenguaje actuales.

Por ejemplo, con la frase 'Había una vez', la mayoría de modelos de lenguaje actuales normalmente predecirían la siguiente palabra, aunque aún tienen una capacidad limitada para anticipar ideas, traumas y narrativas complejas, como sí la tienen las personas.