Esta IA aprendió lenguaje a partir de las grabaciones de los primeros 1000 días de vida de un bebé
· Futuro
Investigadores de Princeton enseñaron lenguaje a una IA usando grabaciones de la vida de ocho niños desde su nacimiento hasta los tres años, lo que desafía los métodos actuales de entrenamiento de modelos de lenguaje en conjuntos de datos masivos.
Investigadores de la Universidad de Princeton han desarrollado un nuevo modelo de inteligencia artificial que aprende el lenguaje de forma similar a un niño: no mediante el uso de conjuntos de datos gigantescos, como hacen los chatbots actuales, sino a través de la percepción gradual del flujo de audio de la vida real.
Para el proyecto «First 1,000 Days» (Primeros 1.000 días), los científicos reclutaron a 15 familias en cuyos hogares instalaron cámaras y micrófonos durante un largo periodo de tiempo. Estos dispositivos registraron la vida cotidiana de los niños desde su nacimiento hasta los tres años. En total, los investigadores recopilaron más de un millón de horas de grabaciones de audio y vídeo. De este conjunto, se seleccionaron hasta 6.600 horas de audio para entrenar modelos de IA individuales para cada niño.
Eficiencia a través del «sueño»
Los intentos iniciales de entrenar a la red neuronal simplemente «escuchando» el entorno del niño resultaron fallidos. Como señaló la coautora del estudio, Gadas Raviv: «Nos sorprendió ver que, a pesar de la enorme cantidad de habla disponible a partir de un solo niño, los resultados del aprendizaje eran insatisfactorios».
El avance se produjo cuando los desarrolladores imitaron el proceso de consolidación de la memoria durante el sueño: la IA comenzó a «revisar» periódicamente fragmentos de lo escuchado durante el día. Esto permitió que los modelos empezaran a reconocer fonemas y, posteriormente, palabras. En los modelos creados para ocho de los niños, se aprendieron aproximadamente 37 fonemas en el transcurso de 15 meses y se empezaron a reconocer palabras aisladas antes de los dos años de edad.
Por qué es importante
Este enfoque es radicalmente distinto al entrenamiento de los grandes modelos de lenguaje (LLM, por sus siglas en inglés) actuales, que requieren miles de millones de palabras para dominar un idioma y consumen una cantidad ingente de energía. Los autores del estudio señalan que este método podría ayudar a comprender mejor el desarrollo temprano y qué sucede cuando el aprendizaje no sigue un patrón típico.
«Durante más de un siglo, la psicología ha estudiado el desarrollo principalmente desde el exterior. Ahora podemos aplicar un enfoque complementario: construir un sistema de aprendizaje, proporcionarle la experiencia real de un niño y preguntarnos si se desarrolla igual que un bebé», explicó el coautor del estudio, Uri Hasson.
Los científicos subrayan que el modelo actual es solo el principio. Por ahora, la IA solo «ve» sonidos, mientras que un niño recibe mucha más información a través de gestos, expresiones faciales e interacción social. El siguiente paso del equipo será dotar a las redes neuronales de la capacidad de percibir estas señales adicionales. Al mismo tiempo, los desarrolladores esperan que los mecanismos computacionales descubiertos permitan que los futuros sistemas de inteligencia artificial sean más eficientes.
Basado en información de: Singularity Hub
Adaptación al español con ayuda de inteligencia artificial. Читати українською