Це ШІ вивчив мову з записів перших 1000 днів життя немовляти
· Майбутнє
Дослідники Прінстона навчили ШІ мові, використовуючи записи з життя вісьмох дітей від народження до трьох років, що кидає виклик сучасним методам навчання LLM на гігантських датасетах.
Дослідники з Принстонського університету розробили нову модель штучного інтелекту, яка навчається мови подібно до дитини — не на гігантських масивах даних, як сучасні чат-боти, а через поступове сприйняття аудіопотоку з реального життя.
Для проєкту «First 1,000 Days» вчені залучили 15 родин, у домівках яких протягом тривалого часу працювали камери та мікрофони. Вони фіксували щоденне життя дітей від народження до трьох років. Загалом дослідники зібрали понад мільйон годин аудіо- та відеозаписів. З цього масиву було відібрано до 6 600 годин аудіо для навчання індивідуальних ШІ-моделей для кожної дитини.
Ефективність через «сон»
Початкові спроби навчити нейромережу просто шляхом «прослуховування» оточення дитини виявилися невдалими. Як зазначила співавторка дослідження Гадас Равів: «Ми були здивовані, побачивши, що попри величезну кількість мовлення, доступного від однієї дитини, результати навчання були незадовільними».
Прорив стався, коли розробники імітували процес консолідації пам’яті під час сну: ШІ почав періодично «переглядати» уривки почутого за день. Це дозволило моделям почати розпізнавати фонеми, а згодом — і слова. У моделях, побудованих для восьми дітей, було вивчено приблизно 37 фонем протягом 15 місяців і почали розпізнавати окремі слова до дворічного віку.
Чому це важливо
Цей підхід кардинально відрізняється від навчання сучасних великих мовних моделей (LLM), які потребують мільярдів слів для опанування мови та споживають величезну кількість енергії. Автори дослідження зазначають, що цей метод потенційно може допомогти краще зрозуміти ранній розвиток і те, що відбувається, коли навчання йде нетипово.
«Упродовж понад століття психологія вивчала розвиток переважно ззовні. Тепер ми можемо застосувати доповнювальний підхід: побудувати систему навчання, надати їй реальний досвід дитини й запитати, чи розвивається вона так само, як малюк», — пояснив співавтор дослідження Урі Хассон.
Вчені підкреслюють, що поточна модель — лише початок. Поки що ШІ «бачить» лише звуки, тоді як дитина отримує набагато більше інформації через жести, міміку та соціальну взаємодію. Наступним кроком команди буде наділення нейромереж здатністю сприймати ці додаткові сигнали. Водночас розробники сподіваються, що виявлені обчислювальні механізми зможуть зробити майбутні системи штучного інтелекту більш ефективними.
За матеріалами Singularity Hub