Будівництво базового стеку для універсальних роботів
· Майбутнє
X Square Robot розробляє інтегрований стек для роботів, щоб поліпшити їхні можливості.
Large language models надали штучному інтелекту дієвий рецепт. Проведення попереднього навчання великої моделі на широких даних забезпечує загальні можливості. У робототехніці немає такого рецепту. Робототехнічні системи довгий час збиралися з окремих частин сприйняття, планування та керування, які рідко консолідуються в інтелект, що може переноситися з одного завдання на інше чи з одного пристрою на інший. Основна проблема в уособленому ШІ полягає в тому, щоб знайти еквівалентний рецепт, і в цій сфері поки що немає згоди щодо того, що це таке.
X Square Robot, китайська компанія в галузі уособленого ШІ, зробила незвично чітку ставку. Вона стверджує, що рецепт — це інтегрований стек, що охоплює дані, з яких робот вчиться, модель світу для прогнозування змін у фізичному світі та модель дій, яка об'єднує сприйняття, планування, міркування та прийняття рішень для генерації виконувальної поведінки робота. Компанія також вважає, що стек повинен будуватися і випускатися у відкритому доступі.
X Square Robot ділиться своїм баченням, як принести роботів у реальні доми.
Стек уособленого ШІ X Square Robot
Що тримає стек разом, так це набір принципів, а не єдина загальна модель.
- Перший принцип полягає в тому, що базовою одиницею даних робота є взаємодія, а не траєкторія; демонстрація вважається успішною тільки в разі, якщо вона змінює світ за задумом, а не просто тому, що суглоби рухалися.
- Другий принцип полягає в тому, що попереднє навчання повинно давати корисні можливості, а не лише слугувати ініціалізацією для подальшого доопрацювання.
- Третій принцип полягає в тому, що поведінка повинна моделюватися на основі фізичних подій, а не фіксованих відрізків часу.
Ці принципи роблять шари взаємозалежними, оскільки ті ж дані, що не потрібні для навчання моделі дій, також структуровані для заповнення моделі світу. Однак варто уточнити, що компанія описує модель світу та модель дій як взаємодоповнювальні, але незалежні сімейства моделей, які мають спільну кодову базу. Обидві входять у її ширшу Модель світу, яку вона представила як архітектуру для одночасного навчання зору, мови, дій і фізичного прогнозування.
Дані про навчання роботів: інженерія для якості та вартості, а не масштабу
Для команди X Square Robot однією з найбільших обмежень для багатоцільових роботів є вартість і якість даних взаємодії, а не кількість параметрів. Щоб вирішити цю проблему, компанія створила свою систему збору даних Universal Manipulation Interface (UMI), серію QUANXTA Zero. Вона працює, збираючи демонстрації від людей, які носять пристрій з подвійними захватами, а не через телероблення робота. Цей підхід не є новим і будується на вже відомих методах захоплення даних без використання роботів. Що робить його унікальним, так це два інженерні вибори.
X Square Robot акцентує увагу на контролі якості даних, записуючи траєкторії та відтворюючи їх на реальному роботові, причому тільки ті, які в дійсності виконують завдання, вважаються дійсними.
Перший вибір — це контроль якості, і це найхарактерніша частина. Замість того щоб приймати записані траєкторії такими, якими вони є, система запускає закритий контур інспекції, і її помітний крок — фізичне відтворення. Вибірка траєкторій відтворюється на реальному роботові, і тільки ті, які насправді виконують завдання, вважаються дійсними. Це робить частку дійсності вимірюваною величиною, а не припущенням. Наприклад, захват, який закривається на частку секунди занадто рано, все ще виглядає як схоплення в даних, однак він відштовхнув об'єкт, тому не повинен класифікуватися як дійсний. Менший очищений набір даних може виявитися більш цінним за більший шумний.
Другий вибір полягає в тому, як поєднуються дешеві людські дані та дефіцитні дані від роботів. Компанія попередньо навчає на великому обсязі демонстрацій без використання роботів, щоб створити загальні репрезентації, а потім додає невелику кількість реальних даних від робота як якоря для динаміки конкретної машини. Вона повідомляє, що це досягає продуктивності, порівнянної з повністю роботизованим набором даних на приблизно 20-кратні меншій вартості збору, в основному через те, як носимий пристрій дешевший за налаштування телероботи.
Отриманий набір даних навмисно є незалежним від моделі, форматується для використання як в моделях дій, так і в моделях світу. Обмеження полягає в тому, що найсильніші результати вимірюються на роботах компанії та трубопроводах збору даних. Ширше незалежне тестування допоможе підтвердити та розширити ці обнадійливі результати в більш широкому діапазоні умов.
Модель світу, організована навколо подій
Розробляючи свою модель світу, яка називається WALL-WM, X Square Robot обрала диференційований підхід. Більшість моделей дій прогнозують фіксуемый обсяг руху з поточного зображення та інструкцій. Це зручно, але сегментує поведінку на фіксовані відрізки часу, тому межі з’являються там, де з’являється час, а не там, де закінчується одна дія і починається інша. WALL-WM натомість розглядає семантичну подію, що ґрунтується на дії, як свою одиницю: узгоджене частинне поведінку, таке як досягнення, захоплення або розміщення, щось, що може бути назване мовою, видно у відео й виконане як рух.
Модель світу X Square Robot, яка називається WALL-WM, розглядає семантичну подію, що ґрунтується на дії, як свою одиницю: узгоджене частинне поведінка, таке як досягнення, захоплення або розміщення.
Дизайн WALL-WM відображає певну стурбованість, що не слід відкидати те, що великі відеомоделі вже знають. Щоб досягти цього, модель тексту в відео пов'язується з щойно ініціалізованою мережею дій, яка читає з відео особливостей, не перезаписуючи їх, що дозволяє зберегти візуальний пріоритет. З одного процесу вона пропонує два режими. Режим подій працює в сегментах змінної довжини і підходить для міркування на тривалих горизонтах, тоді як режим фіксованої довжини виробляє стабільний, реальний результат, необхідний контролеру. Це розміщує WALL-WM між загальноприйнятими моделями дій, заснованими на частках, та чистими відеомоделями світу, зберігаючи передбачуваний характер моделі світу, водночас забезпечуючи виконувальний контроль.
У серії експериментів компанія спиралася на тест узагальнення, який є більш конкретним, ніж більшість. Модель, навчена на обмеженому наборі даних, оцінювалася на завданнях тривалого горизонту в невідомих умовах і, в рамках налаштувань реальних роботів компанії, ймовірно, перевершила базові показники, які були доопрацьовані на схожих даних. Це вагомий результат, якщо він залишиться. Наразі його вимірюють на внутрішніх налаштуваннях компанії. Зараз, коли код починає публікуватися, широка спільнота матиме можливість протестувати, відтворити та розвинути їх у більшій кількості налаштувань.
Політика, що працює перед доопрацюванням, та токени дій з сенсом
Шар дій несе дві пов'язані ідеї. Перша — це вимога, яку компанія ставить перед собою, використовуючи Wall-OSS-0.5, свою модель зору-мови-дії: попередньо навчена модель повинна працювати на реальному роботові до будь-якого спеціального доопрацювання завдання.
Інтерес більше полягає в дизайні, а не в оцінках. Модель тренує три цілі одночасно: дискретні токени дій, прив'язку до мови та безперервну генерацію дій. І вона зберігає градієнти, що проходять через всі з них, а не заморожує частини мережі, як це роблять деякі конкурентні дизайни. Це також більш строгий метод, оскільки він відзначає не налаштовану поведінку, таку як наближення, захоплення та відновлення, навіть на деформованому завданні, яке не входило до навчання.
У рамках дизайну моделі зору-мови-дії Wall-OSS-0.5 попередньо навчена модель повинна працювати на реальному роботові до будь-якого спеціального доопрацювання завдання.
Друга ідея — це сама інтерфейс дій, званий X-Tokenizer. Більшість систем, які перетворюють безперервний рух у дискретні токени, генерують коди, які мовна модель не може інтерпретувати. X-Tokenizer переосмислює токенізацію як навчання семантичного інтерфейсу, так що верхній код представляє намір руху, тоді як нижчі коди несуть деталі, пов'язані з особливостями мовної моделі.
Корисним наслідком є стабільність. Додавання шуму до дії майже не змінює код наміру, що дозволяє одному токенізатору використовуватися на різних роботах без перенастроювання. Токенізатор в продуктивній моделі дій є пов'язаним варіантом цього підходу. Разом ці дві ідеї надають шару дій щось досить потужне: можливість, яка переноситься.
Майбутнє стеків уособленого ШІ
X Square Robot ставить на своє унікальне поєднання трьох шарів, кожен з яких спеціалізується на вирішенні ключової частини проблеми, яке виділяється серед інших стеків уособленого ШІ. Крок фізичного відтворення, що підтверджує якість даних, є незвичайним і розумним. Переосмислення моделювання світу навколо подій, з однією основою, що обслуговує як міркування, так і контроль, є дійсно відмінним підходом. А поєднання стандарту попереднього навчання, що може бути розгорнутим, з токенізатором, розробленим як семантичний інтерфейс, надає шару дій незвичайну узгодженість.
Оцінка X Square Robot зросла понад 20 мільярдів юанів (приблизно 2,9 мільярда доларів США), що свідчить про те, що інвестори дедалі більше вважають інфраструктуру даних, базові моделі та масштабовані навчальні системи довгостроковими диференціаторами в уособленому ШІ.
Наступна фаза принесе ширше підтвердження. Багато сучасних доказів походять з власних роботів та тестових показників X Square. При загальнодоступному коді моделі світу, коли спільнота почне тестувати, відтворювати та розвивати цю роботу, повідомлені можливості будуть перевірені на більшій кількості роботів, завдань і умов.
Що далі для X Square Robot
Щоб дізнатися більше про майбутні плани, далі наведена Q&A з командою X Square Robot, яка глибше досліджує технології, стратегії та бачення компанії.
Що стало правильним моментом, технічно, для зобов'язання цього стеку? Що стало можливим нещодавно, що не було можливим кілька років тому?
Це не одне прорив, а кілька тенденцій, що зріють разом. Основні моделі дали нам спільну репрезентацію в зоровому, мовному та дійовому аспектах, і тепер ми можемо моделювати те, що бачить робот, що від нього вимагають зробити, і як його дії змінюють світ в одній структурі, а не як окремі модулі сприйняття, планування та контролю.
Обчислення та інфраструктура нарешті достатні для масштабного попереднього навчання на даних довгих горизонтів та багатих тілесностей. І не менш важливо, ми зрозуміли, що дані, а не розмір моделі, є реальним вузьким місцем для загальних роботів — те, що нестача є різноманітними, високоякісними, відтворювальними даними взаємодії. І моделювання світу стало практичним. Корисне питання вже не те, як прогнозувати кілька секунд відео, а як зрозуміти, як дії змінюють об'єкти, контакти та стани завдань. Два роки тому ці інгредієнти існували окремо. Сьогодні вони достатньо зрілі, щоб працювати як одна система.
“Ми зрозуміли, що дані, а не розмір моделі, є реальним вузьким місцем для загальних роботів — те, що нестача є різноманітними, високоякісними, відтворювальними даними взаємодії.”
Ваша система даних захоплює демонстрації за допомогою носимого VR-пристрою та кастомних захватів, а не через телероботу. Що було не так зі стандартною телероботою?
Телеробота будується навколо управління роботом. Це змушує оператора працювати в рамках кінематики, затримки та кута огляду машини, а в результаті демонстрації стають повільнішими, більшими та менш різноманітними. Ми побудували нашу систему навколо захоплення людських навичок. Маніпуляція стосується дійсно контакту, часу, координації пальців і відновлення, а не просто шляху, який проходить рука, і носимий пристрій записує це, перш ніж поведінка буде стискатися на одному конкретному роботові. Це також ламає витратний закон розгортання телероботи, за якого кожна демонстрація потребує робота.
Люди можуть створювати багаті дані незалежно від будь-якого робота, і важливою властивістю є те, що ці демонстрації все ще можуть бути відтворені та виконані на фізичному роботові через модель. Мобільність зручна, але саме це відтворення є справжньою метою, оскільки це дозволяє використовувати одні й ті ж дані на різних платформах.
Компанія X Square Robot повідомляє, що її трубопровід має приблизно 85 відсотків рейтингу дійсності даних. Чому контроль якості є таким недооціненим вузьким місцем?
Тому що помилки в даних роботів набагато дорожчі, ніж у мовних даних. Невелика помилка в часі або контакті може змінити значення демонстрації. Якщо захват закривається на частку секунди занадто рано, рух все ще виглядає як схоплення, але фізично воно відштовхнуло об'єкт. Набір даних, що змішує невдачі та випадкові успіхи, вчить невизначеності, а не навичкам, оскільки реальна одиниця — це взаємодія, а не траєкторії.
Отже, ми запускаємо автоматизовану інспекцію, кінематичні перевірки та фізичне відтворення, коли ми програємо вибірку траєкторій на реальному роботові і вважаємо дійсними тільки ті, які насправді виконують завдання. Якість даних встановлює межу на те, наскільки добре може бути політика. У нашому досвіді менший, чистіший набір даних часто перевершує значно більший, шумніший, тому ми ставимо контроль якості як частину моделі, а не як післяобробку.
Модель працює як у “режимі подій”, так і в “режимі фрагментів”. Коли кожен з них має значення?
Обидва мають значення, але з різних причин. Фізичний світ змінюється через події, коли відбувається контакт, формується захват або об'єкт вислизає, а не у фіксованих вікнах часу. Режим подій концентрує увагу моделі на цих моментах і має найбільше значення для завдань тривалого горизонту, наприклад, очищення столу, де прогрес є послідовністю семантичних подій, а не безперервним потоком. Вона працює в сегментах змінної довжини, що слідують за завданням, а не за годинником. Режим фрагментів має значення для впровадження. Реальні контролери потребують стабільного, реального інтерфейсу, а фіксовані сегменти легко інтегруються з існуючими системами контролю.
Ми організовуємо навчання навколо подій насамперед, оскільки фіксоване вікно може розділити один рух на половину або об'єднати два разом, що перетворює навчання в сопоставлення короткочасних шаблонів і ослаблює модель на тривалих задачах. Отже, завдання моделі світу — з'єднати розуміння на рівні подій, яке і є місцем, де відбувається міркування, з фіксованим виходом, яким реальний робот може насправді скористатися.
Чому ви зробили “можливість розгортання до доопрацювання” критерієм?
Попереднє навчання повинно давати можливості, а не лише хорошу вихідну точку. Якщо модель тільки корисна після важкого доопрацювання, тоді більша частина інтелекту все ще живе в наступному нагляді, а не в основній моделі. Розгортання до доопрацювання є більш чесним тестом того, що фактично навчено внаслідок попереднього навчання. Добре попередньо навчений робот уже повинен знати, як підходити, захоплювати, рухатися, уникати перешкод та виправляти себе. Доопрацювання повинно адаптувати його до конкретного завдання або робота, а не створювати цю здатність з нуля. Це також практична вимога. Робот у домі чи на робочому місці не повинен потребувати нового набору даних і нової політики щоразу, коли змінюється завдання, тому основна модель, яка вже несе загальні навички та певну здатність до відновлення, є мінімальною умовою для чогось дійсно корисного у реальному світі.
Що є найбільшою складністю в навчанні через різні тіла?
Роботи відрізняються частотою контролю, затримкою, відповідністю, точністю сенсорів та динамікою контакту, тому ті ж інструкції можуть вимагати різних розкладів дій та стратегій відновлення, а поведінка, що працює на одній руці, не може просто бути скопійована на іншу. Навчання через різні тіла потребує проміжної абстракції, нижчої за мову, але вище за кути суглобів: як підійти до об'єкта, як встановити контакт, як прикласти силу та як відновитися після помилки.
Коли ми говоримо про навчання через різні тіла, головною можливістю, про яку ми мовимо, є узагальнення в багатобіомах: передача знань між роботами, навчання на багатьох біомах одночасно та адаптація до різної кінематики. Передача знань від людини до робота та інші техніки є конкретними підходами до цієї мети.
“Робот у домі чи на робочому місці не повинен потребувати нового набору даних та політики кожного разу, коли змінюється завдання. Корисна основна модель уже повинна мати загальні навички та здатність до відновлення.”
Що б ви найбільше хотіли, щоб інші дослідники спробували відтворити або протестувати на міцність?
Три речі, понад усе. Чи справді репрезентації на рівні подій узагальнюються за межі наших власних наборів даних, в різних завданнях, сценах, об'єктах, біомах та умовах невдач. Чи залишається попереднє навчання ефективним на роботах, які модель ніколи не бачила під час навчання, чи все ще занадто тісно пов'язане із тим, що вже було відомо. І чи може оцінка реальних роботів стати спільною мовою для галузі, щоб ми порівнювали не лише рівні успіху, а й причини, чому системи зазнають невдач, де інструкція була неправильно зрозуміла, де сприйняття дало збій, або де відновлення не дотрималося. Робототехніка занадто часто рухалася під впливом вражаючих демонстрацій, а справжній прогрес приходить з результатами, що є відтворювальними та діагностичними.
Яка можливість ще бракує, перш ніж роботи стануть надійними в домах?
Бенчмарки вимірюють компетентність, як те, чи може модель закінчити завдання. Дома вимагають надійності, безпечної та стабільної роботи з часом в місцях, що змінюються щодня, з рухомими об'єктами, розмитими інструкціями і людьми, які перебивають. Відсутнім є не вищий одномоментний рівень успіху: це надійне відновлення. Надійний домашній робот повинен знати, коли він перебуває в невизначеності, коли сповільнитися, коли попросити допомогу, і як привести світ назад до безпечного стану після того, як він щось впустив або неправильно зрозумів запит.
У реальному домі, відновлення після невдач має більше значення, ніж сирий успіх, адже дім не відновлюється автоматично. Дома також потребують уважної персоналізації, вивчаючи звички та переваги домогосподарства з часом, з безпекою та довірою як першими принципами. Ця комбінація, а не будь-яка одна навичка, відокремлює здатну демонстрацію від робота, з яким люди можуть жити.
Підхід X Square Robot полягає в тому, що в реальному домі відновлення після невдач важить більше, ніж сира успішність, оскільки дім не відновлюється автоматично і вимагає уважної персоналізації з безпекою та довірою як першими принципами.
Яким чином відкриті компоненти вписуються в напрямок Моделі світу X Square Robot?
Ми розглядаємо ці випуски як шари в напрямку Моделі світу, а не ізольовані проекти. Wall-OSS-0.5, модель дій, ставить питання про те, чи може відкрита модель зору-мови-дії безпосередньо здобувати вимірювальну здатність від масштабного попереднього навчання, тому це шар можливостей. WALL-WM, модель світу, ставить питання, як робот повинен розуміти зміни у світі, переходячи від фіксованих вікон до моделювання на рівні подій, тому це шар представлення. Система даних постачає дані взаємодії, на яких обидві моделі навчаються.
Разом вони формують цикл, в якому моделі виробляють можливості, моделі світу організовують розуміння, а відкритий код спільноти стимулює відтворення та вдосконалення. Модель світу є більшою архітектурою, яку підтримують ці шари, об'єднуючи зір, мову, дії та фізичне прогнозування.
Ми відкриваємо ці елементи, оскільки уособлений інтелект не може бути вирішений однією організацією; необхідні численні біоми, численні реальні завдання та широка зворотна зв'язок, а довгостроковою метою є стек, який продовжує навчатися і врешті-решт перенесе роботів від лабораторних демонстрацій до надійного повсякденного використання.
X Square Robot зосереджена на розвитку своєї власної Моделі загального уособленого інтелекту для робототехніки. Заснована у 2023 році, компанія використовує дані з реального світу як основне джерело даних для створення загальних роботів з можливостями точного маніпулювання. Це одна з перших компаній у Китаї, яка прийняла повністю безперервний шлях для реалізації Моделі загального уособленого інтелекту.
Оригінал: spectrum.ieee.org