Вікна для роботів: Edge AI розширює можливості

· Майбутнє

Вікна для роботів: Edge AI розширює можливості

Edge AI розширює можливості роботів, відкриваючи нові горизонти для автоматизації.

Before Windows, only engineers and computer scientists could do much with computers. Windows changed that by giving everyone a user interface, built-in apps, and plug-and-play hardware capabilities that all worked together. The same shift is now arriving for robots.

Я пам'ятаю, коли з'явилися перші ПК. Я тільки починав навчання у коледжі, щоб стати інженером-робототехніком, і був дуже схвильований. ПК були потужними машинами. Мікропроцесори були швидшими за все, з чим стикався більшість людей, а можливості, які вони пропонували для вирішення математичних завдань і виконання складних інженерних процесів за кілька хвилин, вражали.

Але в той час корисність ПК була обмежена невеликою групою людей, які мали навички та інтерес до їх освоєння. Щоб змусити ПК працювати, потрібно було знати, як працювати з командним рядком операційних систем, вивчити складні апаратні протоколи та писати програмне забезпечення з нуля.

Як і більшість моїх друзів і родини в ті часи, світ дивився на ПК і бачив дороге обладнання, яке для них не робило нічого. Все змінилося, коли Windows вийшли на ринок і перетворили ПК з нішевого інженерного інструменту на пристрій, яким міг користуватися будь-хто у світі.

Сьогодні існує новий і швидко зростаючий ринок процесорів на основі штучного інтелекту, вбудованих процесорів, які виконують моделі AI в роботизованих та інших автоматизованих системах від компаній, як-от NVIDIA, AMD, Qualcomm, Hailo та інших. Ці чіпи дозволяють системам швидко аналізувати дані з камер та інших сенсорів і приймати миттєві рішення без необхідності бути підключеними до інтернету.

Вони достатньо швидкі, дешеві і енергоефективні, щоб виконувати реальні робочі навантаження AI на місцях. Апаратне забезпечення вже досягло точки перелому.

Але люди, які можуть насправді використовувати ці процесори, все ще залишаються невеликою групою. Хоча зазвичай вони поставляються з операційною системою Linux, яка має вбудовані додатки, апаратну підтримку та інтерфейси, подібні до Windows та інших настільних операційних систем, це рішення робить мало для задоволення потреб клієнтів, які бажають використовувати ці чіпи.

По-перше, роботам потрібно взаємодіяти з камерами, лазерами, GPS, моторами та системами управління, а не з мишами, клавіатурами та принтерами. Роботи також потребують програмних додатків, які можуть підключати дані з сенсорів в режимі реального часу до AI-моделей для управління моторами, а не текстових процесорів та табличних додатків.

Нарешті, роботи зазвичай не мають клавіатур та екранів, підключених до них; їм потрібні інтерфейси, які підключаються через веб-браузери на комп'ютерах, підключених до мережі.

Ще раз, ці обмеження означають, що лише невелика група досвідчених інженерів і розробників програмного забезпечення може скористатися можливостями нових процесорів на основі AI. Для всіх інших процесор на основі AI є таким же дорогим обладнанням, як ПК у 1981 році. Потужний, але недоступний.

Як інженер-робототехнік і автоматизації, я швидко побачив потенціал, який ці чіпи пропонували для вирішення багатьох проблем, з якими індустрія боролася протягом багатьох років. Після роботи з деякими з цих процесорів на проектах робототехніки та розумного сенсорного обладнання, я також зрозумів, як важко і часозатратно було використовувати ці чіпи, навіть для команд досвідчених інженерів і розробників.

У 2020 році моя компанія Numurus перейшла від продажу розумних сенсорів для робототехніки до розробки легкої у використанні програмної платформи під назвою NEPI (Numurus Edge Platform Interface), яка забезпечує багато програмного забезпечення, необхідного для більшості роботів.

NEPI надає драйвери plug-and-play для камер, сенсорів навігації, моторів, освітлення та систем управління. Вона також підтримує автоматичне виявлення і оркестрацію AI-моделей, вбудовані автоматизаційні програми та інтуїтивно зрозумілий веб-інтерфейс (UI) для підключення з віддалених комп'ютерів, підключених до мережі.

NEPI встановлюється і працює як контейнер Docker на базовій операційній системі чіпа AI на краю, що дозволяє будь-кому завантажити і почати працювати за кілька хвилин без необхідності в програмуванні. NEPI також містить просту систему завантаження, розгортання та побудови для завантаження та налаштування вихідного коду з репозиторію NEPI Github.


Що зробила Windows для ПК

Те, що розкрило потенціал ПК, було не швидшим апаратним забезпеченням. Це був програмний шар, який виконував речі, які більшість людей не хотіли вчити.

Windows з’явилася з драйверами plug-and-play. Підключіть принтер, і система його знайде і налаштує. Підключіть мишу — те ж саме. Користувач не повинен був написати ані рядка коду для взаємодії з обладнанням, яке він не вибирав заздалегідь.

Windows постачалася з вбудованими додатками. Текстовий процесор, електронна таблиця, спосіб переглядати файли. Більшість користувачів не потребували написання програм. Вони просто хотіли, щоб програми існували.

Windows дала ПК екран, клавіатуру і мишу, які працювали разом через інтерфейс, що не вимагав інструкції. Більшість користувачів розбиралися за один день.

Після Windows ПК більше не був лише для спеціалістів. Він став доступним для всіх. Апаратне забезпечення не змінилося. Змінилася доступність.


Що потрібно, щоб процесори на основі AI стали корисними для більшої кількості людей

Edge AI чекає на той же зсув. Апаратне забезпечення вже є. Що відсутнє — це програмний шар, який обробляє ті речі, які більшість людей не хоче вивчати. Цей шар потребує драйверів для обладнання plug-and-play.

Якщо команда хоче додати камеру, сонар, лідар, IMU або GPS-модуль, вони повинні мати можливість підключити його і щоб система розпізнала його. Вони не повинні писати драйвер для цього.

Йому необхідне управління моделями AI. Завантаження моделі, версії, заміна на новішу, відновлення при невдачі. Більшість команд мають модель. Лише деякі команди хочуть будувати середовище виконання, що оточує її.

Необхідні вбудовані додатки для реальних випадків використання. Робототехніка. Автоматизація. Інспекція. Обробка даних з сенсорів. Дії на основі подій. Найбільш поширені потреби в цій галузі повинні бути вирішені "з коробки", а не перероблені в кожному проекті.

І потрібен інтерфейс, яким оператор може насправді користуватися. Це те місце, де edge AI має складність, якої не було у початкового ПК. Більшість систем edge AI — це роботи, дрони, плавальні судна або промислове обладнання. Вони не мають підключеної клавіатури, миші або екрана. UI повинен бути звідкись з іншого місця.

Відповідь — це веб-інтерфейс, який служить з самого пристрою. Підключіть ноутбук, вкажіть браузеру на пристрій, і ви отримаєте UI. Ніякого спеціалізованого обладнання. Ніякого спеціалізованого програмного забезпечення. Будь-хто з браузером може взаємодіяти з системою.


Хто виграє, коли edge AI стане доступним

Історія ПК — це також історія того, хто зміг користуватися комп'ютером.

Перш ніж з'явилася Windows, комп'ютери були для програмістів, дослідників та людей, готових вчитися писати код. Після Windows комп'ютери стали для бухгалтерів, письменників, студентів, дітей, батьків і шкіл. Аудиторія зросла в кілька разів, і програми, що було створено, відображали нову аудиторію.

Edge AI ось-ось пройде через таке ж розширення. Сьогодні edge AI в основному призначений для команд, які можуть дозволити собі експертів з вбудованого програмного забезпечення. Це зазвичай означає добре фінансовані стартапи в галузі робототехніки, усталених виробників оригінального обладнання (OEM) та підрядників оборони. Усі інші заблоковані не за ціною обладнання, а через складність програмного забезпечення.

Як тільки edge AI стане доступним, аудиторія зміниться. Програми STEM можуть інтегрувати автоматизацію на основі AI, не вимагаючи, щоб кожен член команди був експертом з вбудованого програмного забезпечення. Дослідники в суміжних галузях можуть прототипувати апаратне забезпечення з можливостями AI без необхідності наймати окрему команду. Стартапи можуть поставити першу версію свого продукту за кілька тижнів замість року. Виробники OEM можуть запропонувати своїм клієнтам можливості AI, які клієнти можуть налаштувати самостійно.

Це розширення корисне не лише для тих, хто отримує новий доступ. Це добре і для індустрії. Екосистема ПК не розширилася, тому що програмісти стали продуктивнішими. Вона розширилася, тому що люди, які не були програмістами, змогли користуватися комп'ютерами. Edge AI налаштований дотримуватися того ж шляху.


Погляди з поля

Зміни вже починають проявлятися у виробництві. Команди, які будують автономні плавучі судна для виявлення морських загроз, змогли зосередитися на судні та місії, а не на створенні власного стека edge AI.

Оператори комерційного рибальства, які використовують AI-забезпечений сонар, змогли зосередитися на рибальському експертизі, що робить їхній продукт унікальним. Виробники підводних інспекційних роботів додали інспекцію на основі AI до своїх платформ без створення трубопроводів для впровадження моделей і систем захоплення даних з нуля. Команди з інспекції підводної інфраструктури змогли зосередитися на методології інспекції, а не на інженерії вбудованих систем.

В кожному з цих випадків команда не повинна була ставати фахівцями з вбудованого програмного забезпечення, щоб реалізувати продукт з можливостями AI. Доступ був рішучим фактором. Як більше платформ з'явиться в цій категорії протягом наступних 12-24 місяців, ще більше команд отримають таку ж можливість.


Для експертів: проблема створення з нуля

Навіть для команд, які мають експертів з вбудованого програмного забезпечення, математика змінилася.

Більшість команд робототехніки, які будували продукт з можливостями AI за останнє десятиліття, перебудовували якусь версію одних і тих же п'яти шарів з нуля. Інтеграція сенсорів. Час виконання розгортання AI. Логіка автоматизації. Трубопроводи даних. Інтерфейси операторів. Жоден з цих шарів не робить продукт унікальним. Вони є основою, на якій повинен стояти кожен продукт. І до нещодавнього часу більшість команд прокладали власну основу.

Вартість цього з'являється в чотирьох місцях. Час інженерії зазвичай складає шість-десять місяців, перш ніж команда виходить на ринок з першою версією свого реального продукту. Крихкість — це коли код налаштування ламається щоразу, коли змінюється апаратне забезпечення. Розподіл кадрів, коли старші інженери виявляються зайнятими обслуговуванням драйверів замість створення диференційованих функцій.

А найскладніше виміряти вартість — це продукти, які ніколи не створюються через те, що інвестиція в інфраструктуру була занадто обтяжливою. Для команд, які мають експертизу, платформений рівень не є єдиним способом створення edge AI. Але це спосіб доставити продукт швидше, з меншою кількістю користувацького коду для підтримки, і з основою, яку не потрібно перебудовувати наступного разу, коли з'являється нова ідея продукту.


Зміна в edge AI відбувається

Ера ПК не була здобута більш швидким апаратним забезпеченням. Вона була здобута завдяки програмному шару, який зробив швидше апаратне забезпечення корисним для людей, які не є спеціалістами.

Edge AI переходить до того ж переходу. Апаратне забезпечення тут. Програмний шар, що робить його доступним, зараз розробляється невеликою кількістю платформ, які зрозуміли, яким він має бути.

Якщо ви працюєте над чимось, що стосується AI на краю, будь ви інженером-робототехніком, OEM, викладачем STEM або дослідником, питання, яке варто задати — це не те, чи може апаратне забезпечення зробити те, що ви хочете. Воно, ймовірно, може. Питання в тому, чи хочете ви витратити роки на розробку всього з нуля, або почати працювати над рішенням автоматизації.


Про автора

Джейсон Сіолл — засновник і CEO компанії Numurus, компанії з розробки платформи edge AI, що базується в Сіетлі. Раніше він заснував BlueView Technologies, яка була придбана Teledyne, де він обіймав посаду віце-президента з технологій, контролюючи інновації в групі морських технологій Teledyne.

З автоматизованими інсталяційними скриптами будь-хто може завантажити та спробувати NEPI за кілька хвилин і заставити роботів працювати всього за кілька днів, стверджує Numurus.

Оригінал: www.therobotreport.com

Про Що? — новини науки, технологій і світу