Проект Профіль: Від Косово до Кенії
· Навколо Світу
Дослідження впровадження технологій для управління реєстрацією біженців з Косово до Кенії.
Ця серія була створена у партнерстві з програмою стипендій штучного інтелекту (AI) Центру Пулітцера.
Після кризи в Косові 1999–2001 років Microsoft у співпраці з Hewlett-Packard та Compaq надала Управлінню верховного комісара ООН у справах біженців (УВКБ ООН) апаратуру та програмне забезпечення для підтримки програми мобільної реєстрації біженців, яка пізніше стала основою для розвитку Проекту Профіль.
У 2002 році УВКБ ООН запустило Проект Профіль після того, як його управляючий орган, Виконавчий комітет програми верховного комісара (ExCom), підтримав стандартизацію реєстраційних норм і впровадження "нових технік і інструментів, включаючи біометрію", а також глобального програмного забезпечення, як-от Глобальна реєстраційна система профілю УВКБ ООН (proGres).
Microsoft надала технічні консультації та рекомендації щодо специфікацій технології. Швейцарська компанія Elca Group виграла тендер на розробку глобальної бази даних proGres як частину Проекту Профіль B. Elca відповідала за розробку трьох версій proGres (V1-V3), повідомили постачальникам в УВКБ ООН у 2013 році. Elca не відповіла на запит про коментар.
Згідно з різними новинними повідомленнями агентств, УВКБ ООН та волонтери з Microsoft навчали персонал користуватися proGres, який на той момент був переважно інструментом реєстрації для збору біографічних даних та фотографій обличчя, і допомогли налаштувати реєстраційні системи в кількох країнах. УВКБ ООН не надало коментар щодо того, хто конкретно впроваджував proGres, включаючи Кенію у 2004 році. proGres побудований на програмному забезпеченні Microsoft Dynamics Customer Relationship Management (CRM) і є основою операцій УВКБ ООН, включаючи реєстрацію, встановлення статусу біженця (RSD), переселення та репатріацію.
“Дякуємо, що звернулися. Компанія не має нічого, що можна поділитися”, — такою була відповідь Microsoft агентству The Elephant через свого довгострокового партнера We. Communications, агенцію з громадських зв'язків та інтегрованого маркетингу.
У фінансовому аудиторському звіті ООН за 2019 рік стверджується, що proGres V3, офлайн-система окремих баз даних, які зберігають дані локально, "не відповідала вимогам захисту даних, піддаючи ризику окремих осіб і ставлячи УВКБ ООН у ситуацію, де її репутація була скомпрометована".
Згідно з УВКБ ООН, Hewlett-Packard (HP – Zurich office) розробила Глобальну реєстраційну систему профілю в партнерстві (proGres v4), яка була запущена в Кенії у 2019 році. HP, яка придбала Compaq у 2002 році, не відповіла агентству The Elephant на момент публікації.
Згідно з аудитом proGres 4, з 2010 року до травня 2017 року УВКБ ООН витратила 19,6 мільйона доларів США – при бюджеті в 54,3 мільйона доларів США – на розробку та впровадження інтегрованого, централізованого хмарного програмного забезпечення, яке дозволяє УВКБ ООН надавати доступ до ланцюга учасників, таких як уряди, Всесвітня продовольча програма (WFP) та Міжнародна організація з міграції (IOM).
УВКБ ООН повідомило The Elephant, що “в той час як proGres v3 було офлайн-системою окремих баз даних, які зберігали дані локально, proGres v4 – це централізована, інтегрована платформа, яка була розроблена з урахуванням захисту даних за замовчуванням”. Агентство повідомило, що proGres v4 згодом "був замінений на наступне покоління proGres, відомий як proGres Cloud", який пропонує підвищену кібербезпеку та гнучкість для різних сценаріїв обробки даних і відповідає вимогам Політики захисту даних УВКБ ООН. Прес-секретар УВКБ ООН Фейт Касіна не надала деталей про те, хто розробив і розробив proGres Cloud або коли він був впроваджений у Кенії.
Після розробки proGres та випуску нового посібника зі стандартизованими реєстраційними нормами, уряд Сполучених Штатів рекомендував використати свій вплив, щоб заохотити УВКБ ООН прийняти більш суворі реєстраційні заходи, включаючи біометрію, для забезпечення цілісності переселення біженців. Ці занепокоєння стали особливо актуальними після корупційного скандалу 1999–2000 років у Найробі, де співробітників УВКБ ООН виявили під час продажу місць на переселення.
США заявили, що Міністерство внутрішньої безпеки (DHS) розробило мобільну технологію зняття відбитків пальців, яка “сумісна з Microsoft-системами УВКБ ООН”, додаючи, що “фінансування з боку США повинно бути надане” для придбання цієї технології.
Згідно зі звітом Вікілік, УВКБ ООН у 2002 році впровадив технологію розпізнавання райдужної оболонки, хоча “біометрія [не використовувалася] для загальної реєстрації”. Технологія розпізнавання райдужної оболонки, розроблена BioID Technologies для УВКБ ООН, використовувалася в операціях репатріації афганських біженців, які поверталися з Пакистану, щоб виявити та запобігти численним заявкам на допомогу від одних і тих же осіб. The Elephant отримав коментар від посольства США в Найробі та Бюро зв’язків зі ЗМІ Державного департаменту через онлайн-портал і електронну пошту. США не відповіли на запити про коментарі на момент публікації. Наші електронні листи до BioID Technologies не були доставлені.
Розроблене HBS Netherlands та профінансоване урядом Нідерландів, програмне забезпечення BioRegistrator пізніше було приєднане до proGres як доповнення, згідно з Вікілік звітом аудиту Проекту Профіль у 2005 році. Міністерство закордонних справ Нідерландів повідомило, що не може відповісти в межах запитуваного терміну.
У 2013 році, через сім років після впровадження BioRegistrator у Кенії, УВКБ ООН співпрацювало з WFP та запровадило біометричну ідентифікацію для розподілу їжі, яка знімала відбитки всіх 10 пальців. Штрих-код продовольчої картки та відбитки пальців співвідносилися з даними, записаними в proGres V3, для перевірки особи тих, хто отримує продовольчу допомогу.
WFP та УВКБ ООН заявили, що вони використали 5,143 мільйона доларів США з початкового бюджету в 8,5 мільйона доларів для розробки, тестування та впровадження технології зняття відбитків пальців. Основними донорами були DFID Великої Британії, який виділив 6 мільйонів фунтів стерлінгів WFP на біометрію та охорону здоров’я, ECHO (Європейський Союз) та USAID (США). “Донори сигналізували про втомленість”, — заявили агентства, і заощадження від біометрії сприяли зміцненню довіри донорів та уряду Кенії.
У Кенії, згідно з звітами УВКБ ООН та WFP, біометрична реєстрація призвела до щомісячної економії в 1,5 мільйона доларів США та зменшення населення біженців. Зменшення в значній мірі було пов'язане із зниженням “кількості карток на продукти харчування, що використовуються незаконно (реєстрація населення хост-спільноти як біженців і біженців, які залишили табори та продали свої картки на продукти)”.
“Завжди існує бажання збільшити відповідальність перед донорами. Те, що завжди бракує — це відповідальність перед біженцями”, — відзначає професор Джанлука Іаццоліно. Він вважає, що це колоніальний підхід використовувати гуманітарний простір як випробувальний полігон для нових технологій і на біженцях з меншим правовим захистом.
Професор Іаццоліно є автором “Інфраструктури співчутливого придушення: розуміючи біометрію в таборі біженців Какума”, звіту, що досліджує сприйняття біометричних систем біженцями.
Згідно зі студією, яка була проведена під час впровадження технології зняття відбитків пальців УВКБ ООН та WFP і на фоні терактів у Кенії, сомалійські біженці боялися, що біометрія “може бути використана для посилення контролю поліції над їхнім рухом”, оскільки запуск біометричних технологій “совпав з новими оголошеннями уряду Кенії про репатріацію сомалійських біженців”.
Професор Іаццоліно сказав The Elephant, що багаті сомалійці купували кенійські документи й можливості переселення за кордон, тоді як бідні та маргіналізовані сомалійці продавали свої пайки, щоб отримати гроші, оскільки їм не дозволялося працювати. “Біометрія зупинила це”, — сказав він.
Організація Engine Room, неприбуткова структура, що досліджує ризики, вигоди та організаційні політики у звіті “Біометрія в гуманітарному секторі”, заявила, що не вистачає комплексних доказів контролю шахрайства та заощаджень, що виникають внаслідок використання біометрії.
Гуманітарні організації часто зосереджуються на “нижньому шахрайстві”, яке вчиняється вигодонабувачами, на відміну від “вищого шахрайства”, яке скоюється в межах ланцюгів постачання. “Це накладає на вигодонабувачів проблему відповідальності, коли існують суттєві проблеми з шахрайством в інших частинах екосистеми”, — стверджується у звіті.
В фінансовому аудиторському звіті УВКБ ООН стверджується, що 54 з 61 випадків шахрайства, про які повідомлялося між 2018 і 2019 роками, були скоєні його працівниками, а сім — його партнерами. У внутрішньому аудиті звіту системи управління біометричною ідентифікацією (BIMS) у 2016 році УВКБ ООН стверджує, що важко точно оцінити в кількісному або якісному обчисленні вплив запровадження біометрії на зменшення шахрайства. Аудити УВКБ ООН також підняли питання про витрати, пов’язані з розробкою, обслуговуванням і експлуатацією системи.
Крім перевірки ідентифікацій, запобігання “дублюванню та шахрайству та забезпечення гуманітарної допомоги найпотрібнішим”, біометрія, повідомило УВКБ ООН агентству The Elephant, “також відкрила нові підходи та можливості підтримки фінансової інклюзії та самодостатності біженців, зокрема через доступ до мобільних послуг, банківських послуг та ринків праці”.
УВКБ ООН та WFP не відповіли на запитання агентства The Elephant щодо сум, які були втрачені до впровадження біометрії, та щодо того, де в межах ланцюга постачання відбувалися втрати.
У 2012 році УВКБ ООН оголосило про запит пропозицій на біометричну систему, здатну захоплювати “високоякісні дані відбитків пальців” та “дані розпізнавання райдужної оболонки та обличчя” у спробі ще більше розширити Проект Профіль та запобігти множинній реєстрації біженців.
Після конкурентного тендерного процесу консалтингова фірма Accenture (з США, штаб-квартира в Дубліні, Ірландія) оголосила, що виграла контракт на впровадження централізованої системи управління біометричною ідентифікацією (BIMS) у глобальних операціях УВКБ ООН.
“Accenture було обрано через конкурентний тендерний процес в 2012 році з запитом на пропозиції, опублікованим на Глобальному ринку ООН відповідно до нормативних актів закупівель ООН та кращої практики IPSAS”, — повідомило УВКБ ООН агентству The Elephant.
Accenture зазначило агентству The Elephant, що “не працювало над впровадженням системи біометричної ідентифікації в Кенії. Для отримання будь-якої додаткової інформації вам потрібно зв'язатися з УВКБ ООН”.
Біометрія підпадає під спостереження та може бути ризикованою, говорить професор Вукосі Марівате, співзасновник Deep Learning Indaba, найбільшої щорічної зустрічі практиків машинного навчання/штучного інтелекту на африканському континенті. “Розпізнавання обличчя,” каже він, “може бути зловживаним для спостереження, оскільки легко відстежити обличчя”.
Згідно зі звітом Mapping UN Activity in Support of Identity Management, до 2016 року УВКБ ООН не використовувала розпізнавання обличчя BIMS ні для зіставлення, ні для автентифікації “оскільки надійність технології зіставлення облич не на тому рівні, щоб дозволити її використання у важких умовах освітлення, як-от на природі в таборах”.
Презентуючи BIMS на Міжнародній конференції з біометричної продуктивності (IBPC) у Гейтерсбурзі, Меріленд, у 2016 році, Accenture заявила, що “через складне освітлення та фон, обличчя продемонструвало найвищу частоту повторних захоплень, з середнім показником 2 захоплень на кожного учасника для отримання хорошої якості зображення обличчя”.
У документах 2015 року, що збереглися, Accenture зазначала, що BIMS зберігала “дані відбитків пальців, райдужної оболонки та фото обличчя для ручної ідентифікації та розпізнавання облич”. Однак, відповідаючи на запитання агентства The Elephant, УВКБ ООН зазначила, що “фотографії облич збираються для ідентифікаційних документів та справ, але не використовуються для автоматичного зіставлення розпізнавання облич у Кенії”.
Згідно з дослідженням Amnesty, алгоритми розпізнавання облич можуть призводити до упередження проти жінок та осіб з темною шкірою, якщо навчальні набори даних були упередженими, що призводить до неправильного ідентифікування чорних осіб або помилкових позитивних збігів у базах зображень.
Відбитки пальців також не ідеальні, згідно зі словами колишнього працівника WFP, який просив про анонімність. Іноді під час збору їжі сканери BIMS не могли розпізнати відбитки пальців біженців. Це пов'язано з різними факторами, включаючи бруд, вологість або пошкоджені пальці через труднощі та фізичну працю, таку як будівництво.
Якщо відбитки пальців не спрацьовували, сказала працівниця WFP, тоді використовувалася райдужна оболонка. У своєму звіті “Біометричний конгломерат: спостереження, експериментування, прибуток і вимірювання тіл біженців”, комунікаційна дослідниця Мірка Мадіану припускає, що технологія розпізнавання райдужної оболонки, впроваджена УВКБ ООН у 2002 році, можливо, неправильно відмовила принаймні 11,800 заявникам.
У 2023 році УВКБ ООН заявила: “BIMS не завжди працює без збоїв; так звані помилки виникають час від часу, що спричиняє некоректну роботу програми, зависання або збої, і вимагає термінового виправлення якомога швидше.” Усі виправлення помилок та модифікації програмного забезпечення ретельно плануються та обговорюються в деталях, додала УВКБ ООН на своєму веб-сайті. УВКБ ООН повідомило The Elephant, що BIMS розроблено для забезпечення точної ідентифікації та зобов'язується до регулярного перегляду даних про технічну продуктивність. Агентство не відповіло безпосередньо на питання, чи демонструвало будь-яке з його біометричних систем упередженість або як помилки програмного забезпечення могли вплинути на точність.
Програміст порадив The Elephant, що помилки програмного забезпечення можуть виникати з різних джерел, таких як помилки кодування, недогляд у дизайні або несподівана взаємодія з іншим програмним забезпеченням.
Згідно зі знімком сайту Accenture в Wayback Machine, компанію було “обрано для розробки та створення” BIMS через її платформу Unique Identity Service Platform (UISP) та її репутацію в галузі біометрії. UISP є основою BIMS і складається з відзначеного нагородами патентованого біометричного двигуна зіставлення (BME), який порівнює “різні біометричні ідентифікатори, такі як обличчя, відбитки пальців, райдужна оболонка або голос, із великими обсягами даних ідентичності”. BIMS працює у зв'язці з базою даних proGres.
Accenture зазначає, що UISP ґрунтується на концепції “Виникаючої ідентичності – ідеї, що кожен раз, коли особа взаємодіє з нашою системою (інцидент ідентичності), ми дізнаємося про неї щось нове – можливо, новий біометричний зразок або новий біографічний чи контекстуальний дані”.
УВКБ ООН повідомило The Elephant, що “в UISP не використовується штучний інтелект, і нічого нового не дізнається про осіб під час їхньої взаємодії з системою – нічого, принаймні в сенсі машинного навчання та AI”.
Accenture зазначає на своєму веб-сайті, що, з огляду на детальний розгляд нормативно-правових актів щодо конфіденційності даних, Виникаюча ідентичність “може надати глибокі аналітичні інсайти щодо ідентичностей клієнтів, щоб полегшити поліпшені досвіди, запобігти шахрайству та спростити взаємодії”.
З 2012 по 2015 рік бюджет BIMS складав 9,6 мільйона доларів США, а загальні витрати склали 8,7 мільйона доларів. Бюджет на 2016 рік становив 2,7 мільйона доларів США, згідно з аудиторським звітом.
Згідно з Accenture, в архівних документах BIMS містяться технології захоплення та розпізнавання відбитків пальців, райдужної оболонки та обличчя від кількох постачальників, включаючи WCC Smart Search & Match, Green Bit, GenKey, Warwick Warp, IriTech, SmartSensors та Cognitec.
Александрін Пірло де Корбйон, директор стратегії Privacy International, підвела питання щодо збору та використання чутливих даних УВКБ ООН, її партнерських відносин з приватним сектором та нестачі прозорості та відповідальності в процесі закупівель і укладання контрактів.
“Чи тільки вони надають програмне забезпечення та апаратуру, чи вони також залучені до обробки даних?” — запитала вона.
Відповідаючи на питання агентства The Elephant, УВКБ ООН заявила, що “персональні дані біженців зберігаються на серверах хмарного контролю УВКБ ООН. Доступ до цих даних строго контролюється, і постачальники технологій не мають доступу до особистих даних”, додаючи, “лише дуже обмежена кількість уповноважених осіб — працівники УВКБ ООН чи інші — можуть отримати доступ до бази даних, і тільки для виконання конкретних завдань впродовж визначеного часу.”
Гігант у світі великих біометричних баз даних та прогнозування злочинності, Accenture також є великим підрядником для національної безпеки США та правоохоронних органів, вигравши багатомільйонні контракти з Митницею та охороною кордонів (CBP) та Службою імміграції та митного контролю (ICE).
Accenture та Microsoft також є частиною ініціативи ID2020, в якій бере участь УВКБ ООН. Використовуючи технологію блокчейн на платформі Microsoft Azure Enterprise Ethereum та використовуючи програмне забезпечення UISP Accenture, консорціум ID2020 працює над наданням цифрових ідентифікаторів одному мільярду людей без документів у всьому світі відповідно до цілей сталого розвитку ООН.
Редагування матеріалу — Бетті Гучу.
Оригінал: www.theelephant.info