Виправлення помилок ШІ — це ментальний тягар, що гальмує продуктивність

· Майбутнє

Виправлення помилок ШІ — це ментальний тягар, що гальмує продуктивність

Використання ШІ часто не підвищує, а знижує продуктивність через необхідність ретельної перевірки кожного результату на наявність помилок та галюцинацій.

Використання ШІ може підвищувати продуктивність, але здобутки часто нівелюються часом і розумовими зусиллями, потрібними для перевірки результатів. Хоча ШІ здатний створювати контент швидше за людину, необхідність постійного контролю за його точністю часто нівелює здобутки в продуктивності.

Пастка відповідальності та ефективності

Ця проблема відома дослідникам давно. Ще у 1985 році когнітивний інженер Девід Вудс описав так звану «подвійну пастку відповідальності та повноважень»: автоматизована система бере на себе практичне виконання завдання, але відповідальність за фінальний результат залишається на людині. За словами автора статті, когнітивного інженера, сьогоднішні працівники фактично змінюють свої творчі навички на вміння «наглядати за надзвичайно швидким і впевненим стажером», який однаково переконливо подає як правильні, так і помилкові дані.

Наукові дослідження показують, що оцінка чужої роботи відрізняється від власного створення контенту і не є простішою. Зокрема:

  • В одному з досліджень розробники програмного забезпечення при використанні ШІ суб’єктивно відчували, що працюють швидше, проте фактичний час виконання завдань з урахуванням перевірки зріс на 19%.
  • Велике дослідження консалтингових команд виявило, що робота з ШІ поза сферою експертизи людини призводила до того, що фахівці частіше доходили хибних висновків.
  • Інше дослідження показало, що міркування ШІ допомагало людям виявляти помилки у простих завданнях, але не у складних — саме там, де допомога була найбільш потрібна.

Чому перевірка виснажує

Фахівці виділяють три типи навантаження під час верифікації: когнітивне, часове та мотиваційне. Людина не завжди знає, де саме шукати помилку, і коли варто припинити процес перевірки. Якщо ж помилку виявлено, процес коригування запускає новий цикл роботи, що створює часовий тиск. Крім того, виникає мотиваційна проблема: оскільки ШІ часто працює коректно, перевірка може здаватися марною тратою часу, що з часом притупляє пильність працівника.

«Якщо працівники залишаються відповідальними за результати, створені за допомогою ШІ, я переконаний, що їм також слід надати час, навчання та повноваження, необхідні для їхньої перевірки», — зазначає автор.

Ці дослідження не доводять існування універсального «податку на верифікацію», але показують, чому сама швидкість створення результату не є повним показником продуктивності. Показником успіху має бути загальна ефективність людсько-машинного робочого процесу, що забезпечує достовірний результат за менших сукупних витрат ресурсів.

За матеріалами Singularity Hub

Про Що? — новини науки, технологій і світу