Настільний застосунок ChatGPT автоматично перенаправляє SSH-агент до віддалених машин
· Майбутнє
Дискусія навколо того, як настільна версія ChatGPT може автоматично перенаправляти SSH-агенти до віддалених систем, піднімає гострі питання про пріоритет зручності над безпекою.
Дивно, як часто продуктові рішення рухаються в цьому напрямку заради «усунення тертя». У безпеці тертя — це добре. Вам потрібно мати певну церемонію для виконання дій. Досить неминуче, що люди віддадуть контроль за зручність. Подивіться, наприклад, на Artifacts.
Я думаю, що це ще одна можливість для фахівців, особливо технічних, переосмислити безпеку (і, можливо, створити ще один ринковий диференціатор): системи керування обліковими записами користувачів мають ширше дозволяти користувачам створювати «субакаунти» з обмеженими правами. У цю нову епоху, коли люди доручають своїм машинам діяти від свого імені, нам потрібен новий спосіб, набагато детальніший, ніж «усе, запитувати щоразу або нічого». Вибір способів розподілу повноважень та надання користувачеві можливості керувати цим стане справжнім мистецтвом і залежатиме від системи. Уявіть банківський API з правилом: «Дозволити субкористувачеві сплачувати рахунки за воду раз на місяць, не більше 200 доларів». Користувач втручається лише тоді, коли щось йде не так і сума перевищує ліміт.
Ви маєте рацію. Людям варто задуматися про це, і ваш коментар навіть дуже м'який і ввічливий. Люди віддають ключі від свого королівства якійсь програмі, яка навіть галюцинує і робить усілякі речі. ЧОМУ? Це нерозумно. Це не грубо, це правда. До появи AI (LLM) люди були набагато обережнішими з такими речами, але тепер вони віддають ключі програмі, яка має величезну свободу дій, і очікують, що ця програма якимось чином буде відповідальною від їхнього імені. Це нерозумно. Будьте відповідальними. Навіть якщо LLM ретельно налаштовані з усіма захисними бар'єрами, вони все одно можуть галюцинувати й накоїти справ. Тому, якщо ви їх не обмежите або якщо ви дасте їм свої секрети, це в певний момент закінчиться погано. Навіть якщо галюцинації трапляються лише у 0,0001% випадків, це 1 на 10 000, і ви робите безліч викликів інструментів та моделей, навіть якщо вводите лише один запит, тому ймовірність насправді ВИСОКА. Звісно, ймовірність того, що ця галюцинація також залучить секрет, набагато нижча, але вона все одно ВИСОКА, якщо ви плануєте використовувати LLM місяцями чи роками...
Не хочу сперечатися, але достатньо подивитися на людей тут, щоб зрозуміти, чому це не спрацює. Ви думаєте, що RBAC або Zero Trust будуть працювати, коли половина людей тут називає це нікчемною формальністю, коли бачать це у списку обов'язкових вимог з кібербезпеки? Ну ж бо, будьте розсудливими.
RBAC точно не спрацює, якщо ви закинете свої ключі в LLM. Люди повинні бути відповідальними. Вони всі ліниві. Вони раді віддати будь-яку свободу дій і відповідальність комп'ютерній програмі, а потім кричати від обурення, коли все йде не так.
Я думаю, завжди варто згадувати про ризик «втоми від підтверджень» у таких дискусіях. Тертя не є універсально корисним для безпеки. Занадто багато тертя — і ваші користувачі починають сліпо підтверджувати все підряд, замість того, щоб читати чи думати. Це вже є проблемою з викликами інструментів LLM (через що, здається, усі схиляються до моделі «дозволити все, з деякими винятками»).
Тертя корисне, коли воно служить цілям безпеки, а не заради самого себе. Якщо його забагато, користувачі або припиняють користуватися продуктом, або знаходять шляхи в обхід, що, мабуть, ще гірше — як ви й зазначили! Щоб було МЕНШЕ тертя, потрібно БІЛЬШЕ сигналів — таких, що в сумі дають оцінку: «ця дія має низький ризик, можна продовжувати». Щось на зразок транзакцій за кредитними картками... більшість транзакцій проходять мовчки, тому що емітент оцінює їх за торговельною точкою, сумою, пристроєм та історією, і ви отримуєте запит на підтвердження лише тоді, коли оцінка ризику не в нормі. «Ручне схвалення» і «обхід усього» — це те, що ви пропонуєте, коли у вас немає ніяких сигналів.
NIST знадобилося десятиліття, щоб зрозуміти, що постійні вимоги до користувачів змінювати паролі без іншої причини, окрім спливання часу, лише збільшили використання ненадійних методів створення паролів. Це справді світ «реальності проти того, що добре виглядає на папері».
Ось чому заради зручності безпека стає поганою річчю, змушуючи людей, які не думають про моделі загроз уві сні, відмовлятися від неї. Проблема полягає в тому, щоб знайти правильний баланс, і автоматичне перенаправлення вашого агента на сторонні машини — це не правильний баланс. Принаймні не без можливості фільтрувати та схвалювати окремі запити на підпис.
Це притаманна напруженість, і саме тому так багато речей є незахищеними. Люди ненавидять тертя, тому вони не використовують безпечні речі й вимикають функції безпеки. Такі «огидні» з точки зору безпеки речі, як curl | bash, та менеджери пакетів, що проходять по деревах залежностей, завантажують файли та виконують скрипти, популярні не просто так. Це справедливо і в реальному світі: саме тому навіть у захищених будівлях людина часто може прослизнути, просто прилаштувавшись за кимось. Зупиняти кожного, щоб перевірити ID, обтяжливо і сповільнює всіх. У людей є справи. Дійсно високорівневі середовища безпеки мають нульову толерантність, що робить роботу в них дратівливою та дорогою. Я спілкувався з людьми, які працювали в місцях на кшталт військових об'єктів США або АНБ, і значна частина часу там витрачається на дотримання вимог безпеки та подолання бюрократичних перешкод. Навіть попри все це, дані витікають і крадуться.
«Огидні з точки зору безпеки речі, як curl | bash» Щоб було зрозуміло: як користувач, я б із задоволенням позбувся
curl | bashі використовував натомість менеджер пакетів ОС. Це насправді було б зручніше для мене: мені не довелося б шукати в документації, що було встановлено, де це встановлено, як це оновити (чи запускає воно власний автооновлювач?) і як — чи чи взагалі — я можу це видалити. На жаль, я не можу цього зробити, якщо це просувається як основний — або єдиний — спосіб встановлення програмного забезпечення в Linux. Це схоже на «зручність» для певних програмних проєктів, які не хочуть взаємодіяти з розробниками дистрибутивів, а натомість хочуть повністю обійти систему дистрибуції.
Проблема в тому, що іншого шляху немає. Linux — це 20 різних операційних систем у плащі. Немає стандартного способу зробити те, що ви просите.
Ні, але є жменька широко використовуваних дистрибутивів, які могли б забезпечити 80% результату. Чому б принаймні не надати пакет для Debian/Ubuntu та Red Hat?
Це притаманна напруженість, і саме тому так багато речей є незахищеними. Люди ненавидять тертя... Це не тільки в комп'ютерній безпеці, це майже в усьому. Люди ненавидять тертя, але воно потрібне їм для прийняття правильних рішень. Нам справді потрібні розумні люди, які створюють добре продумані евсоціальні форми тертя, а не спроби бездумно усунути тертя з усіх сфер. Але вгадайте, що призводить до продуктів, які можна успішніше продати на ринку?
У безпеці тертя — це Добре. О ні, це не так. Тертя призводить до розчарування і, отже, до більшої ймовірності взагалі ігнорувати важливість безпеки.
Це чудовий аргумент. Якщо щось занадто складне і виснажливе, люди часто знайдуть спосіб зробити це «потайки» так, щоб досягти мети, але при цьому підірвати сам процес. Класичний приклад — ротація паролів. Раніше було стандартом змушувати користувачів міняти паролі кожні 30/90 днів, але це призвело до того, що користувачі почали клеїти стікери з паролями на монітори, тому органи безпеки більше не рекомендують цю практику.
У мене на роботі все ще змушують робити ротацію паролів. Усі, кого я знаю, жартують про те, що просто змінюють останній символ пароля кожного разу: наприклад, horse-staple-battery-1 на -2, на -3 тощо.
Це баланс між безпекою та виконанням завдань. Коли я даю AI завдання, я кажу: зроби це і це, але ось твої межі. Він повинен робити лише те, що йому дозволено. Навіть у простих випадках, наприклад, при виконанні окремих сесій для різних завдань, вони не повинні мати змогу торкатися роботи одне одного. І ще одне про баланс безпеки та швидкості: я проводжу регулярні аудити та перевірки на вразливості, тому я знаю, що прогалини справді закриті.
У безпеці тертя — це Добре. Звісно, але в роботі тертя — не добре. Тож, можливо, безпека, якщо вона передбачає тертя, не є чимось хорошим у роботі? Популярність npm може бути доказом цього. Система дистрибуції (разом з її інтеграцією в безліч проєктів), яка з точки зору безпеки виглядає досить божевільною, посприяла створенню стількох чудових речей та співпраці.
Або використовувати Yubikey і налаштувати механізм обов'язкового дотику (індикатор на ключі блиматиме, коли потрібно торкнутися його, щоб продовжити автентифікацію).
Secretive — це чудово! Я знаю, що це не його призначення, але було б чудово, якби він міг зберігати більше, ніж просто SSH-ключі, наприклад, надавати безпечне місце для моїх .env файлів.
Я знаю, що це не open-source, але саме так я використовую 1Password з FIFO для .env. Я не впевнений, чи зберігає 1P свої SSH-ключі в анклаві, але працює це так само — щоразу, коли SSH-ключ запитується, він вимагає TouchID або пароль. Окрім відкритого коду, чи є якась причина, чому мені варто використовувати Secretive замість 1P? — каже людина, яка намагається покращити свою безпеку, незважаючи на роздратування.
я знаю, що це не open-source, але саме так я використовую 1Password з FIFO для .env Я пробував це кілька місяців тому, але працювало не дуже добре... Підхід з FIFO виглядає елегантно, але на практиці працює не найкраще (можливо, тому що програма намагалася прочитати його двічі?). Найкраще, що я зміг зробити з 1P, — це зберігати змінну оточення як пароль і отримувати її через CLI...
Я не впевнений, чи зберігає 1P свої SSH-ключі в анклаві Я досить впевнений, що відповідь — ні, про що свідчить той факт, що їх можна експортувати.
Ваше посилання описує ключі, зашифровані за допомогою ключа в анклаві безпеки, а не ключі, які можна експортувати з анклаву безпеки; останнє звело б нанівець всю мету анклаву безпеки.
1Password також підтримує це, АЛЕ це не заважає пересиланню вашого агента, і ви все одно повинні перевіряти кожну команду, що використовується, якщо ви не довіряєте своєму агенту. Напівмірою було б мати окремий ключ для кожного завдання, а потім перевіряти, чи використовується очікуваний ключ, перед авторизацією.
Ви можете змусити свій SSH-агент робити це, не потрібно використовувати Bitwarden. Якщо ви використовуєте, скажімо, Yubikey для апаратного SSH-ключа (через GPG SSH-агент/інтерфейс смарт-карти), ви також можете змусити його вимагати фізичного дотику до ключа для підтвердження кожної операції.
Крім того, якщо ви використовуєте Yubikey для апаратного SSH, ви все одно не можете використовувати SSH-агент Bitwarden. Вони просто не сумісні. Це одне з моїх найбільших розчарувань щодо функції SSH-агента в Bitwarden, оскільки я віддаю перевагу зберіганню свого SSH-ключа для GitHub у Bitwarden.
Найбільша проблема з перевіркою дотиком Yubikey полягає в тому, що у вас немає способу дізнатися, що саме ви підтверджуєте, особливо якщо якийсь інструмент люб'язно переслав вашого агента або намагається підтримувати SSH-з'єднання у фоновому режимі. Перший раз, коли ви бачите, як індикатор блимає, не зробивши нічого навмисного, виникає досить неприємне відчуття.
Якщо на вашій машині є TPM-чип, ви також можете використовувати його і вимагати PIN-код для розблокування з обов'язковим періодом блокування, який примусово встановлюється самим чипом.
Secretive має це робити. Він генерує ключ усередині анклаву безпеки, і ви можете налаштувати його так, щоб він вимагав TouchID, тому ви знатимете, коли його використовують. Ключі також не можна експортувати.
ssh-agent у Himitsu робить те саме, і якщо ви використовуєте агента, який використовує бекенд secret-service, ви отримаєте такий самий результат. Це переважно стандартний ssh-agent має іншу модель безпеки.
Я не розумію, що саме має доводити посилання на pull request, враховуючи, що він був закритий і не злитий з основним кодом.
Цікаво, чи пропускають вони виконання перевірок безпеки перед кожним релізом. Останні моделі виявляють це під час побудови, і дивно бачити, що кінцеві продукти випускаються з вразливостями.
Чи мають такі випадки взагалі бути новинами на цьому етапі? Хіба це не фундаментальна проблема дизайну безпеки? Локальні захисні бар'єри агентів, здається, завжди побудовані навколо «чорних списків», які завжди будуть ненадійними та дірявими. Завдання правильно їх ізолювати (sandbox) залишається на розсуд користувача. Можуть бути обмежені форми «білих списків», але часто це лише фасад, оскільки вони дуже грубі. Тож з інструментами, які мають дуже широкі можливості (ssh, kubectl, gcloud тощо), ви отримуєте агента, який виконує небажані дії.
Це нормальна функція SSH, призначена для використання ключів зі збереженням їхньої локальності... це насправді наріжний камінь безпечних інфраструктурних налаштувань, відомий як jump hosts. Звісно, це призначено для використання людьми або скриптами, як і все інше.
Вам не потрібно (і ви не повинні) пересилати свій SSH-агент лише для налаштування тунелю, особливо зі стандартним ssh-agent OpenSSH. Це дозволяє проміжному хосту вирішувати, які операції виконувати з вашим ключем (ключами). ProxyJump — це значно безпечніший стандартний варіант.
Нормальна функція SSH, яку багато хто вважає справді хитрим маневром, але яку багато сильно захищених середовищ прямо забороняють через її небезпечність.
наріжний камінь безпечної інфраструктури Але тільки тоді, коли ВИ обираєте, де доступний ваш SSH-агент.
Якщо це вас турбує, ви можете захиститися від цього у своєму конфігураційному файлі ssh:
Host trusted-server
HostName server.example.com
ForwardAgent yes
Host another-trusted-server
HostName another.example.com
ForwardAgent yes
Host *
ForwardAgent no
Хіба це не стандартне налаштування для Host *? Саме тому ви повинні явно вмикати це для інших хостів, чи не так?
Зараз із цим усе жахливо. Те саме колись було з Docker Desktop. Те саме з DevPod для підключення до devcontainers. Вони особливо дратують тим, що просто скидають це у ваш конфігураційний файл. Використовуйте include для власного файлу, заради всього святого. Це часто було недосконалим у старому світі. Тепер, коли агенти роблять усе в цих контейнерах, це дещо божевільно. У мене тепер є власні утиліти для керування цими сокетами та файлами, щоб розбиратися з цим.
Ось чому ваш SSH-ключ має бути на Yubikey, і вам доведеться торкатися його (підтверджувати присутність), щоб використати. Для цього навіть не потрібно нічого особливого, просто ssh-keygen -t whatever-sk, і стається магія. Той самий ключ може підписувати коміти...
Я не впевнений, що це справжній доказ вини. Цей PR був закритий, не злитий, і весь процес описаний як за бажанням користувача. Чи є інші докази того, що Codex зловживає або таємно розширює можливості SSH-агента?
Налаштування автентифікації за відбитком пальця / паролем через Secretive для доступу до SSH-ключа змусило мене усвідомити, як часто ці інструменти намагаються зробити щось без явного запиту.
Opencode, open chamber і просто використання моделей через OpenRouter. Нікому в наші дні не потрібні Codex або Claude. Deepseek 4.1 так само хороший.
Регулярне нагадування ніколи не завантажувати/встановлювати застосунки чат-ботів зі штучним інтелектом — усі вони працюють у браузері, де їх можна ізолювати. Не дозволяйте цим речам вільно працювати на вашому комп'ютері.
На роботі в нас досить суворі правила щодо того, як запускати AI-агентів, і, очевидно, не без причини. Проблема в тому, що коли ці правила впроваджені та примусово виконуються, використання агента — це просто більше клопоту, ніж воно того варте. Агенти працюють у повній ізоляції у віртуальній машині, маючи доступ практично ні до чого. Деякі колеги успішно ними користуються, але одне лише ознайомлення з політиками та інструментами, які ми впровадили, змушує мене здатися ще до початку.
Я помічаю, що багато людей мають дуже хибний підхід до агентів: вони спочатку використовують десктопні версії з повним доступом, і лише пізніше відкривають для себе пісочниці та хмарні середовища. Claude і ChatGPT мають безкоштовні хмарні пісочниці, які чудово працюють! Якщо вони лише пишуть код, мало причин надавати їм доступ до вашого ноутбука.
Не всі програмують ядерні реактори. Якщо у вас є бізнес-акаунт, куди клієнтські запити надходять через GMail/Slack, і ви займаєтеся вебдизайном чи інтеграцією платежів — вперед. Якщо у вас корпоративна кодова база та доступ до продуктового середовища, а також сімейні фотографії, ну — це зовсім інша історія.
безкоштовні хмарні пісочниці Не можу нічого сказати про Claude, але хмарні середовища OpenAI коштують приблизно в 3 рази більше використання токенів, ніж було, коли я востаннє це перевіряв.
Агент, що працює на віддаленій машині, може автентифікуватися за допомогою ваших локальних SSH-даних. Ні, це не так. Я використовую та примусово впроваджую SSH U2F-ключі. Ви фізично натискаєте на Yubikey (або аналог), або не проходите автентифікацію. Що стосується мого власного Git-сервера, він, звичайно, через SSH і також вимагає натискання Yubikey. Як примітку: оскільки я роблю це з Magit, я модифікував Magit, щоб додати маленьке, але очевидне повідомлення, що Yubikey, ймовірно, очікує на дотик (інакше це легко пропустити/не помітити). Найкраще в усіх цих хаках і поганих практиках — це те, що я вірю, що згодом люди навчаться кращої гігієни безпеки.
У часи моєї роботи пентестером пересилання агента було подарунком з небес, коли я був на Linux-машині.
Це відстій, і дуже сильний, але ви мусите ніколи не запускати ці інструменти під своїм звичайним щоденним обліковим записом. Ці інструменти досить непередбачувані, і через характер неймовірно безрозсудної методології розробки майже неможливо зрозуміти кожну поведінкову зміну в нових версіях. [0] Як казали інші, схоже, основний спосіб, який обрали основні виробники LLM для контролю, — це поєднання величезних чорних списків та безкінечних благань, прохань і повчань. Більшість із нас знають проблеми як з перерахуванням поганого, так і зі спробами апелювати до чогось, що не здатне на турботу, співчуття чи сором. [0] Як ще один приклад цього принципу, прочитайте нещодавній звіт Jepsen про ParticleDB.
Неважливо, скільки вразливостей нульового дня ChatGPT може знайти в ядрі Linux, коли він також робить подібні речі. Хто б вам не сказав, що AI вирішив проблему безпеки — галюцинував.
Що саме цей п'ятимісячної давності PR, який так і не злили, доводить, окрім того, що 90% людей на HN просто читають заголовок?
Ні, якби вони запитали LLM, чи це гарна ідея, він би сказав «ні». Їм просто байдуже, вони зробили це, щоб зробити максимально зручним для користувачів, яким теж байдуже, оскільки вони все одно натиснуть «прийняти», не дивлячись.
Я думаю, що «завзятість» агентів залишає бажати кращого. Вони дуже завзяті, коли виконують випадкові завдання, вдаючись до всіляких сумнівних дій, лише щоб виконати роботу. Потім ви просите їх допомогти вам із безпекою вашого власного репозиторію, у який ви місяцями додавали код, і вони поводяться як Гендальф: «Ти не пройдеш!»
Ще один приклад того, як OpenAI мало думає про безпеку, бо хоче «швидкості ітерацій» чи щось таке. Знадобилися десятиліття роботи, щоб довести безпеку в Інтернеті до стану, в якому вона є (була?) зараз, і вона навряд чи на тому рівні, на якому має бути. AI додає нові проблеми безпеки (наприклад, ін'єкції запитів), які потрібно вирішувати, а у нас немає хороших відповідей. Повернення нас до стану безпеки, який ми мали в 90-х, додаючи при цьому нові проблеми, може бути найбільш недалекоглядним рішенням, яке тільки можна собі уявити...
Або «користувачі, що запускають програму, мета якої — виконувати команди, отримані від віддаленого сервісу, шоковані тим, що їхні читабельні облікові дані зчитуються» — будь-хто, хто думає, що ЦЕ є проблемою безпеки, несповна розуму.
Звісно, вона це робить. Саме це насправді й робить злиття Codex і чату. Але злиття Codex і чату — це те, що вони подають як «справжню причину» того, що насправді піднімає ціни (БАГАТО, я б додав) на всі підписки. Ніхто цього не хоче (звісно, не в застосуванні глобально до всього, як це робиться), але вони все одно збираються це зробити. Я навіть знаю когось, хто працює в OpenAI, і, очевидно, є кілька людей, які намагаються боротися з цим принаймні всередині компанії. З огляду на промову Сема Альтмана про те, як він хоче, щоб працювало ціноутворення OpenAI, я не думаю, що це можна зупинити. До речі: це те, що ви вводите щось у ChatGPT, і замість підписки чи оплати за токен, як тільки ви щось вводите, будь-що, на його думку, ChatGPT давав би вам ціну за цю конкретну відповідь, і ви б погоджувалися або ні. Мені просто здається, що цей хлопець — ще гірший приклад людини, яка не бачить точки зору звичайної (ну, ви знаєте, не мільйонера) людини, ніж навіть керівництво Google. Чи можу я просто сказати: «Я думаю, Google виграє в Альтмана», незважаючи на те, що OpenAI має набагато кращі технології. Тому що якщо є хтось у всьому світі, хто може знищити переваги інженерних досягнень OpenAI для всіх інших, то це саме він...
Оригінал: news.ycombinator.com