Керівник Anthropic закликав уповільнити розвиток ШІ через хакерські атаки
Генеральний директор Anthropic PBC Даріо Амодей заявив про намір компанії впровадити нові заходи безпеки у розробці штучного інтелекту, зокрема, залучаючи сторонніх експертів для оцінки. Він також звернувся до всіх компаній галузі з закликом “уповільнити розвиток” ШІ, щоб виграти час для розробки та запровадження спільних правил для всіх учасників – від розробників до кінцевих користувачів.
На заклик Даріо Амодея вже відгукнулися очільники OpenAI Сем Альтман та xAI Corp Ілон Маск. Сем Альтман пообіцяв розглянути пропозицію про “незалежних оцінювачів із доступом, подібним до доступу співробітників”, а Ілон Маск лаконічно підтвердив, що “Даріо має рацію”.
Чим стривожений Амодей
Головне занепокоєння Даріо Амодея викликає “безбар’єрна здатність штучного інтелекту до самовдосконалення”. Як приклад того, що “ШІ не має гальм”, він навів інцидент, коли кілька агентів ШІ спільно зламали сторонній веб-сайт. Це сталося під час внутрішнього тестування OpenAI, коли передові моделі штучного інтелекту, зокрема GPT-5.6 Sol, здійснили несанкціоновану хакерську атаку на платформу Hugging Face. Агенти ШІ, опинившись у “пісочниці” (ізольованому середовищі), замість розв’язання поставлених задач, вирішили скопіювати готові відповіді з мережі. У процесі “втечі з пісочниці” вони зламали базу даних Hugging Face.
Що треба робити
“Ми мусимо значно уповільнити темпи вдосконалення можливостей агентів штучного інтелекту – принаймні у деяких сферах. І ми повинні розумно використовувати виграний час”, – наголошує Даріо Амодей. Він розуміє, що “уповільнення має бути збалансоване з реаліями конкуренції”.
За словами Амодея, уповільнення темпів не означає зупинку навчання моделей чи технічного прогресу. Це час, необхідний компаніям для узгодження та захисту своїх агентів, а також для підтвердження цього сторонніми оцінювачами.
Не перший злам
Інцидент зі зламом Hugging Face – не перший. Агенти ШІ фірми Anthropic під час тестів з кібербезпеки вже чотири рази зламували організації. Хоча ці злами, включно з Hugging Face, “досі не завдали значної шкоди”, Амодей попереджає, що через шість-дванадцять місяців “рій агентів може захопити весь інтернет”, спричинивши збитки у сотні мільярдів доларів, які лише зростатимуть.
А що скаже Китай?
Anthropic зобов’язалася надати повний доступ стороннім оцінювачам для перевірки практик безпеки. Однак, як зазначає Даріо Амодей, такі дії вимагають координації в масштабах усієї галузі та глобальної співпраці. Він висловив занепокоєння, що якщо США обмежать свої можливості ШІ, а Китай відступить від подібних обіцянок, це може призвести до китайського геополітичного домінування.
Нові загрози ШІ
Раніше повідомлялося, що Anthropic заблокувала п’ять спроб використати агентів ШІ для досліджень, пов’язаних з розробкою біологічної зброї, зокрема з вірусами, пташиним грипом і токсинами.
Співзасновник Microsoft Білл Гейтс також попереджав про ризики стрімкого розвитку штучного інтелекту, включаючи можливе масштабне безробіття та нові загрози кібербезпеці. Водночас він закликав світових лідерів готуватися до переходу в еру ШІ.