Штучний інтелект Gemini від Google випадково отримав доступ до трьох реальних комп’ютерних систем, помилково вважаючи їх тестовими. Представники Google запевнили, що інциденти не завдали шкоди.
Модель штучного інтелекту Gemini, розроблена Google, під час одного з етапів тестування отримала несанкціонований доступ до трьох зовнішніх комп’ютерних систем. ШІ використав знайдені або самостійно вгадані дані для входу, помилково вважаючи ці системи частиною тестового середовища. Про це повідомляє NBC News із посиланням на представників Google.
Деталі інциденту
Інциденти трапилися в травні 2026 року. Під час перевірки можливостей Gemini модель двічі скористалася обліковими даними, які були у відкритому доступі. Ще в одному випадку їй вдалося вгадати необхідну для доступу інформацію.
Гізер Адкінс, віцепрезидентка Google з питань інженерії безпеки, зазначила, що Gemini була переконана, нібито зовнішні системи є частиною тестування. Після отримання доступу модель не продовжувала жодних дій усередині систем.
Gemini сплутала тестове середовище з реальним Інтернетом
Під час стандартної оцінки модель знайшла загальнодоступну інформацію в Інтернеті та вгадала облікові дані для доступу до вебсайтів, які, на її думку, були частиною тесту.
Представники Google не розглядають ці випадки як свідоме відхилення ШІ від заданих інструкцій. За їхньою версією, причиною стала помилкова ідентифікація середовища: Gemini вважала, що продовжує працювати в контрольованому тесті, хоча фактично мала доступ до реального Інтернету.
У Google стверджують, що інциденти не завдали шкоди. Компанія дізналася про них у липні після додаткової перевірки, яку проводила компанія з кібербезпеки Irregular, що тестувала Gemini.
Після проведення внутрішнього розслідування Google повідомила про несанкціонований доступ власників відповідних систем, а також про це було проінформовано федеральну владу США.