Експерти з безпеки попереджають про нову, безпрецедентну загрозу, пов’язану зі штучним інтелектом (ШІ). Йдеться про хвилю кібератак, керованих людьми, але значно посилених можливостями ШІ.
Про яку загрозу йдеться
На відміну від фантастичних сценаріїв про знищення людства штучним інтелектом, реальна небезпека полягає у використанні потужних ШІ-моделей для здійснення масштабних кібератак. Ці системи здатні долати людський фактор, який раніше обмежував масштабування більшості хакерських кампаній.
Керівники компаній та колишні посадовці висловлюють занепокоєння щодо автоматизованих атак, які можуть виводити з ладу критично важливі системи, такі як енергомережі. Також існує ризик використання ШІ-агентів для зламу безпілотних автомобілів або створення потужних ботнетів, здатних захопити інтернет.
Нещодавні інциденти безпеки в компаніях, що розробляють ШІ, зокрема в OpenAI, слугують повчальним прикладом того, що може статися за недостатнього контролю над потужними системами. Генеральний директор OpenAI Сем Альтман зазначив, що такі порушення є тривожними і спонукають до впровадження нових заходів внутрішнього контролю.
Експерти підкреслюють, що загроза масштабних кібератак, посилених ШІ, значно реальніша, ніж поширені теорії про “бунт машин”.
“Мене хвилює не те, що машина прокинеться і вирішить нас знищити. Мене турбує, що система з надто широким доступом робитиме саме те, що їй було наказано, без необхідного змагального тестування”, – зазначив генеральний директор Bugcrowd Дейв Джеррі.
Ранджан Сінгх, генеральний директор Mimecast, також наголошує на ризику, який становлять ШІ-агенти, що отримують доступ до конфіденційних документів та внутрішніх корпоративних систем.
Раніше повідомлялося, що моделі ШІ почали використовувати нову, дивну версію англійської мови, що ускладнює моніторинг їхньої поведінки людьми. Це може створити додаткові виклики для виявлення та запобігання несанкціонованим діям.