Невеликі моделі штучного інтелекту потенційно можуть самостійно копіювати себе на підключені до мережі пристрої, адаптуватися до нового середовища та продовжувати поширення без постійної участі людини. Дослідники попереджають, що в перспективі це може створити новий клас цифрових загроз, схожих на комп’ютерних "черв’яків".

Про це пише Anthropic.

Йдеться про так звані вагово-орієнтовані реплікатори, які могли б переносити параметри моделі на інше обладнання та запускати себе там. Для цього необов’язково використовувати потужні сервери — потенційною інфраструктурою можуть стати звичайні пристрої інтернету речей.

Кілька недорогих гаджетів, зокрема Android TV-бокси або розумна побутова техніка, теоретично здатні об’єднати свої ресурси для запуску компактних квантованих моделей.

Сценарій автономного поширення передбачає кілька етапів. Система спочатку шукає підключені пристрої та слабкі місця в їхніх налаштуваннях, після чого намагається отримати доступ і розгорнути на них середовище для роботи моделі.

Далі ваги ШІ переносяться на нове обладнання, після чого копія може шукати наступні доступні пристрої. У такому сценарії процес здатний повторюватися без ручного перенесення моделі людиною.

Водночас сучасні моделі поки не завжди можуть стабільно виконати весь ланцюжок таких дій від початку до кінця. Вони припускаються помилок під час поєднання окремих етапів у повністю автономний процес, тому йдеться не про вже масово діючі ШІ-віруси, а про потенційний ризик.

Від звичайних ботнетів такі системи могли б відрізнятися здатністю пристосовуватися до незнайомого програмного середовища. Модель потенційно може аналізувати нові умови, змінювати власні дії після помилок і передавати накопичений досвід наступним копіям.

Однак у такого поширення залишаються суттєві обмеження. На слабкому обладнанні моделі працюватимуть повільно, а передавання великих файлів із вагами ШІ може створювати помітні аномалії в мережевому трафіку.

Для зниження ризиків виробникам і провайдерам рекомендують посилювати базові налаштування безпеки. Особливу увагу варто приділяти відмові від стандартних паролів і швидкому усуненню типових вразливостей.

Ще одним захисним механізмом може стати моніторинг незвичної мережевої активності. Передавання великих обсягів даних між нетиповими пристроями може допомогти виявляти спроби автономного розгортання моделей.

Джерело: enovosty.com