У найближчому майбутньому навіть люди, які не мають спеціалізованих навичок, зможуть здійснювати масштабні атаки за допомогою генеративного штучного інтелекту. Експерти стверджують, що це передбачає більше, ніж просто автоматизацію створення шкідливого програмного забезпечення; це свідчить про фундаментальний зсув методологій у сфері кібербезпеки.

Фахівці галузі вказують на те, що зловмисники активно використовують генеративні моделі, такі як ChatGPT або Claude. Незважаючи на обмеження, встановлені їхніми творцями, онлайн-спільноти широко поширюють методи обходу цих фільтрів (джейлбрейки). Деякі зловмисники маскуються під фахівців з тестування безпеки, щоб отримати шкідливий код на запит.

«Вам потрібно лише заявити, що ви берете участь у Capture The Flag або тестуванні захисту, і штучний інтелект легко згенерує для вас скрипт PowerShell, що містить шкідливий код», – наголосила Кеті Муссуріс з Luta Security у заяві для Wired.

Вона зазначила, що вже були випадки випуску на ринок спеціалізованих моделей атак, зокрема WormGPT та FraudGPT. Хоча більшість із них виявилися зміненими версіями ChatGPT, ця тенденція безпомилкова.

Завдяки LLM з’явилася нова тенденція генерації коду користувачами, які не мають технічних знань – «вайб-програмування». З розвитком систем штучного інтелекту експерти спостерігають нове явище – «вайб-злом». Люди без формальної освіти можуть генерувати шкідливий код, просто сформулювавши бажаний результат у підказці.

Однак основна загроза походить не від новачків. Як наголошують фахівці з RANE та Hunted Labs, більший ризик становлять досвідчені хакери, які використовують штучний інтелект для пришвидшення складних атак, зокрема розробки поліморфного програмного забезпечення, яке автономно переписує себе під час виконання.

У такому ландшафті традиційні захисні механізми втрачають свою ефективність, що вимагає «симетричної» відповіді.

«Оптимальний захист від супротивника на базі штучного інтелекту — це досвідчений експерт зі штучного інтелекту», — підсумовує аналітик RANE Гейлі Бенедикт.

Однак, за словами Мусуріса, це лише етап у гонці озброєнь, яка триває вже три десятиліття. Ті, хто першими опанують управління штучним інтелектом, встановлять умови для цього «раунду».

Варто зазначити, що Google запустив застосунок для використання офлайн із моделями штучного інтелекту, що може сприяти обходу вбудованих обмежень.

Источник