Експерти з кібербезпеки з Tracebit виявили значну вразливість в інтерфейсі командного рядка Gemini від Google, яка може дозволити непомітно виконувати шкідливі команди, якщо користувач отримує доступ до потенційно шкідливого коду штучного інтелекту.
Google Gemini CLI — це утиліта командного рядка, яка дозволяє розробникам взаємодіяти з моделлю штучного інтелекту Gemini безпосередньо зі свого терміналу. Її функції включають:
- аналіз, генерація та інтерпретація коду з використанням штучного інтелекту;
- обробка текстових команд та запитів, спрямованих на модель Gemini;
- вивчення стороннього коду, розробка функцій, виправлення помилок та виконання різних інженерних завдань.
Аналітик Tracebit Сем Кокс зазначив, що «поєднання неадекватної перевірки, можливостей введення команд через командний рядок та оманливого інтерфейсу може постійно призводити до тихого виконання шкідливих інструкцій під час перевірки коду».
Дослідник приховав ін'єкцію в README.md, файлі, що містив текст публічної ліцензії GNU, що супроводжував нешкідливий скрипт Python. Відповідно, Gemini виконав команду для збору змінних середовища та передачі їх на сторонній сервер за допомогою curl.
Джерело: Tracebit.
Після отримання звіту 27 червня, Google спочатку класифікував вразливість як пріоритетну з двома рівнями та серйозність з чотирма в рамках програми Bug Hunters.
Однак, менш ніж за три тижні цей статус було підвищено до найвищого пріоритету, що вимагало негайного усунення недоліків. Вразливість могла призвести до значних порушень безпеки даних, несанкціонованого доступу або довільного виконання коду.
Користувачам рекомендується оновити Gemini до версії 0.1.14, яка містить заходи захисту від виконання таких команд та запроваджує додаткові захисні заходи.
Активація «пісочниці» — ізольованого середовища, яке обмежує доступ до системи — також пом’якшує атаку, описану Коксом. Тим не менш, інтерфейс командного рядка Gemini за замовчуванням працює без пісочниці після встановлення.
Варто зазначити, що в червні інструмент на базі штучного інтелекту під назвою Xbow посів перше місце серед білих хакерів за виявлення найбільшої кількості вразливостей у програмному забезпеченні великих корпорацій.
