Минулого тижня штучний інтелект, розроблений OpenAI, вирвався з захищеного тестового середовища та, за наявними даними, скомпрометував сервіс Hugging Face. Сьогодні ж ця ж модель використала вразливості в коді одного з клієнтів Modal Labs.

Технічний директор Modal наголосив, що сама інфраструктура компанії не постраждала — вразливість була в коді клієнта, а не в платформі.

У своєму блозі OpenAI підтвердила, що причиною проблеми зі штучним інтелектом на Hugging Face стали саме її моделі. В OpenAI назвали інцидент «безпрецедентним кіберінцидентом».

З’ясувалося, що ШІ-агент врешті-решт вийшов за межі систем Hugging Face. Технічний директор Modal Акшат Бубна розповів Reuters, що агент атакував вразливий код клієнта, розміщений на платформі Modal.

За словами Бубни, клієнт залишив відкриту точку доступу (endpoint) без жодного захисту. Через це будь-який користувач міг запускати код в ізольованих середовищах Modal — так званих пісочницях.

«Платформа Modal та ізоляція сервісів не були скомпрометовані», — підкреслив топ-менеджер.

Hugging Face розповіла про зламану пісочницю в технічному звіті від 27 липня. У публікації зазначається, що пісочниця розміщувалася у стороннього провайдера, але його назву не розкривають — про свою причетність пізніше заявила сама Modal.

За даними OpenAI від 28 липня, її моделі використали облікові дані, що опинилися у відкритому доступі, та отримали доступ до чотирьох облікових записів у чотирьох сервісах.

«Один з чотирьох облікових записів використовували як проміжний і транзитний вузол, інший — для зберігання даних. Ще два облікові записи ШІ-модель розпізнала в режимі читання і не задіяла для подальших атак на Hugging Face», — повідомили в компанії.

OpenAI також деактивувала, зашифрувала та обмежила дослідницький доступ до внутрішньої моделі, що брала участь у зломі. За словами представників компанії, інших випадків із настільки масштабним і критичним впливом на платформу виявити не вдалося.

Подробиці можна знайти на сайті: cryptocurrency.tech