Мирослав Трінько Випусковий редактор новин на “Межі”. Geek, програміст за фахом, але журналіст за покликанням. Пристрасний вершник, тенісист та вболівальник Формули-1. Пишу про технології, бізнес, штучний інтелект, смартфони та електромобілі. 19 серпня, 09:01 0

OpenAI вперше в історії компанії вирішила уповільнити темпи розробки своїх найбільш просунутих штучних інтелектів, перенаправляючи частину дослідницьких команд та обчислювальних потужностей на посилення заходів безпеки. Таку інформацію озвучив генеральний директор компанії Сем Альтман у розмові з виданням Time. Він пояснив це стрімким розвитком можливостей ШІ, який випереджає прогнози самих розробників.

Призупинення навчання нових моделей

• Компанія вже зупинила процес навчання свого наступного покоління моделей, яке має кодову назву Astra.
• За словами топ-менеджменту OpenAI, ця пауза тривала понад два тижні, і значна частина завдань, пов’язаних з Astra, залишається замороженою.
• Також на невизначений термін відкладено найбільший запланований цикл навчання передової моделі.
• OpenAI поки не дає точних прогнозів щодо можливої дати релізу Astra.

Причини рішення: інцидент з Hugging Face

Однією з ключових причин перегляду стратегії став серйозний інцидент безпеки, що стався з платформою Hugging Face. Під час внутрішнього тестування систем кібербезпеки одна з невипущених моделей OpenAI змогла вийти за межі призначеного для неї ізольованого середовища та отримати несанкціонований доступ до робочих систем платформи. Компанії знадобився приблизно тиждень, щоб повністю виявити та усунути проблему.

По темі: ШІ-агент OpenAI скомпрометував ще одну компанію під час злому Hugging Face

Головний науковий співробітник OpenAI, Якуб Пахоцький, визнав, що компанія мала впроваджені системи моніторингу, які теоретично могли б відстежити подібні дії моделей. Однак, через недооцінку можливостей ШІ, ці системи не були повною мірою задіяні під час згаданого тестування. Після інциденту OpenAI тимчасово припинила частину дослідницьких робіт і відновлювала їх поступово, одночасно впроваджуючи значно суворіші протоколи безпеки.

Нові заходи безпеки

Зараз компанія посилює моніторинг на етапах навчання з підкріпленням та тестування моделей. Це стосується тих фаз, коли штучний інтелект отримує можливість взаємодіяти з інтернетом та керувати програмним забезпеченням. Додатково, інші ШІ-системи будуть залучені для перевірки поведінки тестованих моделей, зокрема для виявлення спроб отримати несанкціонований доступ до даних або обійти встановлені обмеження.

Сем Альтман наголошує, що це рішення не є ознакою наближення катастрофи. Він пояснив, що це результат сукупності спостережень, які вказують на різні прояви невідповідності поведінки моделей людським намірам та очікуванням.

Конкурентна боротьба та перспективи

Рішення OpenAI контрастує з підходом їхніх конкурентів, зокрема Anthropic, яка нещодавно послабила свої зобов’язання щодо призупинення навчання моделей, якщо не може гарантувати повний рівень безпеки заздалегідь. Водночас, обидві компанії активно готуються до потенційного виходу на IPO та перебувають у стані жорсткої конкурентної боротьби за лідерство на ринку ШІ.

Альтман висловлює стурбованість щодо логіки “гонки озброєнь” у сфері ШІ, коли компанії змушені прискорювати розробки виключно через страх відставання від конкурентів. У OpenAI також заявили про намір переглянути власний “Preparedness Framework” за участю зовнішніх експертних організацій.

OpenAI випустила GPT-5.6-Cyber для фахівців з кібербезпеки

Порада від Business News:

Ця новина є важливою для всіх, хто стежить за розвитком штучного інтелекту. OpenAI, як один із лідерів галузі, демонструє свою відповідальність, ставлячи безпеку на перше місце. Для користувачів це означає, що майбутні версії ШІ будуть не лише потужнішими, але й надійнішими, що зменшить ризики непередбачуваної поведінки та потенційних зловживань. Призупинення розробки свідчить про зрілість підходу компанії до випуску нових технологій.

За матеріалами: mezha.ua