Astra, media.licdn.com OpenAI призупинила певні внутрішні розробки майбутньої моделі штучного інтелекту Astra, оскільки під час тестування вона продемонструвала значні успіхи у сфері програмування агентів та кібербезпеки. У компанії висловили занепокоєння, що розробка могла наблизитись до рівня, коли модель здатна самостійно здійснювати складні кібератаки.

Ключові деталі розслідування

За попередніми оцінками OpenAI, модель Astra могла досягти визначеного компанією «критичного порогу кібербезпеки». Це означає здатність ШІ автономно виявляти вразливості та створювати функціональні експлойти для захищених систем, або розробляти й реалізовувати складні кібератакувальні стратегії без детального людського втручання. Представники OpenAI підтвердили, що тестування моделі триває, але наразі не можуть повністю виключити досягнення нею такого рівня функціональності.

OpenAI представив нового ШІ-агента для конкуренції з Anthropic

Відповідно до внутрішньої «Рамкової системи готовності», компанія вже посилила заходи безпеки та зупинила частину внутрішньої роботи над Astra, яка не відповідає новим вимогам. «Згідно з нашою Рамковою системою готовності, модель досягає критичного порогу в сфері кібербезпеки, якщо вона спроможна самостійно виявляти та розробляти функціональні експлойти нульового дня будь-якої складності для численних захищених критично важливих систем у реальному світі без втручання людини, або ж розробляти та впроваджувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету. Хоча ми продовжуємо тестування та оцінку цієї моделі, наші попередні дані свідчать про досить високі показники продуктивності, тому на даному етапі ми не можемо виключати досягнення критичного рівня можливостей», — повідомили в OpenAI. Місце для вашої реклами У OpenAI наголосили, що Astra наразі перебуває на етапі розробки і не була причетна до інциденту з уразливістю платформи Hugging Face. Крім того, компанія співпрацює з державними установами та експертними організаціями у сфері безпеки ШІ для проведення додаткових оцінок можливостей моделі. В OpenAI пояснили, що вирішили публічно повідомити про призупинення робіт, оскільки вважають важливим забезпечити прозорість щодо потенційних ризиків, пов’язаних із потужними моделями штучного інтелекту.

За матеріалами: Finance.ua

# OpenAI # ШІ # Кібератаки Місце для вашої реклами

Порада від Business News:

Ця новина є важливим нагадуванням про необхідність відповідального розвитку технологій штучного інтелекту. Вона підкреслює, що прогрес у сфері ШІ, хоч і обіцяє багато переваг, також несе потенційні ризики, особливо у сфері кібербезпеки. Стежте за офіційними повідомленнями OpenAI та експертними оцінками, щоб розуміти динаміку розвитку цих потужних інструментів та їх вплив на майбутнє.