class=”ArticleImagestyles__ImageWrapper-sc-lvd8v9-0 cWMVnY”>
Astra, media.licdn.comOpenAI тимчасово припинила частину внутрішніх розробок майбутньої моделі штучного інтелекту Astra, оскільки під час тестування вона продемонструвала значні досягнення в програмуванні агентів та кібербезпеці. Компанія висловила занепокоєння, що модель могла наблизитися до рівня можливостей, необхідних для здійснення складних кібератак. Що відомо про ситуацію За оцінками OpenAI, Astra могла досягти визначеного компанією “критичного рубежу кібербезпеки”. Йдеться про **здатність ШІ самостійно виявляти слабкі місця** та розробляти дієві інструменти для зламу захищених систем, або ж створювати та **реалізовувати складні стратегії кібератак без детальних вказівок від людини.** У OpenAI зазначили, що продовжують дослідження моделі, проте на даний момент не виключають, що вона могла досягти такого рівня.
OpenAI представив нового ШІ-агента для конкуренції з Anthropic
Згідно з внутрішньою “Рамковою системою готовності”, компанія вже запровадила посилені заходи безпеки та зупинила частину роботи з Astra, яка не відповідає новим стандартам. “Відповідно до нашої Рамкової системи готовності, модель досягає критичного рубежу в сфері кібербезпеки, якщо вона здатна самостійно знаходити та розробляти функціональні експлойти нульового дня будь-якої складності для численних захищених реальних критично важливих систем без людського втручання, або розробляти та впроваджувати нові наскрізні стратегії кібератак на захищені цілі, маючи лише загальну кінцеву мету.Хоча ми продовжуємо тестувати та оцінювати цю модель, наші попередні результати свідчать про достатньо високу продуктивність, тому наразі ми не можемо виключити досягнення нею критичного рівня можливостей”, — зазначають в OpenAI. Місце для вашої реклами Astra все ще перебуває на стадії розробки і не була задіяна в інциденті з уразливістю платформи Hugging Face, підкреслили в компанії. OpenAI також співпрацює з державними органами та організаціями, що спеціалізуються на безпеці ШІ, для проведення додаткових оцінок можливостей моделі. Компанія пояснила, що вирішила оприлюднити інформацію про призупинення роботи, оскільки вважає за важливе зберігати прозорість щодо потенційних ризиків потужних моделей штучного інтелекту. За матеріалами: Finance.ua# OpenAI# ШІ# КібератакиМісце для вашої реклами
Джерело