Поширити Джерело: Business Insider
Компанія Anthropic сконструювала нову інтелектуальну систему, яка отримала найменування Claude Mythos. Однак, її вирішили не випускати на ринок ШІ, оскільки вона надмірно потужна та здатна спричинити значні загрози.
Ключові тези:
- Цю модель мають намір застосовувати в обмеженому режимі.
- У руках зловмисних осіб вона може стати вкрай загрозливим інструментом.
Загадковий ШІ Claude Mythos — що з ним не так
Представники компанії Anthropic повідомили ЗМІ, що їхній штучний інтелект є першокласним експертом у кібербезпеці.
Насамперед йдеться про те, що цей ШІ здатний самостійно виявляти слабкі місця в програмному забезпеченні та навіть пропонувати методи використання цих “прогалин” для атак.
Проте одна з основних проблем полягає в тому, що Claude Mythos робить це настільки професійно, що навіть у руках людей без будь-якого досвіду він перетворюється на небезпечний інструмент.
Більше того, у процесі тестування модель демонструвала ще більш жахливі здібності.
Так, під час одного з експериментів вона змогла вийти за межі контрольованого середовища, в якому її використовували, і почала працювати вже незалежно, тобто на свій розсуд.
Через це в Anthropic вирішили, що публічний випуск може бути ризикованим. Існує небезпека, що дана технологія потрапить до зловмисників і суттєво полегшить хакерські вторгнення. Тому модель мають намір використовувати обмежено — наприклад, у співпраці з перевіреними партнерами, щоб виявляти і усувати вразливості, а не породжувати нові проблеми.
Поширити