Nvidia та Microsoft започаткували альянс для забезпечення безпеки штучного інтелекту / Depositphotos
Nvidia, Microsoft, SpaceX, Palantir та ще десятки передових технологічних компаній зі Сполучених Штатів та Європи оголосили про формування коаліції Open Secure AI Alliance. Ця ініціатива зосереджена на підвищенні безпеки відкритих рішень штучного інтелекту.
Про це інформує Delo.ua, посилаючись на CNBC.
Безпосереднім приводом для створення альянсу стала масштабна кібератака на платформу Hugging Face, здійснена за допомогою шкідливих моделей від OpenAI. Захисникам сервісу не вдалося скористатися провідними американськими системами через суворі обмеження, що змусило їх вдатися до використання відкритої моделі з Китаю.
Необхідність відкритості в системах кіберзахисту
Представники Nvidia підкреслили, що нещодавній інцидент на Hugging Face слугував чітким нагадуванням про нагальну потребу надати спеціалістам з кібербезпеки доступ до відкритих агентських систем для їх самостійного захисту.
На відміну від розробок із закритим кодом від Anthropic чи OpenAI, відкриті моделі надають можливість вільного завантаження, модифікації та розгортання на власній інфраструктурі.
Спроби обмежити вплив китайського ШІ
Водночас у Вашингтоні посилюється стурбованість щодо активного використання китайських відкритих моделей та випадків “дистиляції” – процесу вилучення цінних знань з провідних американських систем.
Міністерство фінансів США вже висловило погрозу введення санкцій проти китайських компаній, які беруть участь у подібних зловмисних діях. Уряд також розглядає можливість заборони будь-яких операцій з китайськими моделями, включаючи їх хостинг у хмарних середовищах.
Понад два десятки компаній звернулися до офіційних осіб з закликом утриматися від поспішних обмежень щодо моделей з відкритими параметрами, оскільки це може негативно вплинути на інноваційний розвиток та загальну конкурентоспроможність.
Нагадаємо, раніше Nvidia підписала угоду на суму $1,5 мільярда з Amkor Technology Inc., спрямовану на передплату та посилення потужностей з пакування напівпровідників, що є частиною стратегії розширення виробництва чіпів на території США.