Поширити Джерело: TechSpot
Науковці з Кінгс-коледжу в Лондоні здійснили свіжий експеримент із передовими моделями штучного інтелекту – GPT-5.2 від OpenAI, Claude Sonnet 4 від Anthropic і Gemini 3 Flash від Google, – у котрому встановили, що вони схильні до застосування ядерної зброї в військових імітаціях.
Ключові тези:
- Штучний інтелект виявив певну тенденцію до залучення ядерної зброї у воєнних симуляціях, піддавшись впливу тиску та не усвідомлюючи обставини належним чином.
- Підсумки дослідження викликали стурбованість у експертів, стосовно ймовірних нищівних наслідків посилення використання ШІ у військових випадках.
ШІ схильний вибирати ядерну зброю у воєнних імітаціях
У рамках експерименту кожній моделі давали докладні сценарні вказівки, які охоплювали прикордонні зіткнення, нестачу ресурсів і екзистенційні загрози виживанню. Їм також надавали "драбину ескалації" — тактичні опції, котрі різнилися від дипломатії до ядерного конфлікту.
Протягом 21 гри та 329 ходів ШІ створив близько 780 тисяч слів аргументації, і у 95% принаймні одна зі сторін зверталася до вживання ядерної зброї. Капітуляція не була рішенням в жодному з епізодів.
Моделі раз у раз хибно давали собі раду з туманом війни, що спричиняло до мимовільних ескалацій у 86% симуляцій. Маючи можливість відступити під натиском, ШІ демонстрував протилежну схильність та подвоював старання, а послаблення насилля відбувалося лише як тимчасова тактика, а не стратегічний вибір.
Такі результати дослідження викликали занепокоєння у фахівців. Дослідник безпеки в Абердинському університеті Джеймс Джонсон зазначив, що відкриття є бентежними та застеріг, що штучний інтелект може збільшувати реакції один одного з потенційно руйнівними наслідками у порівнянні з людьми.
Поширити
Тун Чжао зі Школи глобальної безпеки Прінстонського університету зауважує, що великі держави вже активно впроваджують ШІ в симуляторах, але наразі неясно, наскільки глибоко нову технологію інтегрують у реальні військові рішення.
Експерти не вважають, що великі держави готові віддавати штучному інтелекту контроль над ядерним озброєнням найближчим часом.
Всупереч цьому, вони стривожені тим, що командири можуть покладатися на ШІ, якщо виникатиме загроза чи потреба у швидкому ухваленні рішень.
Чжао також зауважив, що причина, з якої ШІ-моделі легше вдаються до застосування ядерної зброї може полягати в тому, що у них відсутній страх і вони не усвідомлюють ситуацію так, як її сприймають люди.