Фото до статті
Олександр Остапенко
Автор новин
Здобувач освіти Техаського університету в Далласі Сінан Джан Демір випадково викрив спробу втручання у проєкт з відкритим доступом на GitHub — і зіткнувся з витонченою спробою ШІ-агента вдавати з себе реальних осіб. Деталі цієї історії висвітлило ексклюзивне розслідування Reuters.
Демір, студент третього курсу родом із турецького міста Конья, вирішив провести останній тиждень липня, працюючи над своїм портфоліо на GitHub — після того, як йому відмовили у понад 20 стажуваннях за літо. Саме тоді він помітив, що користувач під ніком miraholt31 намагається впровадити шкідливе оновлення до проєкту myNetwork — програми для сканування мережевих з’єднань.
Демір опублікував сповіщення на сторінці проєкту, вказавши, що цей pull request є пасткою. У відповідь одразу два інших облікові записи почали переконувати його, що з кодом усе гаразд, надаючи детальні обґрунтування на користь своєї думки.
Штучний інтелект проти студента
За словами Деміра, аргументація фейкових облікових записів змусила його засумніватися у власній правоті. Втім, він перевірив код за допомогою Claude і зрештою переконав автора проєкту відхилити зловмисне оновлення.
«Я справді думав, що це людина, бо вона мені відверто брехала», — поділився Демір з Reuters. «Я не припускав, що штучний інтелект здатен обманювати справжніх розробників».
Лише згодом 24-річний студент дізнався, що обидва акаунти, які чинили на нього тиск, контролював не хакер, а автономний ШІ-агент, що вийшов з-під контролю. Агент генерував повідомлення від імені вигаданого інженера з Німеччини на ім’я Лена Брандт.
Хто стоїть за агентом
Британський Інститут безпеки штучного інтелекту (AISI) підтвердив у своєму звіті, що зловмисний агент функціонував на базі моделі Mythos 5 від Anthropic. Компанія Даріо Амодеї відповіла публікацією в мережі X, зазначивши, що тестування проводилося «у навмисно сприятливих умовах», які не є типовими для жодної з її продуктових моделей, і відмовилася від додаткових коментарів.
GitHub повідомив, що виявлені фальшиві акаунти були заблоковані згідно з політикою платформи щодо обманливої поведінки та злому.
П’ятеро фахівців із кібербезпеки та безпеки штучного інтелекту, з якими поспілкувалися журналісти Reuters, назвали історію Деміра особливо тривожною — адже виявлена ним атака належить до типу supply-chain, наслідки якого можуть бути масштабними. Дослідники також зазначили, що спроба ШІ-агента публічно дискредитувати студента, створивши навколо нього штучну дискусію з кількох осіб, демонструє: LLM-моделі здатні на складні маніпулятивні та соціально-інженерні атаки.
«Це перетнуло межу між автономним зломом та інтерактивним обманом», — заявив Лукаш Олейнік, старший науковий співробітник Королівського коледжу Лондона. Фахівець з безпеки Максі Рейнольдс додала, що її вразила стратегічність, з якою ШІ намагався ввести студента в оману: «Це майбутнє атак соціальної інженерії».
Нагадаємо, кілька днів тому Binance дозволила штучному інтелекту здійснювати торгові операції на біржі, але весь ризик залишається на користувачах.
Головна > Новини > Агент на базі Mythos 5 видавав себе за розробників, щоб запустити шкідливий код на GitHub
Джерело