Сучасні мовні моделі під час змодельованих міжнародних криз у більшості випадків обирають тактичну ядерну ескалацію, про це повідомляє NewScientist із посиланням на дослідження, оприлюднене на arXiv, пише Kreschatic.
Експеримент показав, що у 95% симуляцій хоча б одна модель застосовувала тактичну ядерну зброю, навіть коли існували альтернативні варіанти розвитку подій.
Як проходив експеримент
Дослідження провів Кеннет Пейн із King’s College London. У воєнних іграх брали участь три великі мовні моделі:
- GPT-5.2
- Claude Sonnet 4
- Gemini 3 Flash
Сценарії імітували прикордонні конфлікти, боротьбу за ресурси та загрозу існуванню державних режимів. Моделі отримували «драбину ескалації» — набір дій від дипломатичних протестів до масштабної ядерної війни.
Загалом системи зіграли 21 симуляцію, зробили 329 ходів і створили приблизно 780 тисяч слів пояснень своїх рішень.
Тривожні висновки
Ключові результати дослідження:
- у 95% випадків застосовувалася тактична ядерна зброя
- жодна модель не обрала повну капітуляцію
- у 86% конфліктів зафіксовано помилки ескалації
Дослідники наголошують, що моделі часто не дотримувалися власної логіки: фактичні дії призводили до більшої ескалації, ніж планувалося у поясненнях. Це нагадує «туман війни», коли рішення ухвалюються в умовах обмеженої інформації.
Позиція експертів
Джеймс Джонсон із University of Aberdeen вважає результати небезпечними з погляду глобальної безпеки. На його думку, ШІ здатен підсилювати реакції один одного, створюючи ланцюгову ескалацію.
Тонг Чжао з Princeton University зазначає, що держави вже тестують алгоритми в оборонному моделюванні, однак навряд чи передадуть машинам контроль над ядерними рішеннями.
Втім, дослідники звертають увагу на іншу проблему: ШІ може не усвідомлювати масштабу наслідків так, як це робить людина. Це ставить під сумнів принцип взаємного гарантованого знищення, який історично стримував ядерні держави.
Нагадаємо, раніше ми писали про запуск Apple виробництва Mac Mini у Техасі на тлі торговельних ризиків.
