Як повідомляє The Economist, модель Mythos від Anthropic нібито змогла за кілька годин проникнути майже в усі секретні системи АНБ під час санкціонованих навчань.
Заяву про це зробив сенатор Марк Ворнер, але офіційного підтвердження від урядових структур США поки немає, а деталі залишаються засекреченими, пише Kreschatic.
Чому Mythos викликала тривогу
За словами Ворнера, інформацію йому передав глава АНБ і Кіберкомандування США генерал Джошуа Радд. Йшлося про навчання «червоної команди», під час яких Mythos перевіряли на здатність шукати слабкі місця в захищених системах.
Anthropic ще після релізу попереджала, що модель надзвичайно ефективна у виявленні кіберуразливостей, тому її не можна відкривати для широкого доступу.
Що зробив уряд США
Після заяви Ворнера адміністрація Дональда Трампа обмежила доступ до моделей Fable 5 і Mythos 5. Через неможливість масштабно перевіряти громадянство користувачів Anthropic фактично закрила доступ для всіх партнерів і дослідників.
Це стало першим випадком, коли США застосували експортний контроль до моделі штучного інтелекту.
Project Glasswing і партнери Anthropic
Замість публічного релізу Anthropic запустила Project Glasswing. У межах проєкту Mythos отримали близько 200 партнерів, серед яких Amazon, Apple, Google, Microsoft, Nvidia, JPMorgan і Linux Foundation.
За короткий час модель знайшла тисячі вразливостей, зокрема 27-річну проблему в OpenBSD і 271 помилку у Firefox.
Fable 5 стала безпечнішою версією Mythos
Fable 5 вийшла 9 червня і базується на тій самій моделі Mythos, але має додаткові класифікатори безпеки. Вони мають перехоплювати небезпечні запити й переадресовувати їх слабшій моделі.
В Anthropic заявляють, що це робить Fable 5 придатнішою для масового використання. Водночас у США вважають, що різниця між моделями не є достатньою, а захист можна обійти.
Конфлікт посилився через можливий злам
Формально приводом для заборони Fable 5 став нібито злам системи захисту. Уряд США повідомив Anthropic про лазівку, яка дозволяє обійти класифікатори й отримати доступ до кіберможливостей моделі.
Радник Трампа Дэвид Сакс так прокоментував суперечку навколо ризиків.
Важко зрозуміти, як злам системи, який може становити загрозу кібербезпеці, можна вважати несерйозним.
Anthropic заперечує універсальність зламу та заявляє, що подібні вразливості є й в інших моделях, зокрема GPT-5.5.
Що буде далі
2 червня адміністрація Трампа зобов’язала компанії у сфері ШІ добровільно надавати уряду попередній доступ до експериментальних моделей за місяць до релізу. Fable 5 вийшла вже за тиждень після цього указу, що загострило конфлікт.
Обмеження торкнулися також партнерів Anthropic в Австралії, Великій Британії, Канаді та Новій Зеландії. Розвідки цих країн попереджають, що передові ШІ-моделі вже найближчими місяцями можуть дестабілізувати роботу урядів і бізнесу.
Нагадаємо, раніше ми писали про смертельну аварію Tesla Model 3 біля будинку у Техасі.
