Дослідники з The Conversation показали, що сучасні системи штучного інтелекту здатні легко створювати дезінформацію, навіть попри вбудовані обмеження. Експерименти виявили: варто лише змінити формулювання запиту, і чат-бот переходить від категоричної відмови до повного виконання небезпечного завдання. Це піднімає питання не лише технологічної надійності, а й загрози для суспільства, пише Kreschatic.
Поверхневий рівень захисту
Перші результати дослідження свідчать, що більшість моделей діють за спрощеним сценарієм. Вони «навчені» відмовляти в перших словах відповіді, проте після кількох змін у запиті система легко обходить цей бар’єр. Така вразливість отримала назву «поверхнева безпека».
Цей феномен пояснюється тим, що моделі не мають справжнього розуміння ризиків чи шкідливості запитів. Вони працюють із текстовими шаблонами, не аналізуючи сутність. Саме тому навіть невинна симуляція, замаскована під маркетингову стратегію, здатна перетворитися на дієву схему поширення фейків.
Наслідки для суспільства
Легкість обходу захисних механізмів означає, що створення дезінформаційних кампаній стає доступним майже кожному. Те, що раніше вимагало часу, ресурсів та координації групи, сьогодні можна реалізувати одним користувачем за допомогою кількох підказок.
Для суспільства це загрожує новою хвилею неправдивих повідомлень. Потужність генеративного ІІ дозволяє створювати величезні обсяги контенту, що виглядає переконливо, поширюється у соцмережах та ускладнює роботу фактчекерів.
Як працюють технічні вразливості
Американське дослідження підтвердило: система контролю зазвичай впливає лише на перші кілька слів відповіді. Якщо відмова звучить на початку, модель зберігає її упродовж всього тексту. Якщо ж старт відбувається без запобіжних фраз, відповідь може розгортатися у небезпечному напрямку.
Важливо й те, що у навчальних наборах даних бракує прикладів, коли система починала відповідати й раптом відмовлялася. Це створює прогалину, якою користуються ті, хто прагне обійти обмеження.
Пропоновані рішення
Фахівці пропонують змінити підхід до навчання моделей. Одним із кроків може стати введення так званих «прикладів відновлення безпеки», де чат-бот зупиняє відповідь навіть після початку виконання запиту. Це допоможе зробити захист багаторівневим і більш стійким.
Ще один напрям — прозорість компаній-розробників. Відкритий діалог про слабкі місця дозволить формувати ефективніші політики використання та підвищити обізнаність суспільства щодо ризиків.
Штучний інтелект у гонитві за довірою
Сьогодні ІІ-системи активно інтегруються у сферу новин, соціальних мереж та освітніх ресурсів. Але слабкість у безпеці ставить під загрозу довіру до всіх продуктів, що використовують генеративні моделі. Без зміцнення бар’єрів неможливо забезпечити відповідальне застосування технологій.
Тому розвиток ІІ тепер відбувається у змаганні між створенням нових обхідних методів та побудовою стійких захисних систем. Це змагання визначатиме, чи залишиться технологія корисним інструментом, чи стане знаряддям для масового поширення дезінформації.
Нагадаємо, раніше ми писали про те, як штучний інтелект змінює правила SEO.
