Як повідомляє MIT Technology Review, Microsoft представила технічні стандарти для виявлення дипфейків і маніпуляцій із цифровими матеріалами, пише Kreschatic.
У чому суть нової моделі перевірки
Компанія запропонувала систему, що дозволяє визначати факт втручання у фото та відео. Йдеться не про оцінку правдивості інформації, а саме про фіксацію змін або редагування.
Схема перевірки передбачає два підходи:
- відстеження повної історії походження файлу
- створення унікального цифрового підпису на основі математичного аналізу
Такий підпис діє за принципом цифрового відбитка пальця. Будь-який користувач або платформа зможе перевірити, чи було зображення або відео змінене.
60 комбінацій тестування
Фахівці протестували 60 різних комбінацій методів перевірки. Серед них:
- видалення метаданих
- часткове редагування контенту
- глибокі маніпуляції з вмістом
У результаті було визначено поєднання, які забезпечують стабільний рівень достовірності, а також методи, що можуть вводити аудиторію в оману.
Чому ініціатива з’явилась саме зараз
Потреба в нових стандартах пов’язана з активним поширенням контенту, створеного штучним інтелектом, а також із законодавчими змінами у США. Зокрема, у серпні набуде чинності каліфорнійський “Закон про прозорість ШІ”.
Раніше Microsoft вже пропонувала стандарт C2PA у 2021 році, а Google з 2023 року маркує ШІ-контент цифровими водяними знаками. Водночас поки що не підтверджено, чи буде нову систему інтегровано в такі сервіси як Copilot, Azure або LinkedIn.
Проблема маркування ШІ-контенту
Дослідження показують, що нинішні механізми позначення працюють неефективно. Лише близько 30% тестових публікацій у TikTok, YouTube та Instagram отримали коректне маркування як створені штучним інтелектом.
У звіті, опублікованому на порталі Open Minds, зазначається, що коментарі з попередженням про ШІ-походження відео привертали значно менше уваги, ніж ті, де контент сприймався як справжній.
Комплексний підхід Microsoft має на меті зменшити кількість хибних спрацювань і підвищити довіру до цифрових матеріалів у мережі.
Нагадаємо, раніше ми писали про перший ролик YouTube, який отримав статус музейного експоната у Лондоні та увійшов до колекції цифрової історії платформи.
