Про це повідомляє “Kreschatic” з посиланням на The Conversation
Багато хто вважає, що штучний інтелект навчається так само, як людина: отримує досвід, робить висновки та покращує свої навички. Проте це лише ілюзія. ШІ не здатен вчитися на власних помилках чи адаптуватися до нової інформації так, як це робимо ми. Замість цього він лише обробляє величезні обсяги даних, виводячи математичні закономірності. Це пояснює, чому інколи навіть найбільш просунуті моделі видають абсурдні відповіді на прості запитання.
Найбільша помилка полягає в тому, що ШІ приписують здатність до розуміння. Насправді ж алгоритми лише відтворюють шаблони, які були закладені під час тренувань. Вони не розуміють змісту слів чи контексту ситуацій, а лише зіставляють фрази за ймовірністю їхнього використання. Тому штучний інтелект не може приймати рішення на основі реального досвіду, як це робить людина, і часто помиляється в простих ситуаціях, які не вписуються у знайомі йому моделі.
Іншою особливістю є те, що після завершення тренувань ШІ не змінюється. Наприклад, модель, яка відповідає на наші запити, не здатна запам’ятовувати нову інформацію чи оновлювати свої знання без повторного навчання. Вона залишається «застиглою в часі» — всі знання базуються на даних, які були доступні під час останнього оновлення. Це означає, що навіть найновіші системи можуть видавати застарілі відповіді, якщо вони не були спеціально налаштовані для пошуку актуальної інформації.
Цікаво, що навіть персоналізація відповідей — це лише трюк. Інформація про користувача зберігається окремо і підставляється у відповіді, не змінюючи саму модель. Таким чином, штучний інтелект не навчається у процесі взаємодії з людьми, а лише імітує цю здатність. Це варто пам’ятати, щоб використовувати ШІ більш відповідально та усвідомлено.
Нагадаємо, раніше ми писали про те, чому автори мають допомагати штучному інтелекту навчатися писати.
