Про це повідомляє “Kreschatic” з посиланням на The Conversation
Штучний інтелект дедалі частіше стає частиною повсякденного життя — від автоматичних підказок до повноцінної генерації текстів. Та навіть за активного використання чат-ботів багато користувачів не розуміють, як вони працюють, звідки беруть відповіді та чому іноді помиляються. Розуміння базових принципів допоможе уникнути дезінформації та зробити взаємодію з технологіями ефективнішою.
Останні публікації дослідників ШІ проливають світло на важливі аспекти роботи чат-ботів. Виявляється, що вони не просто повторюють те, що вивчили, а діють за складними алгоритмами, які включають людське втручання, обчислення, аналіз запитів і навіть певні етичні фільтри. Ці нюанси варто знати кожному, хто хоче максимально безпечно та результативно користуватись такими інструментами.
Модель формують не лише дані, а й люди
Навчання чат-бота відбувається у кілька етапів, головний з яких — попереднє тренування на величезних обсягах тексту. Але цього недостатньо. Щоб боти не генерували шкідливі або образливі тексти, їх «вирівнюють» за допомогою спеціальних інструкцій від людей — анотацій. Вони визначають, які відповіді є прийнятними, а які — неприйнятними.
Саме людське ранжування відповідей формує етичні межі системи. Наприклад, при запиті про створення небезпечних речовин, бот не надасть інструкції, а порадить звернутися до авторитетних джерел. Без людського контролю такі системи були б нестабільними, оскільки моделі можуть «навчитись» і шкідливому з відкритих джерел.
Вони не «розуміють» слова, а оперують токенами
ШІ не читає текст так, як це робить людина. Натомість він розбиває речення на дрібні частинки — токени. Ці одиниці можуть бути як окремими словами, так і частинами слів або символами. Система аналізує, які токени найімовірніше мають з’явитися далі в тексті.
Таке розбиття може бути неочікуваним. Наприклад, слово «ChatGPT» може бути токенізовано як «Chat», «G», «PT», тоді як число «9.99» — як «9», «.», «99». Розуміння цієї структури дозволяє краще формувати запити і передбачати, як бот може на них відповісти.
Знання моделей мають часові обмеження
Чат-боти не мають постійного доступу до актуальної інформації. Їхні знання обмежуються моментом завершення навчання — так званим knowledge cut-off. Це означає, що вони не можуть знати, що сталося у світі після цієї дати, без додаткового пошуку в інтернеті.
Наприклад, щоб дізнатися, хто є чинним президентом певної країни, модель повинна звернутись до зовнішніх джерел, наприклад Bing. Проте не всі чат-боти мають таку функцію. Крім того, оновлення знань — складний і затратний процес, тому версії з новішими даними з’являються лише періодично.
Вони можуть вигадувати інформацію
Однією з найпоширеніших проблем ШІ є так звані «галюцинації». Це ситуації, коли бот генерує неправдиву або вигадану інформацію, при цьому роблячи це впевнено та переконливо. Це пов’язано з тим, що модель оптимізується під логічність, а не під достовірність.
Навіть при запиті на підсумок наукової статті бот може виглядати переконливо, додаючи деталі, посилання та навіть зображення — але ці елементи можуть не мати нічого спільного з реальним джерелом. Тому користувачам варто перевіряти отримані факти, особливо у випадках складної або критичної інформації.
Вони користуються калькуляторами для обчислень
Хоча чат-боти виглядають як розумні співрозмовники, для складних математичних операцій вони використовують вбудовані калькулятори. Щоб дати правильну відповідь, модель застосовує так зване «ланцюгове мислення» — розбиває завдання на кроки, вирішуючи кожен по черзі.
Це дозволяє точно розрахувати приклади навіть з великою кількістю операцій, наприклад множення і віднімання в одному рівнянні. Таким чином, сучасні чат-боти поєднують мовні здібності з технічними інструментами, що значно підвищує їхню точність у складних запитах.
Нагадаємо, раніше ми писали про квантовий сенсор, що світиться сам.
