Про це повідомляє “Kreschatic” з посиланням на The Conversation
Штучний інтелект сьогодні здатен писати вірші, малювати картини та навіть складати іспити на рівні лікарів і юристів. Проте його здібності мають суттєві обмеження, особливо коли мова йде про справжнє розуміння слів. На відміну від людей, які навчаються через досвід та взаємодію зі світом, нейромережі тренуються на масивних обсягах текстів. Це дозволяє їм генерувати відповіді, що звучать природно, але не гарантує осмисленості. Тому вони можуть створювати враження розуміння, хоча насправді лише імітують мовні конструкції.
Щоб перевірити, чи штучний інтелект дійсно сприймає сенс слів, дослідники запропонували йому тест. Його суть полягала у тому, щоб оцінити, які словосполучення мають значення, а які – ні. Наприклад, «пляжний м’яч» є зрозумілим поняттям, а от «м’ячний пляж» не має загальновідомого сенсу. Людина без проблем розпізнає такі відмінності, бо керується досвідом та культурними нормами. Але штучний інтелект часто робить помилки, оскільки покладається лише на статистичні зв’язки між словами у текстах, що він опрацьовував.
Під час експерименту вчені використали понад 1700 пар слів, які раніше оцінювали люди. ШІ мав повторити ці оцінки, але не впорався. Він часто надавав сенс комбінаціям, що були безглуздими для більшості людей, або ж навпаки занижував оцінку логічним словосполученням. Щоб допомогти моделям, дослідники додали більше пояснень та прикладів. Навіть після цього штучний інтелект показав значно гірші результати, ніж люди. Найкраще впорався GPT-4, але навіть він не зміг досягти людського рівня розуміння.
Ця проблема має практичні наслідки. Наприклад, якщо автоматизована система отримує безглуздий запит, вона повинна його розпізнати і не намагатися створити відповідь. Також це стосується і критичних сфер, як-от фінанси чи медицина, де неправильне трактування інформації може призвести до серйозних помилок. Тому, попри всі досягнення, штучний інтелект ще далекий від справжнього осмислення мови та світу.
Нагадаємо, раніше ми писали про те, як штучний інтелект змінює креативність і контроль над контентом.
