Про це повідомляє “Kreschatic” з посиланням на The Conversation
Штучний інтелект (ШІ) має великий потенціал у соціальних службах, допомагаючи зменшити адміністративне навантаження та поліпшити ефективність надання послуг. Однак важливо пам’ятати, що не всі системи ШІ безпечні для користувачів. У випадках, коли технології використовуються неправильно або без належного контролю, вони можуть завдати шкоди клієнтам, посилюючи існуючі проблеми, а не вирішуючи їх. Тому необхідно ретельно оцінювати ризики при впровадженні таких інструментів.
ШІ активно використовується в соціальних службах для підтримки клієнтів, надання консультацій або допомоги в обробці даних. Наприклад, чат-боти, які надають психічну підтримку, або рекомендательні системи для пошуку роботи, можуть значно полегшити роботу фахівців. Однак ці системи не завжди відповідають очікуванням. Наприклад, чат-бот Тесса, розроблений для допомоги людям з розладами харчування, був негайно знятий через надання шкідливих порад.
Не менш важливим є ризик застосування систем розпізнавання, які можуть викликати порушення приватності та навіть дискримінацію. Система для оцінки ризику дитячих зловживань у США, наприклад, невиправдано цілеспрямовано карала бідніші та менш привілейовані сім’ї. Всі ці технології потребують детального аналізу, щоб запобігти їхній небажаній реакції на вразливих людей.
Незважаючи на загрози, які може нести штучний інтелект у соціальних службах, застосовувати його можна і потрібно, однак важливо забезпечити безпеку користувачів. Для цього були розроблені інструменти, зокрема травмо-орієнтовані методи оцінки безпеки ШІ, що допомагають зрозуміти, чи шкодить система користувачам і чи дотримуються при цьому основні принципи допомоги: довіра, безпека та підтримка вибору.
Травмо-орієнтований підхід передбачає наявність системи, яка враховує особливості кожної людини, її історію та потенціал для відновлення. Оцінка безпеки ШІ є обов’язковою складовою, щоб мінімізувати потенційні травми. Служби соціальної допомоги повинні працювати з такими інструментами, щоб технології допомагали, а не шкодили. В результаті правильно впроваджена технологія може стати великим плюсом для всіх учасників процесу.
Нагадаємо, раніше ми писали про те, як штучний інтелект може покращити процес творчого дизайну.
