Про це повідомляє “Kreschatic” з посиланням на The Conversation
Вони здатні самостійно управляти фінансами, оформлювати страховки чи планувати подорожі. Проте з їхнім розвитком виникають серйозні питання щодо безпеки та контролю. Наприклад, фінансовий AI-агент може програти у переговорах більш розвиненому агенту страхової компанії, що призведе до підвищених витрат для користувача.
AI-агенти працюють без прямої участі людини, взаємодіючи з іншими системами. Це робить прийняття рішень складним і непрозорим. Особисті дані можуть передаватися між різними платформами, що підвищує ризики втрати конфіденційності. Якщо система допустить помилку, буде складно визначити, хто саме за це відповідальний. Люди можуть втратити можливість контролювати важливі аспекти свого життя через складність взаємодії AI-агентів.
Світові технологічні гіганти вже впроваджують AI-агентів у свої продукти. Salesforce, Microsoft, Google і OpenAI активно працюють над створенням таких систем. Проте відсутність єдиних правил і стандартів може призвести до конфліктів між агентами, створеними різними компаніями. Це може вплинути на безпеку користувачів, особливо коли йдеться про розбіжності в етичних підходах або законодавчих нормах різних країн.
Щоб уникнути ризиків, необхідно створити міжнародні правила для роботи AI-агентів. Компанії повинні забезпечити прозорість і підзвітність своїх систем, а користувачі мають право розуміти, як працюють агенти та мати можливість контролювати їхні дії. Тільки так можна зберегти людський контроль і уникнути загроз, що несе масове використання автономних технологій.
Нагадаємо, раніше ми писали про те, як Самуель Батлер передбачив підйом штучного інтелекту ще у XIX столітті.
