Як повідомляє Bloomberg, співзасновник Microsoft Білл Гейтс заявив, що сучасний штучний інтелект уже досяг рівня, за якого його зловмисне використання може призвести до катастрофічних подій із величезною кількістю жертв. Особливе занепокоєння мільярдера викликає поєднання потужних ШІ-інструментів із людьми, які свідомо прагнуть завдати шкоди.
Гейтс не стверджує, що повне знищення людства є неминучим сценарієм, однак вважає технологію достатньо потужною для подій, наслідком яких потенційно може стати загибель до мільярда людей. На цьому тлі він закликає не залишати контроль за ШІ виключно в руках компаній-розробників, пише Kreschatic.
Що Білл Гейтс сказав про небезпеку ШІ
Гейтс висловив застереження під час інтерв’ю програмі Meet the Press. Фрагменти розмови були оприлюднені напередодні виходу повної версії інтерв’ю.
За його оцінкою, штучний інтелект уже може стати інструментом для масштабних атак, якщо доступ до новітніх моделей отримають люди зі злочинними намірами. При цьому небезпека, на його думку, полягає не лише у сценарії, за якого ШІ самостійно виходить з-під людського контролю.
Говорячи про найбільш серйозний ризик, співзасновник Microsoft наголосив:
«Ніколи ще не було настільки потужної зброї, як поєднання людей зі злими намірами та новітніх інструментів ШІ».
Гейтс також зазначив, що штучний інтелект уже достатньо потужний, аби сприяти розвитку подій, які теоретично можуть призвести до мільярда смертей.
Як саме ШІ може створити масштабну загрозу
Гейтс звертає увагу передусім на можливості використання штучного інтелекту людьми, які мають намір завдати шкоди. Сучасні моделі здатні автоматизувати складні операції, швидко обробляти величезні масиви інформації та виконувати завдання, які раніше вимагали роботи великих груп фахівців.
У своєму серпневому есе на Gates Notes він уже попереджав про використання ШІ для кібератак, шахрайства та масштабного поширення дезінформації.
Окремим ризиком може стати автоматизація атак на критично важливі системи. До потенційних цілей належать лікарні, фінансові установи, енергетична інфраструктура та державні інформаційні системи.
Що потужнішими стають моделі, то складніші завдання вони можуть виконувати без постійного втручання людини. Саме швидкість такого розвитку посилює дискусію про те, чи встигають механізми контролю за можливостями технології.
Чому Гейтс виступає за державне регулювання
Одним із головних висновків Гейтса є те, що технологічні компанії не повинні самостійно визначати всі правила безпеки для власних систем.
На його думку, добровільних обмежень та внутрішніх політик розробників недостатньо. До встановлення стандартів мають долучитися законодавці, правоохоронні органи та інші державні структури.
Йдеться, зокрема, про обов’язкові механізми тестування найбільш потужних моделей, моніторинг небезпечних сценаріїв їх використання та правила реагування на серйозні інциденти.
Гейтс вважає, що такі вимоги повинні бути закріплені на законодавчому рівні, а не залежати від добровільного рішення конкретної компанії.
Чи вважає Гейтс ШІ лише загрозою
Попри жорстке попередження, співзасновник Microsoft не виступає проти розвитку штучного інтелекту як такого.
Раніше він неодноразово називав ШІ однією з найважливіших технологічних змін сучасності та прогнозував значні переваги від його використання в медицині, освіті, науці та боротьбі з нерівністю.
Водночас Гейтс вважає, що одна й та сама технологія може як покращити життя мільйонів людей, так і стати джерелом нових масштабних ризиків. Тому ключовим питанням він називає те, які правила будуть встановлені до того, як можливості ШІ зростуть ще більше.
У серпні він також попереджав, що поширення штучного інтелекту може суттєво змінити ринок праці, оскільки системи поступово перебирають на себе завдання у програмуванні, медицині, юридичній сфері, обслуговуванні клієнтів та інших професіях.
Чому дискусія про ризики ШІ посилилася
Заява Гейтса пролунала на тлі нової хвилі попереджень від працівників і керівників провідних ШІ-компаній.
Останніми тижнями фахівці галузі дедалі частіше порушують питання про здатність майбутніх систем виконувати складні завдання автономно, вдосконалювати власні можливості та створювати ризики, які буде важко контролювати традиційними методами.
Частина представників індустрії пропонує запроваджувати спільні стандарти безпеки та ретельніше перевіряти передові моделі до їх широкого запуску.
Гейтс підтримує необхідність таких запобіжників, однак наполягає, що остаточний контроль не можна залишати винятково самим розробникам.
Нагадаємо, раніше ми писали про затримання у США керівника компанії, яка постачала програмне забезпечення Пентагону.
