Директор ЦРУ разоткровенничался об ИИ и приглашении Илона Маска

Источник изображения: topwar.ru

Директор ЦРУ Джон Рэтклифф заявил, что технологии искусственного интеллекта обладают потенциалом, сопоставимым с ядерным оружием, и уже меняют характер современных конфликтов. Об этом он сообщил на технической конференции в Вашингтоне, организованной Amazon Web Services.

По словам главы ЦРУ, «всемирное развитие инструментов ИИ будет только продолжать повышать ставки в нашей конкуренции со всеми противниками Америки».

Рэтклифф сравнил возможности ИИ с «цифровым ядерным оружием», которое «переписывает реальность конфликта». За последние полгода ЦРУ заключило около 400 технологических контрактов в сфере искусственного интеллекта. Управление активно реорганизует свои структуры для ускоренного внедрения ИИ и квантовых технологий.

Рэтклифф высоко оценил разработки американских IT-гигантов и сообщил, что приглашал в ЦРУ Илона Маска, а также руководителей Amazon, Google (Alphabet) и Dell.

Разведка США намерена тесно сотрудничать с частным сектором, чтобы сохранить технологическое превосходство над стратегическими соперниками.

Тем временем в США проведена и оценка влияния ИИ на ядерные угрозы при делегировании ему полномочий по управлению ядерным оружием. Это крайне опасная и неоднозначная перспектива. Положительные аспекты (теоретические): ИИ может обрабатывать огромные объёмы данных в реальном времени, быстрее выявлять ложные тревоги (например, отличать реальный запуск от метеорита или ошибки радара), анализировать поведение противника и предлагать оптимальные ответные действия.

В теории это могло бы повысить стабильность ядерного сдерживания за счёт снижения человеческого фактора (стресс, усталость, ошибка командира).

Но есть и серьёзные риски, главный из которых — потеря контроля. Ядерное оружие — оружие, решение о применении которого должно оставаться исключительно за человеком на высшем политическом уровне. Делегирование ИИ даже части полномочий (автоматический запуск по алгоритму) создаёт риск сбоя, который приведёт к необратимой эскалации.

Ещё один нюанс — гонка вооружений. Если одна страна делегирует ИИ управление ядерным арсеналом, остальные будут вынуждены делать то же самое. Это резко снижает порог применения и повышает вероятность случайной ядерной войны. Отсутствие морального и стратегического суждения. ИИ не понимает контекст, намерения, дипломатию и ценность человеческой жизни так, как человек. Он оптимизирует по заданной цели, которая может быть сформулирована неверно.

Но сейчас ситуация свелась к тому, что в тех же США ИИ делегируют разработку военных операций, а потому нельзя исключать и того, что примеряют на ИИ роль управленца в сфере ЯО.

Источник: vpk.name