Экзистенциальные угрозы искусственного интеллекта могут поставить под вопрос само существование человечества

Белый дом и Министерство обороны США синхронизируют свои стратегии в области информационных технологий.

Сама тема применения ИИ в военных целях в США не является чем-то новым. Три года назад Пентагон обнародовал стратегию по этическому подходу к ИИ, которая затем дополнялась. В феврале этого года Госдепартамент США опубликовал Политическую декларацию об ответственном военном использовании искусственного интеллекта. Позже к декларации присоединились Австралия, Албания, Бельгия, Болгария, Канада, Чешская Республика, Дания, Эстония, Финляндия, Франция, Грузия, Германия, Венгрия, Исландия, Ирландия, Италия, Япония, Косово, Латвия, Либерия, Малави, Черногория, Марокко, Северная Македония, Португалия, Румыния, Сингапур, Словения, Испания, Швеция и Британия. Очевидно, что это направленный процесс формирования очередной коалиции под предводительством Вашингтона в сфере информационных технологий. А в июне 2023 г. вышла стратегия Министерства обороны США по ответственному применению ИИ и его внедрению.

Мы не понаслышке знаем, что такое для США ответственность, будь то права человека (их «ответственное исполнение» видно на примере поддержки Израиля, проводящего этнические чистки в Палестине) или передача оружия Украине, которое киевский режим использует для обстрела мирных жителей.

В свежем документе значится: «…последние достижения в области обработки данных, аналитики и технологий искусственного интеллекта (ИИ) позволяют лидерам быстрее принимать правильные решения — от зала заседаний до поля боя… Ускорение внедрения технологий сбора данных, аналитики и искусственного интеллекта обеспечит… непрерывный прогресс в технологических возможностях для творческого решения сложных проблем национальной безопасности в это решающее десятилетие».

Главное управление цифровых технологий и искусственного интеллекта Пентагона (CDAO) будет руководить реализацией этой стратегии и осуществлять надзор за ней.

В целом стратегия не столько об ИИ, сколько о технологических инновациях и промышленной базе, которые Пентагон хочет поставить себе на службу. Представитель Агентства оборонных информационных систем (DISA) Стив Уоллес, например, считает, что в рамках новой стратегии большие языковые модели, в частности, могут стать “цифровым консьержем”, который может помочь сотрудникам “во всех аспектах их работы”.

 В документе есть и отголоски стратегии в области данных 2020 года, которая предполагала, что министерство станет организацией, ориентированной на данные, и сможет использовать их, чтобы поддерживать расширенные возможности, получать операционные преимущества и повышать эффективность.

Всё это, как сказано, «является частью более широкой политики правительства США, сети партнёров из частного сектора и академических кругов, которые продвигают инновации и свою глобальную экосистему».

Такой замах подтверждает подписание 30 октября Джо Байденом указа о безопасном и надёжном ИИ, который стал своего рода руководством и для дальнейших шагов Пентагона в этой области.

Согласно указу министерству обороны также поручено создать пилотную программу для определения того, как искусственный интеллект может находить уязвимости в критически важном программном обеспечении и сетях, и разработать планы по привлечению большего числа специалистов в области искусственного интеллекта.

Кроме того, в указе чётко сказано, что возможности и вызовы ИИ являются глобальными, поэтому США нужно продвигать свое лидерство в этой сфере. Это означает двустороннее и многостороннее вовлечение в проекты под руководством Вашингтона. Именно США претендуют на выработку международных стандартов в области ИИ, чтобы навязать их остальным. А под этими нормами можно будет протолкнуть стандартный набор «защиты демократии, гражданских прав и равенства», в результате чего с помощью программ ИИ будет продвигаться повестка ЛГБТ+, разрушение традиционных ценностей, а также различные опции по отмене чуждых США культур.

Есть и другие опции, например, обвинение других стран в том, что их разработки ИИ «слишком авторитарны» или несут угрозу.

Не случайно на форуме по искусственному интеллекту в Лондоне 1 ноября вице-президент США Харрис сказала, что «точно так же, как искусственный интеллект обладает потенциалом приносить огромную пользу, у него также есть потенциал причинять огромный вред. От кибератак с использованием искусственного интеллекта в масштабах, превосходящих всё, что мы видели ранее, до биологического оружия, разработанного с использованием искусственного интеллекта, которое может поставить под угрозу жизни миллионов. Эти угрозы часто называют “экзистенциальными угрозами искусственного интеллекта”, потому что, конечно, они могут поставить под угрозу само существование человечества».

Хотя указ и стратегия относятся к специфической теме, все же внимание на них обратили. Президент России Владимир Путин 10 ноября провел совещание с членами Совета безопасности по поводу повышения эффективности в области безопасности информационных технологий. Американские инициативы с признаком претензии на глобальное лидерство или в области военно-промышленного комплекса так или иначе затрагивают интересы других стран. Кстати, первые компьютерные вирусы были изобретены именно в США. ИИ made in USA также может иметь деструктивный характер, не исключено, что и для самих американцев.

ЛЕОНИД САВИН