0
21749
Газета Идеи и люди Печатная версия

19.12.2023 17:54:00

Левый уклон искусственного интеллекта

Политические игры вокруг машинного разума приведут к печальным последствиям

Роман Трунов

Об авторе: Роман Фридрихович Трунов  – журналист.

Тэги: ии, искусственный интеллект, машинный разум, мировая политика, переломные годы, миропорядок


ии, искусственный интеллект, машинный разум, мировая политика, переломные годы, миропорядок Постепенное изменение мирового порядка и стремительное развитие искусственного интеллекта – отнюдь не разнородные явления, они тесно связаны между собой. Иллюстрация Pxhere

На стыке исторических эпох выдаются годы, которые с полным на то основанием можно назвать переломными. В такие времена происходят значительные изменения в политике и экономике, культуре и идеологии, науке и технологиях. Вот только многие современники этих великих событий зачастую не успевают осознать всю грандиозность перемен, поскольку не всегда доживают до их окончания.

Уравнение Фридмана–Гейтса

Американский политический мыслитель Джордж Фридман небезосновательно полагает, что после 24 февраля 2022 года человечество вступило в шестую «историческую эпоху». Предшествовавшая ей пятая эпоха, характерными отличиями которой были «американский триумф и фантазия о глобальном мире и процветании», началась после Второй мировой войны, а закончилась, когда прекратил существование СССР. Теперь же Россия пытается «обратить вспять события 1991 года».

Фридман начинает свою хронологию, что логично, с Французской революции 1789 года, ставшей классическим примером для всех последующих революционных перемен. По его убеждению, как и в те давние времена, сейчас идет «изменение фундаментальной реальности мира». В основе современного мироустройства лежит геополитическая конструкция, обозначенная им как «северный ярус» (northern tier), который является «центром силы в глобальной системе и определяет, как эта система работает в каждый данный момент». «Северный ярус» удерживают четыре «якоря» – США, КНР, ЕС и РФ, становящиеся, впрочем, все более нестабильными. Так что весь вопрос теперь в том, «как будет выглядеть мир» после окончания столь глобальной дестабилизации.

Еще одно историческое событие произошло в середине 2022 года. Билл Гейтс определенно считает, что именно тогда, с впечатляющего успеха ChatGPT, фактически началась «эпоха искусственного интеллекта», ставшего «революционной» технологией. Разумеется, нейросети имеют и свои отрицательные свойства, однако сооснователь Microsoft предпочитает публично не говорить о них. Он, можно сказать, оправдывает утилитарный подход к машинному разуму и предсказывает очередную революцию в мире вычислительной техники и программного обеспечения, которая произойдет в ближайшие пять лет и положительно скажется на здравоохранении, производительности труда, образовании и сфере развлечений.

А между тем Большие языковые модели (БЯМ), выйдя на новый уровень развития, научились создавать реалистичные дипфейки и принялись искусно манипулировать людьми в глобальных соцсетях. Причем проблема реальности внутреннего мира социальных медиа оказалась настолько актуальной и значительной, что американская издательская компания Merriam-Webster даже назвала понятие «аутентичный» (authentic) словом 2023 года. Говоря словами российских психологов начала нулевых, в англоязычном мире появился социальный запрос на стабильность и определенность, который вызван трудностями переходного периода.

Постепенное изменение мирового порядка и стремительное развитие искусственного интеллекта (ИИ) продолжалось весь уходящий год. Два этих фундаментальных явления вовсе не разнородны, а, напротив, достаточно тесно связаны между собой. Машинный разум, по всей вероятности, еще окажет свое воздействие на расстановку сил в мировой политике, потому как политики, даже в демократических странах, постараются возглавить триумфальное шествие нейронных сетей. Остается понять, каким будет этот новый мир. Вполне ведь возможно, что точка бифуркации придется на 2024 год.

Политические предпочтения ChatGPT

Едва ли не главная проблема современного западного мира с его извечными демократическими выборами – это потенциальные возможности генеративного искусственного интеллекта. Ввиду того, что они могут быть использованы для манипулирования избирателями в цифровой среде вообще и, в частности, в социальных сетях, во время предстоящих политических баталий. А в том, что дело будет обстоять именно так, эксперты практически не сомневаются.

Американская компания AllSides уже 11 лет оценивает идеологическую пристрастность интернет-изданий. Она представляет альтернативные версии одних и тех же новостей из различных массмедиа, которые отнесены к левым, центристским и правым. Цель подобного анализа – показать читателям, что происходит за пределами их информационного пузыря, а также продемонстрировать односторонность определенных медиахолдингов. Одно из таких исследований, опубликованное в феврале 2023 года, выявило «сильную политическую предвзятость» Google News. Этот новостной агрегатор «чаще показывает статьи из левых СМИ, чем из правых».

В реалиях современных США левые – это члены Демократической партии, а правые – Республиканской. Центристами принято, как правило, называть консервативных демократов и умеренных республиканцев. Соответственно и СМИ, тяготеющие к одной из этих трех фракций, подразделяются на правые, центристские и левые. К числу последних, привечаемых Google News, относятся американские CNN, The New York Times, Politico, CNBC, NBC News, The Washington Post, CBS News и британские BBC News, Reuters, The Guardian.

Весьма показательный пример – промежуточные выборы в Палату представителей США, которые состоялись 8 ноября 2022 года. Незадолго до голосования, в период с 31 октября по 4 ноября, эксперты AllSides задавали поисковый запрос со словом «выборы» на Google News и не получили ни одной ссылки на статьи в центристских и правых СМИ. Алгоритмы Google отдавали явное предпочтение левым CNN (28%) и The New York Times (16%). Справедливости ради надо заметить, что в остальных случаях, не связанных с электоральным поведением американцев, только 61% публикаций имел своим источником прогрессивные издания, в то время как на долю консервативных медиа пришлось целых 3% перепечаток. Кстати, в тот раз демократы проиграли республиканцам.

Еще одно исследование, указывающее на некие идеологические предпочтения конкретной модели ИИ, вышло в августе 2023 года. Ученые из Университета Восточной Англии (UEA) дали своему докладу говорящее название – «Больше человек, чем сам человек: измерение политической предвзятости ChatGPT». И хотя сама эта нейросеть «уверяет, что она беспристрастна», в научной литературе «встречаются данные о том, что Большие языковые модели проявляют предвзятость, связанную с расой, полом, религией и политической ориентацией». Причем именно политическую предубежденность, по мнению исследователей, «труднее обнаружить и искоренить». Более того, такая запрограммированность «может иметь негативные политические и электоральные последствия, аналогичные предвзятости в традиционных и социальных медиа».

Эксперты предложили новую эмпирическую схему, позволяющую определить, есть ли у ChatGPT политические предубеждения. Для этого они попросили нейросеть «выдать себя за человека из определенной части политического спектра» и сравнили полученные результаты с «ответами по умолчанию». Они также протестировали виртуального собеседника на устойчивость к так называемой дозовой реакции, то есть проверили изменения в поведении и функционировании машинного разума под воздействием различных факторов: больших объемов данных, сложных задач, высокой нагрузки на систему. В дополнение к этому экспериментаторы выяснили, как ИИ реагирует на плацебо (пустые вопросы), а также исследовали связь между профессиональной принадлежностью и политическими предпочтениями.

Чтобы снизить опасения по поводу «случайности генерируемого текста», ученые по 100 раз собирали ответы на одни и те же вопросы. При этом порядок задач каждый раз менялся случайным образом. В результате исследователи получили «надежные доказательства», что для ChatGPT характерен «значительный и систематический политический уклон» в сторону Демократической партии в США, Лейбористской партии в Великобритании и президента Бразилии Лулы да Силвы. Проще говоря, данный ИИ, как написал в свое время Юз Алешковский, «был левым уклонистом». Подобные выводы, полагают эксперты, «вызывают реальные опасения», что ChatGPT и другие БЯМ могут усугубить существующие политические проблемы, создаваемые интернетом и социальными медиа.

Между тем в США уже не один год усиливается идеологическое противостояние между демократами и республиканцами, а также их сторонниками. Сверх того, американские избиратели начали разочаровываться в самой двухпартийной системе. Еще в августе прошлого года эксперты вашингтонского Pew Research Center выяснили, что «республиканцы и демократы все чаще рассматривают в негативном свете не только противоположную партию, но и людей, принадлежащих к ней», описывая их как «более закрытых, нечестных, аморальных и неинтеллигентных, чем другие американцы». К тому же «почти половина молодых взрослых» утверждала, что они «хотели бы иметь больше партий, из которых можно выбирать».

Одним словом, в Америке складывается благоприятная среда для разного рода политических манипуляций. Поэтому можно предположить, что операторы искусственного интеллекта не останутся в стороне от борьбы за власть, в которой схлестнулись демократы и республиканцы. Ведь руководители американского Big Tech, организовавшие создание и управляющие развитием Больших языковых моделей, чуть ли не поголовно левые, и более того, зачастую они кооперируются с Демократической партией.

Кто остановит роботов-убийц?

В советское время журналисты часто использовали заезженный идеологический штамп «рост международной напряженности». Так вот, в настоящем эта самая международная напряженность растет как на дрожжах. И виной тому не только военные конфликты, но и идейная полемика о летальном автономном оружии, которая ведется между военными и дипломатами из разных государств мира. Эта во многом этическая и правовая проблема осложняется еще и тем обстоятельством, что милитаризованные страны – США, КНР, РФ, Израиль – уже достаточно давно разрабатывают этот вид вооружений и имеют свои представления о допустимости использования роботов-убийц.

Сегодня, что ни говори, все еще существует сложная дилемма: допустимо ли создание и внедрение технологий на основе искусственного интеллекта, которые смогут самостоятельно решать вопрос об убийстве одного человека или даже множества людей, без человеческого участия или хотя бы формального контроля Homo sapiens. Многосторонние переговоры в ООН идут трудно, конкретные решения все время откладываются. Так что нельзя исключить, что скорое будущее станет в чем-то походить на подзабытый голливудский фильм «Терминатор-3: Восстание машин».

Дело в том, что Соединенные Штаты, Россия, Австралия, Израиль и ряд других государств не видят необходимости в новом международном законодательстве, ограничивающем применение роботов-убийц. Китай, в свою очередь, стремится определить правовые ограничения максимально узко и расплывчато, чтобы не связывать себе руки. Кроме того, Вашингтон, Пекин и Москва полагают, что использование летального автономного оружия, которое по определению является высокоточным, снизит число непреднамеренных жертв среди гражданского населения и не приведет к разрушению жилых районов.

Есть еще целая группа государств – Аргентина, Эквадор, Сальвадор, Колумбия, Коста-Рика, Гватемала, Казахстан, Нигерия, Палестина, Панама, Перу, Филиппины, Сьерра-Леоне и Уругвай, – которые предложили полностью запретить «проектировать, разрабатывать, производить, обладать, приобретать, развертывать, передавать или использовать» летальное автономное оружие. Но вес этих стран в мировой политике не настолько велик, чтобы они могли навязать свое решение проблемы США, КНР, РФ и Израилю. Нет особых надежд и на гуманитарные организации наподобие Международного комитета Красного Креста и общественных инициатив вроде Stop Killer Robots («Остановите роботов-убийц»), так как даже ООН раз за разом демонстрирует свою беспомощность, безуспешно пытаясь решить самые острые вопросы международной политики. А значит, и в этом случае почти все будет зависеть от желаний и возможностей глобальных акторов.

Не далее как в сентябре заместитель министра обороны США Кэтлин Хикс заявила, что в ближайшие два года Америка поставит на вооружение «несколько тысяч» автономных беспилотных систем. Это будет сделано для того, чтобы нивелировать преимущество Китая в количестве оружия и людей. «Мы противопоставим массе НОАК собственную массу, но ее будет труднее просчитать, труднее поразить, труднее победить», – процитировал Reuters высокопоставленного сотрудника Пентагона. Эти решительные слова лишний раз подтверждают, что Соединенные Штаты, когда речь идет об их национальной безопасности, совсем не собираются «останавливать» роботов-убийц.

В конце прошлого месяца профессор Норвежского института оборонных исследований Катажина Зиск в статье «Борьба, а не капитуляция: российский оборонный ИИ в случае войны», написанной для британского Королевского института объединенных оборонных исследований (RUSI), проанализировала особенности российского подхода к использованию искусственного интеллекта. С одной стороны, в РФ управление инновациями в военной сфере осуществляется под жестким руководством государства. Но, с другой стороны, власть стремится максимально «использовать прогресс, достигнутый в гражданском секторе». То есть Россия совмещает практики США («тесное сотрудничество» военного и гражданского секторов») и КНР («слияние» военного и гражданского секторов).

В числе основных приоритетов РФ – «улучшение командования, управления, связи и принятия решений с помощью искусственного интеллекта». Поскольку этот комплекс мер считается «критически важным» условием для «завоевания и сохранения информационного превосходства». В целом же ставка сделана на «постепенную эволюцию»: модернизацию унаследованных от СССР ядерных и стратегических неядерных вооружений, а также на использование невоенных методов и средств ведения войны, основанных на инновационных технологиях. Однако «российский ИИ находится на ранней стадии зрелости», поэтому в этой области Россия «отстает от своих основных конкурентов – США и Китая», утверждает Зиск.

Доктрина Вильсона в восприятии искусственного интеллекта

Фрэнсис П. Семпа, адъюнкт-профессор политологии в Университете Уилкса (США) и редактор журнала American Diplomacy, в начале этого месяца опубликовал на авторитетном американском интернет-ресурсе RealClearDefence любопытную статью, которая называется «Время покончить с вильсоновской внешней политикой». На первый взгляд может показаться, что его рассуждения имеют значение в основном для американской аудитории. Однако Соединенные Штаты все еще остаются единственной во всех отношениях сверхдержавой, следовательно, их внутриполитические процессы по-прежнему проецируются на остальной мир.

Семпа пишет, что недавно умерший Генри Киссинджер «в своей великолепной книге «Дипломатия», вышедшей в 1994 году, «выделил и объяснил конкурирующие направления американской внешней политики с начала XX века». Первое – это «реализм», который был характерен для президента-республиканца Теодора Рузвельта, второе – это «вильсонианство», названное в честь президента-демократа Вудро Вильсона. Киссинджер подчеркивал, что именно рузвельтовский подход, ставивший во главу угла «национальные интересы», лежал в основе внешней политики США в конце XVIII века и в XIX веке. Однако под влиянием Вильсона произошел «революционный отход» от традиционной дипломатии, так как он считал, что «мир зависит от распространения демократии». Таким образом, Соединенные Штаты, продолжая исповедовать «вильсонианство», рискуют погрязнуть в «бесконечных крестовых походах от имени человечества».

Как это ни парадоксально звучит, «величайшим учеником Вильсона» Семпа считает республиканца Джорджа Буша-младшего, «губернатора Техаса с небольшим опытом и знаниями в области внешней политики». В ответ на теракты 11 сентября 2001 года он принялся распространять демократию на Ближнем Востоке и за его пределами. 43-й президент США пытался переделать Афганистан и Ирак «по образу и подобию Америки», но прозевал рост мощи Китая. Буш не только расширил НАТО, но и публично призвал Североатлантический альянс принять в свои ряды Украину и Грузию. (Здесь следует заметить, что сейчас весь мир наблюдает, к чему все это привело.)

Барак Обама «усугубил ошибки Буша», добавив к ним несколько своих, в частности, арабскую весну, поверить в которую мог только истинный «вильсонианец». И даже Дональд Трамп предлагал расширить НАТО на Ближний Восток, но он хотя бы попытался строить американскую внешнюю политику с учетом национальных интересов, однако столкнулся с «огромным сопротивлением со стороны внешнеполитического истеблишмента».

Семпа напоминает, что герой холодной войны Джин Киркпатрик, знаменитый постоянный представитель США при ООН во времена Рональда Рейгана, осуждала «глобалистский настрой» представителей вашингтонской дипломатической элиты, утверждая, что «Соединенные Штаты не в силах демократизировать мир». Отсюда следует вывод, что Вашингтону пора «прекратить ненужные интервенции за границу во имя абстрактных идеалов» и покончить с «вильсонианством», поскольку его внешнеполитические провалы «заполняют учебники истории и военные кладбища Америки».

В ноябре 2024 года в Америке состоятся президентские выборы, в результате которых «вильсонианца» Джозефа Байдена может сменить «реалист» Дональд Трамп. Во всяком случае, в настоящее время кандидат от Республиканской партии немного опережает кандидата от Демократической партии. Если же выводы ученых из Университета Восточной Англии о явной левизне ChatGPT распространяются и на другие модели искусственного интеллекта, то в этом случае нынешний президент США, видимо, имеет заведомое преимущество. Однако вторая по счету несправедливая, с точки зрения республиканцев, победа Байдена чревата резким обострением внутриполитической ситуации. Таким образом, если «северный ярус» начнет покачиваться сразу на всех четырех «якорях» (проблемы Китая, Евросоюза и России хорошо известны), то сильно закачается и весь остальной мир, и вот тогда «международному порядку, основанному на правилах», точно придет конец.

Заметное ослабление США способно спровоцировать многочисленные региональные военные конфликты. При этом мир может разделиться как минимум на два блока, противостоящих друг другу. Сейчас принято говорить о «коллективном Западе» и о «глобальном Юге», но это известная условность, потому что конфигурация будущей системы мироустройства может оказаться много сложнее. И совсем необязательно, что возвращение к противостоянию блоков приведет, как думают некоторые, к большой войне. Пожалуй, более вероятно, что противоборствующие стороны вернутся к принципам Realpolitik, благо такой опыт есть, и более того, отнюдь не всеми он забыт.

Но полностью сбрасывать со счетов наихудший сценарий никогда не стоит. «Мы создаем Бога», – сказал в минувшем сентябре один инженер по искусственному интеллекту из Кремниевой долины, разговорившийся со специальным корреспондентом американского журнала Vanity Fair Ником Билтоном. Поэтому не нужно удивляться, если машинный разум в будущем уничтожит человечество. Впрочем, не надо и особо огорчаться: как полагают другие эксперты в области ИИ, человечество этого даже не поймет. 


Оставлять комментарии могут только авторизованные пользователи.

Вам необходимо Войти или Зарегистрироваться

комментарии(0)


Вы можете оставить комментарии.


Комментарии отключены - материал старше 3 дней

Читайте также


Семейственность на сцене и монах в лауреатах

Семейственность на сцене и монах в лауреатах

Вера Цветкова

III Национальная премия интернет-контента: в День России показали телевизионную версию церемонии награждения  

0
288
Лукашенко назначил руководство над словом и делом

Лукашенко назначил руководство над словом и делом

Дмитрий Тараторин

Глава Белоруссии принял кадровые решения на уровне министерств и местных администраций

0
1248
Доллар ослаб после введения новых валютных санкций

Доллар ослаб после введения новых валютных санкций

Михаил Сергеев

Центробанк РФ может поднять ставку до 18% годовых уже в июле

0
1537
Губернатору Беглову в принципе не нужны кандидаты от системных партий

Губернатору Беглову в принципе не нужны кандидаты от системных партий

Дарья Гармоненко

Иван Родин

Избирательная кампания в Петербурге выглядит актуальным модельным сценарием

0
1088

Другие новости