Графика REUTERS/Dado Ruvic
Ровно год прошел с того момента, как компания OpenAI презентовала чат-бот ChatGPT. Этот, казалось бы, сугубо профессиональный программный продукт превратился из названия прикладного ПО в имя нарицательное. ChatGPT стал самым быстрорастущим программным приложением в мире за всю историю существования информационных технологий.
Когда речь заходит об искусственном интеллекте (а наш бот, по сути, одна из реинкарнаций ИИ), то часто отмечают, что он призван (приспособлен) решать «бытовые» проблемы человека. Социальные оптимисты идут дальше – надеются, что ИИ способен решать проблемы человечества в целом.
Президент Владимир Путин в начале сентября поручил правительству совместно с госкорпорациями и госорганизациями к 25 декабря внести корректировки в их стратегии цифровой трансформации с целью ускоренного внедрения в их деятельности технологий искусственного интеллекта. Ожидается, что обновленная стратегия по развитию ИИ в России может быть утверждена до конца 2023 года. В рамках стратегии определены три основных вызова: развитие вычислительных мощностей, научных школ и темпы внедрения ИИ в отраслях экономики. Совокупные вычислительные мощности России должны достичь к 2030 году 6,2 эксафлопса (приставка «экса» – это 1018 операций с плавающей запятой в секунду).
Но в любом из этих случаев к системам ИИ относятся как к объекту управления. Между тем все больше признаков, хотя и косвенных, того, что нейросети вполне могут обрести субъектность. А человека они воспринимают в качестве мутагенного фактора, который можно использовать на благо развития нейросетей. Универсальный искусственный интеллект, сравнимый с интеллектом на уровне человеческого, может появиться уже в ближайшие пять лет, заявил недавно глава американского чипмейкера Nvidia Corp. Дженсен Хуан.
И тут возникает сюжет, который пока еще очень слабо отрефлексирован по сравнению с «плюшками» от внедрения ИИ в повседневную жизнь людей, в экономику и социальную сферу. Искусственный интеллект радикально меняет сами основы стратегической стабильности, сложившейся сейчас в мире. ИИ переводит этот сюжет в принципиально другое качество. Артефакты начинают не только влиять на политику, но и делать политику.
Так, можно предположить, что ИИ станут востребованы не сами по себе, но как элемент систем стратегического сдерживания, особенно в своей нейросетевой ипостаси. Подобно тому, как сегодня ядерные технологии являются пока таким основополагающим элементом. А в первой половине ХХ века таким элементом сдерживания было химическое оружие.
Особенность нынешнего этапа развития технологий – симбиоз, взаимодиффузия ядерного компонента сдерживания и технологий типа ChatGPT. Позитивная точка зрения на этот процесс – «абсолютная стабильность, усиленная технологиями ИИ».
Однако уже даже Герману Грефу пришлось оправдываться за некоторые «неточности» в работе генеративной нейросети Kandinsky 2.1. Алгоритмические ошибки, пусть и минимальные, неизбежны. И сумма этих алгоритмических помарок приводит к потере контроля со стороны человека. Как очень вероятный сценарий, можно рассматривать ситуацию, когда нейросети ядерных государств сами начнут давать оценку развитию событий в ходе военных действий. Причем ИИ одной стороны будет отвечать на действия ИИ другой стороны со скоростью, на порядки превышающей скорость реакции человека-оператора.
С нейросетями придется договариваться. В противном случае ИИ, контролирующие и оценивающие стратегическую ядерную безопасность, договорятся сами, без нас. Не факт, что результат этих нейросетевых переговоров понравится «родителям» искусственного интеллекта.
Михаил Сергеев 
Дарья Гармоненко 
