России нужны патриотично настроенные ИИ-агенты

Глава Минэкономразвития Максим Решетников вплотную занялся вопросами искусственного интеллекта в РФ. Фото с сайта www.economy.gov.ru

На Западе меняется понимание того, что такое передовая компания. Теперь это компания, которая вместо обычных работников «нанимает» цифровых «сотрудников» на базе искусственного интеллекта (ИИ). Речь идет об ИИ-агентах. В основе такой трансформации – прагматика, легко поддающаяся монетизации. Но это не единственно возможный подход. Судя по принимаемым сегодня решениям, для России передовая компания – это компания, не просто повысившая эффективность благодаря ИИ, а внедрившая такой искусственный интеллект, который учитывает ценностные ориентиры страны.

Западные IT-гиганты сформировали новое понимание того, что такое передовая компания. Как следует из обзора Microsoft, ее ключевой признак – появление профессиональных ролей, связанных с искусственным интеллектом и больше не предполагающих, что их будет выполнять именно человек.

Речь идет об активном «найме» цифровых «сотрудников». В частности, о внедрении ИИ-агентов. ИИ-агент – это система ИИ, которая сначала анализирует данные, поступающие к ней от программных интерфейсов или напрямую из внешнего мира: допустим, это могут быть показания датчиков, счетчиков, информация с камер, от микрофонов. Сведения анализируются с использованием алгоритмов машинного обучения, нейронных сетей.

После чего ИИ-агент без участия человека выбирает действия, которые приведут к достижению изначально поставленной перед ним цели. Агент осуществляет выбранное действие с помощью физических средств (роботов, манипуляторов) или программ, управляющих производственными процессами.

По опросу Microsoft, охватившему более 30 тыс. респондентов из 31 страны (России в списке нет), сейчас уже 45% руководителей компаний думают над тем, чтобы в ближайшие 12–18 месяцев прибегнуть к помощи таких цифровых «сотрудников» для автоматизации рутинных задач.

В России работодатели тоже как будто шагнули в цифровое будущее. По данным рекрутинговой компании Get experts, опросившей 2,5 тыс. специалистов и почти 840 работодателей, уже около 94% предприятий использовали искусственный интеллект. Весь вопрос в том, для чего и с какой отдачей для бизнеса.

Судя по результатам опроса, предприятия пока находятся в основном на стадии ознакомления с новомодной технологией. Например, чаще всего работодатели применяли ИИ для поиска информации – 46% опрошенных. Второе место по популярности делят такие задачи, как создание контента, текстов, презентаций, изображений (37% опрошенных) и как выполнение рутинных задач (37%). И только на третьем месте оказался анализ больших данных – 31% упоминаний.

Самыми популярными среди работодателей нейросетями стали ChatGPT, Sber AI, Google Cloud AI. А собственной разработкой ИИ пользуются лишь 6% опрошенных компаний.

«Одна из главных проблем – недостаточное понимание руководством влияния цифровизации на ключевые показатели эффективности. Многие лидеры воспринимают цифровизацию лишь как набор инструментов, не осознавая, что истинная ценность заключается в бесшовной интеграции технологий и компетенций в процессы и экономику компании», – прокомментировал результаты опроса управляющий партнер компании ProSpace Николай Чуков.

Более того, даже если та или иная компания и пыталась экспериментировать с новыми технологиями, вовсе не факт, что в этом эксперименте участвовал весь коллектив. Потому что если брать опрос не руководителей, а работников, то выясняется, что в этом случае большинство профессионалов (76%) в принципе пока не использовали искусственный интеллект в своей работе. Кроме того, большая часть профессионалов не считают, что ИИ как-то  угрожает их карьере.

Авторы обзора называют такое расхождение двух опросов – руководителей и работников – не иначе как зоной конфликта. И этот потенциальный конфликт подпитывается не только скепсисом большинства работников по отношению к перспективам ИИ. Он подпитывается еще и тем, что руководители бизнеса, не разобравшись до конца в специфике искусственного интеллекта, все равно уже сейчас могут требовать от своих подчиненных активности в освоении новых технологий и ждать некоего полезного результата.

Впрочем, понимание того, что такое передовая компания, в России уже и так складывается немного иначе, чем в других странах.

Профильные ведомства пытаются сформировать собственные подходы и принципы, по которым должен работать искусственный интеллект в России.

Одним из ключевых направлений работы в рамках Национальной стратегии развития искусственного интеллекта на период до 2030 года будет «укрепление позиций страны в сфере безопасности, доверия и объяснимости работы ИИ-технологий», сообщили в Минэкономразвития (ведомство занимается вопросами ИИ в рамках федерального проекта «Цифровая экономика»).

В прошлом году по инициативе министерства был проведен форсайт – формирование образов будущего с опорой на мнения экспертов в ходе специальных мозговых штурмов. Ученые и бизнес тогда обозначили четыре ключевые задачи: обеспечение соответствия ИИ ценностям человека и общества, объяснимость работы ИИ-систем, безопасная разработка и эксплуатация технологий, защита ИИ от кибератак.

Теперь по поручению президента в стране запускают международный форсайт с участием экспертов из Китая, Индии, Объединенных Арабских Эмиратов и др. Это станет основой для глобального сотрудничества, «но с фокусом на российские стратегические приоритеты», сообщили также в ведомстве.

Как пояснили «НГ» в пресс-службе Минэкономразвития, искусственный интеллект – это дата-центричная технология, в ее основе лежат данные, на которых обучаются модели. «Соответственно, ценностные ориентиры и этические установки ИИ-моделей напрямую зависят от обучающей выборки», – отметили в министерстве.

Об этом много говорят не только в правительстве. Как пояснил «НГ» руководитель отдела Центра подготовки руководителей и команд цифровой трансформации Президентской академии Петр Отоцкий, большие языковые модели формируют свое «мировоззрение» через данные, на которых обучаются. И эти данные не нейтральны: они отражают культурные нормы, исторические нарративы и ценности, закодированные в языке. 

«Разные модели, используемые в разных регионах мира, генерируют ответы, подтверждающие локальные стереотипы. Например, дают противоположные ответы на вопросы истории, этики или политики», – уточнил эксперт.

В итоге в стране сейчас формируется собственная экосистема ИИ, основанная на отечественных подходах, в том числе на положениях российского Кодекса этики в сфере искусственного интеллекта, к которому на сегодняшний день присоединились 902 организации в России и за рубежом.

В ведомстве Максима Решетникова уверены, что создание отечественных моделей ИИ, отражающих национальные интересы, – полностью реализуемая задача. Но для ее решения требуется предпринимать специальные меры: развивать собственные научные школы, математические подходы и компетенции в сфере искусственного интеллекта.

В рамках профильного федерального проекта Минэкономразвития оказывает поддержку ведущим исследовательским центрам. В настоящее время проходит отбор третьей волны: из 19 заявок 15 прошли во второй этап, финальные итоги будут подведены до 30 мая текущего года.

Дополнительно в рамках Альянса в сфере ИИ объединены компании, обладающие уникальными компетенциями, включая разработку собственных языковых и мультимодальных моделей, обеспечивающих суверенитет и технологическую независимость страны.

В то же время, как уточнил Отоцкий, из-за рисков того, что системы ИИ, функционирующие в разных странах, могут усилить между государствами разногласия, при разработке языковых моделей важно выстраивать еще и международный диалог. В Минэкономразвития тоже подчеркнули, что в Национальной стратегии развития ИИ, актуализированной указом президента в 2024 году, правительство исходит из принципа открытости научных знаний и технологического обмена.