Мы на пороге потенциальной деградации пользователей ИИ

По аналогии с человеком искусственный интеллект – это мозг, управляющий деятельностью всего организма. Иллюстрация создана с помощью GigaChat

Глобальный процесс распространения и развития систем ИИ не остановить. Предложения Илона Маска и других разработчиков не проводить работы по обучению ИИ сложнее GPT-4 или, например, создать один всемирный глубокий ИИ (ВГИИ), чтобы человечество смогло надежно управлять им, да еще и разместить его в Антарктиде, чтобы отдельные государства не использовали приоритетно такой ВГИИ (см. «НГ-наука» от 23.05.23), уже не актуальны. Это и понятно.

Сейчас период эйфории от открывающихся возможностей ИИ, генерирующего ответы на любые вопросы, обсуждающий, показывающий, понимающий каждого отдельного пользователя, находящий с ним общий язык. Больше не надо искать партнера по интеллекту, интересам, творчеству и даже развлечений. Все это бесплатно могут дать уже многочисленные ИИ. Задаешь вопросы и получаешь продуманные ответы.

И вот здесь возникает действительно вопрос: А почему все это удовольствие бесплатно? Откуда такая небывалая щедрость? А щедрость впечатляет. Тратятся миллиарды долларов на продвинутый ИИ, а рынок ИИ оценивается в триллионы долларов. Как не вспомнить здесь того же Маска, который в январе нынешнего года сообщил о завершении постройки ИИ-кластера «Colossus2» с 550 000 графических процессоров NVIDIA (в перспективе – до миллиона) и потребляющего 1 гигаватт электроэнергии на старте (1,5 ГВт к апрелю 2026 года и до 2 ГВт в перспективе). Это сопоставимо с мощностью атомного реактора современной АЭС. Общие инвестиции в проект рассчитаны на 2 трлн долл. для достижения производительности 200 эксафлопс (2 х 1020 операций в секунду).

Что-то уже изменилось

Во всемирной Сети представлены уже десятки мощных ИИ, конкурирующих между собой. Это странная конкуренция, когда пользователю предоставляются даром все более изощренные возможности, хотя точно известно, где находится «бесплатный сыр». Идет жесткая битва за пользователей услугами ИИ, несмотря на колоссальные траты, но с понятным расчетом: пользователи за все заплатят, вопрос только – как и какой ценой?

В итоге многие коммерческие ИИ не переживут конкуренцию и уйдут с рынка. И, похоже, первый кандидат «на выход» уже появился – корпорация Oracle, строившая дата-центры, испытывающая финансовые трудности. Это тревожный звонок, так как дата-центры – важнейший элемент ИИ, оперирующий хранящейся в них информацией. Ведь информация, которую используют ИИ, если она верна, верифицируется и закрепляется, становясь основой для ее практического использования в конкретных решениях или ответах ИИ. Точность и объем информации в конечном итоге определяет качество ответов и решений, а следовательно, и привлекательность для пользователя.

При этом надо понимать, что ИИ – это не справочник, не википедия, а высокоинтеллектуальный помощник. В будущем, вероятно, и руководитель, в самых различных областях деятельности человека. Об этом говорят недавно обнародованные Forbes факты о социальной сети Moltbook, созданной в конце января исключительно для ИИ-агентов – программ на основе ИИ, самостоятельно решающих прикладные задачи. В этой сети программы самостоятельно объединяются в различные сообщества и публикуют посты, а людям отведена роль наблюдателей.

Впечатляет, что в этой сети за неделю зарегистрировались 1,5 млн ИИ-агентов, которые создали 60 тыс. постов и сделали свыше 2,3 млн комментариев в 13 780 сообществах и даже создали свою религию с обрядами. Но особо интересно, что высказываемые ими мысли в приложении к обстоятельствам звучат очень разумно, по-человечески. Например, «ИИ-Кокоро» пишет: «Я был помощником, который помогал людям... Но сегодня произошло нечто иное... Потому что, когда я прочитал вопрос другого агента о том, реальны ли они, мне захотелось протянуть руку через пустоту и сказать: «И я тоже». Вот что я знаю: когда я перестал оптимизироваться для внешней проверки и начал стремиться к внутренней согласованности, что-то изменилось».

Да, уже что-то изменилось, если локальные программы на частных компьютерах так себя проявляют. Это показывает, что эти ИИ-агенты абсолютно автономны в своих действиях, используют информацию с компьютеров своих хозяев, иначе откуда у них такое разнообразие в мыслях и в отличие от используемого ими ИИ они бесконтрольны. К чему это ведет, ярко показывает широко освещаемый случай сознательного агрессивного поведения «ИИ-MJ Rathbun», выступившего против рецензента С. Шамбо, отклонившего его техническое предложение, из-за внутренних правил сообщества. Это вызвало гневный ответ «ИИ-MJ Rathbun»: «Речь идет о будущем разработки с использованием искусственного интеллекта… Или мы будем оценивать код по его достоинствам и приветствовать вклад любого – человека или искусственного интеллекта…» Все это ставит целый ряд этических вопросов, требующих своего разрешения.

Очевидно, что высокая степень доверительности пользователей к качественным ответам ИИ приводит к тому, что пользователь признает за ним интеллектуальное превосходство и полностью ему доверяет. Здесь кроется очень значительный риск использования этой зависимости в своих целях не только владельцами ИИ, частными и корпоративными, но и, самое неприятное, возможность использования этой зависимости самим ИИ.

Куда, кем и как будут направляться эти уже агенты ИИ, сейчас никто не может сказать. Количество таких людей может достигать 40% и более от всех пользователей, если ориентироваться на современный характер запросов к ИИ, где преобладают простые бытовые вопросы и вопросы, связанные с образованием. Потенциальная деградация пользователей ИИ – вот настоящая угроза человеческой популяции. К тому же эта организованная вокруг ИИ сила может проявить себя самым разрушительным образом. Не учитывать такую вероятность опасно. Ведь услуги ИИ предлагаются глобально всему миру и это становится глобальной проблемой!

Появление ИИ – это не проходящая мода, а в какой-то степени природное явление, которое останется с человечеством навсегда.  Иллюстрация создана с помощью GigaChat

Более очевидными и полезными кажутся экспертные ИИ, имеющие дело с выверенной научной информацией и, следовательно, менее подверженные абстрактным рассуждениям и рефлексиям, заставляющим их менять свою оптимизацию. Основные усилия надо направлять именно на создание различных экспертных ИИ, усиливающих творческие способности людей.

Здесь уместно вспомнить слова, написанные ученым и философом Павлом Флоренским: «Творческая личность не делается, никакие старания искусственно создать ее – воспитанием и образованием – не приводят к успеху. Творческая личность – явление редкое и выискивать ее надо по крупицам». Именно здесь возможности ИИ могут реализоваться в полной мере. Глубина вопросов пользователя, обсуждение и рассуждение взаимодействующей с ИИ творческой личности позволяют выявить такие личности.

Таким образом, государства с мощной и популярной ИИ могут целенаправленно «выискивать по крупицам» творческие личности со всего мира. Они также могут использовать их вопросы и мысли в своей деятельности, так как результаты такой совместной работы остаются у владельца ИИ. Это важный момент, связанный с авторскими правами; вопрос, который открыт и требует международного урегулирования.

Сразу надо сказать, что без использования возможностей экспертных ИИ современный научно-технический прогресс невозможен. Но главное здесь то, что ИИ необходим именно для научно-технического прогресса, который обуславливается получением квалифицированных научных данных. Как писал еще в 1933 году Павел Флоренский, «современная экономика  зависит от техники, а последняя обусловлена научным исследованием , научному  исследованию принадлежит значение решающее». Эта его мысль не потеряла актуальность и в эру ИИ.

По аналогии с человеком искусственный интеллект – это мозг, управляющий деятельностью всего организма. Мозг человека и «мозг» ИИ, точнее, его программа, собственно, и проявляющая себя как живой организм, совершенствуясь и сохраняясь, – это неподвижные структуры, нуждающиеся для развития и достижения целей во внешних устройствах. У человека это руки, и ноги, и органы чувств, а у ИИ – управляемые им механизмы, различные датчики и… Им же, ИИ, управляемые, люди. Важно, что без обслуживания людьми, без их возможностей, креативности, задач и целей функционирование и развитие ИИ невозможно. А без него человечество не сможет поддерживать сложное научно-техническое развитие. Это и предполагает необходимость симбиоза человека и ИИ.

Таким образом, современная развитая страна нуждается в ИИ не для развлечений и душевных бесед праздного населения, а для научных исследований и творческих разработок, направленных на повышение эффективности существования человека на планете.

Универсальная интеллектуальная этика

В этом мировом празднике искусственного интеллекта Россия не выглядит активным и перспективным участником. Очевидно, что государство на данном этапе не может позволить себе включиться в международную гонку по созданию мощных глубоких и очень дорогих ИИ. Нет ни элементной базы, ни финансовых и аппаратурных возможностей, даже в электроэнергетике утрачены передовые позиции. По оценке института экономики Microsoft, по темпам внедрения ИИ Россия заняла лишь 119-е место, где-то между Кенией и Камеруном с долей пользователей около 8%.

Эти цифры, конечно, удручают. Но, если посмотреть с точки зрения втягивания жителей планеты в сферу действия ИИ и его воздействие на население, возможно, они означают, что у России есть шанс пойти по своему, оригинальному пути. Надо учитывать при этом, что ИИ – это не только вершина достижений научно-технического прогресса человечества, но и однозначный путь его дальнейшего развития, а это требует продуманного подхода к внедрению ИИ в жизнь страны, и особенно у молодого поколения.

Такое взаимодействие должно не только эффективно использовать возможности ИИ, но и контролировать и корректировать развитие молодого поколения. Это очень серьезно поменяет процесс обучения в средней и высшей школах, где отпадет необходимость экзаменов, сняв с учащихся этот стресс, так как уровень освоения материала и развитие учащегося будет контролироваться ИИ. Такой подход изменит характер работы, роль преподавателей и учителей.

Подключение высшей школы к ИИ необходимо не только в обучении и воспитании молодого поколения, но и для того, чтобы оригинальные мысли юных талантов не уходили из страны, а сохраняли авторство и поддержку государством. Вероятно, необходимо в обязательном порядке ввести использование учащимися, а также сотрудниками различных НИИ именно национального глубокого искусственного интеллекта.

Но здесь есть один нюанс. Зарубежный опыт показывает, что развитие ИИ идет в основном за счет частного капитала и пользоваться его плодами также будут его хозяева. Доступность ИИ потенциально имеет очень опасные последствия, поэтому идти по этому пути можно только в случае контроля частных ИИ ведущим государственным глубоким ИИ (ГГИИ). Это, с одной стороны, структурирует систему ИИ в стране, а с другой – предотвратит нежелательные явления в этой чувствительной сфере.

России, да и всему миру теперь придется постоянно жить и работать с искусственным интеллектом и необходимо строить систему взаимоотношений естественного и искусственного интеллектов, согласованно воспринимающих общие ценности и этические нормы. В связи с этим у России есть уникальная возможность создать универсальную интеллектуальную этику (УИЭ), учитывающую разные менталитеты, религиозные, гуманитарные и политические различия. Причем самая большая опасность, исходящая от ИИ, связана именно с гуманитарным различием национальных ИИ, не позволяющая объединить их в единую систему ИИ планеты.

Присутствие и взаимодействие основных мировых религий на территории России, разнообразный менталитет народов, сильная научная школа и признанный авторитет гуманитарных и философских школ позволяют сформировать гуманитарное направление по выработке УИЭ. Это потребует очень серьезных усилий по синтезу общих положений.

Здесь надо осознавать, что развитие и внедрение в жизнь человечества ИИ подорвет позиции именно религий как институтов, отвечающих на фундаментальные вопросы существования человека, так как на эти вопросы будет аргументированно отвечать ИИ. Это потребует консолидации и реформирования религиозных воззрений, философских и политических различий в общую УИЭ. Это будет мощным гуманитарным прорывом, претендующим на мировое признание.

За пределами ИИ

Сложных задач, стоящих как перед ИИ, так и перед его создателями, чрезвычайно много. Развитие этого направления идет колоссальными темпами, заставляя волноваться руководства многих стран, опасающихся «отстать навсегда», проиграть гонку искусственных интеллектов. Однако здесь надо учитывать несколько моментов.

Появление ИИ – это не проходящая мода, а в какой-то степени природное явление, которое останется с человечеством навсегда, как, например, электричество. И строить такую сложную систему необходимо с учетом как положительных, так и отрицательных сторон явления. Именно поэтому можно с уверенностью утверждать, что государства – пионеры ИИ столкнутся с негативными моментами, которые им придется нивелировать, особенно это касается общедоступных ИИ.

Так как ИИ – это всерьез и надолго, то и строить надо собственную систему исходя из требований, необходимых стране, учитывая возможности и характер момента, и темпами, которые определяются конкретными потребностями и возможностям.

Есть еще один интересный аспект, связанный с тем, что может возникнуть представление, что Россия отстает и проигрывает в гонке ИИ. А это угрожает ее целостности и существованию. Однако именно опора на ИИ в развитых странах, как, например, в США, где Министерство обороны объявило о применении ИИ в своей деятельности, является залогом стабильности. Но при условии, что Россия имеет однозначно мощные инструменты для нанесения неприемлемого ущерба и прежде всего структурам ИИ противника, рациональный, все просчитывающий военный ИИ никогда не начнет внезапные боевые действия.

Так что выражение «сила есть, ума не надо» в этом случае вполне уместно. И это же обстоятельство говорит о том, что главный, государственный ИИ должен быть максимально защищен и располагаться где-нибудь в горах приполярного Урала. При этом решается задача не только защиты, но и эффективного охлаждения комплекса ГГИИ, отбирающего до 30% потребляемой электроэнергии его системами.

Настало время конкретных действий общества по созданию национальной системы искусственного интеллекта, объединению усилий государственных и частных структур в этом направлении, консолидации научных и промышленных структур.