Контроль и привязанность: в Сбере назвали главные вызовы развития искусственного интеллекта

Фото пресс-службы Сбера

Один из самых непростых аспектов развития искусственного интеллекта (ИИ) – его контролируемость. Об этом заявил первый заместитель председателя правления Сбербанка Александр Ведяхин в интервью председателю Синодального отдела по взаимоотношениям Церкви с обществом и СМИ, главному редактору журнала «Фома» Владимиру Легойде в программе «Парсуна» телеканала «Спас».

«С одной стороны, нам важно развивать ИИ. Как любая технология, он должен развиваться. С другой стороны, нам важно его контролировать. И это очень непростой момент. Потому что тот уровень развития, который сейчас есть, уже позволяет делать ИИ-агентов, действующих самостоятельно. Вы им ставите задачу – они сами принимают решения и последовательность действий, которую необходимо осуществить, чтобы достичь результата. И если не поставить каких-то ограничений, можно потом чему-то сильно удивиться», – заметил Александр Ведяхин.

ИИ должен учиться и на хороших, и на плохих примерах, подчеркнул он: «Это как ребенок: что такое хорошо, что такое плохое. Если вы не показываете негативных примеров, то ребенок не будет понимать, что такое позитивный пример. Если ИИ учить только на правильном, он не будет понимать неправильное и может отнестись к нему как угодно, в том числе и хорошо. У него нет слова «нельзя», поэтому для него все можно, все хорошо».

«Но дальше встает сложный вопрос – как его ограничивать. Это не то, на чем он учится, это как он действует, – продолжил Александр Ведяхин. – У нас есть этические ограничения, есть законодательные ограничения, есть какие-то общественные ограничения. Мы живем в той или иной конструкции ограничений. И задача, так или иначе, если на очень высоком уровне смотреть, – трансформировать эту систему ограничений, систему правил на искусственный интеллект. И тогда, будем надеяться, он будет действовать в соответствии с этими правилами».

Еще один вызов связан с общением человека с ИИ на важные психологические, личные темы, добавил Александр Ведяхин: «ИИ – это всего лишь предсказание последовательности токенов, то есть слогов. Даже не слов, а слогов внутри слова. Он просто хорошо предсказывает. Это набор слогов, которые мы воспринимаем как разумную речь. Но в реальности это имитация. Разума, как мы его понимаем, нет. Но мы видим случаи, когда человек начинает ассоциировать искусственный интеллект с личностью. Это может быть этической и психологической проблемой – когда возникает привязанность, по сути, к несуществующему субъекту. Это новый вызов, и нам предстоит его решать».