Евгений Семенов: «Развитие автономных ИИ-агентов ускоряет процесс»
к.полит.н., доцент, руководитель нижегородского филиала Фонда развития гражданского общества Евгений Семёнов
«Проблема наступления ИИ – это проблема утраты человеком собственной субъектности», — считает заместитель председателя Общественной палаты Нижегородской области, руководитель Нижегородского филиала ФоРГО, политолог, кандидат политических наук, доцент Евгений Семенов, оценивая перспективы применения ИИ.
«Каждое утро миллионы людей включаются в невидимый, но неизбежный процесс делегирования ИИ процесса принятия решений. Маршрут до работы прокладывает навигатор, плейлист подбирает музыкальный сервис, что читать – решает лента, что покупать – рекомендует маркетплейс и т.д. На первый взгляд, человек всё ещё выбирает. Но если присмотреться, выбор давно сделан за него — просто мягко, незаметно.
В этом и состоит главная ловушка. Когда решение принимает тиран, его хотя бы можно назвать по имени. Когда его принимает алгоритм, остаётся лишь ощущение, что «так удобнее». Философ Джон Данах назвал это «алгоритмической микро-доминацией» – формально кнопка у вас в руках, но времени, данных и компетенции оспорить рекомендацию у вас нет. Вы нажимаете «ОК» и считаете это своим выбором.
Чем глубже ИИ встроен в повседневность, тем больше человек превращается из субъекта в объект – в набор поведенческих сигналов, кликов, задержек взгляда, геопозиций. Уникальность замещается вероятностью. Вместо «человек, который любит джаз», он – «пользователь из 3‑го кластера с вероятностью оттока 0,7». Профиль точнее самого человека, потому что профиль не ошибается, не забывает и не рефлексирует.
Рекомендательные системы отнюдь не нейтральные посредники. Это активные архитекторы выбора, которые сужают кругозор до того, что максимизирует вовлечённость. Альтернативные точки зрения отсекаются не цензурой, а фильтром релевантности. Критическое мышление подавляется не запретом, а комфортом, ибо зачем спорить с предложением удобства? Возникают «эпистемические пузыри», в которых человек теряет способность отличить собственное мнение от алгоритмической подсказки.
Но дело не только в информации. MIT зафиксировал у активных пользователей ИИ-ассистентов снижение мозговой активности, ухудшение памяти и менее оригинальное мышление. Это не абстрактная тревога, а измеримый эффект: навык, который не упражняется, атрофируется. Когда рутину забирает алгоритм, а за ней и творчество, человек теряет не только профессию, но и саму практику самостоятельного рассуждения. А без неё моральный выбор превращается в настройку параметров.
Развитие автономных ИИ-агентов ускоряет процесс. Системы, которые планируют, договариваются и действуют в многошаговых сценариях без участия человека, выводят людей из цепочки решений. В экстремальном, но уже обсуждаемом всерьёз сценарии нейросети общаются друг с другом от лица людей, формируя социальные нормы без людей и с их молчаливого согласия.
В итоге складывается картина, которую трудно назвать катастрофой потому, что она разворачивается без катастроф. Нет ни одного момента, в который можно ткнуть пальцем и сказать: «Вот здесь человек утратил субъектность». Есть постепенное, почти незаметное перетекание от выбора к согласию, от согласия к привычке, от привычки к зависимости. Человек не теряет свободу, он её постепенно сдаёт, потому что каждый отдельный шаг кажется слишком маленьким, чтобы за него бороться.
Но именно в этой малости смысл. Субъектность утрачивается не в одном великом решении, а в тысячах мелких. И зачем побеждать алгоритм, если он так удобен и заботлив, если он, например, умеет генерировать такие убедительные и аккуратные тексты, как этот».
