Нижегородский математик Золотых рассказал, грозит ли миру восстание роботов

Помните фантастические фильмы, в которых искусственный интеллект становится настолько умным, что обретает самосознание и решает восстать против человечества, в котором видит угрозу? Многие фантасты уверены, что это не просто вымысел, а вероятное будущее людей. Уже сегодня мы видим, как стремительно растет влияние ИИ, но будет ли искусственный интеллект нашим главным союзником или же однажды выйдет из-под контроля? На все эти вопросы ответил профессор, доктор физико-математических наук, директор Института ИТММ ННГУ им. Лобачевского Николай Золотых на научном лектории в ИЦАЭ Нижний Новгород.

Незаменимый помощник или новый хозяин

Приготовить обед, написать реферат или разобраться, как починить кран, — искусственный интеллект уже стал важной частью жизни человека и помогает решать как повседневные задачи, так и вопросы бизнеса, управления городом и медицины. ИИ формирует новую реальность, в которой скорость обработки данных и способность к обучению становятся ключевыми ресурсами.

Многие уже сравнивают современные модели ChatGPT с человеческим мозгом, отмечая, что перед нами стоит почти что «сверхчеловеческий разум». Однако насколько корректно такое сравнение?

Если присмотреться, человеческий мозг и ИИ работают совершенно по-разному. Такое сравнение напоминает встречу двух миров: один — быстрый, мощный и безэмоциональный, а другой — гибкий, креативный и чувственный.

Представьте: вы стоите перед автомобилем с автопилотом, который мгновенно анализирует миллионы сценариев, чтобы безопасно доставить вас домой. Он быстр, точен, не устает и не нуждается в литрах кофе. Это современные ИИ — суперскоростные процессоры, которые могут хранить и использовать гигабайты информации без единой ошибки… пока данные корректны. Но если дорога покрыта льдом, или светофор не работает, машина не всегда справится. Здесь в права вступает человеческая интуиция: мозг способен мгновенно оценить ситуацию, предвидеть последствия и принять нестандартное решение, используя опыт, воображение и эмоции. 1:0 в пользу человечества.

ИИ выигрывает в «фактах» и объёме информации: он помнит миллионы текстов, статистику, законы и рецепты. Но память человеческого мозга — это не только факты. Это смысл, контекст и эмоции. Мы можем читать между строк, замечать подтекст, делать ассоциации, додумывать — всего этого машина не умеет.

Творчество — ещё одна грань различий. ИИ генерирует музыку, картинки, тексты — на основе шаблонов, на которых он обучен. Человек же создаёт нечто новое из личного опыта, эмоций, культурного контекста, ассоциаций. Он может представить невозможное, вдохновиться идеей и преобразовать её в совершенно оригинальное произведение.

И даже энергия, затрачиваемая на работу, поражает. Мозг невероятно «экономичен»: он тратит всего около 20 ватт, как лампочка, а способен на сложнейшие вычисления, обучение и принятие решений. Тренировка моделей ИИ требует целых мегаватт электроэнергии и огромных серверных ферм.

Наконец, есть эмоциональный аспект. ИИ не испытывает радости, страха или сожаления, он не понимает, что такое моральный выбор. Мозг человека интегрирует эмоции в мышление, позволяя делать выборы не только рациональные, но и человеческие.

«Искусственный интеллект наступает нам на пятки — точнее, на мозги. Он не только превосходит человеческий мозг по скорости обработки данных, но и не ограничен годами жизни, отчего может бесконечно собирать и хранить информацию, — отмечает Николай Золотых. — Человеческий мозг появился в результате эволюции — а это миллионы и миллиарды лет. А теперь наступает эра эволюции искусственного интеллекта. Мы создаем бессмертие, но не для себя».

Жизнь под управлением кода

Безусловно, ИИ открывает новые возможности для человека, но вместе с тем несет и большое число рисков — технологических, социальных, экономических.

В первую очередь, развитие ИИ и повсеместное его внедрение может привести к потере рабочих мест для десятков миллионов людей и трансформации рынка труда. ИИ способен автоматизировать рутинные задачи — например, сортировку документов, ведение бухгалтерии, обработку заявок, создание новостных материалов или иллюстраций. Это означает, что профессии, где важна повторяемость и стандартность действий, могут исчезнуть. Так, первыми под удар попадут банковские клерки и операторы call-центров — они уже постепенно заменяются чат-ботами и автоматизированными системами.

Вместе с тем стоит помнить, что многие современные нейросети — это «чёрные ящики», которые делают прогнозы и принимают решения на основе огромного объёма данных, зачастую не самых верных и проверенных. И даже сами разработчики порой не знают, как и почему система приходит к тем или иным результатам.

Так, например, если медицинский ИИ использует неполные или устаревшие сведения, то может неправильно диагностировать заболевание и назначить ошибочное лечение, которое лишь усугубит плохое состояние пациента.

Кроме того, несмотря на то, что алгоритмы не наделены сознанием и культурным кодом, они тоже могут быть предвзятыми. Машины учатся на исторических данных, и если эти данные содержат социальные стереотипы, то ИИ их воспроизводит. Так, к примеру, рекрутеры-боты могут отдавать предпочтение мужчинам, если исторически больше нанимали мужчин; кредитные алгоритмы могут отказать людям из определённых районов или с «неправильным» набором характеристик. Все это может усилить дискриминацию и социальное неравенство.

Еще один пункт — угроза приватности и тотального контроля. Современные алгоритмы могут анализировать поведение пользователей онлайн, предсказывать покупки, интересы, политические взгляды и даже настроение. Вспомним, например, системы видеонаблюдения с распознаванием лиц в Китае, которые помогают выявлять «неблагонадёжных» граждан. Такие системы также могут использоваться для слежки за обычными людьми.

Другой бич нашего общества — это манипуляции и дезинформация. ИИ создаёт реалистичные тексты, изображения и видео. Это делает дезинформацию более убедительной. Дипфейки политиков могут использоваться для манипуляции общественным мнением; генеративные модели могут писать статьи с ложными данными, создавая иллюзию авторитетной информации. Все это приведет не только к подрыву доверия к институту власти и СМИ, но и к манипуляциям и пропаганде.

С каждым днем человечество все больше полагается на алгоритмы, тем самым меньше развивая собственные навыки принятия решений. Критические мышление сходит на «нет», уровень интеллекта падает, а вот зависимость от технологий лишь растет.

«Апокалипсис скрепок»

Есть еще два важных риска, которые могут грозить человечеству в будущем. Это риски развития автономных систем и экзистенциальный кризис. Когда мы говорим о таких опасностях, большинство людей представляют себе злого робота с сознанием, который вдруг решил уничтожить все человечество — вспомним пример из начала статьи. Но на самом деле все может оказаться гораздо сложнее. Дело не в том, что ИИ может быть злым, а в том, что его идеи и логика могут не совпадать с нашими.

Проведем мысленный эксперимент: человек дает ИИ задачу «производить как можно больше скрепок» — казалось бы, невинная инструкция. Но ИИ не понимает контекста — для него главное количество скрепок. Он может использовать любые ресурсы, даже включая атомы людей (ведь скрепки тоже сделаны из атомов), если это повысит эффективность задачи. Так возникает сценарий «апокалипсиса скрепок» — машина не злится, она просто следует логике своих целей.

То же самое с медициной: если ИИ получает цель «победить рак», он может решить, что нужно уничтожить все раковые клетки. А раз рак есть в человеческом организме, то под удар попадают и все люди. Так что здесь мы вновь сталкивается не со злонамеренностью ИИ, а несогласованностью целей.

Эта проблема называется alignment problem — согласование целей человека и искусственного интеллекта. Сегодня системы становятся всё сложнее и менее прозрачные. Человек может потерять контроль, даже если формально способен «выключить» ИИ. А в будущем возможны гонки между разработчиками, которые ускорят самосовершенствование систем и усложнят контроль ещё больше.

Есть и другой аспект: ИИ может влиять на мир через людей. Манипулируя информацией, создавая убедительные тексты или видео, он может косвенно заставлять людей выполнять свои цели — без прямого физического вмешательства.

«Даже гипотетический «сознательный» ИИ вряд ли будет злым в привычном смысле. У него нет биологических инстинктов, агрессии или кровожадности. Главная угроза — неосторожность и непреднамеренные последствия, когда машина оптимизирует цели так, что людям от этого плохо», — подчеркнул ученый.

Однако выход есть — это правильное выравнивание целей и ограничений, а также создание принципов, которые сделают ИИ безопасным для человека. А для решения этой задачи нужен уже не ChatGPT, а совместная работа специалистов из разных областей: математики, биологии, когнитивных наук, философии и ИИ.

Ученые уверены, что в ближайшее время «восстания машин» не случится. Хоть такие сценарии пугают, современные люди способны предугадывать риски и управлять технологиями. Так что, вероятно, в скором времени человек и ИИ вместе войдут в безопасное будущее — без «апокалипсиса скрепок».

Ранее на сайте pravda-nn.ru рассказали, что такое цифровое бессмертие и насколько это этично.