Какие опасности для человечества таят нейросети и смогут ли они заменить людей

Искусственный интеллект повсюду. В соцсетях обсуждают портреты российских городов, созданные нейросетью, чат-боты помогают нам оформить заказ в интернет-магазине и общаться с банком, а на заводах ручной труд заменяют работы. Казалось бы, всë это должно сделать нашу жизнь проще, интереснее.

Вместе с тем всё чаще высказываются опасения, что из-за развития технологий без работы могут остаться представители множества профессий. А на днях даже гуру IT, которые ранее занимались развитием искусственного интеллекта, выступили с призывом приостановить обучение систем, поскольку они могут быть опасны для общества.

Так в чём же эта опасность?

Алиса, как дела?

Моя трёхлетняя дочь любит поболтать с тётей Алисой – голосовым помощником «Яндекса». Алиса поздоровается, ответит на вопросы и сама их задаст, предложит темы для разговора…

Обращаясь в службу поддержки магазина, банка и так далее, не всегда сразу понятно, что общаешься ты не с живым человеком, а с ботом.

Нейросети пишут новости, музыку, картины, киносценарии. Так, два года назад искусственный интеллект дописал 10‑ю симфонию Бетховена, которую композитор не успел закончить при жизни.

В 2017 году картина «Портрет Эдмонда Белами», написанная нейросетью, была продана на аукционе за 432 тысячи долларов.

Дизайнер Аммар Реши с помощью нейросети создал детскую сказку «Алиса и Искра». Текст для книги написал чат-бот ChatGPT, иллюстрации нарисовала Midjourney. Сам Реши только сверстал книгу, распечатал и выставил на продажу на американском маркетплейсе. На всё про всё ушло 72 часа.

С помощью этого же чат-бота российский студент Александр Жадан написал диплом, который впоследствии защитил. Оригинальность работы составила более 70%.

Тревожный момент

Но если всё вышеописанное довольно безобидно, то генерация фейковых новостей, для которой используют нейросети, может представлять реальную угрозу. К примеру, нейросеть сгенерировала новости о разрушительном наводнении в США, аресте экс-президента США Дональда Трампа, прогулке Папы Римского в пуховике – всё это выдумка, но выглядит пугающе реалистично.

Возможности нейросети уже взяли на вооружение мошенники. В 2019 году гендиректору британской энергетической фирмы позвонил якобы директор головной компании и попросил в течение часа перечислить 243 тысячи долларов венгерскому поставщику. Голос был сгенерирован нейросетью, но подчинённый ничего не заподозрил и выполнил просьбу начальства. Эксперты говорят, что современным нейросетям требуется всего лишь трёхсекундный образец вашего голоса, чтобы его копировать.

Всё это вызывает неподдельную тревогу и не только у обывателей. Более 2000 представителей IT-отрасли, среди которых Илон Маск и сооснователь Apple Стив Возняк, подписали открытое письмо, призывающее остановить на полгода обучение систем искусственного интеллекта (ИИ) более мощных, чем GPT‑4. Неофициально её называют самой умной нейросетью на Земле.

В письме говорится о том, что они могут стать крайне опасными для общества, поскольку даже их создатели не могут их прогнозировать и контролировать.

«Интеллектуальные способности, которыми обладают системы ChatGPT, GPT‑4 и подобные, действительно поразительны и приближаются к человеческим, – отметил доктор физико-математических наук, директор Института информационных технологий, математики и механики ННГУ им. Н. И. Лобачевского Николай Золотых. – По-видимому, сами разработчики этих виртуальных ассистентов не ожидали, что обученные ими нейронные сети окажутся настолько «разумными».

По словам доктора физико-математических наук, упомянутые нейронные сети способны решать очень сложные задачи.

«Мы не знаем, как часто и когда эти нейронные сети будут ошибаться. Мы плохо умеем исправлять ошибки таких сетей. Нет хорошей методики объяснения их решений и в целом нет удовлетворительных методов построения сложных «доверенных» систем ИИ. Если системы ИИ будут встроены в системы принятия ответственных решений, то ошибки могут быть фатальными», – сказал Николай Золотых.

Пришли на замену

Если же отойти от возможных глобальных последствий, то пока больше всего в развитии искусственного интеллекта нижегородцев, как и в целом россиян, пугает перспектива потери работы. Об этом свидетельствуют данные опроса сервиса по поиску работы SuperJob.

«Нейросети, обработка данных, технологии ИИ и машинного обучения всë чаще используются для решения разных бизнес-задач, – отмечает в свою очередь управляющий директор портала «Авито. Работа» Артëм Кумпель. – Они помогают точнее анализировать большие данные, быстрее проводить исследования и даже создавать уникальный контент. Это позволяет снять рутинные задачи с человека».

По словам Николая Золотых, наиболее подвержены замене профессии, связанные с рутинными операциями и обработкой большого объёма данных. Например, аналитиков, бухгалтеров, операторов call-центров заменят системы ИИ, так как они способны очень быстро и эффективно делать повторяющиеся операции без ошибок и с той же самой точностью при большей скорости и меньших расходах.

«Сфера производства и строительства также может быстро уйти в автоматизацию – уже сейчас роботы заменят многие функции рабочих на складах и производственных линиях, в строительстве уже используются автономные машины и дроны. ИИ также используется для автоматизации и оптимизации перевозок и складской логистики. Автономные автомобили и грузовики будут формировать безопасные и более эффективные дорожные потоки, – сказал Николай Золотых. – Что касается творческих профессий, искусственный интеллект приходит и к ним. Однако полностью он вытеснить их вряд ли сможет».

По мнению главного исполнительного директора отдела роста и инноваций Ogilvy Consulting Карлы Хендры, ИИ не сможет заменить людей творческих профессий, потому что не наделëн креативностью, не может говорить с нами эмоционально и убедительно, не умеет наделить творческий продукт своим уникальным смыслом. А ведь именно в этом ценность творчества.

Но пригодиться творцам ИИ может. Подкинуть идей писателю для новой книги, например.

«Системы ИИ станут ещё одним полезным и удобным инструментом художников, писателей, композиторов, и сейчас многие представители креативной индустрии спешат овладевать этими современными технологиями», – говорит Николай Золотых.