H
H e
S L n s
с

Какие опасности для человечества таят нейросети и смогут ли они заменить людей

Какие опасности для человечества таят нейросети и смогут ли они заменить людей

Фото: www.istockphoto.com

Профессионалов, связанных с рутинными операциями и обработкой большого объёма данных, нейросети заменят легко

Следите за нашими новостями в удобном формате Перейти в Дзен

Искусственный интеллект повсюду. В соцсетях обсуждают портреты российских городов, созданные нейросетью, чат-боты помогают нам оформить заказ в интернет-магазине и общаться с банком, а на заводах ручной труд заменяют работы. Казалось бы, всë это должно сделать нашу жизнь проще, интереснее.

Вместе с тем всё чаще высказываются опасения, что из-за развития технологий без работы могут остаться представители множества профессий. А на днях даже гуру IT, которые ранее занимались развитием искусственного интеллекта, выступили с призывом приостановить обучение систем, поскольку они могут быть опасны для общества.

Так в чём же эта опасность?

Алиса, как дела?

Моя трёхлетняя дочь любит поболтать с тётей Алисой – голосовым помощником «Яндекса». Алиса поздоровается, ответит на вопросы и сама их задаст, предложит темы для разговора…

Обращаясь в службу поддержки магазина, банка и так далее, не всегда сразу понятно, что общаешься ты не с живым человеком, а с ботом.

Нейросети пишут новости, музыку, картины, киносценарии. Так, два года назад искусственный интеллект дописал 10‑ю симфонию Бетховена, которую композитор не успел закончить при жизни.

В 2017 году картина «Портрет Эдмонда Белами», написанная нейросетью, была продана на аукционе за 432 тысячи долларов.

Дизайнер Аммар Реши с помощью нейросети создал детскую сказку «Алиса и Искра». Текст для книги написал чат-бот ChatGPT, иллюстрации нарисовала Midjourney. Сам Реши только сверстал книгу, распечатал и выставил на продажу на американском маркетплейсе. На всё про всё ушло 72 часа.

С помощью этого же чат-бота российский студент Александр Жадан написал диплом, который впоследствии защитил. Оригинальность работы составила более 70%.

71% нижегородцев считают искусственный интеллект рывком в развитии технологий.

Тревожный момент

Но если всё вышеописанное довольно безобидно, то генерация фейковых новостей, для которой используют нейросети, может представлять реальную угрозу. К примеру, нейросеть сгенерировала новости о разрушительном наводнении в США, аресте экс-президента США Дональда Трампа, прогулке Папы Римского в пуховике – всё это выдумка, но выглядит пугающе реалистично.

Возможности нейросети уже взяли на вооружение мошенники. В 2019 году гендиректору британской энергетической фирмы позвонил якобы директор головной компании и попросил в течение часа перечислить 243 тысячи долларов венгерскому поставщику. Голос был сгенерирован нейросетью, но подчинённый ничего не заподозрил и выполнил просьбу начальства. Эксперты говорят, что современным нейросетям требуется всего лишь трёхсекундный образец вашего голоса, чтобы его копировать.

Всё это вызывает неподдельную тревогу и не только у обывателей. Более 2000 представителей IT-отрасли, среди которых Илон Маск и сооснователь Apple Стив Возняк, подписали открытое письмо, призывающее остановить на полгода обучение систем искусственного интеллекта (ИИ) более мощных, чем GPT‑4. Неофициально её называют самой умной нейросетью на Земле.

В письме говорится о том, что они могут стать крайне опасными для общества, поскольку даже их создатели не могут их прогнозировать и контролировать.

«Интеллектуальные способности, которыми обладают системы ChatGPT, GPT‑4 и подобные, действительно поразительны и приближаются к человеческим, – отметил доктор физико-математических наук, директор Института информационных технологий, математики и механики ННГУ им. Н. И. Лобачевского Николай Золотых. – По-видимому, сами разработчики этих виртуальных ассистентов не ожидали, что обученные ими нейронные сети окажутся настолько «разумными».

По словам доктора физико-математических наук, упомянутые нейронные сети способны решать очень сложные задачи.

«Мы не знаем, как часто и когда эти нейронные сети будут ошибаться. Мы плохо умеем исправлять ошибки таких сетей. Нет хорошей методики объяснения их решений и в целом нет удовлетворительных методов построения сложных «доверенных» систем ИИ. Если системы ИИ будут встроены в системы принятия ответственных решений, то ошибки могут быть фатальными», – сказал Николай Золотых.

Пришли на замену

Если же отойти от возможных глобальных последствий, то пока больше всего в развитии искусственного интеллекта нижегородцев, как и в целом россиян, пугает перспектива потери работы. Об этом свидетельствуют данные опроса сервиса по поиску работы SuperJob.

«Нейросети, обработка данных, технологии ИИ и машинного обучения всë чаще используются для решения разных бизнес-задач, – отмечает в свою очередь управляющий директор портала «Авито. Работа» Артëм Кумпель. – Они помогают точнее анализировать большие данные, быстрее проводить исследования и даже создавать уникальный контент. Это позволяет снять рутинные задачи с человека».

По словам Николая Золотых, наиболее подвержены замене профессии, связанные с рутинными операциями и обработкой большого объёма данных. Например, аналитиков, бухгалтеров, операторов call-центров заменят системы ИИ, так как они способны очень быстро и эффективно делать повторяющиеся операции без ошибок и с той же самой точностью при большей скорости и меньших расходах.

«Сфера производства и строительства также может быстро уйти в автоматизацию – уже сейчас роботы заменят многие функции рабочих на складах и производственных линиях, в строительстве уже используются автономные машины и дроны. ИИ также используется для автоматизации и оптимизации перевозок и складской логистики. Автономные автомобили и грузовики будут формировать безопасные и более эффективные дорожные потоки, – сказал Николай Золотых. – Что касается творческих профессий, искусственный интеллект приходит и к ним. Однако полностью он вытеснить их вряд ли сможет».

По мнению главного исполнительного директора отдела роста и инноваций Ogilvy Consulting Карлы Хендры, ИИ не сможет заменить людей творческих профессий, потому что не наделëн креативностью, не может говорить с нами эмоционально и убедительно, не умеет наделить творческий продукт своим уникальным смыслом. А ведь именно в этом ценность творчества.

Но пригодиться творцам ИИ может. Подкинуть идей писателю для новой книги, например.

«Системы ИИ станут ещё одним полезным и удобным инструментом художников, писателей, композиторов, и сейчас многие представители креативной индустрии спешат овладевать этими современными технологиями», – говорит Николай Золотых.

Подписывайтесь на наши каналы в Telegram:
Самое популярное
Новости партнеров

Следующая запись

Больше нет записей для загрузки

Нет записей для подгрузки

Нацпроекты - людям

Гости юбилейного фестиваля «Золотая хохлома» смогут добраться до площадки мероприятия на электричках :: Четверо врачей трудоустроились в Кулебакскую ЦРБ по программе «Земский доктор» :: Нижегородские мастера могут подать заявку на участие в ярмарке «Арт.Молодость» на фестивале «Таврида.АРТ» в Крыму :: Глеб Никитин и Игорь Левитин провели заседание комиссии Госсовета по экологии :: В Вознесенском округе Нижегородской области начался ремонт дорог :: Десять новых автобусов поступило в Балахну :: Фольклорная экспедиция проходит в Нижегородской области :: Новый ФАП открылся в посёлке Тёша Навашинского округа :: Эксперты проекта по развитию макротерритории «Большая Волга» ознакомились с туристическим потенциалом Нижегородской области :: Нижегородские ИТ-компании и ИП смогут вернуть НДФЛ за привлеченных специалистов :: Новый цифровой флюорографический комплекс поступил в поликлинику ГКБ №28 :: Бывшая свалка на Московском шоссе исключена из реестра объектов накопленного экологического ущерба :: Сезон ремонта и строительства дорог начался в Нижегородской области :: Нижегородские общественники помогают беременным женщинам в кризисной ситуации :: В апреле «Поезда здоровья» посетят 18 муниципалитетов Нижегородской области :: Названы самые популярные у пациентов «Поездов здоровья» врачи :: Более 300 предприятий представят свои вакансии на ярмарке трудоустройства :: 13 нижегородских школьников и студентов представят регион в финале ежегодной Интеллектуальной олимпиады ПФО :: Третья очередь ИТ-кампуса «НЕЙМАРК» получила разрешение на строительство :: Неделя детской и юношеской книги стартовала в Нижегородской области:: Месячник по благоустройству дорог стартовал в Нижегородской области :: В Нижегородской области обновился портал региональных государственных услуг :: Пять нижегородских компаний принимают участие в бизнес-миссии в Беларуси :: Рейтинговое голосование по проекту «Формирование комфортной городской среды» продлится до 30 апреля :: ИТ-кампус «НЕЙМАРК», Сбербанк и ННГУ им. Н.И. Лобачевского будут развивать проекты в сфере искусственного интеллекта :: Участница викторины «КУПНО ЗА ЕДИНО!» из Ардатовского округа получила автомобиль :: Реконструкция моста через Пижму началась в Тоншаевском районе :: Более 2,4 млн рублей направлено на оснащение ДШИ в Первомайске по нацпроекту :: Нижегородская область вошла в топ‑5 регионов по количеству участников молодежного направления проекта «Мастера гостеприимства» :: Почти 10 тысяч нижегородцев получили медицинскую помощь в «Поездах здоровья» с начала года :: Глэмпинги откроются в 10 муниципалитетах Нижегородской области в этом году :: Более 100 человек из аварийного жилья в Шахунье получили ключи от новых квартир :: Более 1,5 тысячи «серебряных» волонтеров активно действуют в регионе :: 11 врачей трудоустроились в Балахнинскую ЦРБ по программе «Земский доктор» :: Специалисты МГУ изучат состав отходов в «Черной дыре» в Дзержинске :: Социальные участковые расскажут нижегородцам о благоустройстве пространств :: Глеб Никитин провел заседание оргкомитета по подготовке к 225-летию со дня рождения Александра Пушкина :: В Дзержинском театре кукол будет выполнен капремонт по нацпроекту в 2024 году :: Нижегородцы могут принять участие в новом сезоне проекта «Флагманы образования» :: Молекулярно-генетическую лабораторию создали на базе Нижегородского областного клинического онкологического диспансера :: Контракты на ремонт почти 400 км автодорог по нацпроекту уже заключены в Нижегородской области ::