"Гибель всех на Земле": почему эксперты боятся развития нейросетей

Нейросеть сгенерировала жуткий фоторепортаж: 2001 год, огромные волны всего за несколько часов превращают все западное побережье США в руины. Искусственному интеллекту достаточно было запроса: великое наводнение, США, катастрофа, чтобы на основе миллионов изображений в интернете создать реальность, которой никогда не было. 

Искусственный интеллект все активнее проникает в жизнь человека. Так, компании в США заменяют живых сотрудников компьютерной программой, а на ставропольском телеканале прогноз погоды ведет виртуальная ведущая.

Как нейросеть создает музыку и проектирует военные корабли? Об этом рассказывает программа "Наука и техника" с Михаилом Борзенковым на РЕН ТВ.

Помощник премьер-министра 

Вот так премьер-министр Румынии Николае Чукэ общается со своим новым помощником: 

– Привет. Я Ион. Моя роль – представлять вас. Я представляю вас, румын. Что мне нужно знать о Румынии?

– Румыния – красивая страна, с красивыми людьми.

Ион – тоже искусственный интеллект. С первого марта 2023 года компьютерный разум решает реальные проблемы настоящих румынских граждан.

"Ему будет предоставлена роль почетного советника премьер-министра, чтобы помочь нам лучше помогать румынским гражданам, информируя правительство в режиме реального времени о предложениях, проблемах и пожеланиях румын", – пояснил румынский премьер-министр. 

Виртуальная телеведущая 

Так сказать "коллега" Иона по интеллекту – Снежана Туманова – работает на одном из каналов Ставропольского края. Там виртуальная ведущая рассказывает о погоде.

Аналоговый ведущий прогноза погоды – Алексей Форсиков – рассказывает о дождях, снеге и перепадах температур, которые ожидают жителей Ставропольского края. Его цифровая соперница Снежана выдает прогнозы по всему Южному федеральному округу. Вот только в студии она не появляется – у виртуальной звезды отдельное рабочее место. 

"Загружаем аватар, загружаем к ней фон. Располагаем, берем текст", – рассказал заместитель директора дирекции ставропольского телеканала Устим Эскеров. 

Виртуальная ведущая на Ставрополье появилась лишь весной 2023 года. Снежана Туманова – это сразу три нейросети: первая генерирует текст, вторая изображения для фона, а третья отвечает за внешность и поведение теледивы. Программу для Снежаны взяли из общедоступных источников. Поначалу на канале искусственный интеллект в роли ведущей был лишь экспериментом, однако он оказался на редкость удачным. 

"Мы сейчас работаем над созданием собственных образов, потому что это был пробный шар, и мы там использовали то, что есть. Сейчас уже создаем собственные. На Снежану можно многих поменять, это прямо хорошо, огонь, и не так дорого выходит", – говорит директор ставропольского телеканала Алексей Папченя. 

Как ИИ создает музыку 

Искусственный интеллект вскоре может заменить композиторов и музыкантов. В России в 2023 году появилась онлайн-радиостанция, полностью созданная нейросетью. Программа сама придумала название станции и ее оформление на сайте, сама выбирает треки и создает из них уникальный плейлист.

"Музыка, создаваемая подобными нейросетями, выглядела скорее как бренчание школьника по пианино. Это был просто несвязный набор звуков. Сейчас технологии улучшились. Мы провели небольшой отбор нейросетей, посмотрели, кто из них какую музыку создает, как создает, сколько времени это занимает, и выбрали одну из них", – отметил программный директор радиостанции Михаил Кортиков. 

В меню онлайн-радио круглые сутки лишь танцевальные композиции. Нейросеть пока не умеет писать тексты песен, но справляется с созданием музыки.  

"Допустим, нас интересует электронная музыка, смешанная с хип-хопом. Мы выбираем эти два направления, идет загрузка", – пояснил диджитал-директор сети радиостанций Станислав Скалабан. 

На создание новой композиции по заданным параметрам нейросети нужно не больше полутора минут.

"Человек, наверное, потратил бы какое-то большее количество времени – полтора-час", – подчеркнул Скалабан.

Проектирование военных кораблей нейросетью

В Китае нейросеть проектирует военные корабли. Компьютерный разум вносит изменения в конструкторскую документацию. За один день он успевает сделать столько же, сколько сделали бы 300 живых специалистов. А ведь ИИ сравнивали с китайцами, которые отличаются фантастической работоспособностью. 

"В Китае строится так много кораблей, что проектировщики просто не успевали за работой верфей. В помощь им и разработали ИИ-конструктор. В ходе испытаний стало понятно, что он работает не только быстрее, но и точнее. В отличие от людей, он вообще не допускает ошибок", – рассказал журналист, научный обозреватель Ши Тяньсин. 

Китайцы доверили искусственному интеллекту не только свои корабли, но и свою свободу. Совсем скоро нейросеть начнет работать в Верховном народном суде КНР. Система будет проверять, верно ли оформлены дела, рекомендовать судьям подходящие законы или статьи и составлять проекты документов. Произойдет это до конца 2025 года. 

ИИ-адвокат

А вот в США ИИ уже трудится в качестве адвоката. В Стэнфордском университете разработали программу, которая помогает подсудимым находить лазейки в законодательстве и обоснованно спорить с обвинителями.

"Правда в том, что большинство людей не может позволить себе адвокатов. Возможность пользоваться инструментами вроде нашего бота в зале суда изменила бы баланс и, возможно, помогла бы им выиграть дела", – объяснил генеральный директор компании – создателя ИИ-адвоката Джошуа Браудер. 

Непредсказуемые последствия ИИ 

Получается, что искусственный интеллект способен избавить от рутинной работы, украсить жизнь, а при необходимости – защитить. Но не все так однозначно. Нейросеть создана по образу и подобию человеческого мозга. Он состоит из нейронов, которые передают друг другу электрические импульсы. Так человек думает, говорит, испытывает эмоции, видит сны. То же самое в нейросети, только вместо живых нейронов искусственные – самые простые процессоры. Но благодаря их огромному количеству у сети есть такое же уникальное свойство, как и у мозга, – она обучается. 

"Возможности искусственного интеллекта на самом деле больше, чем кажутся. Я понимаю, что могут найтись люди, которые снимут все ограничения с нейросетей, и тогда последствия могут быть совершенно непредсказуемыми. Стоит задуматься над этой проблемой, пока не стало слишком поздно", – говорит исполнительный директор компании-разработчика чат-бота Сэм Олтмен. 

Сэм Олтмэн – один из создателей так называемого чат-бота – компьютерной программы, которая позволяет общаться с устройствами словно с живыми людьми. Практически каждый сталкивался с таким ботом, когда делал заказы через интернет. Поначалу программа могла отвечать лишь на самые простые вопросы, но сейчас вышла ее четвертая версия. Она способна общаться так, что иногда невозможно понять, кто с тобой говорит – машина или человек. Поэтому Сэм Олтмэн уже заявил, что боится разума, который создал. И не он один.

"Многие исследователи, и я в том числе, полагают, что самым вероятным исходом создания сверхчеловечески умного ИИ, при любых хоть отдаленно напоминающих современные условиях, будет буквальная гибель всех на Земле. Не "может быть, вероятно, есть некоторый шанс", а "очевидно, это произойдет". В принципе невозможно пережить создание чего-либо намного более умного, чем мы сами", – отметил специалист по искусственному интеллекту Элиезер Юдковский. 

В марте 2023 года больше тысячи специалистов из разных стран мира подписали открытое письмо к разработчикам чат-ботов. Илон Маск, Стив Возняк и Эван Шарп – представители крупнейших компаний и соцсетей – попросили программистов остановить на полгода все работы с мощными системами искусственного интеллекта. За это время люди должны придумать, как контролировать машинный разум и разработать общие правила безопасности. 

О самых невероятных достижениях прогресса, открытиях ученых, инновациях, способных изменить будущее человечества, смотрите в программе "Наука и техника" с ведущим Михаилом Борзенковым на РЕН ТВ.