Главные вопросы об искусственном интеллекте: можно ли его запретить, когда он превзойдет разум человека и сколько на нем заработает человечество

ИИ не опасен из-за отсутствия собственной воли и желаний

Совсем недавно искусственный интеллект (ИИ) представлялся футуристической химерой, призраком отдаленного будущего. Сегодня он вошел в бытовую жизнь: с его помощью пишут дипломы, переводят тексты с других языков, штрафуют автолюбителей (система видеофиксации использует алгоритмы ИИ), ловят преступников (системы распознавания лиц в метро) и пугают маленьких детей и взрослых. Показательно, что и в англоязычном, и русскоязычном мире искусственный интеллект в 2023 году оказался властителем дум. Так Институт русского языка имени Пушкина назвал словом года “нейросеть”. По версии британского словаря Collins, словом года стал термин AI (от artificial intelligence — “искусственный интеллект” по-английски). А Кембриджский словарь выдвинул в лауреаты глагол hallucinate («галлюцинировать») — так называют феномен, когда ИИ выдает ложную информацию.

Иными словами, на наших глазах происходит грандиозная революция. Ее активная фаза началась чуть больше года назад, в ноябре 2022, когда в массовом доступе появился ChatGPT — чат-бот с искусственным интеллектом. Что же явилось движущей силой этой революции и насколько опасен машинный разум для человечества?

ЧЕЛОВЕЧЕСТВО УЖЕ ПРОИГРАЛО АЛГОРИТМАМ В ШАХМАТЫ, ПОКЕР, ГО И “СВОЮ ИГРУ”

Выращивание ИИ началось не сегодня и не вчера. Точкой отсчета называют конец тридцатых — начало сороковых годов прошлого века, когда перед Второй мировой войной началась война разведок, это привело к бурному развитию методов криптографии и шифрования.

Далее развитие ИИ тесно шло рука об руку с развитием компьютерных технологий, поскольку в основе искусственного интеллекта лежат вычисления. Вот как связаны успехи ИИ и этапы развития компьютерной техники:

— 1997 год. Когда мощности ЭВМ достигли 1 Терафлопса (1 триллион операций в секунду) суперкомпьютер Deep Blue обыграл чемпиона мира по шахматам Гарри Каспарова (признан в России иноагентом).

— 2006 год. Производительность компьютера пересекла рубеж 100 Терафлопс, это позволило начать Blue Brain Project — проект по компьютерному моделированию головного мозга человека. В первой фазе этого исследования, используя суперкомпьютер Blue Gene, удалось смоделировать одну нейронную колонку (это структурная единица мозга) мозга молодой крысы.

Когда мощности ЭВМ достигли 1 Терафлопса (1 триллион операций в секунду) суперкомпьютер Deep Blue обыграл чемпиона мира по шахматам Гарри Каспарова (признан в России иноагентом).

— 2011 год. Вычислительные мощности выросли до 10 Петафлопс. Благодаря этому суперкомпьютер IBM Watson смог обыграть сильнейших игроков телевизионной интеллектуальной викторины Jeopardy (российский аналог — "Своя игра"). Машина заработала 1 миллион долларов, американские “друзь” и “ двинятин” — 300 и 200 тысяч долларов, соответственно.

— 2016 год. Производительность суперкомпьютеров достигла 100 Петафлопс. Это позволило программе AlphaGo выиграть у чемпиона мира по игре в Го четыре партии из пяти. Это круче, чем победа в шахматах, поскольку в Го позиций на 10 в сотой степени больше, чем в шахматах. Следовательно, считать надо гораздо больше.

— 2017 год. Программа Libratus обыграла четырех профессиональных игроков в покер, заработав 1,7 миллиона долларов. В ходе турнира, который длился 20 дней, было разыграно 120 тысяч раздач. В отличие от Го и шахмат, которые являются играми с полной информацией (игроки знают расположение фигур на доске), покер это игра с неполной информацией — вы не знаете, какие карты на руках у противников. Кроме того, противники могут блефовать. Тем не менее, машина и здесь смогла опередить человека.

МАШИНЫ ВСЕГО ЛИШЬ ИСПОЛЬЗУЮТ ИНТЕЛЛЕКТ СВОИХ СОЗДАТЕЛЕЙ

— Если мы посмотрим на этот блестящий список турнирных побед машинного разума, то может возникнуть иллюзия, что искусственный интеллект превзошел интеллект человека. Но на самом деле это не так, — считает академик РАН, доктор технических наук Игорь Каляев, специалист по суперкомпьютерам. — Deep Blue выиграл у чемпиона мира по шахматам не потому, что он умнее, а потому что он очень быстрый. И за счёт быстроты вычислений мог просчитать развитие ситуации на доске на 21 ход вперёд и выбрать оптимальный вариант. Действительно, на сегодняшнем этапе интеллектуальные системы, могут выполнять некоторые задачи лучше людей. Но собственным интеллектом они не обладают и используют интеллект своих создателей, которые заложили в них определенные алгоритмы. По большому счету, машина, как была куском железа, так и осталась.

В ChatGPT ЖИВЕТ 80 ШЕКСПИРОВ

А как же великий и ужасный ChatGPT? И вообще вся эта история с нейросетями, которые не просто считают, а имитируют работу человеческого мозга?

По мнению академика Игоря Каляева, принципиально чат-бот ничем не отличается от всем хорошо известной системы быстрого набора Т9, которая живет в мобильном телефоне. По первым буквам она угадывает слово, которое вы хотите набрать и предлагает готовые варианты из словаря. Впервые такие предсказательные системы появились еще в 2010 году, но никакого фурора не произвели.

— Дело сдвинулось с мертвой точки в 2019 году, когда компания Open AI представило GPT-2, систему, которая использовала машинное обучение для генерации текстов — рассказывает Игорь Каляев. — Что они сделали? Взяли онлайн-сервис Reddit, скачали оттуда все сообщения, которые имели более трёх лайков, и загрузили в нейросеть. Этих сообщений было 8 миллионов, общий объём составлял 40 Гигабайт. Для сравнения, объём всех произведений Шекспира весит 5 Мегабайт (в 8 тысяч раз меньше). При этом модели GPT-2 содержала 1,5 миллиарда параметров, а чем больше параметров, на которых обучается модель, тем она “умнее”.

ChatGPT

Но вау-эффект случился при переходе на GPT-3. Объем обучающих текстов был увеличен в 10 раз — до 420 Гб. А число параметров модели расширили до 175 миллиардов. Как говорят разработчики, где-то на рубеже 13 миллиардов параметров произошёл качественный скачок: система вдруг начала решать задачи, к решению которых она не была обучена. Это были простейшие задачи, но это говорило о том, что появились зачатки сильного искусственного интеллекта — у машины появилась способность приобретать и создавать новое знание. Пока это качество у ИИ развито на детском уровне.

Но, что будет завтра или послезавтра? Сможет ли в перспективе искусственный разум превзойти интеллект человека?

ЧТОБЫ СДЕЛАТЬ “ЖЕЛЕЗНЫЙ” АНАЛОГ МОЗГА ПОНАДОБИТСЯ ЭНЕРГИЯ ОДНОЙ ГЭС

— Я в это не верю, и объясню — почему, — говорит академик Игорь Каляев. — В начале 2018-го в Китае попытались смоделировать работу человеческого мозга на суперкомпьютере Sunway Taihulight — на тот момент это был самый быстродействующий суперкомпьютер в мире. На воспроизведение секундной активности 1 процента мозга ушло 4 минуты машинного времени. Если масштабировать эту ситуацию на 100 процентов мозга человека, то понадобится суперкомпьютер производительностью на три порядка больше, чем существуют на данный момент. Теоретически он может появиться к 2030 году. Если он будет создан на основе нынешних технологий, то этот суперкомпьютер получится размером с 17-этажный дом с основанием 300 на 300 метров. И будет потреблять 1,63 Гигаватт электроэнергии, что приблизительно эквивалентно производительности средней гидроэлектростанции. Для сравнения человеческий мозг потребляет 20 Ватт энергии и занимает объем 1300 кубических сантиметров.

Конечно, технологии постоянно совершенствуются, но это тупиковый путь по мнению академика. Искусственный интеллект не может существовать без суперкомпьютеров — потому что обучать нейросети и оперировать огромным числом параметров и объемами обучающих текстов можно только с помощью этих чудо-машин. Например, Gpt-4 реализован уже на базе специально созданного суперкомпьютера Azure Аi, он содержит 285 тысяч процессоров и обладает производительностью 30 петафлоп.

Но дело в том, что мы уже подошли к физическому пределу производительности современных кремниевых суперкомпьютеров.

Современные технологические нормы создания микросхем достигли 3-5 нанометров, а расстояние между атомами кремния всего 0,6 нанометра. Это тот предел, за который мы пройти не можем. Кроме того, суперкомпьютеры имеют высокую производительность на очень узком классе задач, а увеличение числа процессоров не только не приводит к увеличению производительности — напротив, она начинает падать. Потому что большая часть времени тратится на организацию вычислений, а не на полезные операции.

Конечно, наука не стоит на месте, есть несколько перспективных подходов, один из них развивается в рамках Национального центра физики и математики (НЦФМ) — академик Каляев курирует там направление суперкомпьютеров и ИИ . Новые возможности связаны с созданием фотонных ускорителей. Теоретические исследования показывают, что их применение позволяет на три порядка увеличить скорость машинного обучения.

Но, похоже, сравниться с человеческим мозгом искусственному интеллекту так и не удастся.

ТОЛЬКО ЦИФРЫ

— Считается, что использование систем ИИ к 2030 году удвоит темпы роста ВВП ведущих государств. Мировой ВВП увеличится на 15 триллионов долларов.

— Китай является мировым лидеров в области ИИ, на его долю приходится 60% мировых вложений в разработки. На фундаментальные и прикладные исследования Пекин тратит 20 миллиардов долларов в год. В смежные отрасли — более 150 миллиардов.

— В США суммарные затраты (корпорации, государство, стартапы) на развитие ИИ составляют около 26 миллиардов в год.

— Евросоюз за последние 3 года целевым образом инвестировал в ИИ 1,8 миллиарда долларов. Этот объем планируется довести до 30 миллиардов долларов.

Россия тоже включилась в цифровую гонку, по словам вице-премьера Дмитрия Чернышенко, объем российского рынка ИИ в 2023 году достиг почти 650 млрд рублей. В стране утверждена национальная стратегия развития искусственного интеллекта. В рамках этой стратегии запущен масштабный проект создания Национальной школы физики и математики в Сарове.

ВОПРОС — РЕБРОМ

Может ли искусственный человек поработить человечество?

В начале прошлого года появилось, так называемое, письмо “Тысячи ученых”, которое одним из первых подписали Илон Маск и Стив Возняк. Они предлагали временно остановить обучение нейросетей более мощных, чем GPT-4, поскольку есть риск утраты контроля за их развитием. “Комсомолка” спросила двух ведущих российских ученых: “Разделяете ли вы обеспокоенность зарубежных коллег?”

Игорь Каляев, академик РАН, доктор технических наук:

— Сейчас очень много говорят про этику искусственного интеллекта, призывают подписывать какие-то петиции. Я не понимаю, о чём речь идёт. Компьютер не имеет никакой этики, эта этика заложена в программе, которая написана человеком. Если в этой программе заложена задача взорвать атомную бомбу, компьютер ее взорвёт. Если не заложено, то по своей воле он ничего не сделает. Потому что у него нет собственной воли и своих желаний. Или еще говорят: опасен не сам искусственный интеллект, а перспектива, что он попадет в плохие руки. Но ChatGPT уже сейчас находится в свободном доступе — пожалуйста, программируйте всё, что душе угодно! Допустим, мы сейчас встанем и скажем, что не будем больше его использовать, но найдется, как минимум, десяток человек в мире, которые продолжат с ним работать и получат огромное преимущество. Проблема не в компьютерах, обуздать необходимо не искусственный интеллект, а человека!

Александр Сергеев, научный руководитель НЦФМ, академик (а в прошлом и президентом РАН):

— Ситуация, когда научное открытие приводит к созданию чего-то нового, а далее возникает угроза и человечество предпринимает шаги, чтобы эту угрозу обуздать — это вообще стандартный путь развития нашей цивилизации. Открыли деление атомного ядра — появилось ядерное оружие. Страшно? Страшно! Люди поняли, что надо остановиться, в итоге договорились об ограничении и запрете испытаний ядерного оружия. Идем дальше: появились носители ядерного оружия — межконтинентальные ракеты. Угроза? Угроза! Чем человечество реагирует? Создают систему ПРО, начинается эпоха Сахарова и движение за разоружение. То же самое и с искусственным интеллектом. Может ИИ попасть в плохие руки? Да, может! Тогда давайте думать, как эту угрозу нейтрализовать. Или допустим, мы не понимаем почему ИИ принял такое решение. Тогда мы говорим себе “стоп!” и начинаем разбираться. И только если мы логически поймем ход его действий, мы скажем: “Молодец, искусственный интеллект, продолжай работать дальше!” Да, нельзя допускать машинный разум развиваться слишком далеко в неконтролируемые нами дебри. Но в принципе ничего страшного не происходит: так развивалась наука всегда и будет развиваться дальше.