Сегодня президент России Владимир Путин коснулся темы создания искусственного интеллекта и необходимости его получения, чтобы стать "властелином мира". Лайф разобрался, насколько это реально и когда можно ждать такого события.

Выступая перед школьниками и студентами, Владимир Путин коснулся и темы искусственного интеллекта. По его мнению, создание такой технологии таит в себе как множество возможностей, так и множество опасностей. В общем и целом высказанное им мнение можно назвать одним из самых взвешенных, сделанных известными людьми по этой теме. Интереснее другое: когда именно можно ожидать искусственный интеллект и насколько реально его создание?

Перед началом разговора стоит сказать пару слов о вреде неточных переводов. Искусственный интеллект - от английского artificial intelligence, и второе слово скорее имеет значение "умение рассуждать разумно, понятливость", нежели сложный и присущий пока только людям интеллект. И вот тут и проходит серьёзная грань, что же человечество способно создать, а что пока остаётся недостижимым.

Всего лишь программы

Чаще всего, когда об искусственном интеллекте говорят программисты, они имеют ввиду программы, имитирующие те или иные возможности человека. В любой компьютерной игре искусственный интеллект (ИИ) управляет действиями противников. Они могут использовать разные тактики, менять их, метко стрелять и двигаться, не врезаясь во все стены. Хорошо написанный искусственный интеллект делает компьютерных противников (ботов) малоотличимыми от реальных людей.

Примеров таких программ сотни и тысячи. Это так называемый слабый искусственный интеллект. Именно такая программа победила Гарри Каспарова в шахматы. Подобные программы могут рисовать, диагностировать заболевания, воспринимать человеческую речь и даже убивать, будучи помещёнными в систему управления дроном или боевым роботом.

Важно понимать, это лишь программы, которые способны только на то, что в них заложили создатели. Они могут в определённой мере учиться при помощи нейросетей, но делать это лишь в ограниченном, заранее прописанном секторе. Программа по игре в шахматы никогда не научится рисовать и не начнёт внезапно воспринимать человеческую речь. Это лишь программа, и в ней нет ничего сверхсложного и непонятного, она никогда не выйдет за пределы заложенного в неё людьми.

Сильный и искусственный

Когда же говорят о будущих угрозах и возможностях, как правило, имеют в виду сильный искусственный интеллект. Что же это такое? Предполагается, что сильный искусственный интеллект сможет приобрести способность мыслить и осознавать себя, хотя и не обязательно этот мыслительный процесс будет подобен человеческому. Есть общая договорённость, что такой искусственный разум должен включать в себя следующие свойства.

• Принятие решений, использование стратегий, решение головоломок и действия в условиях неопределённости.
• Представление знаний, включая общее представление о реальности.
• Планирование.
• Обладание абстрактными общими знаниями, общим представлением о реальности.
• Обучение, причём не только на основе вводимых в ПО данных, но и самостоятельное, с подбором нужной для этого информации среди множества другой информации.
• Свободное общение на естественном языке на любые темы, в том числе те, что требуют самостоятельной оценки и анализа.
• Объединение всех этих способностей для достижения общих целей.

Самое главное, что этот интеллект будет осознавать себя, то есть понимать, что он такое и на что способен. Как человек, когда осознаёт и спрашивает себя: "А кто я? А что я здесь делаю?" Проблема в том, что современная наука пока не имеет полного понимания, как и на каком этапе возникает такое осознание. Какие области мозга при этом задействуются и как повторить это при помощи компьютера.

https://ru.wikipedia.org/wiki/%D0%9D%D0%BE%D0%B2%D0%B0%D1%8F_%D0%BA%D0%BE%D1%80%D0%B0" target="_blank">окортекса головного мозга.

В данный момент удалось смоделировать всего одну нейронную колонку неокортекса молодой крысы (это проще, чем у человека). Напомним, нейронная колонка - это лишь несколько кубических миллиметров мозга, но уже сотни гигабайт информации в секунду. Исследователи даже не ставят перед собой задачи смоделировать сознание - впереди ещё горы работы по имитации хотя бы малой части мозга.

Более того, создание копии мозга, которое вряд ли случится в течение ближайших двадцати-тридцати лет, ещё не обозначает создания искусственного интеллекта. Грубо говоря, внешнее повторение создания компьютера ещё не даст вам наполненный программами и работающий инструмент. Это будет лишь макет, хоть и удивительно похожий.

Поэтому в настоящее время говорить о создании искусственного разума рано. Нельзя даже прогнозировать его создание. Пока не доказано, что это реально. Некоторые учёные считают, что создание сильного искусственного интеллекта в принципе невозможно.

Если сознание появляется в результате критической массы взаимодействий - тогда это может быть возможно. Но мы действительно не понимаем, что есть сознание, поэтому трудно об этом говорить".

Сделать программу, способную обмануть собеседника, создать у него полное ощущение, что он общается с реальным человеком, не так уж и сложно. Уже в ближайшие годы мы получим таких компьютерных собеседников - способных флиртовать, болтать и вести себя неотличимо (а то и чуть лучше) от большинства наших знакомых. Но не стоит себя обманывать, это не искусственный разум, даже не близко.

В поисках искусственного разума

Всё вышесказанное совсем не обозначает, что не стоит заниматься его разработкой и нужно прекратить все попытки. Это выглядело бы примерно так же, как если бы доказательство невозможности путешествий со скоростью выше скорости света заставило людей бросить всю космонавтику целиком. Иногда по пути к цели находится гораздо больше интересного и ценного, чем сам итог путешествия.

Владимир Путин, выступая, сказал: "Чтобы не стоять в конце очереди, нужно над этим работать уже сегодня". И это верно. А вот бояться создания искусственного разума пока не стоит: слишком далеко это событие от нас и слишком много вокруг действительно страшных вещей, на которые стоит обратить внимание. В конце концов, современные боевые технологии способны уничтожать, не имея внутри себя настоящего разума.

В течение многих десятилетий такое понятие, как искусственный интеллект принадлежало исключительно научной фантастике и вдохновляло писателей и сценаристов на создание сюжетов, описывающих драматические взаимоотношения людей и разумных машин. Все начало меняться несколько лет назад, а начало 2016 года стало бенефисом реально существующих систем искусственного интеллекта..

Искусственный интеллект наступает

Если быть точным, то череда информационных поводов, каждый из которых достоин большой статьи, началась в декабре 2015 года, когда культовая фигура современного хайтека предприниматель Илон Маск (Tesla Motors, SpaceX) вместе с соснователем PayPal Питером Тилеми и главой венчурного фонда Y Combinator Сэмом Альтманом заявили о создании некоммерческой организации OpenAI и об инвестициях в нее в размере миллиарда долларов.

OpenAI – это исследовательская компания, занимающаяся ИИ (искусственным интеллектом). По заявлению учредителей, цель компании – развивать открытый и дружественный искусственный интеллект. Открытость призвана избежать концентрации власти, которую дает ИИ, находящийся в одних руках.

4 января в Лас-Вегасе в рамках СЕS – крупнейшей мировой технологической выставки, глава компании NVIDIA Дженсен Хуанг провел впечатляющую презентацию нового автомобильного суперкомпьютера Drive PX2, позволяющего управлять автомобилем без водителя, рассказал о разработках NVIDIA в области глубинного машинного обучения и компьютерного зрения.

А 15 марта состоялась наверно самая яркая в современной истории демонстрация возможностей современного искусственного интеллекта. ИИ AlphaGo компании Google обыграл со счетом 4:1 сильнейшего игрока в Го, Ли Седоля. Призовой фонд матча составил $1 млн.

Го – древняя китайская настольная игра, популярная не только в юго-восточной Азии, но и во всем мире. Ее особенность заключается в том, что по количеству вариантов ходов, их 200 во время каждого хода, она значительно превосходит шахматы. Даже самый мощный суперкомпьютер в мире, а тем более человек, не способен просчитать все варианты развития партии. Соответственно, важнейшими качествами сильнейших игроков в Го является развитое стратегическое мышление и хорошая интуиция. То есть, ИИ превзошел человека в таком, казалось бы, чисто человеческом качестве, как интуиция.

Еще одним интересным событием, непосредственно связанным с искусственным интеллектом, стал проводящийся в Японии литературный конкурс имени писателя-фантаста Хоси Синъити. В этом году из полутора тысячи произведений 11 было написано с помощью ИИ, а повесть "День, когда компьютер написал роман" вышла в финал конкурса. Повесть была написана искусственным интеллектом, разработанным в университета Хакодате.

Отличным прогнозистом оказался китайский ИИ Aliyun, созданный интернет-гигантом Alibaba Group. В начале апреля он смог предсказать победителя и финалистов популярного в Китае музыкального шоу "Я певец". Победитель этого шоу определяется слепым (без предварительных совещаний) голосованием 500 судей.

Говоря о искусственном интеллекте, стоит отметить один поразительный момент. Несмотря на колоссальный прорыв, который произошел за последние 30 лет в области информационных технологий, и триллионы инвестиций в IT, работы по разработке ИИ все это время испытывали хроническое недофинансирование и только в последние несколько лет туда пришлю серьезные деньги.

Что в данном случае первично, инвестиции, которые принесли отдачу, или успехи разработчиков ИИ, которые заметил большой бизнес, в общем, неважно. Главное, что дело сдвинулось с мертвой точки.

Что же вообще такое – искусственный интеллект?

Академического определения ИИ еще не сложилось, однако специалисты считают, что отличительная особенность искусственного интеллекта – способность, в отличие от обычной компьютерной программы, к выполнению интеллектуальных и творческих задач.

Современных концепций создания ИИ довольно много. Но на самом базовом уровне они отличаются тем, что одни пытаются копировать человеческое мышление – семиотический подход, а другие строятся по принципу биологических нейронных сетей, моделирующих интеллектуальную деятельность на основе природных эволюционных алгоритмов – биологический подход.

На сегодняшней день самые заметные успехи достигнуты во втором направлении. Машинное обучение, а точнее глубинное машинное обучение (Deep Learning) – сейчас считается самым перспективным в создании ИИ.

ИИ, созданные по такому принципу, не просто учатся, они способны обучатся cамостоятельно, без участия людей. Процесс обучение такой системы больше напоминает не обучение человека, а ускоренный в миллионы раз процесс эволюции биологических организмов.

В чем же отличие, созданных фантастами и транслируемых поп-культурой, образов могучих разумных машин из "Бегущего по лезвию бритвы", "Терминатора" и "Матрицы" от реально существующих искусственных интеллектов?

Разумеется в научно фантастике необходимость создания драматических сюжетных коллизий диктует практически обязательный конфликт между машиной и человеком. Но главное не это.

Во-первых, все художественные концепции искусственного интеллекта антропоцентричны. То есть, такие ИИ напоминают своим поведением людей, а взаимоотношения человека и машины в научной фантастике практически ничем не отличаются от взаимоотношений людей разных национальностей, религий и культур. Но если посмотреть на самые успешные из уже существующих ИИ, то они не руководствуются человеческой логикой, а базируются на искусственных нейронных сетях и, образно говоря, напоминают не человека, а разумную планету. Отдадим, впрочем, должное современным НФ-писателям, такие сюжеты в современной фантастике тоже есть.

Фото: YAY/ТАСС/William Attard McCarthy

Во-вторых, все эти умные машины из фантастических фильмов и книг способны сами ставить себе цели и пытаться их добиться.

Реально же существующие ИИ-системы даже в теории на такое не способны.

Разработчик искусственного интеллекта компании "Яндекс" Александр Крайнов считает это принципиальным моментом, отличающим мышление ИИ от человеческого. ИИ может решать только те задачи, которые перед ним ставит человек и неспособен к целеполаганию.

А может ли ИИ представлять опасность?

Разумеется, может. Как представляет собой опасность любое выдающееся научное достижение. Классический пример – открытие процесса расщепления атомного ядра, которое привело, как к созданию ядерной энергии, так и к созданию ядерного оружия. Более актуальный пример – Интернет, с одной стороны давший так много новых возможностей людям, с другой – породивший киберпреступность.

ИИ тоже может быть опасен. Но не как враждебная людям сила. Он может быть опасен именно как инструмент в руках злоумышленников. Поскольку обучают ИИ люди, они же и задают параметры обучения. Соответственно, человек и отвечает за то, какой ИИ мы в итоге получаем.

Процесс обучения ИИ интересен еще и тем, что люди не только задают параметры обучения, но и сами становятся объектами и примерами для обучения искусственного интеллекта.

Тот же AlphaGo, перед тем как обыграть Ли Седоля, проанализировал тысячи партий лучших игроков в ГО, а потом сыграл еще миллионы партий сам с собой.

Есть и другой пример обучения ИИ, несколько менее удачный, но тоже очень яркий. Это англоязычный чатбот Тэй компании Microsoft, который запустили в социальной сети Twitter в образе девушки тинэйджера. За 24 часа Тэй, общаясь с пользователям, превратилась из дружелюбного собеседника в малоадекватное существо и стала публиковать посты антисемитского, расистского и шовинистического содержания. В итоге компания удалила твиты Тэй и принесла извинения пользователям.

Причем ранее чатбот Сяоайс, созданная на базе того же самого ИИ, блестяще работала в китайском сегменте интернета и пользовалась колоссальной популярностью. Сяоайс заработала в мае 2015 года в социальных сетях WeChat и Weibo, а позднее, придав ей визуальный образ, Сяоайс сделали ведущей выпуска прогноза погоды на китайском телеканале. За несколько месяцев она вошла в десятку самых популярных персон соцсети Weibo и провела несколько миллиардов диалогов с людьми.

Тем удивительней на первый взгляд неудача Тэй в Twitter. Причина, однако, оказалось очень простой – разная аудитория Twitter с одной стороны и WeChat и Weibo – с другой. Общаясь и обучаясь на более агрессивных и провокационных диалогах в Twitter, Тэй сама стала и вести себя как ее собеседники.

На сегодняшнем уровне развития, разумеется, никакой ИИ не может представлять собой опасность. Но даже в теории создать злой ИИ может только человек, и научить плохому ИИ может тоже только человек.

Что может искусственный интеллект?

По мнению представителя компании NVIDIA Ирины Шеховцовой все, что связано с распознаванием информации, продуктов, музыки, речи, жестов, видео – все это будет рано или поздно управляться искусственным интеллектом. "Большой потенциал в развитии ИИ связан с робототехникой, финансовыми услугами и безопасностью, самоуправляемыми автомобилями", – считает Шеховцова.

ИИ уже используется в поисковых машинах "Яндекса", Google, Microsoft, Baidu, в компьютерном зрения, при финансовом анализе, в различных экспертных системах.

Одно из направлений использования ИИ – возможность общения на естественном языке с разнообразными компьютерными интерфейсами и интернет-сервисами. Причем, это уже не далекое будущее, а реальность. Коммерческих чатботов в соцсетях и мессенджерах запустили или планируют запустить в ближайшее время тысячи компаний. Благодаря ИИ, распознавание и синтез речи выходят на новый уровень. Соответственно, можно ожидать прорыва и в области машинного перевода, как текстового, так и голосового.

До сих пор люди выполняют огромное количество тяжелых рутинных рабочих процессов. Причем, если на производстве научились более или менее успешно их автоматизировать – на современных роботизированных фабриках и складах могут работать буквально несколько человек, то сферу обслуживания, офисы, госучреждения, транспорт и СМИ сейчас сложно себе представить без участия людей. Но, возможно, лет через 10 ситуация принципиально изменится. Использование ИИ в роли юридических, бизнес и медицинских консультантов, с одной стороны, уменьшит стоимость таких услуг, с другой – повысит их качество. Хороший пример использования ИИ – отслеживание транспортных и охранных камер наблюдения. Сейчас этим занимаются операторы, но современный ИИ уже может не только распознать внештатную ситуации, но и классифицировать ее, проанализировать и предпринять соответствующие действия.

В принципе, любой процесс, выполняемый по определенным алгоритмам, каким бы человеческими и сложными они не казались, можно передать ИИ. Это касается и консультаций у доктора или адвоката, написания новостей в СМИ, разработки бизнес-планов и маркетинговых стратегий, ведения бухгалтерии, работы госчиновников и многого другого.

Интересно, что многие эксперты видят перспективы использования ИИ не только в более или менее шаблонных рабочих процессах, но и в тех, которые традиционно считаются творческими. Теоретически ничто не мешает ИИ, конечно более развитым и обученным чем сейчас, писать художественные тексты, поп-музыку, картины или снимать кино.

Впрочем, это скорее говорит не об очеловечивании ИИ, а о том, что мы несколько переоцениваем свой творческий потенциал, и большая часть создаваемого даже людьми креативных профессий – это добротный, качественный и профессиональный продукт, созданный по жестким стандартам, освоить которые по силам и ИИ.

Искусственный интеллект – это хорошо или плохо?

ИИ – это не просто хорошо. Это очень хорошо. Он может освободить человеческие ресурсы для настоящей интеллектуальной и творческой деятельности. Более того, выполняя рутинные процессы, ИИ может стать неоценимым помощником для решения сложных задач, где требуется интеллектуальный или творческий прорыв. Также, очевидно, что массовое внедрение ИИ откроет путь к появлению новых профессий (и созданию новых рабочих мест), которые мы пока даже не можем себе представить.

Остается открытым вопрос – насколько люди готовы в реальной жизни взаимодействовать с искусственным интеллектом. Есть разные точки зрения, но с учетом возрастающей виртуализации нашего общения, которое все больше происходит не лицом к лицу, а по телефону, в электронных письмах, чатах, соцсетях, нам по большому счету неважно, кто на том конце провода примет заказ, ответит на вопрос, решит проблему – реальный человек или искусственный интеллект. Так что, скорее всего психологическое привыкание людей к общению с ИИ произойдет намного быстрее, чем нам кажется.

Серия статей CHIP:

Развитие цифрового мира за последние полвека неразрывно связано с законом Мура. С одной стороны, этот закон по сути не является законом, а представляет собой нечто среднее между эмпирическим наблюдением и прогнозами. С другой стороны, конкретной формулы, выражающей выводы Гордона Мура в цифрах или символах, не существует.

В 1965 году сооснователь Intel Гордон Мур сформулировал свои первые прогнозы на будущее полупроводниковых технологий: количество элементов на кристаллах электронных микросхем будет
удваиваться приблизительно каждые два года

Сооснователь концерна по производству микросхем Intel еще в 1965 году предсказал, что количество транзисторов, размещаемых на одном кристалле микросхемы, из года в год будет удваиваться. Десять лет спустя он скорректировал свой прогноз, увеличив интервал удвоения до двух лет.

Сегодня, оглядываясь назад, можно сказать, что плотность элементов на кристаллах увеличивалась в два раза каждые 20 месяцев. Нередко закон Мура объявляется недействительным. Но даже когда миниатюризация техпроцесса кремниевых микросхем достигнет атомарных пределов, повышение производительности еще долго будет происходить за счет разработки новых микроархитектур и использования новых материалов.

Мировосприятие Курцвейла

Закон Мура описывает развитие всей IT-отрасли, экспоненциальная динамика которой, казалось бы, не имеет исторического прецедента. Согласно этому закону, все устройства и компоненты становятся все быстрее, меньше в размерах и доступнее по цене. По быстродействию флагман не уступает пяти приставкам PlayStation второй версии 2000 года, вместе взятым. Новая консоль Sony PS 4 в свою очередь оставляет далеко позади ASCI Red - самый мощный суперкомпьютер в мире версии 1998 года.

А вот североамериканский изобретатель Рэймонд Курцвейл убежден, что закон Мура применим не только для цифровой эры, но и для всех информационных процессов в истории человечества, которую он понимает как постоянную смену эпох, выделяемых исходя из способа представления данных: «Эволюция идет косвенным путем: для того, чтобы создать следующую стадию или эпоху, используются информационно-процессуальные методы из предыдущей».

Рэй Курцвейл рассматривает эволюцию как экспоненциальное развитие. В цифровой эре собы-
тия сменяют друг друга до тех пор, пока не наступит время «большого взрыва» искусственного
интеллекта - сингулярности.

График выше иллюстрирует данное динамическое развитие с сокращающимися промежутками времени между все более усложняющимися событиями. С момента зарождения жизни, так называемой химической эволюции в начале истории Земли, до кембрийского взрыва, когда внезапно увеличилось разнообразие биологических форм, прошло около 3,5 млрд лет. С этого времени до появления современного человека - еще целых 500 млн.

Чтобы напечатать первую книгу, человеку разумному потребовалось еще 150 000 лет, в течение которых он попутно изобрел колесо. Со времен Гутенберга до первого сбоя Windows прошло еще 500 лет. А сегодня, 30 лет спустя, мы делаем запросы на смартфонах о робомобилях.

Курцвейл - это гений техники. Но его таланты техникой не ограничиваются. Его конек - теория распознавания образов. Это он изобрел планшетный сканер и синтезатор речи. В настоящее время Рэй Курцвейл занимает должность технического директора Google. Кроме того, он является автором нескольких научно-популярных книг. 67-летний ученый известен также и как футуролог.

Около 86% прогнозов Курцвейла на долгосрочную перспективу, сделанных в прошлом, сбылись. Среди них и такие яркие события, как триумфальное шествие Интернета и победа машины над человеком в шахматном матче, предсказанная им еще в 80-х годах.

Техника как новая ступень эволюции

Прогнозы Курцвейла по-прежнему нередко называют преувеличенными. Он в ответ возражает, что многие люди представляют себе технический процесс «интуитивно-линейно»: «Сначала нам нужно научиться думать экспоненциально. Если я совершу тридцать шагов по прямой, мой результат составит тридцать шагов. Если я совершу тридцать шагов по экспоненте, мой результат составит миллиарды».

Во времена обучения Курцвейла университетский компьютер занимал целое здание. А сегодня он пользуется смартфоном, который умеет намного больше, чем тот компьютер, и умещается в карман рубашки. По мнению Курцвейла, уже через лет двадцать компьютеры можно будет поместить в клетку крови.

Закон Мура в силе: следующий этап наноэлектроники - система литографии в глубоком ультрафиолете Carl Zeiss Jena

Такая мудреная смесь Дарвина и Мура, которую Курцвейл называет «законом ускоряющейся отдачи» (The Law of Accelerating Returns), позволяет ему взглянуть в будущее человечества, которое в том виде, что мы знаем сегодня, исчезнет, и которому, по мнению изобретателя, будет даровано бессмертие.

Миллиарды лет на нашей планете почти ничего не происходило - это горизонтальное начало экспоненты. А потом эволюция внезапно начала набирать темп: с развитием человечества эпохальные свершения происходили со все сокращающимся временным интервалом. Из-за экспоненциального технического прогресса события быстро сменяют друг друга, а кривая идет круто вверх.

Человек как устаревающая биологическая модель

По Курцвейлу, уже совсем скоро технический интеллект догонит биологический. Случится это в 2029 году, и робот научится делать все то, что умеет делать человек. Для человечества ускорится фаза слияния человеческого разума и технологий, и совершенствование человека, начинавшееся с деревянных протезов, завершится его бессмертием, когда разум и тело можно будет дополнить или реплицировать.

Человек расстается со своими биологическими корнями

Наступлению эры «Человечества 2.0», по Курцвейлу, будут способствовать не только цифровые технологии, но и генетика и нанотехнологии. В книге «Сингулярность уже близко» («The singularity is near») ученый разжигает пламя надежды на спасение: изменение генетического кода позволит нам победить все болезни и затормозить процесс старения, для поддержания здоровья и расширения возможностей мозга в тело человека будут вводиться нанороботы, которые будут меньше по размерам, чем вирусы, а благодаря разработке новых материалов можно будет создавать новые органы и даже наши точные копии.

«Машинная производительность мозга» человека будет удваиваться каждый год. Люди-машины будут обрабатывать информацию в сотни раз быстрее своих биологических предшественников, никогда не ощущая усталости. Наши полупроводниковые потомки почувствуют себя королями Вселенной и завоюют ее. А старое доброе человечество, превратившееся в устаревшие модели, обречено.

Придут ли машины к власти?

Может, Рэй Курцвейл немного помешан? Так думают многие. На каждый из его тезисов о том, что нас ждет в ближайшем будущем, находится бесчисленное множество противников из всех областей науки - и примерно столько же сторонников. Наш журнал представит мнение обеих сторон. Кроме того, нам предстоит рассмотреть основной вопрос, имеющий жизненно важное значение для человечества, но, тем не менее, не играющий большую роль в публичных обсуждениях: могут ли машины захватить власть над людьми?

Инновационный метод: оптогенетика позволяет исследователям управлять генетически модифицированными живыми нервными клетками, используя их реакцию на свет

Курцвейл - отнюдь не единственный специалист в области искусственного интеллекта (ИИ), который считает, что «технологическая сингулярность» завершится через тридцать лет. Когда ИИ, намного превосходящий человеческий, получит доступ к повседневным знаниям, представленным в цифровой форме, и в процессе самообучения, по всей вероятности, незамедлительно приступит к созданию новых более высоких сверхинтеллектов, в истории человечества будет достигнута точка, с которой начнется новый путь развития, пока неведомый и не поддающийся определению для нас.

Генератор идей цифрового будущего

Рэй Курцвейл - один из ведущих экспертов в области искусственного интеллекта. Сам он вполне мог бы послужить объектом исследования специалистов по интеллекту человеческому. 67-летний ученый отметился большими достижениями в разных областях: он изобрел планшетный сканер, оптическое распознавание символов (OCR) и первые коммерческие системы распознавания речи.

Появление «читающей машины» Курцвейла считается самым крупным шагом на пути к улучшению качества жизни людей с нарушениями зрения со времен введения тактильного шрифта в 1829 году. Устройство, читающее тексты вслух, в 1976 году положило начало дружбе изобретателя со Стиви Уандером.

Незрячий музыкант вдохновил Курцвейла на следующий крупный проект - музыкальный синтезатор, который эмулирует звуки акустических инструментов. Если бы у Томаса Эдисона и Джоан Роулинг был сын, то, наверное, он был бы похож на Рэймонда Курцвейла.

О его технологическом гении свидетельствуют десятки патентов, докторские степени, премии за исследования и благодарности от трех североамериканских президентов. В 2015 году он получил премию «Грэмми» за инновационный вклад в области музыки. Его книги регулярно становятся бестселлерами среди научно-популярных изданий в США.

В книге «Сингулярность уже близко» и других работах он развивает смелые тезисы о технологиях будущего, которые вполне могли бы стать основой для восьмой части серии книг о Гарри Поттере. Когда-то Курцвейл изучал литературу и информатику в Массачусетском технологическом институте в Бостоне. Отец двух дочерей происходит из семьи евреев - музыканта и художницы, вынужденных бежать в Нью-Йорк из родной Вены после «Хрустальной ночи» 1938 года. Будучи агностиком, он не полностью отвергает существование Бога, но считает, что религия уже потеряла актуальность.

Преувеличенным оказывается в этом отношении часто обсуждаемое мнение, что Курцвейл, будто глава какого-то культа, собирает вокруг себя общество верующих в трансгуманизм. Технический директор Google считает победу над биологией эволюционной неизбежностью. А это не вопрос духовности: «Религия связана с верой, технология - с пониманием».

Этот «большой взрыв» ИИ описывает также теологическое понятие «точка Омега». По мнению специалиста в области ИИ Юргена Шмидхубера, процесс растянется на два-три десятилетия, как считает и Курцвейл, однако Шмидхубер предпочитает выражение «Омега», поскольку его звучание напоминает фразу «Боже мой!» (Oh my God!).

Впрочем, независимо от точности этих прогнозов, людям - по меньшей мере, тем из нас, кто еще не достиг пенсионного возраста, - нужно подготовиться к бурным переменам, тем более что средняя продолжительность жизни экспоненциально растет. Те, кто родился в этом столетии, могут дожить до его конца и обрести бессмертие - если ИИ не будет этому препятствовать.

Но действительно ли точка Омега - это вопрос нескольких десятилетий? В настоящее время лучшие IT-ком­пании мира, в первую очередь концерн Google, который сейчас называется Alpha­bet, и его китайский аналог Baidu, предпринимают смелые попытки поднять биологию и технологии на новый, возможно, общий уровень. В исследовательских лабораториях университетов, военных и спецслужб ученые работают над собственной «ликвидацией».

Генри Маркрам руководит проектом «Человеческий мозг», на который ЕС выделил €1,2 млрд

Даже Европейская комиссия, ко всеобщему удивлению, продвигает особо амбициозный проект под названием «Человеческий мозг» (Human Brain Project, сокращенно HBP). Под руководством израильского специалиста Генри Маркрама международные группы ученых уже в течение двух лет проводят глубокие исследования человеческого мозга - под такой обтекаемой формулировкой установки была объединена работа 112 организаций из 24 стран мира.

Исследователи мозга и упрямцы

Дальнейшее развитие событий проходило по обычному сценарию: разгорелись жаркие споры. Маркрам с частью своих коллег объявил цель своей работы, что наделало немало шума: ученые запланировали эмулировать на компьютере работу человеческого мозга к 2023 году.

Сужение идеи и концентрация на таком замысле со множеством открытых вопросов вызвали открытую неприязнь у сотен ученых, задействованных в проекте. Они требовали изменить структуру проекта, бюджет которого, к слову, составляет €1,2 млрд. Спор естественным образом касался и денежных средств, выделенных на исследования. Еще один вопрос, вокруг которого не утихала дискуссия, заключался в возможности моделирования активности человеческого мозга на компьютере.

Мюнхенский физик и нейробиолог Андреас Херц считает, что смоделировать полноценный мозг на компьютере не удастся

Даже среди исследователей мозга встречаются великие упрямцы. Спорам не было конца, поэтому пришлось вмешаться группе посредников, которой в конечном счете удалось переубедить Маркрама. Одним из членов этой группы стал мюнхенский физик Андреас Херц, профессор Мюнхенского университета Людвига-Максимилиана, преподающий вычислительную нейробиологию - это относительно молодая междисциплинарная область науки, в рамках которой биологи, медики, психологи, математики, физики и специалисты в области компьютерных наук занимаются исследованием мозга.

По мнению Херца, в рамках проекта HBP внимание ученых должно быть более сконцентрировано на изучении организации, анализе и визуализации сложных нейронных данных с целью собрать материал для широкого научного сообщества. Такое смещение вида деятельности с исследований на своего рода оказание услуг, по всей видимости, единственный выход: «Если продолжать погоню за иллюзией репликации мозга на компьютере, весь проект будет обречен на провал».

Решение в уме: на пятерку

Из-за чего эмуляция мозга оказывается несказанно трудным делом? Прежде всего, в нем задействован огромный потенциал производительности, благодаря которому шедевр эволюции может противостоять высшим достижениям цифровой современности. В человеческом мозге содержится около 100 млрд нейронов, а синапсов, соединяющих их, и вовсе больше в десять тысяч раз.

Скорость обработки данных нейронами относительно невысокая - около ста операций в секунду. В настоящее время цифровые схемы умеют производить вычислительные операции со скоростью как минимум в десять миллионов раз больше. Тем не менее, сверхразум - это не только скорость. Рецепт успеха от природы - массовый параллелизм: все нейроны и около квадриллиона синапсов могут работать одновременно. Поэтому победа в карточной игре с суперкомпьютером остается за человеческим мозгом.

Производительность 500 лучших в мире компьютеров соответствует логике закона Мура. Китайский Tianhe-2 с почти 34 пета­флопс занимает первую строчку рейтинга.

Если наш мыслительный аппарат когда-нибудь можно будет эмулировать, то потребуется компьютер с производительностью порядка одного экзафлопса, производящий от 10 18 операций над числами с плавающей запятой в секунду. Производительность самого мощного на сегодняшний день суперкомпьютера в мире, китайского Tianhe-2, составляет около 34 петафлопс - на три порядка ниже требуемой.

Такие мощные компьютеры будут созданы не ранее чем через три года - вероятнее всего, через пять лет. Разработки, кроме Китая, начинают Индия, США и Европа. Важным вопросом станет энергопотребление, которое по нынешним меркам должно составить от 200 до 1000 МВт. Для сравнения: мощность средней атомной электростанции составляет 700 МВт, а наш мозг обходится несколькими миллионными долями от этого значения; во всяком случае, 30 Вт синапсам для интенсивной работы хватает.

Вместе с тем, несмотря на конкретную направленность, HBP - это IT-проект. Юлихскому исследовательскому центру супервычислений, предоставляющему аппаратное обеспечение для HBP, следует разработать более быстрые и эффективные компьютеры, которые были бы ориентированы на биологическую модель: более низкая предельная производительность, более высокий параллелизм.

Взаимосвязь между стоимостью транзисторов и увеличением их тактовой частоты - каждые 13 месяцев расходы снижаются вдвое.

Объемы данных по всему миру ежегодно увеличиваются в два раза, при этом цены на память постоянно снижаются.

Мозг - не слишком ли сложная для нас структура?

Согласно закону Мура, эти технические проблемы рано или поздно будут решены. Но на пути к эмуляции работы мозга предстоит преодолеть еще немало препятствий, отмечает профессор Херц. Удачные модели сложных систем напоминают карикатуры: в них учтены важные моменты, но упущены второстепенные аспекты.

Что касается биологических систем, из-за их эволюционной истории мы вообще не знаем, можно ли пренебречь каким-либо определенным признаком: даже самая мелкая часть структуры синапса может иметь большое значение для его нормального функционирования.

«Таким образом, чтобы полностью понять, как работает отдельная часть мозга, надо понимать, как работает система в целом, и наоборот», - говорит Андреас Херц.

Искусственному интеллекту не нужен наш мозг

Может быть, было бы лучше, если бы Маркрам устроился в какой-нибудь концерн, занимающийся высокими технологиями, например, в Alphabet, в котором сумасшедшие идеи считаются принципами предпринимательской деятельности? Ведь неспроста технический директор Google Рэй Курцвейл симпатизирует пытливости Маркрама. Впрочем, даже главный пророк экспоненциального мышления ожидает появление полноценной эмуляции мозга только к 2029-му году.

Мощный ИИ не должен иметь много общего с человеческим

А вот Ник Бостром думает, что такие прогнозы времени появления эмуляции мозга слишком оптимистичны. Шведский специалист, изучавший физику, математику, нейробиологию и философию, в своей книге «Искусственный интеллект» делает наброски сценария революции в области ИИ.

Как и Курцвейл, Бостром считает моделирование активности мозга возможным. Но из-за сложности технологий, которые еще предстоит разработать, он рассчитывает, что это произойдет где-то в середине столетия. Проблему, например, представляет собой оборудование для визуализации: сканирующие туннельные микроскопы выдают точные результаты, но они медленно работают; электронные микроскопы, наоборот, работают быстро, но разрешение картинки более низкое.

Курцвейл неунывающе возражает, что методы визуализации тоже подчиняются закону ускоряющейся отдачи. В самом деле, пространственное разрешение магнитно-резонансной томографии с 1995 года увеличилось в десять раз. Однако, по мнению нейробиолога Херца, визуализационные приборы в будущем по-преж­нему будут выдавать только урезанную модель действительности.

На термограмме показано более низкое энергопотребление нейрочипа IBM TrueNorth по сравнению со стандартным ЦП.

Но даже если эмуляция в действительности так и останется мечтой, это не значит, что мощный ИИ заставит себя долго ждать, поскольку, конечно же, существуют более целенаправленные подходы по созданию ИИ, которым экспоненциальный прогресс играет на руку. Бостром допускает возможность появления на пути к эмуляции такого нейроморфного ИИ, в котором будут соединены новые принципы нейровычислений и способы синтеза.

Нейроморфное аппаратное обеспечение будет создано по подобию структуры нервной системы. В идеале оно будет работать аналогично мозгу, объединяясь в сеть высокого уровня, самоорганизуясь, будучи отказоустойчивым, подчиняясь принципу массового параллелизма, обладая высокой энергоэффективностью и занимая при этом небольшую площадь.

До сих пор неясно, приведет ли нейроморфный подход к созданию ИИ. Классическим примером его двойственной природы можно назвать создание первых летательных аппаратов. Птица показала человеку, что физически полет возможен и использование несущих плоскостей - не такая уж и плохая идея. Но, как оказалось, только крыльев самолету недостаточно, и способ перемещения в воздухе в принципе был изобретен заново.

Превосходство в мышлении благодаря технологиям

С ИИ ситуация может сложиться точно так же: природа показывает нам, как работает мышление, мы же заново его создаем. Преимущество такого подхода будет заключаться в том, что мы полностью можем полагаться на сильные стороны достижений техники - а их несметное количество.

Нейроморфные сети из полупроводниковых пластин, созданные специалистами Гейдельбергского университета, моделируют работу настоящей нейронной сети.

Аппаратное обеспечение производит вычислительные операции и обменивается данными гораздо быстрее, чем их биологический соперник, и кроме того, его возможности могут беспредельно расширяться. Оборудование можно в любой момент оптимизировать, и оно будет надежнее, чем живой человек. Программы и алгоритмы можно обрабатывать и дублировать на любой вкус. Цифровой интеллект обучается гораздо быстрее биологического, к тому же он в состоянии справиться с различными задачами, тогда как даже гении человечества вроде Альберта Эйнштейна могут блистать только в очень узкой области.

Такой цифровой сверхинтеллект будет состоять из рекурсивно самоулучшающегося ИИ (жарг. Seed AI). Начало ему даст первое поколение мыслящих машин. А затем рекурсия позволит само­обучающемуся ИИ совершенствоваться. Каждое поколение будет умнее предыдущего. А в конце цикла произойдет «интеллектуальный взрыв».

Как это произойдет и что это значит, мы расскажем в следующей статье.

Серия статей CHIP: как искусственный интеллект (ИИ) бросает вызов миру
Человечество стоит на пороге великих перемен. Технологические концерны, военные и исследовательские лаборатории работают над созданием цифрового сверхинтеллекта, который с космической скоростью изменит все на свете: общество, жизнь и даже смерть человека. Что нас ждет впереди: идиллия или последние дни человечества? Пока что мы не решили, каким путем будем идти. В новой серии статей наш журнал расскажет о том, к чему может привести такая революция искусственного интеллекта, о его невероятных возможностях и подводных камнях.

Искусственный интеллект – в последнее время одна из наиболее популярных тем в технологическом мире. Такие умы, как Элон Маск, Стивен Хокинг и Стив Возняк всерьез обеспокоены исследованиями в области ИИ и утверждают, что его создание грозит нам смертельной опасностью. В то же время научная фантастика и голливудские фильмы породили множество заблуждений вокруг ИИ. Так ли нам угрожает опасность и какие неточности мы допускаем, представляя уничтожение Земли Skynet, всеобщую безработицу или наоборот достаток и беззаботность? В человеческих мифах об искусственном интеллекте разобралось издание Gizmodo. Приводим полный перевод его статьи.

Это называли важнейшим тестом машинного разума со времен победы Deep Blue над Гарри Каспаровым в шахматном поединке 20-летней давности. Google AlphaGo победил на турнире по Го гроссмейстера Ли Седоля с разгромным счетом 4:1, показав насколько серьезно искусственный интеллект (ИИ) продвинулся вперед. Судьбоносный день, когда машины наконец превзойдут в уме человека, никогда не казался так близко. Но мы, кажется, так и не приблизились к осознанию последствий этого эпохального события.

В действительности, мы цепляемся за серьезные и даже опасные заблуждения об искусственном интеллекте. В прошлом году основатель SpaceX Элон Маск предостерег, что ИИ может захватить мир. Его слова вызвали бурю комментариев, как противников, так и сторонников этого мнения. Как для такого будущего монументального события, есть поразительное количество разногласий относительно того, произойдет ли оно, и, если да, то в какой форме. Это особенно тревожно, если принять во внимание невероятную пользу, которую может получить человечество от ИИ, и возможные риски. В отличие от других изобретений человека, у ИИ есть потенциал изменить человечество или уничтожить нас.

Трудно понять, чему верить. Но благодаря первым работам ученых в области вычислительных наук, нейробиологов, теоретиков в области ИИ, начинает возникать более четкая картина. Вот несколько общих заблуждений и мифов касательно искусственного интеллекта.

Миф №1: “Мы никогда не создадим ИИ с разумом сравнимым с человеческим”

Реальность: У нас уже есть компьютеры, которые сравнялись или превысили человеческие возможности в шахматах, Го, торговле на бирже и разговорах. Компьютеры и алгоритмы, которые ими руководят, могут становиться только лучше. Это лишь вопрос времени, когда они превзойдут человека в любой задаче.

Психолог-исследователь из университета Нью-Йорка Гари Маркус сказал, что “буквально каждый”, кто работает в ИИ, верит, что машины, в конце концов, обойдут нас: “Единственное реальное отличие между энтузиастами и скептиками – это оценки сроков”. Футуристы вроде Рея Курцвейла считают, что это может произойти в течение нескольких десятилетий, другие говорят, что потребуются века.

ИИ-скептики не убедительны, когда говорят, что это нерешаемая технологическая проблема, а в природе биологического мозга есть что-то уникальное. Наши мозги – биологические машины – они существуют в реальном мире и придерживаются основных законов физики. В них нет ничего непознаваемого.

Миф №2: “Искусственный интеллект будет иметь сознание”

Реальность: Большинство представляет, что машинный разум будет обладать сознанием и думать так, как думают люди. Более того, критики вроде сооснователя Microsoft Пола Аллена верят, что мы пока не можем достигнуть общего искусственного интеллекта (способен решить любую умственную задачу, с которой справляется человек), потому что нам не хватает научной теории сознания. Но как говорит специалист по когнитивной робототехнике Имперского колледжа Лондона Мюррей Шанахан, нам нельзя приравнивать эти две концепции.

“Сознание безусловно удивительная и важная вещь, но я не верю, что оно необходимо для искусственного интеллекта человеческого уровня. Если выражаться более точно, мы используем слово “сознание” для обозначения нескольких психологических и когнитивных признаков, которые у человека “идут в комплекте”, – объясняет ученый.

Умную машину, которой не хватает одного или нескольких подобных признаков, можно представить. В конце концов, мы можем создать невероятной умный ИИ, который будет неспособен воспринимать мир субъективно и осознано. Шанахан утверждает, что разум и сознание можно совместить в машине, но мы не должны забывать, что это две разных концепции.

То, что машина проходит тест Тьюринга, в котором она неотличима от человека, не означает наличие у нее сознания. Для нас передовой ИИ может казаться осознанным, но его самосознание будет не большим, чем у камня или калькулятора.

Миф №3: “Нам не стоит бояться ИИ”

Реальность: В январе основатель Facebook Марк Цукерберг заявил, что нам не стоит бояться ИИ, ведь он сделает невероятное количество хороших вещей для мира. Он прав наполовину. Мы извлечем огромную выгоду от ИИ: от беспилотных автомобилей до создания новых лекарств, но нет никаких гарантий, что каждая конкретизации ИИ будет доброкачественной.

Высокоразумная система может знать все о конкретной задаче, вроде решения неприятной финансовой проблемы или взлома системы вражеской обороны. Но вне границ этих специализаций, она будет глубоко невежественна и не сознательна. Система Google DeepMind эксперт в Го, но у нее нет возможностей или причин исследовать сферы вне своей специализации.

Многие из этих систем могут не подчинятся соображениям безопасности. Хороший пример – сложный и мощный вирус Stuxnet, военизированный червь, разработанный военными Израиля и США для проникновения и диверсии работы иранских атомных станций. Это вирус каким-то образом (специально или случайно) заразил российскую атомную станцию.

Еще один пример, программа Flame, использованная для кибершпионажа на Ближнем Востоке. Легко представить будущие версии Stuxnet или Flame, который выходят за пределы своих целей и наносят огромный вред чувствительной инфраструктуре. (Для понимания, эти вирусы не являются ИИ, но в будущем они могут его иметь, откуда и беспокойство).

Вирус Flame использовался для кибершпионажа на Ближнем Востоке. Фото: Wired

Миф №4: “Искусственный суперинтеллект будет слишком умен, чтобы совершать ошибки”

Реальность: Исследователь ИИ и основатель Surfing Samurai Robots Ричард Лусимор считает, что большинство сценариев судного дня, связанного с ИИ, непоследовательны. Они всегда построены на предположении, что ИИ говорит: “Я знаю, что уничтожение человечества вызвано сбоем в моей конструкции, но я все равно вынужден это сделать”. Лусимор говорит, что если ИИ будет вести себя так, рассуждая о нашем уничтожении, то такие логические противоречия будут преследовать его всю жизнь. Это, в свою очередь, ухудшает его базу знаний и делает его слишком глупым для создания опасной ситуации. Ученый также утверждает, что люди, говорящие: “ИИ может делать только то, на что его запрограммировали”, заблуждаются также, как и их коллеги на заре компьютерной эры. Тогда люди использовали эту фразу утверждая, что компьютеры не способны продемонстрировать ни малейшей гибкости.

Питер Макинтайр и Стюарт Армстронг, которые работают в Институте будущего человечества при Оксфордском университете, не соглашаются с Лусимором. Они утверждают, что ИИ в значительной мере связан тем, как его запрограммировали. Макинтайр и Армстронг верят, что ИИ не сможет совершать ошибок или быть слишком тупым, чтобы не знать, чего мы от него ожидаем.

“По определению, искусственный суперинтеллект (ИСИ) – субъект, с разумом значительно большим, чем обладает лучший человеческий мозг в любой области знаний. Он будет точно знать, что мы хотели, чтобы он сделал”, – утверждает Макинтайр. Оба ученых верят, что ИИ будет делать лишь то, на что запрограммирован. Но если он станет достаточно умен, он поймет, как это отличается от духа закона или намерений людей.

Макинтайр сравнил будущую ситуацию людей и ИИ с теперешним взаимодействием человека и мыши. Цель мыши – искать еду и убежище. Но она часто конфликтует с желанием человека, который хочет, чтобы его зверек бегал вокруг него свободно. “Мы достаточно умны, чтобы понимать некоторые цели мышей. Так что ИСИ будет также понимать наши желания, но быть к ним безразличным”, – говорит ученый.

Как показывает сюжет фильма Ex Machina человеку будет крайне сложно удерживать более умный ИИ

Миф №5: “Простая заплатка решит проблему контроля ИИ”

Реальность: Создав искусственный интеллект умнее человека, мы столкнемся с проблемой известной как “проблема контроля”. Футуристы и теоретики ИИ впадают в состояние полной растерянности, если их спросить, как мы будем содержать и ограничивать ИСИ, если такой появится. Или как убедиться, что он будет дружественно настроен в отношении людей. Недавно исследователи из Института технологий Джорджии наивно предположили, что ИИ может перенять человеческие ценности и социальные правила, читая простые истории. На деле, это будет куда более сложно.

“Предлагалось множество простых трюков, которые могут “решить” всю проблему контроля ИИ”, – говорит Армстронг. Примеры включали программирование ИСИ так, чтобы его целью было угождать людям, или, чтобы он просто функционировал как инструмент в руках человека. Еще вариант – интегрировать концепции любви или уважения в исходный код. Чтобы предотвратить ИИ от принятия упрощенного, однобокого взгляда на мир, предлагалось запрограммировать его ценить интеллектуальное, культурное и социальное разнообразие.

Но эти решения слишком просты, как попытка втиснуть всю сложность человеческих симпатий и антипатий в одно поверхностное определение. Попробуйте, к примеру, вывести четкое, логичное и выполнимое определение “уважения”. Это крайне сложно.

Машины в “Матрице” могли без проблем уничтожить человечество

Миф №6: “Искусственный интеллект нас уничтожит”

Реальность: Нет никакой гарантии, что ИИ нас уничтожит, или, что мы не сможем найти возможности контролировать его. Как сказал теоретик ИИ Элизер Юдковски: “ИИ ни любит, ни ненавидит вас, но вы сделаны из атомов, которые он может использовать для других целей”.

В своей книге “Искусственный интеллект. Этапы. Угрозы. Стратегии” оксфордский философ Ник Бостром написал, что настоящий искусственный суперинтеллект, после его появления, создаст риск больший, чем любые другие человеческие изобретения. Выдающиеся умы вроде Элона Маска, Билла Гейтса и Стивена Хокинга (последний предупредил, что ИИ может быть нашей “худшей ошибкой в истории”) также выразили обеспокоенность.

Макинтайр сказал, что в большинстве целей, которыми может руководствоваться ИСИ, есть веские причины избавиться от людей.

“ИИ может спрогнозировать, достаточно правильно, что мы не хотим, чтобы он максимизировал прибыль конкретной компании, чего бы это ни стоило клиентам, окружающей среде и животным. Поэтому у него есть сильный стимул, чтобы позаботится о том, что его не прервут, не помешают, выключат или не изменят его целей, поскольку из-за этого изначальные цели не будут выполнены”, – утверждает Макинтайр.

Если только цели ИСИ не будут точно отображать наши собственные, то у него будут достойные поводы не дать нам возможности остановить его. Учитывая, что уровень его интеллекта значительно превосходит наш, мы с этим ничего не сможем поделать.

Никто не знает, какую форму обретет ИИ и как он может угрожать человечеству. Как отметил Маск, искусственный интеллект может использоваться для контроля, регулирования и мониторинга другого ИИ. Или он может быть пропитан человеческими ценностями или преобладающим желанием быть дружественным к людям.

Миф №7: “Искусственный суперинтеллект будет дружелюбным”

Реальность: Философ Иммануил Кант верил, что разум сильно коррелирует с моральностью. Нейробиолог Давид Чалмерс в своем исследовании “Сингулярность: Философский анализ” взял известную идею Канта и применил ее к возникшему искусственному суперинтеллекту.

Если это верно… мы можем ожидать, что интеллектуальный взрыв приведет к взрыву моральности. Затем мы можем ожидать, что появившиеся ИСИ системы будут суперморальны также, как и суперинтеллектуальны, что позволит нам ожидать от них доброкачественности.

Но идея того, что развитый ИИ будет просветленным и добрым, по своей сути, не очень правдоподобна. Как отметил Армстронг, есть много умных военных преступников. Не похоже, что связь между разумом и моральностью существует среди людей, поэтому он поддает сомнению работу этого принципа среди других умных форм.

“Умные люди, ведущие себя аморально, могут вызывать боль гораздо больших масштабов, чем их более глупые коллеги. Разумность просто дает им возможность быть плохими с большим умом, она не превращает их в добряков”, – утверждает Армстронг.

Как объяснил Макинтайр, возможность субъекта достичь цели не относиться к тому, будет эти цель разумной для начала. “Нам очень сильно повезет, если наши ИИ будут уникально одаренными и уровень их моральности будет расти вместе с разумом. Надеяться на удачу – не лучший подход для того, что может определить наше будущее”, – говорит он.

Миф №8: “Риски ИИ и робототехники равнозначны”

Реальность: Это особенно частая ошибка, насаждаемая некритичными СМИ и голливудскими фильмами вроде “Терминатора”.

Если бы искусственный суперинтеллект вроде Skynet действительно захотел бы уничтожить человечество, он был не использовал андроидов с шестиствольными пулеметами. Гораздо эффективнее было бы наслать биологическую чуму или нанотехнологическую серую слизь. Или просто уничтожить атмосферу.

Искусственный интеллект потенциально опасен не тем, что он может повлиять на развитие роботетехники, а тем, как его появление повлияет на мир в принципе.

Миф №9: “Изображение ИИ в научной фантастике – точное отображение будущего”

Множество видов разумов. Изображение: Элизер Юдковски

Конечно, авторы и футуристы использовали научную фантастику, чтобы делать фантастические прогнозы, но горизонт событий, который устанавливает ИСИ, это совсем другая опера. Более того, нечеловеческая природа ИИ делает для нас невозможным знание, а значит и предсказание, его природы и формы.

Чтобы развлекать нас, глупых людишек, в научной фантастике большинство ИИ изображены похожими на нас. “Существует спектр всех возможных разумов. Даже среди людей, вы достаточно отличаетесь от своего соседа, но эта вариация ничто, в сравнении со всеми разумами, которые могут существовать”, – говорит Макинтайр.

Большинство научно-фантастических произведений, чтобы рассказать убедительную историю, не должны быть научно точны. Конфликт обычно разворачивается между близкими по силе героями. “Представьте, насколько бы скучной была история, где ИИ без сознания, радости или ненависти, покончил бы с человечеством без всякого сопротивления, чтобы добиться неинтересной цели”, – зевая, повествует Армстронг.

На заводе Tesla трудятся сотни роботов

Миф №10: “Это ужасно, что ИИ заберет всю нашу работу”

Реальность: Возможность ИИ автоматизировать многое, из того, что мы делаем, и его потенциал уничтожить человечество, две совсем разные вещи. Но согласно Мартину Форду, автору “На заре роботов: Технологии и угроза безработного будущего”, их часто рассматривают как целое. Хорошо думать об отдаленном будущем применения ИИ, но только если оно не отвлекает нас от проблем, с которыми нам придется столкнуться в ближайшие десятилетия. Главная среди них – массовая автоматизация.

Никто не ставит под сомнение, что искусственный интеллект заменит множество существующих профессий, от работника фабрики до высших эшелонов белых воротничков. Некоторые эксперты предсказывают, что половине всех рабочих мест США угрожает автоматизация в ближайшем будущем.

Но это не означает, что мы не сможем справиться с потрясением. Вообще, избавление от большей части нашей работы, как физической так и ментальной, – квази-утопическая цель нашего вида.

“В течении пары десятилетий ИИ уничтожит множество профессий, но это неплохо”, – говорит Миллер. Беспилотные автомобили заменят водителей грузовиков, что сократит стоимость доставки и, как следствие, сделает многие продукты дешевле. “Если вы водитель грузовика и зарабатываете этим на жизнь – вы потеряете, но все другие наоборот смогут покупать больше товаров на ту же зарплату. А деньги, которые они отложат, будут потрачены на другие товары и услуги, которые создадут новые рабочие места для людей”, – утверждает Миллер.

По всей вероятности, искусственный интеллект будет создавать новые возможности производства блага, освободив людей для занятия другими вещами. Успехи в развитии ИИ будут сопровождаться успехами в других областях, особенно в производстве. В будущем, нам станет легче, а не сложнее, удовлетворять наши основные потребности.