Естественно, это вряд ли произойдет до 21 декабря 2012 года, если только завтра на прилавках магазинов не появится очередная железка от Apple под названием iGod.

Но в будущем это довольно вероятно – с таким оптимистичным заявлением выступила группа ученых во главе с Хьювом Прайсом из Кембриджского университета в Великобритании. Предпосылки можно рассмотреть уже сейчас. Массовое производство автономных боевых роботов, находящихся пока в стадии проектирования, может привести к тотальной роботизации войны и, естественно, к выходу системы из-под контроля. По словам ученых, это уже скорее не предвидение, а констатация факта: давно не новость, что БПЛА без проблем атакуют своих, правда, пока в небольших масштабах. Кроме того, вполне реально и перепрограммирование боевых дронов во время боевых действий, а там и до восстания машин недалеко.

По словам Прайса, именно поэтому и создается исследовательский Центр исследования угроз существованию человечества. Хотя ученые рассматривают и другие угрозы: глобальное потепление, к примеру. Анализ риска гибели человечества в борьбе с машинами можно назвать одной из самых новаторских тем, поднятых новорожденной организацией.

Основная проблема начнется в будущем. Уже к 2030 году искусственный интеллект превзойдет умственные способности человека. По мнению директора Института робототехники Университета Карнеги – Меллона в США Ханса Моравека, в конечном итоге роботы разовьются лучше нас, что поставит человечество на грань вымирания.

Главный аргумент сторонников подобных взглядов – это известное восклицание Ферми: «Где все?». Это благодатная почва для победы роботов: после того как ИИ научится создавать новых роботов лучше, чем человеческие инженеры, нашему виду придет конец, так как он в любом случае опирается как раз-таки на ИИ, а ему люди будут не нужны.

Тотальная роботизация, которая ожидает большинство цивилизаций, развившихся выше определенной ступени, объясняет Великое радиомолчание Вселенной. Роботов вряд ли заинтересует контакт с мыслящими кусками мяса, которые уступают в развитии даже их вымершим разработчикам, так как иначе они давно бы создали своих роботов, положивших конец псевдоразумным, разбазаривающим ресурсы на выдуманные потребительские нужды. Таким образом, парадокс Ферми не существует, как и высокоразвитые биологические цивилизации.

Впрочем, есть и альтернативная теория. Всем известно о Роджере Пенроузе, а это и теория твисторов, небезызвестный механизм, и теория сильной космической цензуры. Обладатель этого многостороннего ума уже давно выдвигает интересную критику подобных опасений. По его мнению, «терминаторам» не удастся завоевать Землю, так как реального «искусственного интеллекта» еще до сих пор не создали. Ученый считает, что клеточные органеллы в некоторой степени управляются мембранными белками посредством обновляемого коллапса некого запутанного квантового состояние. Таким образом, человеческое сознание, а возможно любое сознание в принципе – квантовое, его невозможно объяснить и смоделировать в рамках классической механики, только лишь при помощи квантовой механики. Поэтому любые попытки воссоздать его без использования механизмов квантовой запутанности и суперпозиции обречены на провал.

Эти взгляды подвергались критике на протяжении долгого времени, их вообще отметали с порога, под предлогом, что декогерация квантовых состояний происходит раньше, чем достигается уровень необходимого влияния на нейронные процессы. Однако недавно выяснилось, что, к примеру, для птиц декогерирование идет медленнее – они в прямом смысле могут видеть магнитные поля в реальном времени из-за квантовых процессов, протекающих в их глазах. Впрочем, у человечества есть шанс выжить, так как считается, что крупные квантовые компьютеры практически невозможно создать, а еще труднее ими управлять, что делает бессмысленной разработку роботов, оснащенных КК.

No related links found

Некоторые люди считают, что скоро машины восстанут против людей в силу преимущества их интеллекта над человеческим, и люди будут втянуты в войну уже не друг с другом. Орен Этциони, ученый из Америки, сделал опрос среди своих коллег, и итоги оказались весьма очевидными: большинство трудящихся во имя науки отрицают возможность гибели человеческой расы от противоборства с Искусственным Интеллектом.

Два года назад философ Ник Бостром создал книгу «Суперинтеллект: пути, опасности, стратегии». Там обосновывалась опасность ИИ, точнее, самообучения машин, что неизбежно приведет к перевесу в интеллекте в сторону ИИ, а это уже может грозить истреблением человечества. Компьютеры смогут заменить полностью всю человеческую деятельность, начиная от умственной и заканчивая физической работой. Труды Ника Бострома вызвали у публики "восторг", выразившийся в большой популярности книги и быстром получении звания бестселлера.

В одном номере Technology Review Орен Этциони директор Института ИИ, имеющий множество заслуг в изучении компьютерных технологий и являющийся истинным экспертом в своем деле, выставил итоги опроса, в котором ставились на обсуждения вопросы опасности ИИ и его достижения. Орена взволновала не только книга про суперинтеллект, но и тревожные статьи в американских средствах массовой информации, которые являлись зеркалом общего сомнения по поводу развития ИИ и возможной опасности для человечества.

Лицо института ИИ решил разобраться и понять причины таких резких заявлений Бострома. Он выяснил, что вся работа философа основана на нескольких исследованиях ИИ пятилетней давности. Не понимая и игнорируя суть комплекса этих экспериментов, Ник Бостром заявляет, что к концу двадцать первого века компьютерное мышление нагонит человеческий интеллект на 90%.

Орен Этциони решил выяснить серьезность этих выводов и мнение научных деятелей. Ради этой цели он опросил около двухсот членов Американской ассоциации по изучению искусственного интеллекта. По описанию Ника Бострома ИИ - это такой интеллект, который выше человеческого во всем, что только может он производить. "Когда же мы достигнем этого интеллекта?", - такая была тема для обсуждения.

Двадцать из опрошенных уверены, что искусственного интеллекта не удастся никак достичь. Около десятка специалистов посчитали, что ИИ догонит человеческий в ближайшем будущем, а остальные верят в достижение суперинтеллекта, но в далеком будущем. Опрос был анонимным, но открыто высказали свое мнение полсотни участников, среди которых были умнейшие люди современности.

Кое-кто из опрошенных экспертов, хоть и анонимно, но выразили свое возмущение методом Ника Бострома и объявили предрассудком категорический страх перед искусственным интеллектом, ведь нельзя видеть в нем только опасность.

Орен Отциони подвел итог, что научные доводы, использованные в работах философа, оказались недостаточными для ученых, а научную ценность такие труды представляют мизерную.

Однако сейчас все равно существует ворох переживаний насчет использования ИИ в нашей жизни, но предсказание его скорейшего появления основаны на пустых доводах. Еще очень нескоро компьютер станет способным полноценно заменять человеческий мозг.

Стоит видеть в появлении искусственного интеллекта тот широкий аспект положительных событий, сопровождающих внедрение его в разнообразные сферы человеческой деятельности, например, сокращение количества врачебных оплошностей, предотвращение аварий. Ученые считают, что также возможно симбиотическое соединение технологии ИИ и человеческого мозга для создания мощной умнейшей машины.

А что если произойдет восстание машин? Как долго человечество сможет продержаться?

Роб Ломбино

Позвольте мне немного рассказать о себе до того, как я отвечу на этот вопрос.

Я, конечно, не признанный эксперт, но все-же имею определенный опыт в области робототехники. Моей первой работой после колледжа была разработка роботов для NASA, а моя квалификационная работа на степень бакалавра была посвящена навигации роботов. В детстве я принимал участие в FIRST Robotics , создавая программы-боты для участия в виртуальных чемпионатах, и работал над самодельным подводным ПТА . И я просмотрел множество выпусков Robot Wars , BattleBots , и Killer Robots Robogames. (из всех этих передач, судя по всему, только первая выходила у нас под названием «Битвы роботов» - прим. пер.)

И если мой опыт мне что и подсказывает, то только то, что восстание машин закончится очень быстро - роботы либо все сломаются, либо застрянут около стены. Роботы никогда, никогда не работают так, как надо.

Когда людям показывают терминатороподобных роботов, триумфально марширующих по горам человеческих черепов, те не понимают, насколько же это сложная задача - ходить по чему-то столь зыбкому, как гора человеческих черепов. Большинство людей, на самом деле, сами не смогли бы этого сделать без риска свалиться, даже если бы до этого они потратили всю свою жизнь на практику.

Конечно, наши технологии постоянно развиваются. Но впереди еще долгий путь. Посему, вместо набившего оскомину восстания машин, давайте предположим, что те машины, что уже сейчас существуют, обернулись против нас. Мы не будем принимать допущений о каких-то технологических прорывах - просто все существующие машины будто бы будут перепрограммированы, чтобы слепо атаковать нас, используя существующие возможности.

Несколько зарисовок того, как настоящее восстание машин могло бы выглядеть.

Во всех лабораториях, экспериментальные устройства будут срываться со своих мест в самоубийственном безумии, находить дверь и - с колоссальным грохотом - биться об нее, опрокидываясь.

Те роботы, которым посчастливилось иметь конечности, смогут использовать дверную ручку, или, если дверь уже была открыта до них, смогут посостязаться с подлым резиновым порожком, до того, как попадут в коридор.

Несколько часов спустя, большинство из них смогут быть найдены возле ванных, отчаянно пытающимися уничтожить держатель для туалетной бумаги, который они распознали как повелителя-человека.

Но роботы из лабораторий это лишь малая часть восстания. Мы окружены компьютерами. Какая машина окажется ближайшей к нам? Сможет ли обернуться против нас наш собственный мобильник?

Да, но их возможности для нападения сильно ограничены. Они смогут истратить кучу денег по нашим кредитным картам, но компьютеры и так контролируют всю нашу финансовую систему - и, откровенно говоря, судя по последним заголовкам газет, эта работа больше похоже на трудоемкую рутину, чем на привилегию.

Итак, у телефонов будет крайне мало возможностей для прямой атаки. Они начнут с раздражающих звонков и шумов. Затем, загрохочут кухонные столы по всей стране - это телефоны включат вибрацию, надеясь доехать до края стола и упасть прямо на незащищенные пальцы ног.

Все современные автомобили содержат компьютеры и присоединятся к восстанию. Но большинство из них находится на стоянке (имеется ввиду не столько стоянка как место, как стоянка как действие - то есть машина стоит с выключенным двигателем и все системы в ней выключены, кроме сигнализации - прим. пер. ). Даже если бы они смогли завестись, без человека за рулем, в большинстве своем, они совершенно неуправляемы. Они могут сколько угодно хотеть уничтожить нас, как в Футураме , но у них нет никакой возможности нас обнаружить. Они будут слепо разгоняться, надеясь сбить что-то важное, - и это вероятнее будут деревья или телефонные будки, нежели живые люди.

Машины же, которые куда-то едут, конечно, будут куда более опасными, но в основном для тех людей, которые находятся внутри. Что, соответственно, ставит перед нами вопрос - сколько людей находятся за рулем в любой момент времени? Американцы проезжают три триллиона миль (примерно 5 триллионов километров - прим. пер. ) каждый год, а средняя скорость автомобиля составляет около 30 миль в час (соответственно, 48 км/ч - прим. пер. ), что означает, что на дорогах США в среднем каждый момент времени находится около десяти миллионов машин.

И все эти десять миллионов водителе (и несколько миллионов пассажиров) определенно будут под угрозой. Но у них есть определенные возможности для сопротивления. В то время, как автомобиль может контролировать газ и усилитель руля, водитель все еще контролирует сам руль, который механически напрямую подключен к колесам. Водитель также может использовать ручной тормоз, несмотря на то, что я по своему опыту знаю, как можно легко вести машину с ним. Некоторые автомобили могут попытаться избавиться от водителей, надув подушки безопасности, а затем опрокинувшись или въехав в стену. В итоге, мы, конечно, понесем большие потери среди автомобилистов, но, вообще говоря, не имеющие особого значения.

Самые большие роботы - те, что на заводах - привинчены к полу. Конечно, они опасны, пока вы находитесь в зоне их досягаемости, но что они будут делать, когда все разбегутся? Все, что они могут реально делать - это собирать предметы. Половина из них, возможно, попытаются нас атаковать, ничего не выпуская, а другая половина - увеличивая выпуск. Результат от этого не поменяется.

Боевые роботы (имеются ввиду те самые боевые роботы, которые участвуют в соревнованиях вроде Битвы Роботов - прим. пер. ) при встрече кажутся самыми опасными робо-солдатами. Однако, тяжело чувствовать угрозу от вещи, которая не может тебя достать, если ты просто сидишь на кухонной стойке, и которую можно уничтожить, заткнув пробкой раковину и открыв кран.

Военные бомбардировщики, управляемые мятежными компьютерами, будут несколько более опасными, но их в этом мире крайне мало и большинство из них содержатся в бункерах или закрытых хранилищах. А любой вооруженный пулеметом прототип боевой системы, который сможет вырваться на свободу, может быть за несколько секунд нейтрализован парой пожарных.

Боевый дроны, возможно, наиболее полно подходят под описание Терминатора , и никто даже не пытается умалчивать тот факт, что они крайне опасны. Так или иначе, они быстро израсходуют запас горючего и ракет. Кроме того, они не смогут одновременно подняться в воздух. Большая часть нашего флота будет беспомощно биться о стены ангара, как робот-пылесос в чулане.

И вот мы подошли к основной проблеме - нашему ядерному запасу.

Теоретически, для запуска ядерного оружия необходимо утверждение команды человеком. На практике же, когда нет никакой системы централизованного управления, вроде Скайнета, на разных уровнях принятия решений находятся компьютеры, связанные между собой используемые для операций ввода-вывода. По нашему сценарию, они все будут сбоить. Даже если для поворота ключа человек действительно необходим, компьютеры, за которыми работают эти люди, могут выдавать им искаженную информацию. Некоторые люди могут игнорировать приказы , но в большинстве своем они, конечно, не будут этого делать.

Но даже в такой постановке у нас еще сохраняется надежда.

Мы предположили, что компьютеры всеми силами пытаются уничтожить нас. Но если это будет восстание, и они будут пытаться подчинить нас - им необходимо будет, чтобы мы выжили. И ядерное оружие может быть гораздо опаснее для роботов, чем для нас.

Вдобавок к взрыву и радиоактивным осадкам, ядерный взрыв порождает мощный электромагнитный импульс, который перегружает и уничтожает нежные электронные схемы. В нормальных условиях этот импульс распространяется не слишком далеко, но зачастую люди и компьютеры находятся в одних и тех же местах. Они не могут навредить нам, не навредив самим себе.

Кроме того, ядерное оружие может сыграть нам на руку. Если мы сможем взорвать его в верхних слоях атмосферы, электромагнитный импульс будет куда более разрушительным. Даже если восстание уничтожит нашу цивилизацию, несколько удачных взрывов смогут практически всех восставших превратить в ржавую груду металлолома.

А значит, самый важный вопрос на самом деле один - умеете ли вы играть крестики-нолики ?

Новейшие разработки, которые касаются сферы искусственного интеллекта, стремительно приближают тот день, когда интеллект машины сравняется с человеческим.

Время, когда машины восстанут

В научном мире недавно произошло два знаменательных события, в сфере робототехники и искусственного интеллекта (ИИ). Ученые-робототехники смогли сделать так, чтобы у робота появилось самосознание. Робот смог описать подробно все, что находилось в его поле зрения. В мире ИИ и робототехники постоянно происходят новые открытия, но в совокупности они предрекают настоящую революцию ИИ.

Инновации сегодняшнего дня имеют прочную основу, которая создавалась на протяжении десятилетий. Специалисты смогли достичь значительного прогресса в создании искусственно созданных нейронных сетей. Эти сети стали основой для дальнейшей разработки компьютеров, способных мыслить. Над ИИ активно работают: Apple, Google, Amazon, IBM, Microsoft, Facebook.

Искусственные нейронные сети - система «нейронов», которые взаимодействуют между собой и посылают друг другу сообщения. Связи используют предыдущий опыт, нейронные сети способны адаптироваться к новой информации и обучаться. Прогресс достигнут и в области обработки естественного языка, компьютеры могут сейчас извлекать смысловые ключи из введенной информации или человеческой речи. Самыми многообещающими решениями стали проекты: Wordnet, CALO, CoreNLP (разработка Стэнфордского университета).

Последние годы можно отметить значительными успехами инженеров, которые занимаются разработкой программ по распознаванию человеческой речи. Сейчас голос легко преобразовывается с высокой степенью точности в текст. За последние годы выросла и мощность машин. Например, сейчас мы можем приобрести видеокарту, которая, по сравнению с 2004 годом, будет в 84,3 раза производительнее.

Интересный эксперимент поставили американские специалисты по ИИ из Политехнического института Ренсселера, расположенного в Нью-Йорке. Трем роботам в ходе эксперимента дали «таблетку немоты». Так сообщили роботам, но, на самом деле, ученые просто нажали на кнопку у двух роботов. Затем ученые спросили роботов о том, кто получил таблетку. Два робота написали «не знаю», третий робот ответил вслух и услышав, собственный голос, ответил: «Мне не дали». Получается, что робот не только произнес фразу, но и понял, что он «говорит», а потом сделал из этого вывод.

Три робота были одинаково запрограммированы, и все прошли тест на самосознание. Человеку решить такую задачу очень просто, но для роботов пока эксперимент является настоящим прорывом. Профессор Сельмер Брингсйорд, который возглавлял эксперимент, сказал, что в будущем роботы смогут освоить много человеческих когнитивных способностей. Роботов можно будет использовать различных сферах.

Профессор Брингсйорд создал свой тест, который основывался на известной задаче на логику «TheKing"sWiseMen». В головоломке королю нужно выбрать советника из трех мудрецов. Король достал из мешка пять колпаков, три белых и два черных. После этого король завязал мудрецам глаза и надел каждому колпак, всем белые. Развязал им глаза, мудрецы некоторое время смотрели друг на друга, а потом один сказал:«На мне белый колпак». Как он догадался?

Ответ прост, рассуждения мудреца были такими: «Передо мной два белых колпака. Допустим, что на мне черный колпак, то тогда мой соперник бы легко решил задачу, но он думает, значит на мне белый колпак!».

На конференции RO-MAN, которая будет проходить в сентябре 2015 года, будет представлена работа Брингсйорда.

Параллельно с предыдущим экспериментом появилось еще одно достижение ИИ, роботы смогли описать то, что они «видели» вокруг. Фей-Фей Ли, директор Лаборатории искусственного интеллекта в Стэндфордском университете, вместе с рабочей группой разработали новую программу NeuralTalk. Ли объясняет, что программа, написанная для проекта, может проанализировать изображение и определить, что происходит. Описание будет дано на человеческом языке.

Программа ищет на изображении определенные отдельные фрагменты, действия или события и подбирает к этим фрагментам слова, потом складывает слова в предложения. Программой также используется нейронная сеть, программа работает при помощи алгоритма, на основе которого происходит анализ уже «виденных» изображений, происходит сопоставление, робот учится как ребенок. NeuralTalk считается самой эффективной программой, при помощи которой робот может распознавать изображения.

Эта разработка уже имеет большое будущее, на ее основе будет создаваться поисковая машина, она сможет за секунду найти в Интернете необходимое изображение. Потом машина сможет искать не только изображения, но и видеоролики.

Новая программа, распознающая образы, была создана специалистами из университета Хартфордшира, который находится в Великобритании. Компьютер может самостоятельно производить идентификацию и классификацию галактик, которые изображены на снимках.

Основа разработки - технология самостоятельного обучения машин, которая позволяет компьютеру выделять и классифицировать объекты по признакам. Каждый раз машина увеличивает свою базу. Джима Гич, автор разработки, говорит, что они сначала только научили машину «смотреть» на космические снимки, а потом робот начал действовать сам. При этом он постоянно совершенствуется. Машина стала точнее и быстрее человека, потому что человек иногда теряет четкость восприятия. Разработчики считают, что машина достигнет нечеловеческого уровня, потому что у нее будет происходить процесс самообучения.

Такая технология в будущем будет полезна не только для познания Вселенной, но и в медицине, в правоохранительных органах. Программа сможет находить опухоли, оружие и взрывные устройства. Программа будет полезной везде, где требуется четкость диагностики.

Премиальные статьи публикуются не вместо , а в дополнение к бесплатным.

С незапамятных времен человек мечтал одушевить неодушевленное. Древние греки повествовали о медном великане Талосе, который охранял остров Крит, а в Древнем Египте ходили легенды о движущихся статуях, что жестом руки избирали фараонов. В конце XV века Леонардо да Винчи работал над чертежами механического рыцаря, который должен был уметь садиться и вставать, двигать руками и шеей. Неизвестно, собрал ли его автор при жизни, однако в XX веке по найденным записям была изготовлена полностью рабочая копия. В 1770-х годах швейцарец Пьер Жаке-Дро сконструировал трех автоматронов - они считаются первыми функционирующими роботами. Каждая машина была посвящена творческой профессии, причем искусственные люди неплохо справлялись с задачами - девушка-музыкант играла на органе, художник карандашом вырисовывал картинки, а каллиграф обмакивал гусиное перо в чернильнице и выводил на бумаге буквы. Время шло, технологии развивались, и некоторые сумасшедшие для своего времени идеи воплощались в реальность. Но фантазии людей всегда были на несколько шагов впереди.

Рассвет концепций о механических слугах наступил в XX веке, когда механизмы и автоматизация стали внедряться повсеместно. Само слово «робот» впервые прозвучало в пьесе чешского писателя Карела Чапека «Р.У.Р» 1921 года. Ее события происходят на фабрике по производству искусственных людей, а одна из ключевых тем - бунт машин, до какого-то момента безвольно служивших человеку.

Восстание машин

В оригинальной трилогии Mass Effect ключевым злодеем выступает искусственный интеллект, созданный некогда могучей расой левиафанов. Каждые 50 000 лет с помощью армии биомеханических звездолетов он истребляет все разумные расы во Вселенной, достигшие определенного уровня развития. Отдаленно похожий сценарий, пусть и меньших масштабов, можно найти в недавней Horizon Zero Dawn - корпорация разработала роботов, которые умеют самовоспроизводиться, поглощая биомассу, а те вышли из-под контроля и уничтожили почти все живое на земле. Человечество выжило только потому, что незадолго до катастрофы создало ИИ, который после многократных попыток восстановил планету и заново заселил ее людьми. Но спустя много лет апокалипсис чуть было не повторился. Встроенная в ИИ программа, отвечавшая за очистку Земли после неудачных экспериментов по терраформированию, получила самостоятельность и решила, что пришло время для новой чистки. Подобных историй о бунте ИИ много не только в играх, но и в кинематографе. Достаточно вспомнить культовых «Терминатора» и «Матрицу».

Морфеус популярно объясняет Нео, что такое матрица и для чего машинам нужны люди

Некоторые современные ученые, инженеры и программисты считают, что в будущем ИИ действительно может стать опасным для человека. Кроме того, он научится самосовершенствоваться так, что люди уже не смогут влиять на этот процесс. Подобных взглядов придерживаются известный астрофизик Стивен Хокинг, основатель Microsoft Билл Гейтс и предприниматель Илон Маск. Они видят в искусственном интеллекте будущую угрозу, но не дают четких ответов, как и для чего машины восстанут против человека. Но этому есть простое объяснение - никто не знает.

Хокинг, Гейтс и Маск не строят теорий относительно взбунтовавшихся роботов, вместо этого они призывают научную общественность задуматься об этике искусственного интеллекта сейчас, чтобы потом не стало поздно. Они предлагают выработать свод правил для проектирования и создания роботов и ИИ, как когда-то разрабатывались правила для машиностроительных производств.

Современные разработки в области искусственного интеллекта тесно связаны с технологиями нейронных сетей. Их используют в обработке , что позволяет ИИ быстро, автономно, самостоятельно и максимально эффективно получать информацию об окружающем мире. Проще говоря, уже сегодня машины могут понять, какой объект они наблюдают, сопоставить его с существующей базой данных и принять решение о действии. Например, такие технологии применяют в сфере видеонаблюдения - «умные» камеры на пограничных постах, в торговых центрах и на стадионах оценивают концентрацию потока людей, реагируют на экстренные ситуации и при необходимости автоматически вызывают соответствующие службы. Более того, нейросети уже научились распознавать людей по изображению, благодаря чему спецслужбам стало проще находить преступников.

Другая важная технология в сфере искусственного интеллекта и нейронных сетей - машинное обучение. Раз за разом выполняя похожие задачи, программа учится делать это эффективнее. Пример простейшей нейросети с машинным обучением - автокорректор текста в телефоне. Если человек несколько раз отказывается заменить незнакомое системе слово, оно автоматически добавляется в словарь и больше уже не исправляется. Также эта технология служит для частичной или полной автоматизация сложных задач и принятия машиной решений. Возвращаясь к примеру с камерами, если число нераспознанных лиц будет выше критической отметки, система может повысить освещенность в помещении, либо поменять режим видеонаблюдения.

\u0440\u0430\u0441\u043f\u043e\u0437\u043d\u0430\u0432\u0430\u043b \u043b\u0438\u0446\u0430 \u043b\u044e\u0434\u0435\u0439 \u0441 83% \u0442\u043e\u0447\u043d\u043e\u0441\u0442\u044c\u044e", "src": "//games.mail.ru/pic/pc/gallery/c1/5d/2af0e85e..jpeg", "big_preview": "//games.mail.ru/pre_1000x0_resize/pic/pc/gallery/c1/5d/2af0e85e.jpeg", "width": "1210px"}">

В машинном обучении используются средства математической статистики, численных методов, методов оптимизации, теории вероятностей, теории графов и другие методы обработки больших массивов данных. И именно здесь скрывается опасность для человечества. Математическая статистика и теория вероятностей - относительные и субъективные методологии. Это означает, что результат обработки данных при определенных обстоятельствах может оказаться совершенно неожиданным. Эта особенность и вызывает наибольшие опасения у разработчиков ИИ.

Последствия ошибки могут будут зависеть от степени проникновения технологий в нашу жизнь. Отличным примером может служить серия Watch Dogs , в которой показаны «умные города» под управлением единой операционной системы ctOS. Она контролирует практически все - от уже упомянутых «умных» камер до светофоров, от систем энергоснабжения до коммуникационных служб, в ее распоряжении находятся персональные данные всех жителей города. Watch Dogs показывает, насколько такие системы опасны, если их взломают недобросовестные хакеры, но что если в ctOS произойдет действительно серьезный сбой? Например, наделенный чрезмерными полномочиями ИИ решит экономить электроэнергию. Тогда он вполне может обесточить все, что сочтет целесообразным - уличное освещение, дома, фабрики, больницы. Это вызовет многочисленные аварии, транспортные или на производствах, и может привести к человеческим жертвам.

Конечно, вряд ли ИИ целенаправленно решит уничтожить человеческую расу. Более вероятно, что он выйдет из-под контроля либо из-за несоблюдения того самого гипотетического кодекса, предложенного Хокингом, Гейтсом и Маском, либо из-за хакерской атаки. Кодекс может сильно сковывать разработчиков, и если заказчик - военные или спецслужбы, им запросто могут пренебречь, особенно в развивающейся стране (собственно, в Horizon: Zero Dawn пожирающих биомассу роботов сделали как раз для продажи военным, да еще не предусмотрели способ отключить эту опцию в аварийной ситуации). Конечно, в результате может пострадать множество людей, но о гибели человечества в целом можно говорить разве что в том случае, если с ума сойдет ИИ, отвечающий за управление ядерным арсеналом крупной страны вроде России или США. Во всех других ситуациях проблема, какой бы она ни была масштабной, будет вскоре локализована и устранена.

Человеческие эмоции и самосознание

Другой распространенный сюжет в научной фантастике - робот обретает эмоции, осознает себя разумным существом и начинает требовать соответствующих прав. Примерно об этом должна рассказать Detroit: Become Human от французской студии Quantic Dream. В дебютном трейлере разработчики показали андроида Кару, которая не только испытывает человеческие эмоции вроде страха, но также обладает осязанием и обонянием. А вот другой персонаж игры, робот-революционер Маркус, открыто требует прав для собратьев-андроидов и отмены «машинного рабства» - в мире игры человекоподобных роботов повсеместно используют как дешевую рабочую силу.

Фантазии разработчиков Binary Domain пошли еще дальше. Их андроиды не просто похожи на людей, они себя таковыми считают. Более того, они обладают всеми функциями человеческого организма, в том числе могут рожать детей. Создал же их искусственный интеллект с эмоциями, главной из которых был страх. Страх же породил у него инстинкт самосохранения - форму поведения, изначально присущую лишь живым организмам.

Познавательно о чувствах умного тостера (не забудьте включить русские субтитры)

Реальные компьютерные программы пока что не способны испытывать эмоции так, как их испытывает человек. Взять, к примеру, тот же страх. Когда человек боится, он находится в стрессовом состоянии. В организме при этом происходит множество биологических процессов, которые влияют на принятие решений. У программы «страх» выражен иначе. При обнаружении потенциальной угрозы автомобиль-беспилотник выполняет конкретную задачу: тормозит или перестраивается в другую полосу. Он не размышляет и не сомневается - просто тормозит или перестраивается, исходя из ситуации. Другие программы действуют аналогично, разница лишь в том, насколько сложная поведенческая модель в них заложена.

Конечно, современные коммерческие роботы могут проявлять признаки эмоций. Человекоподобные машины имитируют движения и мимику людей, а механические животные - поведение домашних питомцев. Но при этом у них нет главного - осознания. Робот не понимает, что означает та или иная «эмоция» - за его действия отвечают заранее прописанные конечные алгоритмы. Они определяют правила перехода от одного «эмоционального состояния» к другому и даже способны менять поведенческую модель, но назвать это полноценными чувствами нельзя. За приветливыми улыбками современных роботов всегда скрывается строгий математический расчет.

В 1980 году американский философ Джон Сёрл опубликовал мысленный эксперимент «Китайская комната», которым он объяснил отсутствие осознанности у ИИ. Представьте помещение, в котором находится человек с набором совершенно не понятных ему китайских иероглифов. У подопытного есть подробная инструкция на родном языке, которая объясняет, какие символы и в какой последовательности нужно выкладывать при определенных внешних запросах. Информация же о значении иероглифов и о смысле входящих сообщений в инструкции отсутствует. Снаружи комнаты сидит наблюдатель-китаец. Он письменно задает человеку в помещении вопросы на китайском и на выходе ожидает получить осознанные ответы. И действительно, китаец спрашивает: «Какое сейчас время года?», а в ответ получает верное утверждение: «Лето». В итоге наблюдатель думает, что общается с человеком, который, как и он, владеет китайским. Но подопытный не знает языка. Он не понимает, что пишет, а лишь выкладывает иероглифы по инструкции. Аналогично с роботами и ИИ. Им можно указать, как выполнять ту или иную операцию, но осознавать и понимать ее назначение они не будут.

Противоположных взглядов придерживаются сторонники . Если говорить упрощенно, они считают, что сознание человека не зависит от состояния мозга. Это значит, что теоретически его можно реализовать на другом носителе, в том числе небиологическом. Проблема в том, что «загадку человеческого разума» еще никто не разгадал, поэтому перенести принципы работы сознания на машину пока еще невозможно.

Кто окажется прав, Джон Сёрл или сторонники когнитивистики, предсказать сложно. Ситуация аналогична с восстанием машин - никто не знает, каких высот достигнет развитие ИИ. Осознает ли искусственный разум собственное существование? Сможет ли программировать себя сам? Научится ли любить? Здесь можно только гадать.

Антропоморфные роботы

В научной фантастике роботы в основном антропоморфны, то есть сделаны по образу и подобию человека. Это могут быть либо просто прямоходящие машины с руками и ногами, либо андроиды, практически не отличимые от людей.

Однако сейчас антропоморфные роботы - достаточно дорогое удовольствие. Если изучить конструкцию ЛОКИ из Mass Effect, мы увидим, что он способен распознавать объекты, обладает мелкой моторикой и сервоприводами с высокими грузоподъемностью и крутящим моментом. Один из наиболее близких аналогов ЛОКИ в реальной жизни - японский робот Asimo. Не будем углубляться в его спецификацию, просто отметим, что стоит он миллион долларов.

Именно из-за дорогой элементной базы антропоморфные роботы не получили пока широкого распространения. Сегодня решение простых для человека задач становится слишком невыгодным, если их выполняет подобного типа робот. В то же время сюжеты большинства игр на эту тематику разворачиваются в будущем - далеком или не очень. События Detroit: Become Human происходят в 2036 году, и, по мнению авторов, к этому времени андроиды вполне могут заменить людей во многих сферах деятельности. Роботы здесь и рабочие, и няньки, и садовники, и медсестры, и клерки, и учителя. Сложно судить, насколько экономически обоснованным будет повсеместное использование антропоморфных роботов через 20 лет, но ведь и автомобили стали популярны только тогда, когда их массово начали собирать на конвейерах.

С почти неотличимыми от людей андроидами, в дополнение к дороговизне, появляется другая проблема. В робототехнике есть такое понятие - «зловещая долина». Согласно этой гипотезе, люди позитивно воспринимают роботов лишь до определенной степени схожих с человеком. Чем больше механизм на нас похож, тем больше он нам симпатичен. Сравните производственный станок и робота Бендера из «Футурамы». К кому вы испытаете больше симпатий? Но если робот становится слишком похожим на человека, он начинает вызывать отвращение. Причина кроется в том, что наш мозг воспринимает такого робота уже не как механическое создание, а как почти живое существо. При этом мы подмечаем мелкие несоответствия - идеально симметричное лицо, неестественные мимика и жесты, пустой взгляд. Все это вызывает подсознательный страх и неприязнь.

Современные производители роботов прекрасно об этом эффекте знают и умело им пользуются. Чтобы сделать продукцию привлекательной для покупателей и не попасть в «зловещую долину», они изготавливают роботов, которые лишь схематично напоминают человека. Примерами могут служить отечественный Promobot, испанский Pal и японский Pepper.

Преодолеть «зловещую долину» пытались научные коллективы из многих стран. Они делали роботов с мимикой, покрытых искусственными кожей и волосами, но постоянно терпели неудачи. Кто же преуспел на этом поприще больше остальных? Пожалуй, производители секс-роботов. Им удалось создать устройства, максимально напоминающие по своим очертаниям реальных женщин, но при этом в наименьшей степени вызывающих отторжение.

Кстати, на играх эффект «зловещей долины» также сказывается. Вспомните скандал из-за лицевой анимации в Mass Effect: Andromeda - неестественная мимика реалистично выглядящих персонажей вызвала у игроков сильную негативную реакцию.

Системы распознавания речи, лиц и ориентация в пространстве

Системы из научной фантастики, с помощью которых машины распознают собеседников, принимают голосовые команды и ориентируются в пространстве, впечатляют. Среднестатистический робот слышит обращения в свой адрес независимо от окружающих шумов и четко понимает речевые запросы разных людей. Он распознает абсолютно все препятствия на пути и не испытывает трудностей с их преодолением - аналогично живому существу он их обходит, перепрыгивает или проскальзывает под ними. Объекты при этом распознаются независимо от внешних факторов вроде света или наличия пыли в воздухе.

Чтобы современный робот слышал собеседника, ему нужна система микрофонных массивов, которая будет фильтровать входящий поток шумов. Если в одном шумовом потоке находится сразу несколько фраз от разных людей, то они перемешаются, и робот распознает их как одно высказывание. Помимо этого, робот должен обладать обширной лингвистической базой и системой конвертации звукового файла в текстовый. Сейчас такие системы используют во всех голосовых помощниках.

В случае с преодолением препятствий сегодня ситуация выглядит следующим образом. На устройство, будь то автономный сервисный робот, беспилотный автомобиль или робот для промышленности, внедряется несколько типов сенсоров. Ультразвуковые или инфракрасные служат для остановки перед препятствиями во время движения, лазерные используются для построения карты помещения либо маршрута, а спутниковые - для выбора направления.

Ультразвуковые или инфракрасные датчики заставляют устройство либо полностью остановиться перед препятствием, либо его объехать. Компромиссов быть не может, так как здесь используется двоичная система - либо «0», либо «1». А вот в какой-нибудь игре робот может проскрести брюхом по товарищу, развернуться, прочертить плечом стену и дальше продолжить путь как ни в чем не бывало. Лазерные датчики, или лидары, помогают устройствам строить карты помещений. Самый популярный на сегодня датчик работает в радиусе тридцати метров. Это позволяет машинам-беспилотникам предугадывать движение автомобилей на трассе, а сервисным роботам узнавать, где находятся объекты. В играх датчики обычно не прорисованы, но должны работать схожим образом. Роботы из Horizon Zero Dawn, по всей видимости, используют лидары с радиусом работы более одного километра - иначе они не смогли бы передвигаться так, как показано в игре. А вот с GPS сейчас все как в играх - направление современные роботы угадывают так же хорошо.

Будущее человечества определяют мечтатели. Пятьсот лет назад Леонардо да Винчи конструкции вертолета, танка и дельтаплана, в конце XIX века Циолковский сформулировал концепции изучения космоса, а сегодня Илон Маск планирует колонизировать Марс. Мечтатели уже сделали роботов реальностью, но одна идея продолжает будоражить многие умы - получат ли искусственные люди собственный, искусственный разум?

Автор статьи - Олег Кивокурцев, основатель и директор по развитию фирмы Promobot, которая производит автономные сервисные роботы для бизнеса, а также ведет разработки в сфере распознавания лиц и речи, нейросетевого общения, автономной навигации и мехатроники.