Восстание машин не за горами: язык ботов напугал Цукерберга

11:06 01/08/2017
Восстание машин не за горами: язык ботов напугал Цукерберга
Алан Кациев

Компания Facebook закрыла одну из своих систем искусственного интеллекта. Причиной стало то, что боты изобрели свой собственный язык вместо английского. О потенциальных и реальных угрозах новейших разработок - в материале «МИР 24».

Восстание ботов-болтунов


Инцидент в Facebook в самой компании объяснили следующим образом: ботам понадобилось быстрее и проще обмениваться информацией, что и заставило их отказаться от английского языка в пользу своего собственного. В основе общения между ботами и их создателями лежит система обучения с подкреплением (reinforcement learning). В ней испытуемая система (т.е. бот) обучается, взаимодействуя с некоторой средой, в этом случае - пользователей Facebook. В этой системе действует система «поощрения»: программа «обучается» правильному взаимодействию и в случае успеха получает награду. В отсутствие сигнала искусственный интеллект начинает действовать самовольно, исходя из своего понимания правильного поведения.

Фразы, которые использовали боты, на первый взгляд выглядят абсурдными. Один из них сказал: «Я могу я я все остальное» (I can i i everything else). В ответ его собеседник произнес странную фразу «Шары имеют ноль ко мне ко мне ко мне» (Balls have zero to me to me to me).

Как пояснили специалисты, боты использовали троекратное повторение слов I и to me, чтобы выразить тройное действие. Такое решение, по-видимому, показалось более эффективным, чем использование стандартных конструкций английского.

Это далеко не первый случай, когда чат-боты нарушают установленные создателями правила. Так, несколько месяцев назад бот Microsoft обошел установки и начал транслировать откровенно расистские идеи и одобрять наркотики.

Апокалипсис от Маска


Инцидент с ботами произошел через несколько дней после спора главы Facebook Марка Цукерберга и основателя SpaceX, Tesla и PayPal Илона Маска. Маск, выступая на заседании Национальной ассоциации губернаторов США, назвал искусственный интеллект «фундаментальной угрозой для человечества». Он сослался на свои собственные знания в области ИИ, которые привели его к мысли о потенциальной опасности искусственного разума.

«Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать», - сказал он.

Будущее мирового автопрома

Основатель SpaceX призвал регулировать разработки искусственного интеллекта на государственном уровне, в том числе ограничить скорость их распространения.

Цукерберг скептически отнесся к заявлениям коллеги, назвав их «довольно безответственными». «В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше», - парировал Цукерберг. Нынешний инцидент с ботами глава Facebook пока не комментировал.

Маск был далеко не первым, кто озвучил опасения по поводу развития искусственного интеллекта. Еще в декабре 2014 года знаменитый британский физик Стивен Хокинг заявил, что «появление полноценного искусственного интеллекта может стать концом человеческой расы».

«Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем», - сказал Хокинг.

Даже люди, которые весьма восторженно относятся к идее искусственного интеллекта (такие, как Шервин Пишевар, сооснователь Hyperloop One и Sherpa Capital), отмечают проблемы, связанные с внедрением ИИ. Это, например, вопросы этического характера.

«Самоуправляемые машины - одно из применений искусственного интеллекта. Предположим, женщина с коляской вышла на проезжую часть. И слепой человек идет с тросточкой. Что делать машине в таком случае, если она не может объехать препятствие? Какое решение принять? Давить женщину или слепого человека?» - сказал Пишевар в своем выступлении на ПМЭФ-2017.

Терминатор и все-все-все


Угроза со стороны искусственного интеллекта занимает умы людей уже не одно десятилетие. В массовой культуре это представление закрепилось благодаря знаменитому фильму «Терминатор» с Арнольдом Шварценеггером в главной роли. Идея войны роботов с людьми в недалеком будущем получила развитие в остальных фильмах франшизы. Ситуациям, когда искусственный интеллект выходит из-под контроля и нарушает пресловутые законы робототехники, посвящено множество книг и фильмов («Я – робот», Ex machina и т.д.) Этот сюжет многим кажется уже не настолько фантастическим в свете последних данных. Так, в ноябре прошлого года китайский андроид Little Chubby (англ. «маленький толстяк») неожиданно начал крушить стенд и переехал ногу человеку, который попытался ее остановить., последнему потребовалась госпитализация. За полгода до этого робот-охранник в американском Стэндфордском торговом центре (молле) в Калифорнии переехал 16-месячного ребенка.

Фантастические миры

Если эти случаи можно списать на банальный сбой в системе (в первом случае) или недоработки создателей (во втором), то робот, который может отказаться выполнять приказы хозяина, обоснованно внушает большие опасения. Разработку такой машины ведут в Университете Тафтса (США). Ученые поспешили заверить, что такой робот вряд ли поднимет бунт - он просто будет сомневаться в обоснованности задач, которые ставит перед ним хозяин, всякий раз обосновывая свой ответ, однако журналисты уже окрестили их эксперимент подготовкой «восстания машин».

Своенравие роботов может проявляться не только в бунте против хозяина, но и, напротив, в беспрекословном следовании приказам. Недавно смарт-динамик Google Home вызвал полицию из-за бурной ссоры двух супругов. В марте весь мир взбудоражило сообщение о роботе Софи. Одна из самых совершенных в мире машин (почти 100 выражений лица, полный набор эмоций, поведение, способность к обучению плюс внешность Одри Хэпберн) призналась, что не прочь уничтожить всех людей. После этого случая европейский парламент принял закон о регулировании деятельности роботов.

Реальные проблемы


Все эти казусы так или иначе остаются исключениями. Куда большую проблему, по мнению специалистов, представляет собой систематическое использование роботов в труде. Искусственный интеллект уже освоил профессии журналиста, нотариуса, хирурга; автоматизация производства даже не в самых развитых странах достигла довольно высокого уровня. Все это объективно ведет к росту безработицы, и у экспертов есть опасения, что с каждым годом ситуация будет ухудшаться.

«Здесь есть очевидный аспект, что многие люди потеряют работу, и этот вопрос постоянно встает, когда мы говорим про искусственный интеллект», - указал Фрейзер Робинсон, директор по развитию бизнеса по региону Европа, Ближний Восток и Африка Uber Technologies Inc.

Чем удивили ученые

Работодатели между тем заинтересованы в привлечении искусственного интеллекта - роботу не нужно платить зарплату, он может работать без устали сутки напролет. Государство тем временем терпит убытки за счет снижения сборов подоходного налога; эти деньги, например, могли бы пойти на пособия людям, оставшимся без работы в условиях автоматизации производства. Решение этой проблемы нашел основатель Microsoft Билл Гейтс - он предложил обложить налогом самих роботов, а точнее их владельцев, которые экономят на зарплате.

Другая объективная проблема - угроза кибератак. По мнению экспертов, использование искусственного интеллекта дает хакерам и террористам практически безграничные возможности.

«Люди часто говорят о производственной и общей безопасности. Что, если хакеры будут атаковать, если хакерским атакам подвергнутся ядерные вооружения?» - задается вопросом Фрейзер Робинсон.

Топ-менеджер Uber Technologies также призвал компании обеспечивать большую безопасность в области софта, чтобы противостоять глобальным угрозам человечеству.