Ящик Пандоры: ученые призвали ООН запретить создание роботов-убийц

16:47 22/08/2017
ФОТО : «Мир24» / Алан Кациев,

Ученые призвали ООН запретить разработку и использование роботов-убийц. Петицию подписали 116 специалистов из 26 стран мира. Насколько близко человечество подошло к их созданию, и чем это грозит, в интервью телеканалу МИР 24 рассказал робототехник Антон Бураков

Судя по обращению ученых в ООН, получается, что к созданию автономных роботов-убийц мир уже подошел вплотную? 

— Да, мы подошли вплотную к созданию таких роботов. Но вообще-то я не вижу смысла ни в создании такой петиции, ни в таком законодательстве, потому что сейчас оружием массового уничтожения или массового террора используют автомобили, например. А если робот предназначен для того, чтобы забивать гвозди, то и к нему можно приделать оружие. Я думаю, что эту петицию начали подписывать ради пиара или Илон Маск и его товарищи что-то знают такое, чего не знаем мы, и запаниковали. Третья теория на этот счет: вместе с развитием робототехники должно развиваться и законодательство во всех направлениях, поэтому они постепенно теребят общественность. 

Однако получается что основатель компании, занимающейся искусственным интеллектом, Мустафа Сулейман, который также подписал петицию, выступает против искусственного интеллекта. Что-то здесь не складывается…

— Я думаю, что если Мустафа возглавит движение по законодательной инициативе, тогда, возможно, он сможет участвовать в разработке законов и что-то лоббировать. Это одна из версий, а другая – что он просто ответственный гражданин. 

Комментируя новость, СМИ пишут, что автономное летальное оружие уже существует. Что вам известно о подобных разработках? Насколько могут быть умны современные военные робототехнические комплексы?

Доведет до... слабоумия

— Мы, например, тоже сейчас разрабатываем робота-охранника для загородных домов ростом 1,5 метра, который должен бить током нарушителей. И мы должны учесть, чтобы это не были кошки или собаки. Как-то робот должен их различать. Надо сказать, что из 100% интеллекта для робота-охранника разработано только 50%. С другой стороны, что, если искусственный интеллект возьмет под контроль ядерное оружие или энергосети? Как мы здесь сможем бороться? С этим нужно бороться комплексно, а не запрещать роботу стрелять без приказа человека. 

С вашей точки зрения, существует возможность создания машин, которых мы видели в «Терминаторе»?

— Сейчас самая сложная и дорогостоящая технология – это технология ходьбы. А самое главное – автономное энергообеспечение. Дизельные генераторы сделают робот очень шумным. Но любая кнопка, которая позволяет роботу открывать огонь, будет соединена с интернетом или любой другой сетью, которую можно взломать и сделать так, чтобы эта кнопка не участвовала в принятии решения. Это тоже самое, что запретить стрелять людям, если в этом нет необходимости. Это же невозможно. То есть мы просто смиримся с тем, что роботы иногда начнут убивать людей. 

Говоря о роботах-убийцах, авторы обращения ссылаются на Конвенцию ООН об обычных вооружениях и предупреждают, что новая гонка вооружений «грозит миру третьей революцией в области, сравнимой с изобретением пороха и ядерного оружия». Как вам такая оценка? 

— Я с этим согласен. Они сейчас просто заранее бьют тревогу. Это логично, потому что когда мы получили ядерное оружие, никто этого не ожидал. Но я не думаю, что эти системы начали массово производиться или угрожать в пределах десяти лет. Потом - да. 

Если ООН отреагирует на письмо соответствующей декларацией или резолюцией, как думаете, это остановит разработчиков автономного летального оружия? 

— Но будут страны, которые не будут подписывать эту конвенцию, и ученые поедут туда разрабатывать роботов, как это происходит с клонированием или другими технологиями. Или теневой бизнес начнет свои разработки. Нужно сделать так, чтобы законодательство разрешало производить таких роботов под надзором государства. 

Если искусственный интеллект будет создан, кто-то будет в состоянии помешать его использованию в военных целях? 

— Никто. Я недавно услышал такое мнение, что люди довольно плохо справляются с жизнью на Земле, и что будет лучше, если роботы возьмут управление людьми на себя, как взрослые берут управление детьми. 

Как, на ваш взгляд, Организация Объединенных Наций должна отреагировать на призыв остановить разработку и использование автономного летального оружия?

— ООН в своем стиле может выпустить коммюнике, в котором скажет, что глубоко озабочена этим вопросом, и, возможно, в течение трех лет будет разрабатываться какое-то законодательство. Но вообще-то не все слушаются ООН. 

comments powered by HyperComments