А есть ли у робота совесть?

У всех ведь есть
предназначение. Вы согласны?
Айзек Азимов «Я – робот»

— Общей чертой многих устройств является наличие искусственного интеллекта. И вопросы «может машина думать или нет», «может ли машина сама себя развивать» успели стать избитыми.

— Но было бы действительно здорово сделать систему, которая могла бы самостоятельно развиваться, в том числе развивать свой собственный программный код. С одной стороны, это помогло бы снизить затраты на её разработку, а с другой стороны мы бы создали подобие живого организма, наделённого способностью саморазвития.

— А что значит живой? Способный к воспроизводству?

— Да, именно так. Основная проблема состоит в том, чтобы понять себя, понять, как человек думает. Если мы сможем это понять, то сможем создать некую модель, однако у нас пока ничего не получается. Не можем даже внятно объяснить, чем мы отличаемся от обезьян. У обезьян тоже есть некий язык, они общаются. Мы можем научить их нескольким словам, они могут разговаривать с людьми жестами. Но все же разница между ними и человеком заметна, и мы не можем довести обезьяну по развитию до человека. Соответственно, если нам удастся создать некий простой интеллект, к нему еще надо приложить множество усилий, чтобы сделать его в достаточной степени обучаемым.

Сейчас существует множество проблем, связанных с коммуникацией между машинами и людьми. Можно сказать, что мы пришли к некоему компромиссу, научились печатать, что не является естественным для человека, использовать мышь. Но и компьютер научился, интерпретировать свои единички, нули в виде картинок, понятных человеку. И сейчас нам бы хотелось упростить это взаимодействие. Основой для реализации любого изобретения является интерес широкого круга потребителей. Что хочет домохозяйка, например? Чтобы у нее был универсальный помощник, способный выполнять любые домашние обязанности, (готовить, убирать....). Да, сейчас есть микроволновки, стиральные машины, но все они узкоспециализированы, все равно человеку нужно прилагать значительные усилия.

— Мечтаю, чтобы мне кто-то поглаженное белье разложил по полочкам...

— Вот, отличный пример! Создадим множество роботов. Один раскладывает белье, другой, допустим, будет резать морковку, третий еще что-то, — получается какое-то невероятное количество техники в доме. Хотя природа всё уже придумала. Вот есть человек, и он вполне подходит для этих дел и успешно с ними справляется.

У нас есть, по сути, шанс создать прототипов себя. Если мы посмотрим по сторонам, то обнаружим, что люди этим только и занимаются. Создают роботов-разведчиков, самолеты-беспилотники. Рано или поздно развитие робототехники, искусственного интеллекта приведет к тому, что машины будут убивать людей. Мы вынуждены наблюдать за тем, как человек создает себе заменителей. Что же будет дальше?

Представим, что мы создали интеллектуальные машины. Зачем такой машине будет нужен человек? Если мы сможем обеспечить машине неограниченный доступ к информации, накопленной человеком, и она будет способна к самообучению, то какую цель поставит себе машина, если она будет обладать большим интеллектом, нежели человек? (Можно сравнить это с сюжетами фантастических фильмов, например, «Матрица»).

— Почему возникает та или иная цель? Как машина может управлять людьми?

Мы не можем сказать, как машина поведет себя. Поскольку мы не можем знать, какой вывод она сделает на основе полученных данных, проанализировав информацию, накопленную человечеством в электронном виде. Выработается ли у нее какой-либо аналог морали, совести? Даже цели собственного распространения тоже должны появиться, что не очевидно. В человеке, да и во всех живых существах заложено некое стремление к распространению в среде.

Есть замечательный фильм «Я, робот» по книге Айзека Азимова, там наглядно показано, как происходит бунт машин, там, естественно, люди побеждают. Но должны ли люди побеждать? Тут возникает вопрос уже какого-то более высокого порядка: должны ли мы останавливать прогресс или не должны?

— А в чем прогресс? Что вы имеете в виду?

— Человек не успевает эволюционировать за собственными изобретениями. Человеку без ног отказали в участии в олимпиаде? На протезах он бегал быстрее, чем люди с настоящими ногами. Ему отказали. Если бы он бегал медленнее, ему бы разрешили. Однако в данном случае искусственные ноги являлись конкурентным преимуществом и поэтому их нельзя использовать. Такая история может быть и с другими органами. Рано или поздно мы сможем создать более совершенные организмы. Зачем же нужны «настоящие» люди?

(На самом деле Оскар Писториус, тот самый бегун, обжаловал это решение, и ему всё же разрешили участвовать в соревнованиях)

— Какие отрасли, по-вашему, имеют наибольшее влияние на будущее?

— Военно-промышленный комплекс, поскольку столько денег, очевидно, не тратит никто. Даже простые солдаты сейчас становятся полуроботами, поскольку они оснащены экранами, системами связи, навигации и т.д.

— А не задумывались ли вы о том, что когда-то давно некая высокоразвитая цивилизация уже создала живой искусственный интеллект, способный к размножению, самосовершенствованию, к развитию, и это и есть человечество?

— Лично я этого не исключаю. Почему бы и нет, никаких препятствий я этому не вижу. Наверняка есть кто-нибудь поумнее нас...

***

 Интервью было опубликовано в № 1-2(16-17) за 2009 год «Будущее. Свободный поток сознания»