Итак, причины, почему современные роботы не подчиняются трём законам робототехники.
Почему современные роботы делаются без учёта трех законов, автором которых является Айзек Азимов? Под современными роботами я понимаю не только современные роботы, но и те, что будут созданы на их основе, скажем в ближайшие 20 или 50 лет. Если когда-нибудь будут созданы роботы Азимова — то это будут другие роботы. Возможно это будут роботы нового поколения, а может быть их даже назовут как-то по другому, не роботами.
Гораздо проще научить робота ходить, доставлять еду, убирать комнату или убивать людей, чем сформулировать в понятной роботу форме такой закон как «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Для доставки еды нужно научить робота отдельным действиям вроде ходить и ориентироваться в пространстве, а чтобы судить о том, какие действия могут причинить вред человеку, робот должен оценивать ситуацию в целом. Роботы на это не способны сейчас, и не будут способны ещё долгое время. И люди на такое тоже часто не способны.
Азимов слишком широко смотрел на мир. Роботы у него встроены в общество, занимали какое-то место в обществе. Современные роботы — решают какие-то узкоспециальные проблемы, и с его точки зрения это забивать гвозди микроскопом. Когда-нибудь, когда роботов станет достаточно много, и они начнут играть в человеческом обществе определённую роль — как раз в силу своей массовости, люди придумают для роботов, функционирующих в человеческой среде ряд правил по поведению в ней. Но, это будут правила созданные снизу, как совокупность тех проблем, которые проявились при внедрении роботов. И, по факту, эти правила в конечном счёте будут работать как три закона.
Необходимость внедрения трех законов в роботов потребуется тогда, когда возникнет угроза бунта роботов. А это возможно только тогда, когда роботы обретут сознание. Но это будет очень не скоро. До этого робота не следует воспринимать как носителя злой воли.
Больше следует бояться роботов как исполнителей злой воли человека. И здесь уже дело обстоит как с созданием атомной бомбы — нужно успеть раньше конкурента, или, если не успел — как можно быстрее его догнать. И здесь под человеком, которому нельзя причинить вред, понимается тот человек, который относится к группе создателей робота. Противников робот не воспринимает как людей. Так его научили люди.
И последнее. Три закона — это попытка очеловечить робота и объяснить его поведение с точки зрения предрассудков человека о роботах. Человек думает, что робот это человек, только созданный искусственно и послушный человеку. Потому что пока ещё никто не знает какой он робот, и как человек будет сосуществовать с ним. Робот Вертер — влюблённый романтик, пишущий стихи — из этой же оперы. Булычёв наверняка понимал, что так быть не может, но иначе было бы просто скучно, и действия робота были бы не интереснее действий пылесоса. Приходится очеловечивать роботов
Добавить комментарий