19 ноември 2018
Категории
  •  Космос
  •  Физика
  •  Науки за земята
  •  Биология
  •  Медицина
  •  Говорят медиците
  •  Математика
  •  Научни дискусии
  •  Разни
FACEBOOK

Трите закона на роботиката – история, философия, промени

Откъде идват и накъде ни водят Азимовите правила?

| ПОСЛЕДНА ПРОМЯНА 09 април 2017 в 10:5862420

През 1942 г. в своя разказ "Хоро" (Runaround) Айзък Азимов формулира три правила за поведение на роботите, които всеки читател на фантастика поне е чувал. Да ги изброим за яснота:
1. Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда.
2. Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон.
3. Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон.

Повечето произведения на Азимов се разпределят в цикли. Така и тук писателят съставя един цикъл романи и серия разкази (която после допълва), с главна тема поведението на измислените от него роботи с позитронен мозък. По-точно, завръзките и конфликтите в произведенията се изграждат около възможните причини за нарушение на Законите и последиците от това. Законите понякога се появяват и в други творби на Азимов, поначало невключени в роботския цикъл. За да затвърди устойчивостта на въображаемия свят в своите произведения, фантастът въвежда нова наука – робопсихология. Един от най-интересните конфликти е например този в разказа "Огледално отражение" (Mirror image) – там се разглеждат непредвидени случаи на спазване на законите.

Трите закона на роботиката не са статични. Така например, в романа ,,Роботите и империята“ (Robots and Empire) Азимов предлага и допълнение – т.н. Нулев закон:

0. Роботът не може да причини вреда на човечеството или с бездействието си да допусне на човечеството да бъде причинена вреда.

Именно историята, промяната през годините, приложенията, философията и рецепцията на Азимовите Закони на роботиката са темата на тази статия.

Поява

До възникването на Законите повечето разкази за роботи и за изкуствено създадени същества въобще се пишели в традицията на романа на Мери Шели "Франкенщайн" (Frankenstein, 1818). "Проблемът за роботите, въставащи и унищожаващи своите създатели, става един от най-популярните в научната фантастика от 1920-те и 30-те години. В един момент страхотно ми омръзнаха всички тези предупреждения" – пише Азимов в своето Шесто есе "Законите на роботиката" (The Laws of Robotics, 1979).

Но не всички фантасти следвали този сюжет. През 1938 г. бил публикуван разказът на американския фантаст Лестър дел Рей (Lester del Rey) "Хелън О`Лой" (Helen O'Loy) – историята на жена-робот, която се влюбва до полуда в своя създател и става идеалната му съпруга. След около месец Ото Биндър (Otto Binder) публикува "Аз, роботът" (I, Robot), в който роботът Адам Линк се движи от любовта и дълбоки човешки принципи.

Този разказ много се харесал на Азимов. На 7 май 1939 г. той се срещнал с Биндър и три дни след това започнал да пише собствена история за ,,благороден робот“ (тогава все още на такъв персонаж се гледало недоверчиво и понятието звучало като на оксиморон – все едно "благороден разбойник". След 13 дни разказът бил завършен и предаден на ,,бащата“ на американските списания за научна фантастика Джон Кембъл-младши (John Wood Campbell, Jr.), тогава главен редактор на сп. Astounding Science Fiction. Но той върнал ръкописа, заявявайки, че разказът е прекалено подобен на "Хелън О`Лой". За щастие, техните срещи и беседи не свършили дотук и в разговор на 23 декември Кембъл формулирал това, което по-късно станало известно като Трите закона на роботиката (това сведение е застъпено и от Дейвид Лонгфорд (David Langford) в The Encyclopedia of Science Fiction от 2011. По-късно Джон Кембъл казва, че просто е извлякъл Законите от нещата, които вече е чел от Азимов. А и в редица интервюта фантастът е отстъпвал авторството на трите закона на своя редактор, към когото в редица есета и други писмени изповеди говори с дълбоко уважение. Малко по-късно друг приятел на Азимов – фантастът Рандъл Гарет (Gordon Randall Phillip David Garrett) приписва раждането на Законите на ,,симбиотичното приятелство“ между двама души. Азимов охотно приел и тази формулировка.

Може да се приведе още едно твърдение в подкрепа на тезата, че Законите са се появили постепенно. Не всички разкази за роботи на Азимов съдържат пряко позоваване на трите точки. Така например, в първите два разказа от сборника "Аз, роботът" ("Роби" (Robbie, 1940) и "Логика" (Reason, 1941) никъде не се споменава за Законите, но от сюжета става напълно ясно, че на роботското мислене са присъщи определени ограничения. В следващия разказ "Лъжец" (1941) вече се цитира Първият закон. И, както казахме и по-горе, Трите закона присъстват в "Хоро" (1942).

Разказите от днешния сборник "Аз, роботът" са били написани поединично и когато възникнала идеята за тяхното обединение, първите два разказа били преработени и "допълнени" със Законите, което е и причината, например, в "Роби" Джордж Уестън да споменава на съпругата си, че роботът-гувернантка не може да навреди на дъщеря им, тъй като това би представлявало нарушение на Първия закон.

През 50-те г. Азимов пише няколко произведения преди всичко за младежи, защото издателят му смятал, че по тях може да се снима успешен тв сериал. Авторът обаче не харесвал телевизията и тъй като смятал, че евентуалният сериал ще изглежда "плашещо еднообразен, както всичко друго, което дават по телевизията", ги издал под псевдонима Пол Френч. Екранизацията обаче не се осъществила и тогава Азимов издал романите за космическия супермен Лъки Стар под истинското си има, след като междувременно ги допълнил с Трите закона, подпечатвайки с това своето авторство (както пише той самият в автобиографията си от 1980).

Нравствена обосновка на Законите

В разказа от 1946 "Улики" (Evidence) Азимов излага моралните основи на Трите закона. Главната героиня д-р Сюзън Келвин казва следното:

1. Човекът обикновено се въздържа да нанесе вреда на други хора, освен в случай на остра принуда (напр. при самозащита) или за да спаси голям брой хора. Оттук произлиза Първият закон
2. Аналогично, чувствайки отговорност пред обществото, човекът изпълнява препоръките на хора, които е приел за ментори в различни области: ръководители, възпитатели, учители, лекари – това е подобно на Втория закон
3. Също така, всеки от нас се грижи за своята безопасност – това се съдържа в Третия закон

Разказът е посветен на въпроса: може ли да се различат човек и робот, ако роботът е създаден специално за да прилича възможно най-много на човек и външно не се отличава от такъв. Келвин твърди, че "ако се замислим, ще видим, че Трите закона на роботиката съвпадат с основните начала на повечето етични системи по Земята. Ако някой се подчинява на Законите, то той или е робот, или е много добър човек". А на въпроса дали, в такъв случай, е голяма разликата между робот и човек, тя отговаря: "Огромна е. Преди всичко, роботите са извънредно порядъчни".

Трите закона извън фантастиката

След като Трите закона имат за основа дълбоки етични принципи, то могат ли те да се прилагат не само към роботите? Много автори отговарят положително на този въпрос и привеждат разнообразни примери.

В споменатото есе "Законите на роботиката" Азимов отбелязва, че действието на Трите закона може да се разпростре въобще върху всички инструменти, създадени от човека:

1. Инструментът трябва да бъде безопасен са използване – например, острият нож има дръжки
2. Инструментът трябва да изпълнява своите функции при условие, че те не представляват опасност за никого
3. Инструментът трябва да се запазва цял и работоспособен по време на употреба, но само при положение, че евентуалното му унищожение не е продиктувано от съображения за безопасност или изрично не влиза във функциите му

На шега може да се каже, че Трите закона се отнасят към всичко, създадено за благото на човека. Например, под тяхно действие трябва да попадат всички обществени институции, начело с държавата:

1. Държавата не трябва да причинява вреда на хората или с бездействието си да допусне на хората да бъде причинена вреда.
2. Държавата трябва да изпълнява своите функции, стига това да не противоречи на Първия закон
3. Държавата трябва да се грижи за собствената си безопасност, но само когато това не влиза в противоречие с Първия и Втория закон

На основата на Първия закон създателят на Apple Macintosh Джеф Ръскин (Jef Raskin) формулира своите закони за потребителския интерфейс:

1. Компютърът не може да причини вреда на данните на потребителя или с бездействието си да допусне на тези данни да бъде причинена вреда
2. Компютърът не трябва да губи напразно Вашето време или да Ви кара да изпълнявате действия извън изрично необходимите

Първото издание на ,,Фондацията“, 1951-1953

На Гея, планетата на колективния разум в цикъла романи ,,Фондацията“, съществува нещо подобно на Първия закон:

1. Гея не може да причини вреда на формите на живот или с бездействието си да допусне на формите на живот да бъде причинена вреда

Варианти на Законите у Азимов

В произведенията си Азимов често внася промени в Трите закона, сякаш ги изпитва на здравина при различни обстоятелства.
Нулев закон

Добавянето на Нулев закон означава, че той е с по-висок приоритет в сравнение с останалите три. Той гласи, че роботът е длъжен да действа в интерес на цялото човечество, а не само на конкретен негов представител (един човек). Ето как изразява това роботът Данийл Оливо (R. Daneel Olivaw) в романа "Фондация и Земя" (Foundation and Earth):

0. Роботът на може да нанесе вреда на човечеството или с бездействието си да допусне на човечеството да бъде нанесена вреда.

Именно той е персонажът, който дава номер на този закон – това става в романа "Роботите и Империята" (Robots and Empire), но самото понятие първа формулира отново д-р Сюзън Келвин в новелата "Разрешим конфликт" (The Evitable conflict, 1950).

Първият робот, който започва да се подчинява на този закон, при това по собствена воля, е Жискар Ревентлов в една от последните сцени на "Роботите и Империята". Там роботът е принуден да игнорира заповед на един човек в името на напредъка и добруването на цялото човечество. Нулевият закон не е изначално заложен в позитронния мозък на Жискар и той се опитва да стигне до него чрез разбиране, чрез по-тънко осъзнаване на понятието вреда в сравнение с останалите роботи. Само че в този момент Жискар не е уверен доколко постъпката му би била полезна за човечеството, което се отразява отрицателно на неговия мозък. Бидейки телепат, преди излизането си от строя Жискар предава на Данийл Оливо тези свои способности. След много хиляди години Данийл успява напълно да се приспособи към подчинение на Нулевия закон.

Любопитно е да се отбележи, че френският преводач Жак Брекар неволно е формулирал Нулевия закон преди самият Азимов да го опише. Почти в края на романа "Стоманените пещери" (The caves of steel) Илайджа Бейли отбелязва, че Първият закон забранява на робота да нанесе вреда на човека, освен ако не съществува увереност, че това ще донесе полза за човека в бъдеще. Във френския превод (Les Cavernes d’acier, 1956) мислите на Бейли са предадени по малко по-различен начин:

Роботът не може да нанесе преда на човека, освен ако той не докаже, че в крайна сметка това ще бъде полезно за цялото човечество (фр. l’humanité en général).

Логическо развитие на Първия закон до Нулевия са предложили създателите на филма "Аз роботът" от 2004 г. Когато един суперкомпютър взима решение да ограничи свободата на жителите на планета, за да не си нанесат те по невнимание вреда един на друг и да не навредят на своето бъдеще, се прилага не Първият закон, а Нулевият. Още по-интересно е, че по този начин във филма се показва противоречието на Нулевия закон на Първия, неговата неетичност. Защото, когато става дума за благото на човечеството, системата не може да разглежда хората поотделно, а това означава, че нищо не може да й попречи да нарушава правата и свободите на един или друг и дори на всеки човек. По време на война, а понякога и в мир, хората нанасят вреда на себе си, на околните, на културата си. Ето защо, по логиката на Нулевия закон, е напълно правилно да се държат хората под постоянна опека и да не се изпълняват заповедите на толкова неразумни същества.

Варианти на Първия закон

В Дванадесетото есе на Азимов "Моите роботи" (My Robots) се казва, че втората част на Първия закон води началото си от сатиричната поема на английския поет от ХІХ век Артър Хю Клоу (Arthur Hugh Clough) "Последният декалог", където има такъв ред: "Не убивай, но и не се старай твърде много да запазиш живота на другия".

В разказа "Изгубеният робот" (Little Lost Robot, 1947) обаче няколко робота от серията НС (Нестор) са произведени само с "първата половина" на Първия закон:

1. Роботът не може да причини вреда на човека

Там това е направено от практически съображения: роботите работят заедно с хора, които са изложени на малки, безопасни дози радиация. Спазвайки най-приоритетния Първи закон, машините през цялото време се опитват да ,,спасяват“ хората. Обаче, тъй като позитронният им мозък е изключително чувствителен към гама-лъчи, роботите постоянно излизат от строя. Съкращаването на Първия закон решавало един проблем, но пък създавало по-голям: роботът може, например, да остави тежък товар да падне и да не защити човека. Такава постъпка не противоречи на "орязания" Първи закон.

Нарушение на Трите закона

Три пъти в своите произведения Азимов изобразява роботи, които са способни да нарушат Трите закона, в противовес на Данийл и Жискар, които даже ги усилват, добавяйки Нулев. Трябва да отбележим, че за да наруши един робот Трите закона, е достатъчно да наруши дори само Първия, тъй като останалите два се основават на него.

Първият такъв случай е описан в разказа ,,Първият закон“ (First law, 1956), когато роботът МА-2 (Ема), в полза на своята "дъщеря", отказва да защити човека. Обаче този разказ може да се смята за хумористичен, както става ясно от предговора на самия Азимов към разказа в сборника "Синът на роботите". Вторият случай е в разказа "Кел" (Cal, 1990) – там робот, когото хората смятат да лишат от способността да творят, убива своя собственик. Третият е в разказа "Сали" (Sally, 1953), където роботи-автомобили се оказват способни да убият човека, който постоянно им причинява болка. Този разказ е от тези, които не са свързани с други за позитронните роботи и не може да бъде включен в цикъл.

В разказа "Сънуващият робот" (Robot Dreams, 1986) роботът LVX-1 (Елвекс) поради особената "фрактална геометрия" на своя позитронен мозък може да изпада в безсъзнателно състояние и да сънува. Един от сънищата му показва как "роботите се трудят с потни лица, те са потиснати от непосилен труд и дълбока скръб и са уморени от безкрайната работа". В неговите сънища роботите нямали първите два Закона, а Третият звучи така:

Роботът е длъжен да защитава самия себе си.

Елвекс добавя, че в съня му някакъв човек казва: "Пусни народа ми", имайки предвид роботите. Когато, вече наяве, роботът казва, че този човек е бил самият той, д-р Сюзън Келвин унищожава Елвекс, защото вижда в него опасност за реда човек-машини.

Гъвкавост

В своите произведения Айзък Азимов защитава различни възгледи по въпроса за строгостта на Законите. В първите разкази от "роботския" цикъл Законите са просто добре проектирани ограничения, нещо като списък от мерки за безопасност. В следващите разкази правилата са вече неотменна част от математическите основи на позитронния мозък. Без тази теоретична основа – т.н. Фундаментална теория на стандартните схеми – учените от Азимовите произведения не биха могли да създават каквито и да е работоспособни роботи. Може да се забележи закономерност: случаите във въображаемата хронология на Азимовия свят, в които роботехниците експериментират със Законите, са по-ранни, когато все още работата, която е нужно да се върши изобщо, не е толкова много, за да са нужни роботи за изпълнението й. Това е неслучайно: означава, че все още не е натрупан достатъчно опит в проектирането а роботи. В споменатия по-горе разказ "Изгубеният робот" Сюзън Келвин приема промяната на Законите за лошо, но технически възможно начинание, докато в романа "Стоманените пещери" д-р Джеригъл заявява, че това е принципно невъзможно да се направи.

Героите на Азимов често отбелязват, че Законите са не словесни изрази, записани в паметта на робота, а сложни математически формули, на които се базира цялото му съзнание. Законите са подобни на човешки инстинкти (напр. този за самосъхранение) и така очертават пътя за самоопределение на роботите. Роботът ,,по зова на природата си“ обслужва хората и се подчинява на техните заповеди. Той не се замисля за изначално наложените му ограничения или евентуална независимост – най-вероятно това би му причинило неудобство.

В по-малка степен този принцип може да се проследи в по-ранни по сюжетна хронология произведения, в които роботите се създават за облекчаване на човешкия труд и са изключително прости като мислене и способности. Докато във времената на "Стоманените пещери" вече роботите са с почти човешки интелект, а Трите закона са се превърнали в една от основите на светогледа на човечеството.

Понятието за човек в Законите

В едно от произведенията на Азимов жителите на планетата Солария създават роботи, които с подчиняват на Трите закона, но имат съвсем различно понятие за човека. Например те напълно безпроблемно могат да причинят вреда на непознат пришълец (дори са специално програмирани за това), защото за тях човек е само този, който говори със соларийски акцент. В разказната хронология на "Фондация и Земя" се разбира, че соларианците силно са развили генните технологии и освен всичко друго са имплантирали в самите себе си елементи за управление на множество свои роботи, докато по същото време други хора не са можели да ги управляват. По този начин соларианските роботи започват да се подчиняват на Трите закона само по отношение на хората в Солария, в ущърб на останалите части на Галактиката.

Азимов няколко пъти се обръща към проблема за самоосъзнаването и самоопределянето на робота като човек. Романът "Роботите и Империята" и разказите "Улики" и "Инцидентът на тристагодишнината" (The Tercentenary Incident) описват хора, създадени максимално да приличат и да се представят за хора. Има и разкази, в които роботите, "еволюирайки", променят собственото си вътрешно разбиране за Законите и по този начин се доближават до хората: "Двестагодишният човек" (Bicentennial Man) и "Загрижен за човечеството" (That Thou Art Mindful of Him).

Ако в други случаи роботът заема мястото на човека в природата, то в "Двестагодишният човек" Азимов описва обратния случай: роботът, освободил се от трите закона и осъзнал себе си като човек, се присъединява към обществото на хората. А в разширената версия – романът "Позитронният човек" (The Positronic Man, 1992), написан в съавторство с Робърт Силвърбърг, хората напълно се отказват от идеята за създаване на мислещи роботи именно заради произтичащите от това различни етични проблеми. Само че такова развитие на събитията напълно противоречи на картината на бъдещето, описана в романите от цикъла за "Фондацията".

Що се отнася до "Загрижен за човечеството", точно в този разказ Азимов прави максимално детайлно изследване на Трите закона, тълкувайки ги по такъв начин, че става възможен сценарий за Франкенщайн. Два робота стигат до извода, че човешкият произход не е достатъчно условие, за да се смяташ за човек, и че истинските хора са тези, които са най-съвършени и разумни същества. Останалите хора също са хора, но с по-нисък приоритет. А в такъв случай Трите закона би трябвало да бъдат приложени първо към тях! Разказът завършва със зловещите думи, че роботите се намират в "безкрайно търпеливо очакване" на деня, в който те ще утвърдят своето превъзходство над хората – и това ще бъде неизбежният резултат от Трите закона на хуманистиката.

Но трябва да отбележим, че този разказ не се вписва особено добре в основната серия произведения за роботите: ако наистина двата робота осъществят своя план след края на творбата, няма как да се разиграят хронологично по-късните събития, описани в други произведения. Между другото, точно такива противоречия в Азимовите произведения дават основание на някои критици да ги разглеждат напр. като скандинавски саги или старогръцки митове, а не като единна фантастична "вселена".


Проблеми на прилагането на Трите закона

Противоречията и тяхното разрешаване

Сам Азимов в предговора (1964) към разказа "Първият закон" в сборник от 1964 г. заявява, че в Законите има неяснота и двусмисленост, за да осигурява възможност за конфликти и противоречия, необходими за нови произведения. Най-съвършените модели роботи обикновено следват Законите по много хитър алгоритъм, който им позволява да избягват известни проблеми. В много разкази (напр. "Хоро") в позитронния мозък се сравняват възможностите за някакви действия и техните последствия, и роботите могат да нарушат Законите, ако това представлява опция, различна от бездействието. Така например, Първият закон не позволява на робота да извършва хирургически операции, защото това се тълкува като "нанасяне на вреда на човека". Да, но в някои разкази на Азимов се намират и роботи-хирурзи (напр. "Двестагодишният човек"). Номерът е в това, че роботът, ако е достатъчно съвършен, може да "претегли" всички алтернативи и да разбере, че той самият би причинил много по-малко вреда, ако изпълни операцията, вместо това да стори човек-хирург или пък ако тя въобще не се състои. Нещо повече – в "Улики" Сюзън Келвин даже казва, че роботът може да изпълнява и функциите на прокурор, тъй като лично той не причинява никаква вреда: освен него в съда присъстват заседатели, които установяват вината, също така съдия, който произнася присъдата, и екзекутор, който е непосредственият й изпълнител.

Роботите, подчинявайки се на Законите, могат да изпитат "роблок" или "мозъчно изключване" – състояние на необратима повреда на позитронния мозък. Това се случва, когато те не могат да се подчинят на Първия закон или установят, че случайно са го нарушили (например, ако роботът наблюдава убийството на човек, но се намира прекалено далече, за да го предотврати). Първият случай на роблок е в "Лъжец", а немалка роля това състояние играе в романите "Голото слънце" (The Naked Sun) и "Роботите на зората" (The Robots of Dawn). Несъвършените роботи могат да блокират, ако от тях бъде изискано да се подчинят на две противоречащи си заповеди. Мозъчното изключване може да бъде необратимо или временно. С разрешаване на подобни противоречия и въобще изучаване на поведението на роботите се занимават робопсихолозите. Романите на Азимов са населени с доста такива хора, пред чиито имена стоят обикновено научни звания като "д-р" или "инж." – вероятно хронологически първият е д-р Сюзън Келвин от сборника "Аз, роботът".

Определение за "вреда" в Първия закон

Законите не определят границите на деянието, което можем да наречем вреда за човека – това често зависи от възможностите на робота да възприема информация или да мисли философски. Например, дали един полицейски робот ще разбере, че той не ще нанесе вреда на човека, ако бързо прибере опасен престъпник в участъка?

В разказа "Лъжец! " (Liar!, 1941) роботът-телепат РБ-34 (Ерби) под "вреда" разбира и това, че може по някакъв начин да разочарова или разстрои хората – той знае, че при това хората изпитват някаква душевна болка. Той казва на хората мислите на други лица, но ако сметне, че казаното ще нарани слушателя, му съобщава само това, което ще му е приятно да чуе. Така по своему той изпълнява Първия закон. Д-р Келвин го изследва и за да разбере дали е права, му дава задача: той трябва да отговори на въпрос, но който и да е отговорите ще бъде неприятен на някого от присъстващите. При това положение РБ-34 излиза от строя.

Вратички в Законите

В "Голото слънце" Илайджа Бейли отбелязва, че Законите неправилно се формулират от хората, а роботът може да ги наруши от незнание. Той предлага нова, "правилна" формулировка на Първия закон:

Роботът не може да прави нищо, което, доколкото му е известно, причинява вреда на човешко същество, или умишлено да допусне на човешко същество да бъде нанесена вреда.

Това допълнение обяснява защо роботът може да стане дори оръдие на убийство, ако не е осведомен за същността на действията си. Например, може да му се заповяда да добави нещо в нечия храна, а той да не знае, че веществото е отровно. Освен това, Бейли посочва, че престъпникът може да поръча това на няколко робота, така че никой да не разбере цялостния замисъл.

Бейли твърди, че някой ден соларианците дори могат да използват роботите за военни цели. Ако един космически кораб бъде построен с роботоподобен мозък и на него няма нито човешки екипаж, нито система за поддържане на живота, то интелектът на такъв кораб може грешно по аналогия със себе си да реши, че и на всички останали космически кораби няма живот. Такъв кораб би бил по-маневрен, по-бърз, а вероятно и по-добре въоръжен в сравнение с управляемия от други хора. Но най-важното – той ще бъде способен да унищожава хора, защото не би подозирал за тяхното присъствие. Тази възможност е описана във "Фондация и Земя" (Foundation and Earth, 1986), където освен това разбираме, че соларианците имат изключително мощна армия от роботи, които под "хора" разбират единствено родените на Солария.

Други появи на Законите във фантастиката

Айзък Азимов смятал, че Законите ще бъдат основа на ново схващане за роботите, ще унищожат "комплекса на Франкенщайн" в научната фантастика и в масовото съзнание и ще станат източник на идеи за нови сюжети, където роботите ще бъдат изобразени като многостранно развити и привлекателни същества. Неговият любим пример за такова произведения е киносагата "Междузвездни войни". Според Азимов, роботите са нещо много повече от "тостери" или "механични чудовища", а с това се съгласяват и други фантасти.

През 1989 г. в чест на Айзък Азимов е отпечатана антологията "Приятели на Фондацията" (Foundation's Friends), която събира разкази на някои от най-големите майстори на научната фантастика. Едно от произведенията в книгата е на Хари Харисън (Harry Harrison) и е със заглавие "Четвъртият закон на роботиката" (The Fourth Law of Robotics). Той гласи:

4. Роботът трябва да се размножава, но само ако това не е в противоречие с Първия, Втория и Третия закон.

В самия сюжет активист за защита на правата на роботите, опитвайки се да ги освободи, произвежда няколко с програмиран и Четвърти закон. Изпълнявайки задача, заложена в него, те създават нови роботи, които смятат техните създатели-роботи за свои родители.
Във въведението си към "Прелюдия към Фондацията" (1988) Азимов говори за възможността към поредицата да се добавят нови томове. Смъртта обаче слага неочакван край на грандиозната му сага. По идея на съпругата на Азимов, Джанет, и на американския му литературен агент се създава проект за продължение на "Фондацията", в който те привличат едни от най-добрите съвременни писатели на научна фантастика — Грегъри Бенфорд, Дейвид Брин и Грег Беър. На тримата е възложено да напишат романи, развиващи цикъла в направления, в които самият Азимов е чувствал нужда от нови истории.

Така се ражда нова трилогия за Фондацията на Айзък Азимов:

1. "Страхът на Фондацията" — Грегъри Бенфорд;
2. "Фондацията и хаосът" — Грег Беър;
3. "Триумфът на Фондацията"— Дейвид Брин.

Например, в първата част бъдещата Галактическа империя е контролирана от хуманоидни роботи-заговорници, спазващи Нулевия закон на роботиката и водени от познатия ни Р. Данийл Оливо. Там Законите са представени като нещо подобно на религията у хората, а за тях се говори в стила на църковната история. Нулевият закон се лансира като ново постижение - "Реформацията на Жискар", в противовес на останалите три класически, но остарели "калвинистки" Закона (игра на думи с фамилията на изобретателката им д-р Сюзън Келвин, макар че в историята Жан Калвин (Jean Cauvin, Ioannes Calvinus) също е представител на християнската Реформация). Роботите на Оливо, спазващи Нулевия закон, са в постоянен конфликт с поддръжниците на Първия, отричащи съществуването на Нулев (като казаното тук, разбира се, е едно свръхопростено представяне на творбата).

В произведения на различни фантасти се появяват роботи, подчиняващи се на Трите закона, но те са изрично цитирани само в творби на Азимов. Когато става дума за Трите закона, обикновено се споменава и техният автор (напр. в романа на Сергей Лукяненко "Чернова" (Чистовик). Има обаче и изключения: напр. в третия епизод на германския сериал от 1960-те ,,Космически патрул – Фантастичните приключения на космическия кораб Орион“ (Raumpatrouille — Die phantastischen Abenteuer des Raumschiffes Orion.

Филми

Интересен е роботът Роби от американската фантастика "Забравената планета" (Forbidden Planet, 1956). Той има йерархическа структура на командите, която не му позволява да причинява вреда на хората дори и по заповед. Такива заповеди предизвикват конфликт на логическите схеми и блокиране. В историята на световното кино Роби е един от първите роботи с вградена система за безопасност и сам Азимов останал доволен от този образ.

Филми по произведения на Азимов са снимани няколко пъти. Най-известните от тях интерпретират именно роботски сюжети. Така например, през 1999 г. излиза "Двестагодишният човек", който показва познатия ни робот Ендрю Мартин. Той представя на своя господар Трите закона в рамките на "развлекателна презентация" с използване на холографския си проектор. Законите обаче не заемат главно място в сюжета на филма.

Не е така със сценария "Аз, роботът" на Харлан Елисън (Harlan Jay Ellison), който започва с изложение на Законите, а на проблемите, произтичащи от тях, е отредено централно място в събитията след това. Трябва да се съжалява, че вследствие на конфликт на сценариста с Холивуд сценария не е екранизиран.

Нееднозначни отзиви предизвика през 2004 г. филмът "Аз, роботът" (I, Robot - 2004). У Азимов присъства идея за глобален изкуствен интелект (по-точно 4 суперкомпютъра), който, под предлог, че се подчинява за Трите закона, се опитва изцяло да контролира човечеството и да направлява развитието му в нужната според него посока. Правейки това, компютрите се опитват да намалят вредните последствия, като отстраняват своите противници от властта. Но такива сюжети често се срещат в други филми, нямащи нищо общо с Азимовите закони ("Терминатор", "Матрицата"). Обаче отделни елементи, влизащи в основата на сюжета, наистина са взети от Азимов. Една рецензия от руския писател Алекс Екслер разграничава филма и Азимовите разкази: "Аз, роботът" е много забавен фантастичен екшън. Когато желаем да се наслаждаваме на Азимов – четем Азимов. А когато искаме да погледаме фантастичен екшън – гледаме фантастичен екшън. Като такъв "Аз, роботът" напълно ни удовлетворява".

Друга рецензия – на Алексей Садецки – обръща внимание на това, че този филм се отдалечава от Азимов и поставя два нови обществено-философски проблема: "Струва ли си човекът да замени свободата за безопасност?" и "Трябва ли да се противопоставяме, ако същества, намиращи се под нашите заповеди, поискат свобода и за себе си? "Филмът "Аз, роботът" също така поставя под съмнение разгледания по-горе Нулев закон на роботиката.

Във филмовата поредица "Робокоп" (RoboCop) главният герой – полицейски киборг – разполага с три директиви, описващи позволените действия и забраняващи вредните за целите на корпорацията, създала Робокоп: да служи на обществото, да защитава невинните и да спазва законите. Освен това е налице четвърта, тайна директива, забраняваща действия, насочени против ръководителите на корпорацията. Както е логично да се досетим, сюжетите на филмите за Робокоп са изпълнени с нарушения на тези директиви, които стават възможни заради човешката част на личността на Робокоп.

В испанско-българската фантастика "Живи машини" (Autómata, 2014) отново съществуват директиви, които служат за модел на поведение на роботите и ограничават действията им, но те са само две.
През 1974 г. българският фантаст Любен Дилов в романа си "Пътят на Икар" въвежда Четвърти закон на роботиката:

Роботът е длъжен при всички обстоятелства да се легитимира като робот.

Според него мотивите за това са: "Последният закон е сложил край на скъпо струващите увлечения на конструкторите да придават колкото се може по-човешки вид на психороботите. И на произтичащите от това недоразумения... "

През 1983 г. в друг българския фантаст - Никола Кесаровски - в новелата "Петият закон на роботиката" добавя следното ново правило:

Роботът е длъжен да знае, че е робот.

В разказа един от андроидите не само извършва убийство, но и по време на предварителния разпит не се легитимира като робот (така не спазва и въведения по-рано от Любен Дилов Четвърти закон). Защото не знае, че е такъв!

Приложение към бъдещите технологии

Необходима е изключително много работа в областта на изкуствения интелект, за да се конструират роботи, които да проумеят Законите. Колкото по-сложни стават машините с ИИ, толкова повече се изразяват усилия да се разработят подходящи ръководни принципи и мерки за безопасност за тях.

Съвременните роботопроектанти обаче признават, че в днешно време Азимовите закони са подходящи за писане на разкази, но безполезни на практика. Някои твърдят, че Законите едва ли могат да бъдат реализирани в роботите, тъй като това не е нужно на военните структури, а те са главният източник на финансиране за тази научна област. Наскоро това коментира и Марк Робърт Андерсън (Mark Robert Anderson), професор по компютърни и информационни системи в Университета в Edge Hill .

Нещо повече, канадският фантаст Робърт Сойър (Robert James Sawyer) пише в есето си "За Трите закона на роботиката на Азимов" (On Asimov’s Three Laws of Robotics) : "Развитието на ИИ е бизнес, а, както е известно бизнесът не се интересува от развитието на радикални мерки за безопасност. Ето няколко примера: тютюневата индустрия, автомобилната промишленост, атомната… За нито една от тях не е било казано още в началото, че са необходими сериозни правила за безопасност. Те непрекъснато се противопоставят на налагани външно ограничения, и досега нито една не е приела АБСОЛЮТНА заповед срещу причиняването на вреда на хората".

Трябва да се отбележи, че есето на Сойър пропуска случаи на непреднамерено нанасяне на вреда, какъвто напр. е разгледаният по-горе случай в "Голото слънце". Но има и възражения срещу неговата позиция – напр. че някои военни роботи може би ще трябва да се сражават само с други военни роботи, не нападайки хората, или пък че такъв робот поне ще трябва да различава хората-войници от своя лагер от войниците на неприятеля (ако не друго, в такъв случай поне ще трябва да бъде модифициран Първият цакон). Фантастът и критик Дейвид Лангфърд (David Rowland Langford) пише по този повод следните три иронични Закона на роботиката:

Роботът не може да причини вреда на оторизиран правителствен персонал, но е длъжен да възпрепятства прекалено натрапчиви посетители особено стриктно

Роботът е длъжен да изпълнява заповедите на отозирания персонал, с изключение на онези, противоречащи на Третия закон

Роботът е длъжен да охранява своята безопасност, използвайки противопехотно оръжие, защото всеки робот е безумно скъпа джаджа

През 1993 и 1994 г. Роджър Кларк (Roger Clarke) от Australian National University пише две статии, посветени на анализа на усложненията при реализацията на Законите, ако се предполага, че те вече са приложени лесно в техниката. Ето показателен откъс: "Азимовите Три закона на роботиката са успешен литературен инструмент. Следното е или иронично, или е истински майсторски ход, но като цяло: историите на Азимов опровергават първоначалната му гледна точка към нещата. Невъзможно е да се ограничи поведението на роботите, изобретявайки и прилагайки някакъв списък от правила".

Освен това, по-късните романи на Азимов ("Роботите на зората", "Роботите и Империята", "Фондация и Земя") показват, че роботите нанасят по-дълготрайна вреда, спазвайки Законите и отнемайки по такъв начин от хората инициативата да предприемат изобретателни или рисковани действия.

Фантастът Ханс Моравек (Hans Moravec) – известна фигура в трансхуманистичното движение – в статията си "Ерата на роботите" (The Age of Robots, 1993) предполага, че предстои да настъпи времето на корпоративния изкуствен интелект – корпорации, управлявани от ИИ и използващи производствената сила на роботите.

Американският специалист по ИИ Елийзър Юдковски (Eliezer S. Yudkowsky) от американския Machine Intelligence Research Institute изследва глобалния риск, който може да създаде евентуален бъдещ свръхчовешки ИИ, ако той не бъде изначално програмиран за приятелство с хората. През 2004 г. към Института се открива сайт, посветен на обсъждане на етиката на ИИ в контекста на проблемите, засегнати във филма "Аз, роботът", излязъл два дни по-рано. На този сайт се беше разгоряла дискусия, подбудена от твърдението, че Законите на Азимов са опасни, тъй като могат да накарат един достатъчно силен ИИ да завземе цялата власт на Земята, за да "защити" хората от вреда.

Големите фантасти се отличават от добрите по това, че формулират за пръв път проекции за бъдещето, които притежават потенциала да бъдат наистина изпълними. Фактът, че толкова години след записването на Азимовите Закони на роботиката хората експериментират с тях, спорят или ги обсъждат, означава, че писателят-фантаст е изпълнил своята цел. Нима писателите имат по-малко право на чертаене на футуристични пътища в сравнение с политиците например?

Антон Оруш, Sandacite.bg – https://www.sandacite.bg

Източници:
Asimov’s laws of robotics: Implications for information technology - IEEE Computer, dec.1993, p. 53—61; 1994, р. 57—66
Computer Plots To Avoid - http://ansible.uk/ai/pcwplus/pcwp1988.html
Laws of Robotics - http://sf-encyclopedia.com/entry/laws_of_robotics
On Asimov's Three Laws of Robotics - http://www.sfwriter.com/rmasilaw.htm
The Age of Robots - http://www.frc.ri.cmu.edu/~hpm/project.archive/general.articles/1993/Robot93.html
Three Laws of Robotics - https://en.wikipedia.org/wiki/Three_Laws_of_Robotics#cite_note-TMATWilkinson1-26
Интерфейс: новые направления в проектировании компьютерных систем - http://raskin-interface.narod.ru/interface/index.htm
Фантастический боевик "Я, робот" (I, Robot) - https://www.exler.ru/films/16-08-2004.htm


Препоръчани материали

Няма коментари към тази новина !

 
Още от : Технологии
Всички текстове и изображения публикувани в OffNews.bg са собственост на "Офф Медия" АД и са под закрила на "Закона за авторското право и сродните им права". Използването и публикуването на част или цялото съдържание на сайта без разрешение на "Офф Медия" АД е забранено.