80 години по-късно трите правила на роботиката на Азимов имат нужда от ревизия

Антония Петрова Последна промяна на 18 март 2022 в 00:00 30689 0

Когато Айзък Азимов формулира своите Три закона на роботиката в разказа "Runaround", публикуван на 18 март 1942 г., той е мислел за андроиди.

Представял си е свят, в който тези човекоподобни роботи ще действат като слуги и ще се нуждаят от правила, за да се предотврати причиняването на вреда на хората.

80 години след излизането на разказа с етичните насоки, светът вече е постигнал значителен технологичен напредък. Вече имаме напълно различна концепция за това как трябва да изглеждат роботите и по какъв начин да си общуваме с тях, коментира Марк Робърт Андерсън (Mark Robert Anderson), професор по компютърни и информационни системи в Университета в Edge Hill, в публикация за изданието Conversation. 

Високоразвитото поле на роботиката ражда широк кръг от устройства - от автономни прахусмукачки, през военни дронове, до цели заводски производствени линии. В същото време изкуственият интелект и учещите се машини все повече участват в софтуера, с който ежедневно работим - дали търсим информация в интернет или се отнася до държавни услуги. Тези подобрения скоростно водят към време, когато роботи от всякакви видове ще се превърнат в неразделна част от всички аспекти на обществото, а взаимодействието човек-робот ще нарасне значително.

Постулатите на Азимов все още се споменават като образец за управление на развитието на роботите. През 2007 г. южнокорейското правителство дори предложи Етична харта за роботи, разработена от четирима футуролози и един автор на научно-фантастични произведения, която отразява законите на Азимов. Но предвид колко много се е променила роботиката и колко продължава да расте в бъдеще, хората трябва да се запитат по какъв начин тези правила могат да бъдат обновени за изкуствения интелект от 21-и век, пише проф. Андерсън.

Трите закона на Азимов за роботиката са разработени за защита на хората при общуването с роботите. Те са: 

Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда.

Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон.

Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон.

Един от очевидните проблеми е, че съвременните роботи са много по-разнообразни от онези в историите на Айзък Азимов, включително и такива, които са много по-елементарни. Така че хората трябва да се замислят дали трябва да има праг на сложността, под който правилата може и да не се прилагат, изтъква проф. Андерсън. Трудно е да се представи робот-прахосмукачка да има способности да нарани хората или дори да се изисква от него да има способност да спазва заповеди. Това е робот с една единствена задача, която може да бъде зададена преди да бъде пуснат в действие. 

В другия край на спектъра, обаче, са роботите, разработени за бойни военни условия. Тези устройства са устроени за шпиониране, обезвреждане на бомби или пренасяне на товари. Те все още подлежат на законите на Азимов, особено след като се създават, за да намалят риска за хората в силно животозстрашаваща среда. 

роботът BigDog, създаден за носене на товари през пресечена местност

Но това е само една малка стъпка към приемането, че крайната военна цел би била създаване на въоръжени роботи, които да бъдат разполагани на бойното поле. При тази ситуация Първият закон - да не се нараняват хора - става силно проблематичен. Ролята на войската е да пази живота на войниците и цивилните, но често това става чрез нараняване на враговете на бойното поле. В тази връзка законите вероятно ще трябва да бъдат преразгледани от различна перспектива или интерпретация.

Двусмислието на законите кара редица автори, включително Азимов, да проучват как могат да бъдат погрешно тълкувани или некоректно прилагани. Един от проблемите е, че всъщност законите не дефинират какво е робот. С изместването на границите на технологията се появяват нови разклонения на роботиката, които са насочени към по-молекулярни устройства, описва проф. Андерсън. 

Например, "роботи", направени от ДНК и протеини, могат да бъдат използвани при операции за поправяне на смущения на гените. На теория тези устройства би трябвало да следват законите на Азимов. Но за да следват заповеди чрез ДНК-сигнали, те трябва да станат неразделна част от човека, върху който работят. Това интегриране обаче ще затрудни определенето дали роботът е бил достатъчно независим, за да подлежи на законите или действа извън тях, коментира още професорът.


На практично ниво ще бъде невъзможно да се определи дали каквито и да било заповеди, които получава, биха причинили вреда на човека. Съществува и въпросът кое се определя като вреда за човека. Това може да се окаже проблем когато се разгледа разработването на роботи-бебета в Япония, например. Ако човек осинови един от тези роботи, това може да причини емоционална или психологична вреда. Но тази вреда може да не е резултат от директни действия на робота или може да се прояви много години след като взаимодействието човек-робот е приключило. Този проблем може да се приложи и към много прост изкуствен интелект, като употребата на машина за създаване на музика, която предизвиква емоции. 

Другият голям пролем със законите е, че се нуждаем от значителен напредък при изкуствения интелект за роботи, за да можем да ги спазваме, отбелязва ученият. Целта на разработването на изкуствения интелет понякога се описва като създаване на машини, които могат да мислят и действат рационално и да изглеждат като хората. Засега подражаването на човешкото поведение не е добре проучено в полето на изкуствения интелект и развитието на рационално поведение е фокусирано върху ограничени, добре очертани области. 

С всичко това на ум, един робот би могъл единствено да действа в една много ограничена сфера и каквото и да било рационално приложение на законите би било силно ограничено. Въпреки че това може да не е възможно с настоящата технология, като система, която може да разсъждава и да взима решения, основани на законите, ще има нужда от значителна компютърна мощ. 

Предвид всички тези въпроси, законите на Азимов не предлагат нищо повече от основни принципи за някой, който иска да създаде роботизиран код в наши дни. Хората трябва да ги следват, но с много по-обширен набор от закони. Без значително развитие на изкуствения интелект прилагането на тези закони ще остане невъзможна задача. И това е дори преди да се вземе предвид потенциалът за вреда когато хората започнат да се влюбват в роботи, подчертава проф. Андерсън. 

Виж още за:
Най-важното
Всички новини

Още от Човекът

Коментари

За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !