Развитието на изкуствения интелект е напреднало до такава степен, че създателите му често не могат да предвидят или да разберат какво ще направи.

Дали машините с изкуствен интелект ще "завладеят" света, както се случва в научната фантастика? Може би. 

Дали необикновеният човешки ум е създал друг начин, освен ядрените оръжия, да унищожи нашия вид?

Всяка година наградите "Дарвин" се присъждат в чест на "Чарлз Дарвин, бащата на еволюцията", като се отличават "онези, които подобряват нашия генофонд, като се отстраняват от него по възможно най-зрелищния начин". 

Например наградата "Дарвин" е присъдена на млад мъж в Австралия, който се опитал да направи стойка на ръце върху парапета на 30-метрова пропаст, загубил равновесие и паднал смъртоносно. Друга награда бе присъдена на човек, който използвал куршум 22-ри калибър като бушон в колата си. Куршумът се изстрелял и прострелял носителя на наградата в тестисите, като по този начин намалил репродуктивния му успех.

Може да изглежда абсурдно да се даде награда "Дарвин" на мозъчната кора на човека, но създаването на изкуствения интелект (AI) може да изложи на опасност целия ни вид.

В книгата "Ерата на изкуствения интелект и нашето човешко бъдеще" Хенри Кисинджър, Ерик Шмидт и Даниел Хутенлохер (The Age of AI: And Our Human Future Hardcover) обсъждат както чудесата, така и опасностите от изкуствения интелект.

Например AlphaZero, шахматна програма, създадена от AI, никога не е била побеждавана - нито от гросмайстори, нито от компютърни програми. Тя е създала шахматни ходове и стратегии, които никой човек не е измислял. Когато бившият световен шампион по шахмат Гари Каспаров се запознава с AlphaZero, споделя, че "шахматът е разтърсен до основи от AlphaZero".

Изследователи от M.I.T. създават изкуствен интелект, за да се опитат да намерят нов антибиотик, който да убива бактерии и вируси, станали резистентни към други антибиотици. Те предоставили на AI описанията на 61 000 молекули, които да разгледа и тества, и само една от тях удовлетворила критериите на AI. Изследователите шеговито кръщават молекулата "халицин" по името на злонамерения компютър "Хал" във филма "2001 г. Космическа одисея".

Изкуственият интелект е навсякъде в наши дни. Автомобилите, които се управляват сами, се контролират от AI, криптовалутата се "добива" от AI, изследванията, които изискват огромни количества данни, се извършват от AI, Facebook използва AI, за да извлича и организира информация за своите потребители, и още, и още. Изкуственият интелект може да прави необикновени неща, но тъй като той има и свой собствен разум, нарастващата зависимост от AI е причина за безпокойство.

Когато нематериалният софтуер придобива логически способности и в резултат на това поема социални роли, считани някога за изключително човешки (в съчетание с такива, които никога не са били изпитвани от хората), трябва да се запитаме:

Как еволюцията на AI ще се отрази на човешкото възприятие, познание и взаимодействие? Какво ще бъде въздействието на AI върху нашата култура, нашата концепция за човечеството и в крайна сметка върху нашата история?

Ценностите на дигиталния свят се формират от одобрението, а не от самоанализа. Той по своята същност оспорва просвещенската теза, че разумът е най-важният елемент на съзнанието. Отменяйки ограниченията, които исторически са били наложени на човешкото поведение от дистанцията, времето и езика, дигиталният свят предполага, че връзката, сама по себе си, е смислена.

Първият докладван смъртен случай в автомобил с изкуствен интелект се случва през 2018 г., когато пешеходец е блъснат и убит от самоуправляващ се автомобил.

Какво ще направи вашият автомобил с изкуствен интелект, когато се сблъска с подобна ситуация: На заледен път през зимата пешеходец излиза от тротоара на улицата. Автомобилът ви започва да се пързаля. Дали контролерът с изкуствен интелект ще се отклони от пътя, за да пропусне пешеходеца? Или ще удари пешеходеца, за да предпази пътника (вас)? Тъй като действията на изкуствения интелект в някои отношения са извън човешкото разбиране, никой не знае.

А какво да кажем за оръжията, управлявани от AI?

Тъй като AI са динамични и нови, дори тези, които създават или владеят оръжие, проектирано или управлявано от AI, може да не знаят точно колко мощно е то и да не са разработили стратегия - нападателна или отбранителна - за нещо, което възприема аспекти на околната среда, които хората не могат или не могат да възприемат толкова бързо, и което може да се учи и променя чрез процеси, които в някои случаи надхвърлят темпото или обхвата на човешката мисъл.

Авторите на "Ерата на изкуствения интелект" не предвиждат превземане на властта от AI, ала "2001" или безброй други научнофантастични истории за бунта на машините, но предупреждават, че хората, създаващи AI, трябва да вградят ограничения в творенията си, подобно на първия закон за роботите в класиката на Азимов "Аз, роботът": "Роботът не трябва да вреди на човек или да позволява с бездействието си да се вреди на човек." Но какво ще стане, ако роботът се управлява от Владимир Путин?

Дали нашият прекрасен мозък, еволюирал в обществата на ловците и събирачите, за да улесни възпроизводството и оцеляването на нашия вид, ще направи сам себе си излишен, създавайки машини, които не може да разбере напълно?

Дали тази характеристика, която превърна нашия вид в господар на планетата, е на път да се сблъска с твърде много непредвидени последици?

Епохата на AI е важна пътна карта за нашето настояще и бъдеще - епоха, която не прилича на никоя предишна.

Справка: Kissinger, Henry; Eric Schmidt; and Daniel Huttenlocher. 2021. The Age of AI and Our Human Future. New York: Little, Brown, and Company.

Източник: The Neocortex Wins the Darwin Award, Рsychology Тoday