Един от най-интригуващите учени, удостоени тази година с Нобелова награда е Джефри Хинтън, който получава това най-висше отличие за физика за разработването на дълбоките изкуствени невронни мрежи.
Интересен факт е, че е правнук на основателя на математическата логика Джордж Бул, който има фундаментален принос в развитието на компютърните науки.
Джефри Хинтън е едновременно дипломиран психолог и физик. Хинтън дълго търси себе си, опитвайки първо философия, след това история на изкуството и през 1970 г. завършва Кеймбридж с диплома по експериментална психология.
Хинтън получава докторска степен в областта на изкуствения интелект, но не забравя и психологията. Той обича да изследва "менталните образи" на изкуствения интелект, да измисля пъзели, за да тества оригиналността и креативното мислене на интелигентните машини, сравнявал е ефектите от увреждане на мозъка с ефектите от загуба на информация в изкуствена невронна мрежа и е открил поразителни прилики.
През 2013 г. Хинтън е нает от Google (Google Brain), работейки едновременно като професор в Университета на Торонто. Оттогава той спечели много награди и има ученици навсякъде. Хинтън напуска Google през май 2023 г., обявявайки, че го е направил, за да "говори свободно за рисковете от технологията за изкуствен интелект (AI)."
Подходът на Хинтън се основава на дълбоки невронни мрежи.
Идеята на Хинтън е да се пресъздаде начина, по който функционира мозъчната мрежа, чрез изграждане на изкуствени невронни мрежи като компютърни симулации. В тях мозъчните неврони се имитират чрез възли, на които се задават различни стойности, а синапсите се представят чрез връзки между възлите, които могат да се правят по-силни или по-слаби. Чрез промяна на числата, използвани за представянето им – мрежата може да се научи сама.
Преди него доминиращата парадигма е напълно различна: повечето изследователи са смятали, че за да могат машините да мислят, те трябва да имитират начина, по който хората мислят, манипулирайки символи (като думи или числа), следвайки логически правила.
Но Хинтън е на друго мнение: "Враните могат да решават пъзели", заявява той пред MIT Technology Review миналата година, „и те нямат език. Те правят това, като променят силата на връзките между невроните в мозъка. Така че трябва да е възможно да се научат сложни неща чрез промяна на силата на връзките в изкуствена невронна мрежа."
Идеята на Хинтъхн за невронните мрежи дълго време не може да се осъществи, просто защото не съществуваше достатъчно изчислителна мощност и данни за обучение.
Но след 2010 г. идеите му са в разцвет и невронните мрежи стават основен фокус на международните изследвания.
"Вече не сме луди маргинали", коментира Хинтън. "Сега сме лудото ядро."
Появява се ChatGPT, изкуствен интелект, способен да прави толкова много неща, които Хинтън е смятал, че ще се случат след десетилетия. Дотолкова, че случващото се го вече го плаши.
В интервюто си за MIT Technology Review Хинтън споделя, че новото поколение големи езикови модели – особено GPT-4, който OpenAI пуска миналата година – го е накарало да осъзнае, че машините са на път да станат много по-умни, отколкото е смятал, че ще бъдат. И той се страхува как може да стане това.
"Тези неща са напълно различни от нас", отбелязва ученият. "Понякога си мисля, че сякаш извънземните са кацнали и хората не са разбрали, защото говорят много добър английски."
Страховете на Хинтън може да се сторят на мнозина като научна фантастика. Но ето неговите разсъждения.
Както подсказва името им, големите езикови модели са направени от огромни невронни мрежи с огромен брой връзки. Но те са малки в сравнение с мозъка.
"Нашите мозъци имат 100 трилиона връзки", обяснява Хинтън. "Големите езикови модели имат до половин трилион, най-много трилион. И все пак GPT-4 знае стотици пъти повече от всеки един отделен човек. Така че може би всъщност има много по-добър алгоритъм за обучение от нас."
Обучението е само първата поредица от аргументи на Хинтън. Вторият е общуването.
"Ако вие или аз научим нещо и искаме да предадем това знание на някой друг, не можем просто да му изпратим копие, но 10 000 невронни мрежи, всяка от които има собствен опит, всяка от тях може да сподели това, което научава незабавно. Това е огромна разлика. Все едно сме 10 000 души и щом един човек научи нещо, всички го знаем."
Сега Хинтън смята, че в света има два вида интелигентност: животински мозъци и невронни мрежи. "Това е напълно различна форма на интелигентност", подчертава ученият. "Нова и по-добра форма на интелигентност."
"...Напълно възможно е човечеството да е само преходен етап от еволюцията на интелекта. Не може директно да се дигитален интелект. Трябва да се развие биологичен интелект, за да може да се създаде дигитален интелект, тогава дигиталният интелект може да абсорбира всичко, което някога е било написано от хора, макар и доста бавно, което прави ChatGPT, но разполагайки с директен достъп до опита на хората, ще заработи много по-бързо. Може да останем още известно време, за да поддържаме работата на електроцентралите. Но след това може би не...”
От баща на нова форма на разум Хинтън сега се е превърнал в пророк на Апокалипсиса, сочейки, че неговото дете води към гибелта на човечеството.
Източник: Geoffrey Hinton tells us why he’s now scared of the tech he helped build, MIT Technology Review
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
Няма коментари към тази новина !
Последни коментари