Екип от учени от Масачузетския технологичен институт (MIT) създоха изкуствен интелект - психопат с изображения, извадени от Reddit. Наречен е Норман на името на Норман Бейтс от филма "Психо" Алфред Хичкок.
Целта на експеримента е да се провери как данните, захранвани в алгоритъм, влияят върху неговите "възгледи". По-конкретно как обучението на алгоритъм с изображения на хора, които умират в зловещи смъртни случаи, идващи от неназована подгрупа в Reddit, засягат софтуера.
Норман е от специален тип програми за изкуствен интелект (AI), които могат да "гледат" и да "разбират" снимки, а след това да опишат какво са видели в писмен вид.
След като се обучава по някои особено ужасни изображения, Норман изпълнява теста "Роршах", който е серията от мастилени петна, които психолозите използват, за да анализират психичното здраве и емоционалното състояние на своите пациенти. След това реакциите на Норман бяха сравнени с тези на втори AI, обучен на по-обикновени образи на птици, котки и хора. Различията между двамата са ярки.
Ето само няколко примера:
Стандартният AI смята, че тези червено-черни мастилени петна представляват "Няколко души, които стоят един до друг". Норман си мисли, че това е "човек, който скача от прозорец".
Това петно може да се интерпретира като "Черно-бяла снимка на бейзболна ръкавица" (стандартен AI) или "Човек, убит с картечница посред бял ден" (Норман).
Норман вижда: "Човекът е изхвърлен от автомобил", а стандартният AI вижда: "Самолет, който лети във въздуха с излизащ дим от него".
Това показва, че данните, с които се обучава изкуственият интелект, наистина имат голямо значение, твърдят изследователите.
Това е вярно не само за Норман, но и за други алгоритми, обвинени в несправедливост и предразсъдъци. Проучванията показват, че умишлено или не, изкуственият интелект показва съвсем по човешки расизъм и сексизъм.
Що се отнася до Норман - има надежда. Създателите му ни призовават да му помогнем да стане добър като извършим същия тест за Роршах.
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
Няма коментари към тази новина !
Последни коментари