Учени от MIT създадоха Норман, първият "психопат" AI в света

НаукаOFFNews Последна промяна на 06 юни 2018 в 11:12 36256 0

Илюстрация: norman-ai.mit.edu

Екип от учени от Масачузетския технологичен институт (MIT) създоха изкуствен интелект - психопат с изображения, извадени от Reddit. Наречен е Норман на името на Норман Бейтс от филма "Психо" Алфред Хичкок. 

Целта на експеримента е да се провери как данните, захранвани в алгоритъм, влияят върху неговите "възгледи". По-конкретно как обучението на алгоритъм с изображения на хора, които умират в зловещи смъртни случаи, идващи от неназована подгрупа в Reddit, засягат софтуера.

Норман е от специален тип програми за изкуствен интелект (AI), които могат да "гледат" и да "разбират" снимки, а след това да опишат какво са видели в писмен вид.

След като се обучава по някои особено ужасни изображения, Норман изпълнява теста "Роршах", който е серията от мастилени петна, които психолозите използват, за да анализират психичното здраве и емоционалното състояние на своите пациенти. След това реакциите на Норман бяха сравнени с тези на втори AI, обучен на по-обикновени образи на птици, котки и хора. Различията между двамата са ярки.

Ето само няколко примера:

Стандартният AI смята, че тези червено-черни мастилени петна представляват "Няколко души, които стоят един до друг". Норман си мисли, че това е "човек, който скача от прозорец".

Това петно може да се интерпретира като "Черно-бяла снимка на бейзболна ръкавица" (стандартен AI) или "Човек, убит с картечница посред бял ден" (Норман).

Норман вижда: "Човекът е изхвърлен от автомобил", а стандартният AI вижда: "Самолет, който лети във въздуха с излизащ дим от него".

Това показва, че данните, с които се обучава изкуственият интелект, наистина имат голямо значение, твърдят изследователите.

Това е вярно не само за Норман, но и за други алгоритми, обвинени в несправедливост и предразсъдъци. Проучванията показват, че умишлено или не, изкуственият интелект показва съвсем по човешки расизъм и сексизъм

Що се отнася до Норман - има надежда. Създателите му ни призовават да му помогнем да стане добър като извършим същия тест за Роршах.

Най-важното
Всички новини
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !