14 ноември 2018
Категории
  •  Космос
  •  Физика
  •  Науки за земята
  •  Биология
  •  Медицина
  •  Говорят медиците
  •  Математика
  •  Научни дискусии
  •  Разни
FACEBOOK

Учени от MIT създадоха Норман, първият "психопат" AI в света

| ПОСЛЕДНА ПРОМЯНА 06 юни 2018 в 11:12118540
Илюстрация: norman-ai.mit.edu

Екип от учени от Масачузетския технологичен институт (MIT) създоха изкуствен интелект - психопат с изображения, извадени от Reddit. Наречен е Норман на името на Норман Бейтс от филма "Психо" Алфред Хичкок. 

Целта на експеримента е да се провери как данните, захранвани в алгоритъм, влияят върху неговите "възгледи". По-конкретно как обучението на алгоритъм с изображения на хора, които умират в зловещи смъртни случаи, идващи от неназована подгрупа в Reddit, засягат софтуера.

Норман е от специален тип програми за изкуствен интелект (AI), които могат да "гледат" и да "разбират" снимки, а след това да опишат какво са видели в писмен вид.

След като се обучава по някои особено ужасни изображения, Норман изпълнява теста "Роршах", който е серията от мастилени петна, които психолозите използват, за да анализират психичното здраве и емоционалното състояние на своите пациенти. След това реакциите на Норман бяха сравнени с тези на втори AI, обучен на по-обикновени образи на птици, котки и хора. Различията между двамата са ярки.

Ето само няколко примера:

Стандартният AI смята, че тези червено-черни мастилени петна представляват "Няколко души, които стоят един до друг". Норман си мисли, че това е "човек, който скача от прозорец".

Това петно може да се интерпретира като "Черно-бяла снимка на бейзболна ръкавица" (стандартен AI) или "Човек, убит с картечница посред бял ден" (Норман).

Норман вижда: "Човекът е изхвърлен от автомобил", а стандартният AI вижда: "Самолет, който лети във въздуха с излизащ дим от него".

Това показва, че данните, с които се обучава изкуственият интелект, наистина имат голямо значение, твърдят изследователите.

Това е вярно не само за Норман, но и за други алгоритми, обвинени в несправедливост и предразсъдъци. Проучванията показват, че умишлено или не, изкуственият интелект показва съвсем по човешки расизъм и сексизъм

Що се отнася до Норман - има надежда. Създателите му ни призовават да му помогнем да стане добър като извършим същия тест за Роршах.


Препоръчани материали

Няма коментари към тази новина !

 
Още от : Технологии
Всички текстове и изображения публикувани в OffNews.bg са собственост на "Офф Медия" АД и са под закрила на "Закона за авторското право и сродните им права". Използването и публикуването на част или цялото съдържание на сайта без разрешение на "Офф Медия" АД е забранено.