В резултат на абсурден скандал, свързан с чернокожи потребители, Google Photos вече не поддържа заявки за търсене на горила, шимпанзе и макак, съобщава WIRED.
През 2015 г. чернокож разработчик на софтуер притесни Google, заявявайки, че приложението за фотографии на Google е маркирало снимка с негов чернокож приятел като "снимка на горила". Google веднага се извини и програмистът, който оттогава стана публично "лице" на движението за изчистване на такива недоразумения, заяви, че етикетът "горила" вече няма да се прилага към групови снимки и че Google работи и върху "други поправки в по-дългосрочен план".
Повече от две години по-късно една от тези поправки изтрива горилите и някои други примати от лексикона на приложението. Необичайното решение илюстрира трудностите, с които се сблъскват Google и други технологични компании в усъвършенстването на технологията за разпознаване на изображения, която корпорациите се надяват да използват при самоуправляващи се автомобили, лични асистенти и други продукти.
WIRED тества Google Photos, използвайки колекция от 40 000 изображения, сред които са снимки на най-разнообразни животни. Резултатите са впечатляващи, програмата разпозна много същества, включително панди и пудели. Но приложението съобщава, че "няма резултати" за думите "горила", "шимпанзе" и "маймуна".
Google Photos съществува под формата на мобилно приложение и на уеб сайт. То предоставя на 500 милиона потребители място за съхранение и подреждане на лични снимки. Google Photos използва технологията за машинно обучение, за да групира автоматично снимките с подобно съдържание. Същата технология позволява на потребителите да търсят в своите лични колекции.
В тестовете на WIRED Google Photos разпозна някои примати. Търсенията за "бабуин", "гибон", "мармозетка" и "орангутан" функционират добре. Капуцините и маймуните колобуси могат да бъдат намерени, докато търсенето използва тези термини без да добавя опасната дума с „м”.
В друг тест WIRED качва 20 снимки на шимпанзета и горили от колекциите на неправителствени организации като Chimp Haven и Dian Fossey Institute. Някои от маймуните могат да бъдат намерени чрез думите за търсене на думи като "гора", "джунгла" или "зоопарк", но останалата част се оказа труднодостъпна.
Резултатът: В Google Photos един павиан е павиан, но маймуната не е маймуна. Горилите и шимпанзетата са невидими.
За третия тест на програмата порталът съставя колекция от 10 000 фотографии, използвани за разпознаване на лица. Резултатите се оказаха доста забавни: системата подаде само снимка на пасяща антилопа на заявката "афро-американец". Търсенето за "чернокожа жена", "чернокож мъж" и "чернокож човек" доведоха до факта, че Google показва черно-бели снимки на хора, правилно сортирани по пол, но изобщо не разделени по раса.
Единствените подходящи търсения, които наистина позволиха да се намерят хора с тъмни лица, бяха "афро" и "африканци", въпреки че и тук резултатите са нееднозначни.
Представител на Google потвърди, че след инцидента от 2015 г. думата "горила" е цензурирана в системите за търсене и маркиране на изображения, а днес "шимпанзе", "макак" и "маймуна" също са обект на блокиране. "Технологията за маркиране на изображения е все още доста млада и за съжаление не е перфектна", пише говорителят на компанията.
Някои от системите за машинно обучение на Google имат право да откриват публично горили. Компанията предлага на бизнес услуга за компютърни облаци, наречена Cloud Vision API. Когато WIRED тества онлайн демото със снимки на горила и шимпанзе, тя идентифицира и двете.
Една снимка на бебета близнаци с възрастна горила бе маркирана от Cloud Vision на Google като "западна горила" с доверие на оценката от 94% например. Системата връща списък с най-добрите си предположения на съответните маркери за изображението. "Бозайник" и "примат" имат 90% или повече.
Google Assistant, отговорът на компанията на Siri на Apple, също е свободен да нарече горилата горила. На телефоните с Android, Google Assistant може да бъде повикан, за да се опита да интерпретира това, което е на екрана на телефона. Когато е помолен да разгледа същата снимка с двете бебета горили, Google Assistant предлага "планинска горила".
Но подобна функция, наречена Google Lens, която се рекламираше като "прогресът в способността на компютъра да вижда" на компанията и добавена към Google Photos през октомври миналата година, се държи по различен начин. Когато е помолена да интерпретира същото изображение, тя отговори: "Хмм ... не виждам ясно това".
Такава предпазливост още веднъж подчертава колко несъвършени са съществуващите системи за машинно обучение. С достатъчно данни и мощност за обработка те могат да бъдат обучени да разпознават снимки или да симулират реч с висока точност - но това изглежда е пределът засега. Дори най-съвършените алгоритми не могат да използват „здрав разум” или да работят с абстрактни понятия, за да подобрят своето възприятие на информацията и да го направят по-сходно с човешкото.
"Много е трудно да моделирате всичко, което системата ще види, когато се пусне на практика", споделя Висенте Ордьонес Роман (Vicente Ordóñez Román), професор в Университета на Вирджиния, водещ в изследванията за машинно обучаващите се алгоритми, приложени към изображения.
Заедно с колегата си Байшаки Рей (Baishakhi Ray), експерт по сигурността на софтуера, Роман изследва начини за възпиране на възможното поведение на системите за разпознаване на изображения, използвани в технологии като автопилоти. Рей заяви, че е постигнат известен напредък, но не е ясно до каква степен ограниченията на подобни системи могат да бъдат управлявани. "Все още не можем да разберем детайлно логиката на тези модели на машинно обучение", коментира тя.
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
6021
1
28.10 2018 в 00:29
Последни коментари