Изкуственият интелект (ИИ) вече може да постигне почти всичко - от това да направи симулация на Вселената, до това да нареди кубчето на Рубик с една ръка.
Целият този напредък е замислен за наше добро. Но какво ако не е така? Напоследък, алгоритмични системи, които вече участват в живота на хората, показаха притеснителни нива на "предразсъдъци" при извършването на операциите, например предвиждайки склонност към престъпления на расова основа или определяйки кредитни лимити на базата на пола.
Възможно ли е да се създадат по-напреднали системи със справедливо мислене?
Ново изследване на учени от Университета на Масачузетс Амхърст, публикувано в Science търси отговор на този въпрос, описвайки протокол, който да предотврати "нежелателно поведение" при машините с изкуствен интелект.
"Когато прилагаме алгоритъм за машинно обучение е трудно да контролираме поведението му", обяснява изследователят Филип Томас (Philip Thomas). "Да осигурим лесно справедливост и да избегнем проблеми става все по-важно, тъй като алгоритмите за машинно обучение влияят на живота ни все повече и повече."
Протоколите, които могат да помогнат в разработването на нови видове алгоритми за машинно обучение, не добавят формулирани идеи за морал или честност, но улесняват разработчиците на машинно обучение да конкретизират и регулират нежелателно поведение, когато съставят алгоритмите си.
В основата на новата система стоят така наречените от екипа Селдънови алгоритми ('Seldonian' algorithms), кръстени на главния герой от известната поредица научно фантастични романи на Айзък Азимов Фондацията. Тези алгоритми не просто осигуряват етично функциониране, всякакво поведение може да бъде контролирано, като например комплексните протоколи за сигурност в медицинските системи.
"Ако използвам Селдънови алгоритми за лечение на диабет, мога да определя, че нежелателното поведение означава опасно ниска кръвна захар или хипогликемия", обяснява Томас. "Мога да кажа на машината "Докато се опитваш да подобриш контролера на инсулиновата помпа, не прави промени, които могат да повишат честотата на хипогликемията". Повечето алгоритми не дават възможност да се поставят такъв тип ограничения на поведението, не беше включено в по-ранните варианти."
Като част от изследването, екипът разработва подобен Селдънов алгоритъм, за да контролира автоматизирана помпа за инсулин, определяйки специфичен начин за безопасно предвиждане на дозите за човек, базирани на данните за нивата на кръвната му захар.
В друг експеримент, учените създават алгоритъм, който да предвижда резултатите на студенти, като се избягва отклонението, базирано на пола, което се среща в често използвани регресионни алгоритми.
Учените подчертават, че тези експерименти служат само като доказателство за възможностите на Селдъновите алгоритми и че първият фокус на работата е самият протокол, който други учени могат да използват при създаването на нови системи с ИИ.
"Вярваме, че има много място за подобрение в тази област", споделя Томас. "Дори с алгоритмите, създадени с прости компоненти получихме внушителни резултати. Надяваме се, че специалистите по машинно обучение ще продължат да развиват повече и по-усъвършенствани алгоритми, използвайки нашия протокол, който може да се използва с отговорност за приложения, при които машинното обучение се е считало за твърде рисковано."
Източник: Science alert - Can We Force AIs to Be Fair Towards People? Scientists Just Invented a Way
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
Няма коментари към тази новина !
Последни коментари