Хората си мислят, че AI точно анализира личността им, но всъщност им дава случаен резултат

Социалните мрежи, интернет, книги и медии са пълни с личностни тестове. Независимо дали са на основата на астрология или някакъв неясен алгоритъм, хората често са склонни да им вярват безкритично. Дали това е само безобидно забавление?

Според ново проучване, публикувано в списание Consciousness and Cognition, готовността ни да вярваме на създателите на личностни етикети може да има сериозни последици за продължаващото развитие на мозъчно-компютърните интерфейси и изкуствения интелект.

За да провери доколко ефективно могат да подлъжат хората да се идентифицират с определен от машина личностен профил, международен екип от канадски и шведски изследователи използва социалните медии - където астрологията, поп-психологията и други системи за описание на личността са широко разпространени - за да събере 62 участници, които са останали с впечатлението, че тестват нов вид невротехника, която според проучването "може точно да чете техните мисли и дълбоко вкоренени нагласи".

"За да започнем нашия сценарий на измама, възнамерявахме да изградим доверие на участниците в машината, като се престорим, че тя може да декодира техните предпочитания и нагласи", пишат авторите на изследването. "Системата включва фалшив скенер за ядрено-магнитен резонанс и система за ЕЕГ, за която се предполагаше, че използва невронно декодиране, управлявано от изкуствен интелект (AI)."

Според изследването фалшивата система е била сравнително сложна, като процедурата е включвала "три основни фази: основно разчитане на мозъка, откриване на човешки грешки и получаване на обратна връзка за нагласите".

^{Скенер за ядрено-магнитен резонанс. Кредит: Wikimedia Commons}

По време на всяка фалшива "фаза" всеки участник е помолен да оцени доколко е съгласен с различните резултати. Междувременно фалшивата система лъжливо работи за "точното декодиране" на отговорите, които участниците държали "несъзнателно в мозъка си и могат да бъдат декодирани от невронната активност".

С други думи, участниците са били накарани да повярват, че с помощта на напреднала невронаука машината може да им каже какво мислят, а не само как мислят. И според проучването участниците приемат резултатите с удоволствие, убедени, че машината ги познава по-добре, отколкото те самите се познават.

"Когато машината привидно извеждаше предпочитанията и нагласите на участниците, мнозина изразяваха удивлението си, като се смееха или наричаха това "готино" или "интересно". 

"Никой от участниците - продължават изследователите - не изрази подозрение относно способностите на машината за четене на мисли по време на изследването."

Макар че изследователите отбелязват няколко уговорки към работата си, фактът, че никой не е изразил подозрение относно ефикасността на машината - как работи, дали наистина е способна да чете мисли - е наистина страшен. Той със сигурност казва нещо за готовността на хората да бъдат категоризирани, особено от сила извън тях. Но може би в още по-голяма степен то говори за това колко много хората вярват на алгоритмите и машините, особено когато се има предвид, че голяма част от "предпочитанията" и "нагласите", които машината на изследователите е представила, са били случайни.

Писателят Артър Кларк заявява, че „всяка достатъчно напреднала технология е неразличима от магията“. Но обратното също може да е вярно: магическите трикове могат да бъдат неразличими от напредналата технология, пишат авторите.

"В обобщение вярваме, че нашата, макар и необичайна и сложна парадигма, може да помогне за създаването на реалистични реакции към бъдещите невротехнологии", заключават авторите, предупреждавайки за потенциалните последици от това, на което подобна машина може да бъде способна в бъдеще. "Тази парадигма предлага обещаващи възможности за имитиране на тези невротехнологии с цел по-добро разбиране и подготовка за евентуалните им последици."

Справка: Emulating future neurotechnology using magic
Jay A.Olson, Mariève Cyr, Despina Z. Artenie, Thomas Strandberg, Lars Hall, Matthew L.Tompkins, Amir Raze, Petter Johanssond
Consciousness and Cognition https://doi.org/10.1016/j.concog.2022.103450 

Източник: People Thought an AI Was Brilliantly Analyzing Their Personalities, But It Was Actually Giving Out Feedback Randomly, futurism