Да се научим как да разпознаваме генерирани от изкуствен интелект (AI) лица е нужно и полезно в днешния все по-изпълнен с фалшификати свят. Само пет минути обучение, показващо често срещани недостатъци при рендирането на изкуствен интелект – като странно изглеждаща коса или неправилен брой зъби – значително подобряват точността на разпознаване, което има практически приложения от реалния свят за модериране в социалните медии и проверка на самоличността.
Откриването на фалшиво лице, създадено от изкуствен интелект, може да звучи като задача за усъвършенствани алгоритми, но изследванията показват, че хората могат да се научат да го правят изненадващо добре само с пет минути обучение.
Ново проучване установи, че кратка обучителна сесия (около пет минути обучение и практика с обратна връзка), показваща на хората често срещани недостатъци в генерираните от изкуствен интелект лица, значително повишава процента на разпознаване. Освен това изследването разкрива, че повечето хора без обучение се представят по-зле от ако бяха посочвали на случаен принцип, когато се опитват да идентифицират генерирани лица, често ги възприемайки като по-реалистични от действителните човешки снимки.
Констатациите предлагат практично решение за нарастващатз заплаха за сигурността. Генерирани от изкуствен интелект лица вече са използвани за създаване на фалшиви акаунти в социалните медии за кампании за тормоз и с усъвършенстването на технологиите потенциалът за измами и дезинформация нараства.
"Генерираните от изкуствен интелект лица сега са изключително реалистични, до степен, че хората често допускат грешки при разграничаването им от истинските лица", пишат изследователите в Royal Society Open Science.
Тестване на хора с изключителни умения за разпознаване на лица
В проучването са тествани 664 участници в множество експерименти, включително хора с изключителни способности за разпознаване на лица. Тези "суперразпознавачи" вече се използват от някои полицейски сили за идентифициране на заподозрени от записи от охранителни камери.
Участниците разглеждат лица, създадени от StyleGAN3, най-модерната система за генериране на лица, налична към момента на събиране на данните на проучването. Генерираните от изкуствен интелект изображения са били съчетани с реални снимки от Flickr, като и двата набора снимки включват разнообразни демографски данни, за да отразят реалистични условия.
Без обучение, типичните участници се представили с едва 42% точност, когато са били помолени да идентифицират кое от двете лица е генерирано от изкуствен интелект – значително по-лошо от очакваните 50% от случайни предположения. Суперразпознавачите се представили по-добре с 54%, повече, но все пак може доста повече.
Участниците са били помолени да разграничат истинските от фалшивите лица. Горните два реда съдържат генерирани от изкуствен интелект лица. Долните два реда съдържат истински лица. Кредит: Dr Katie Gray
Какво включва обучението: Практика с обратна връзка
Тренировките са забележително прости. Изследователите показват на участниците примери за артефакти при рендване – фини недостатъци, които системите с изкуствен интелект понякога оставят в генерираните изображения.
Това обикновено са странно рендвана коса, необичаен брой зъби или странни преходи, където чертите на лицето се срещат с фона. След това участниците завършват десет пробни опита и получават незабавна обратна връзка дали отговорите им са правилни.
След тази кратка сесия, суперразпознавачите достигат до 64% точност, представяйки се значително по-добре от тези на случайността. Типичните участници също стават значително по-добри в разпознаването, надхвърляйки 50% и елиминирайки тенденцията да възприемат фалшивите лица като по-реални от истинските.
Ефектът от обучението се проявява в по-голямата част от изображенията, вместо да е от полза само за очевидните случаи - 55 от 80-те генерирани от изкуствен интелект лица са показали подобрение на точността с повече от 10% за суперразпознавателите след обучение.
Защо някои хора са по-добри в разпознаването на фалшификати
Интересното е, че на суперразпознавачите е отнемало повече време да вземат решения от типичните участници, но това не обяснява предимството им в представянето. Времето за реакция не е корелирало с точността в нито една от групите, което предполага, че предимството на суперразпознавачите произтича от превъзходните им перцептивни способности, а не просто от това, че са по-внимателни.
Изследователският екип предполага, че тъй като обучението е подобрило и двете групи по подобен начин, суперразпознавачите може да разчитат на способности за обработка на лица, отвъд простото откриване на артефакти от рендирането. Вместо това, те вероятно използват други умения за обработка на лица, за да откриват генерираните от изкуствен интелект и могат да подобрят тези способности чрез целенасочено обучение.
Проучването използва теория за откриване на сигнали, за да анализира дали подобрената ефективност се дължи на по-добра способност за разграничаване или просто на променени стратегии за вземане на решения. Обучението подобрява фактически чувствителността, а не просто да направи хората по- подозрителни към всички лица.
Практическо приложение за откриване на фалшиви лица онлайн
Практическите приложения се простират отвъд сигурността и правоприлагането. Тъй като генерираните от изкуствен интелект лица стават все по-разпространени, кратките обучителни програми биха могли да помогнат на модераторите на социални медии, журналистите, проверяващи източници, или на всеки, който трябва да удостовери онлайн самоличността си.
Изследователите признават, че с усъвършенстването на системите с изкуствен интелект отвъд StyleGAN3 (който бе най-съвременен, когато са събирали данните си), очевидните артефакти при рендване може да станат по-редки, което потенциално намалява ефективността на обучението, фокусирано върху артефакти. Въпреки това, комбинирането на кратко обучение с естествените способности на суперразпознавачите би могло да осигури силна защита на хората срещу все по-сложни генерирани лица.
Следващата стъпка е да се определи дали ефектите от обучението траят във времето и дали могат да се комбинират с други интервенции, като например множество обучени наблюдатели да преглеждат едни и същи изображения. Изследователите също така предполагат, че обучени суперразпознавачи биха могли да работят заедно с алгоритми за откриване на генерирани с изкуствен интелект изображения за оптимални резултати.
Засега посланието е ясно: хората не са безпомощни срещу генерираните от изкуствен интелект лица. Само с няколко минути инструкции какво да търсят, хората могат значително да подобрят способността си да разпознават фалшификати.
Справка: Gray, K.L.H., Davis, J.P., Bunce, C., Noyes, E., & Ritchie, K.L. (2025). “Training human super-recognizers’ detection and discrimination of AI-generated faces,” published November 12, 2025 in Royal Society Open Science, 12, 250921. DOI:10.1098/rsos.250921
Източник: Can You Spot AI-Generated Fake Faces? 5 Minutes Of Training Can Do The Trick, StudyFinds
Още по темата
Човекът
Как научните измами се превърнаха в индустрия
Технологии
Боклуци, генерирани от изкуствен интелект, заливат наивната застаряваща аудитория на Facebook
Технологии
Картини, генерирани от изкуствен интелект, печелят първо място на конкурс за изкуство
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
Няма коментари към тази новина !
Последни коментари
4I4ATA
Нов, скрит досега вход в пирамидата на Микерин е открит по аномалии при сканиране
YKoshev
Престижна награда от БАН спечели главният редактор на НаукаOFFNews
Johnny B Goode
Престижна награда от БАН спечели главният редактор на НаукаOFFNews
Gunteer
Престижна награда от БАН спечели главният редактор на НаукаOFFNews