Facebook стимулира наводнението от съмнителни, генерирани от изкуствен интелект, абсурдни изображения, които обаче очароват застаряващата потребителска публика, която и може би не разбира, че не са реални.
Още по-лошо, според нов анализ на изследователи от Станфордския и Джорджтаунския университет, забелязан за първи път от 404 Media, мошениците и спамърите използват това долнопробно съдържание, привличат огромно внимание и увеличават така аудиторията си във Facebook.
Въпреки огромното разпространение на AI генератори на изображения, очевидно все още те са новост за потребителите в най-голямата социална медийна мрежа, истински динозавър в социалните медии.
Според изследователите измамниците злоупотребяват с този постоянен интерес, а също и от подкрепата от алгоритми на Facebook, за да пренасочват хората към други сайтове, пълни с реклами, за да продават продукти и да нарастват последователите им.
Настоящото изследване е само най-новият знак, че интернет се опитва да отблъсне приливна вълна от боклук, генериран от AI, което допълнително подкопава качеството на съдържанието, на което сме изложени ежедневно.
Миналата седмица светът беше представен на Shrimp Jesus, в които Исус е смесен с ракообразно, и които многократно са ставали вирусни във Facebook.
Миналата седмица скрийншоти на публикация във Facebook, събрала стотици харесвания и коментари със снимки на "скаридения Исус" (Shrimp Jesus) - хибрид на Исус с ракообразно Изображенията са емблематични за специфичен вид AI изображения, използвани от спамъри и мошенници, но многократно карат хората да пишат "WTF" и "ЗАЩО?", докато се споделят от аудиторията потребители на Facebook, които изглежда не могат да ги разпознаят като AI или не им пука, че са AI.
"КАКВО СЕ СЛУЧВА ВЪВ FACEBOOK", пише един загрижен потребител в X, бившият Twitter.
Друга екранна снимка показва акаунт във Facebook, споделящ изображение на това, което се предполага, че е 122-годишна жена, която е направила сама торта за рождения си ден. Както се очакваше, изкуственият интелект не успява да изпише правилно думите "честит рожден ден" ("happy birthday") и дори не може да направи правилно свещите във формата на числа.
Както посочват изследователите от Станфордския и Джорджтаунския университет в тяхното все още нерецензирано проучване, Facebook най-вероятно възнаграждава AI спам акаунти за повече от 50 изображения, генерирани от AI на ден, които привличат десетки милиони гледания.
Алгоритмите на Facebook класират тези изображения високо във фийда на потребителите, генерирайки огромно количество ангажираност (engagement). Компанията отдавна смъква надалу във фийда връзките към външни уебсайтове и публикациите с изображения изглежда се класират много по-високо.
Съдейки по коментарите, изследователите откриват, че "много потребители не знаят за синтетичния произход на изображенията, въпреки че част от потребителите публикуват коментари, предупреждаващи другите".
Благодарение на съществуващите алгоритми на Facebook, компанията активно стимулира страниците на тези измамници.
Компанията майка на платформата Meta все още не е коментирала този поток боклуци, генерирани от AI. Но както предполагат изследователите, има много неща, които може да направи за справяне с проблема. От една страна, това може да принуди страниците активно да маркират изкуствено генерираното съдържание и да приложат допълнителни мерки за прозрачност.
AI is Greatest
Социалната медийна мрежа не е единствената компания, която се бори с този проблем. Google наскоро направи промени в своя основен алгоритъм, за да санкционира съдържание, генерирано от изкуствен интелект с минимални усилия.
Но дали тези усилия ще се изплатят в дългосрочен план, предстои да видим. Особено с наивните потребители на Facebook, които споделят и коментират тези публикации, е малко вероятно да видим, че проблемът ще изчезне от само себе си.
Facebook има ужасен опит, когато става въпрос за прилагане на правила и модериране на съдържание. (очакваме и тази дописка да бъде санкционирана - вж "Политиката на Facebook за голотата е глупост. Цензурира се изкуство")
Като се има предвид нейната чудовищна потребителска база от над три милиарда потребители, 20-годишната социална медийна мрежа в много отношения е твърде голяма, за да се провали.
В същото време компанията не е особено актуална от много години и младите потребители отдавна са я изоставили. Генерираните от мързелив AI изображения на скаридения Исус, споделяни от потребителската база, вероятно само ще влошат нещата.
Справка: How Spammers and Scammers Leverage AI-Generated Images on Facebook for Audience Growth; Renee DiResta & Josh A. Goldstein; https://fsi9-prod.s3.us-west-1.amazonaws.com/s3fs-public/2024-03/DiRestaGoldstein_AIGeneratedImages_Preprint.pdf
Източник: Facebook Is Making Insane AI-Generated Fever Dreams Go Viral for Gullible Boomers, Futurism
Коментари
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!
Няма коментари към тази новина !
Последни коментари