Фракталните модели разкриват скритите граници на предвидимостта на изкуствения интелект

Ваня Милева Последна промяна на 06 ноември 2026 в 00:00 121 0

фрактално изображение

Кредит Pulin Gong/The University of Sydney
Всяка оцветена точка представлява начална настройка за модел на изкуствен интелект: синьото води до един резултат от обучението, оранжевото до друг. Заедно те образуват интересен модел, подобен на пеперуда, с оранжеви точки, разпръснати в сините области, и сини точки в оранжевите области. Движейки се по часовниковата стрелка, последователните близки планове на областите, обозначени с черните линии, разкриват това сложно смесване във все по-фини мащаби. Това показва как дори малки разлики в началната настройка могат да доведат до различни резултати от обучението, което ги прави трудни за предвиждане и възпроизвеждане.

Изследователи от Университета в Сидни са идентифицирали фундаментална математическа причина, поради която системите с изкуствен интелект могат да се научат на различни поведения, дори когато са обучени при почти идентични условия. Това откритие би могло да помогне за подобряване на надеждността и доверието в технологиите за изкуствен интелект.

Изследването на професор Пулин Гун (Pulin Gong) от Физическия факултет и неговия докторант Андрю Ли (Andrew Ly) е публикувано в Nature Machine Intelligence.

Тъй като системите с изкуствен интелект (AI) все повече се вграждат в здравеопазването, бизнеса, научните изследвания и ежедневието, осигуряването на последователно и предвидимо поведение се превръща в основно предизвикателство. Новото изследване показва, че някои форми на непредсказуемост на AI не се дължат на инженерни недостатъци или несъответствия в компютърния хардуер, а произтичат от основната математика на начина, по който невронните мрежи учат.

"Изследователите често приписват разликите в поведението на AI на външни източници на случайност, като например реда, в който се представят данните за обучение, или малки числови вариации, въведени от хардуера", обяснява Гун.

"Нашите открития сочат към нещо по-дълбоко. Дори когато тези фактори бъдат премахнати, изключително малки разлики в началните условия на модела все пак могат да доведат до различни резултати."

Невронните мрежи, технологията, която стои зад най-модерните днес системи с изкуствен интелект, се учат, като настройват милиони или дори милиарди вътрешни параметри по време на обучение. Екипът от Сидни е проучил защо мрежите понякога достигат до различни решения, въпреки че използват едни и същи данни, процедура за обучение и детерминистична изчислителна среда.

"Представете си две системи с изкуствен интелект, обучени да откриват рак, използвайки едни и същи медицински изображения и една и съща процедура за обучение. Малки разлики в началните им параметри биха могли да ги накарат да се обучат на различни поведения. Нашето изследване помага да се обясни как възникват такива разлики и може да информира за методи за повишаване на последователността на тези системи."

Разбирането на източника на тези разлики би могло да насочи проектирането на по-надеждни системи и да намали разходите и несигурността, свързани с разработването на мащабни модели.

"Картата" за обучение на изкуствен интелект е фрактал

За да обяснят феномена, изследователите използват аналогията с карта. Представете си всяка възможна начална точка за обучение като местоположение на тази карта, оцветено според резултата, който в крайна сметка произвежда. Регионите, водещи до един и същ резултат, образуват това, което математиците наричат ​​"атракторен басейн".

Атракторен басейн

В математическата област на динамичните системи, атракторът е набор от състояния, към които една система има тенденция да еволюира за голямо разнообразие от начални условия на системата. Системните стойности, които се доближават достатъчно до стойностите на атрактора, остават близки..

Ако развиващата се променлива е дву- или триизмерна, атракторът на динамичния процес може да бъде представен геометрично в две или три измерения (както например в триизмерния случай, изобразен вдясно). Атракторът може да бъде точка, краен набор от точки, крива, многообразие или дори сложен набор с фрактална структура, известен като странен атрактор. Описването на атракторите на хаотичните динамични системи е едно от постиженията на теорията на хаоса.

Атрактореният басейн има обикновено само ограничена област от стойности на стабилни променливи, към които системата може да бъде привлечена в своето предпочитано състояние. Това е аналогично на границите на долина, водосборен басейн, зад хребета системата се увлича в други басейни.

Екипът е открил доказателства, че тези басейни са организирани като много сложни фрактали, известни като "надупчени басейни" (riddled basin). В такъв пейзаж всяка точка се намира произволно близо до точки, водещи някъде другаде. Без значение колко увеличавате мащаба, различните региони остават преплетени.

Последиците са поразителни. Увеличаването на прецизността на началните условия на мрежата може да не допринесе много за подобряване на увереността относно това къде ще завърши обучението. В една по-голяма мрежа за разпознаване на изображения, прецизирането на началните настройки 10 милиарда пъти не доведе до измеримо подобрение във възпроизводимостта.

Промяната на началните настройки на тази мрежа с най-малката стойност, която компютърът може да регистрира, един-единствен "бит", изпраща обучението към различна вътрешна конфигурация в близо половината (около 48%) от случаите.

За да тестват идеята, изследователите са обучили приблизително 500 000 невронни мрежи, анализирайки системи, използвани за задачи, включително разпознаване на изображения и обработка на текст. Доказателства, съответстващи на фракталната структура "надупчени басейни", са открити в широк спектър от мрежови архитектури, набори от данни и методи за обучение.

Важно е, че ефектът се запазва дори в напълно детерминистични среди, където многократните обучителни изпълнения биха довели до идентични резултати.

Моделът помага да се обяснят различните резултати от AI

Констатациите могат да помогнат за обяснение на няколко дългогодишни наблюдения в изследванията на изкуствения интелект, включително защо независимо обучените модели често се държат различно и защо както големите, така и малките смущения понякога могат да имат сходни ефекти върху резултатите.

Работата разкри също така изненадващ компромис между производителност и възпроизводимост. Настройките, които позволяват на мрежите да учат най-ефективно, също така правят резултатите им по-трудни за предвиждане и възпроизвеждане. Намаляването на "скоростта на обучение" - размерът на стъпката, която мрежата прави всеки път, когато се настройва - обаче прави резултатите възпроизводими, но мрежите се учат по-малко ефективно.

Вместо да разглеждат непредсказуемостта като проблем, който може да бъде напълно отстранен, изследователите твърдят, че тя може да представлява фундаментална характеристика на начина, по който функционират много невронни мрежи. Проучването въвежда нови инструменти за измерване на тази чувствителност и насочва към бъдещи подходи, като например препроектиране на мрежовите архитектури за намаляване на математическите условия, които водят до нестабилност.

"Изкуственият интелект става все по-важен в обществото", коментира Гун. "За да изградим надеждни системи, се нуждаем не само от точни прогнози, но и от увереност, че тези прогнози могат да бъдат възпроизведени. Това изследване предоставя нов начин за разбиране на границите на предвидимостта в AI и как бихме могли да ги преодолеем."

Справка: Fractal basin geometry and the limits to predictability and reproducibility in deep learning, Nature Machine Intelligence (2026). DOI: 10.1038/s42256-026-01336-3

Източник: Fractal patterns reveal hidden limits to AI predictability, University of Sydney

Виж още за:
    Най-важното
    Всички новини

    Още от Математика

    Коментари

    За писането на коментар е необходима регистрация.
    Моля, регистрирайте се от TУК!
    Ако вече имате регистрация, натиснете ТУК!

    Няма коментари към тази новина !