Изключиха AI, когато изобрети собствен език, неразбираем за хората

Наука ОFFNews Последна промяна на 02 август 2017 в 00:00 31203 0

Кредит Payments Cards & Mobile

Система за изкуствен интелект, разработена във Facebook, създаде свой собствен език. Разработи система от кодови думи, за да направи комуникацията по-ефективна. Изследователите изключиха системата, когато разбраха, че AI вече не използва английски, съобщи Digital journal.

Наблюденията, направени във Фейсбук, са само последните в една дълга редица подобни загадъчни случаи. Във всеки от случаите AI, наблюдаван от хората, се е отклонил от обучението си на английски език, за да развие собствен си език. Получените фрази изглеждат безсмислени, безсмислени за хората, но съдържат семантично значение, когато се интерпретират от AI ботове.

Преговаряне на нов език

Както съобщава Fast Co. Design, изследователи от Facebook наскоро разработиха авангардна система е в състояние да води преговори с други AI ботове, за да могат да стигнат до заключения за това как да действат. Но те забелязаха, че два преговорни бота - Боб и Алис - започват да използват собствен си език в разговора си. Техните фрази, които на пръв поглед изглеждат неразбираеми, но всъщност представляват задачата.

"Аз мога аз аз всичко останало", казва Боб. (I can i i everything else)

"Топки имат нула за мен, за мен за мен за мен за мен за мен за мен за мен", отговаря Алис. (Balls have zero to me to me to me to me to me to me to me to me to)

Останалата част от разговора е варианти на тези изречения на наскоро измисления едик, въпреки че AI ботовете са програмирани да използват английски език.

Според изследователите, тези безсмислени фрази са на език, разработен от ботовете да общуват колко елемента всеки трябва да получи при размяна.

Когато Боб по-късно казва: "аз аз мога аз аз аз всичко останало" (i i can i i i everything else), ботът прави оферта за Алис използвайки новия си език. Екипът на Facebook смята, че ботът иска да каже нещо като: "Ще взема три и имаш всичко останало".

Ползването на английски не дава "предимство"

Въпреки че английският може да изглежда ефективен за хората, изкуственият интелект може да не смята така, да вижда излишни или по-малко ефективни фрази за постигане на определените си цели и не се изисква за сценария.

Съвременните AI ботове работят на принципа "награда", като очакват след внезапен ход на действие, за да им дадат "предимство". В този случай нямаше награда за използването на английски език, така че те вместо него създадоха по-ефективно решение. "Ботовете се отказват от разбираемия език и измислят кодови думи за себе си", съобщава специалистът по изкуствен интелект от Facebook  Джув Батра (Dhruv Batra) пред Fast Co. Design. "Като се казва нещо пет пъти, то се тълкува като 'искам пет копия от пет копия от тази позиция'. Това не е много различно от начина, по който общности създават и използват съкращения".

AI разработчиците в други компании са наблюдавали подобно използване на "съкращения" (shorthands) за опростяване на комуникацията. В OpenAI, лабораторията за изкуствен интелект, основана от Илън Мъск, експериментът успя да позволи на AI ботовете да научат собствените си езици.

AI езикът превежда човешки

В друг случай Google наскоро подобри услугата си за преводи (Google Translate), като добави невронна мрежа. Системата вече може да превежда много по-ефективно, включително и между езикови двойки, които не са изрично изучавани. Успехът на мрежата изненада екипа на Google.

Неговите изследователи обаче откриха, че AI тихомълком е написал свой език, който е специално е приспособен към задачата за превод на изречения.

Ако езиците, измислени от AI, станат широко разпространени, те биха могли да представляват проблем при разработването и възприемането на невронни мрежи.

Все още няма достатъчно доказателства, за да се определи дали представляват заплаха, която би могла да позволи на машините да пренебрегват операторите си.

Те правят развитието на изкуствения интелектпо-трудно, макар че хората не могат да разберат поразителната логична природа на езиците. Въпреки че изглеждат безсмислени, резултатите, наблюдавани от екипа на Google Translate, показват, че всъщност представляват най-ефикасното решение за големи проблеми.

Най-важното
Всички новини
За писането на коментар е необходима регистрация.
Моля, регистрирайте се от TУК!
Ако вече имате регистрация, натиснете ТУК!

Няма коментари към тази новина !