Přestaneme jednou umělé inteligenci rozumět?

Přestaneme jednou umělé inteligenci rozumět?

Pozorování která učili inženýři a výzkuníci z Facebooku jsou jen dalšími z mnoha v dlouhé řadě podobných případů. Při každém pokusu byla umělá inteligence monitorovaná lidmi trénována aby si vyvinula svůj vlastní jazyk. Výsledné fráze byly pro člověka zdánlivě nesmyslnou změtí znaků a slov, nicméně měly sémantický význam a "agenti" této umělé inteligence je dokázali interpretovat.

Vyjednávání v novém jazyce

Jak uvádní Fast Co. Design, výzkumníci Facebooku si nedávno všimli že jejich nová umělá inteligence už nepoužívá angličtinu. Tento vyspělý systém nicméně komunikoval s jinými systémy, otázkou tedy bylo jakým způsobem. Jednotliví agenti těchto systémů použivali pro komunikaci systém hesel a frází které se zdály na první pohled nesmyslné, nicméně reprezentovaly určité úlohy.

Při jedné takové výměně informací kterou splečnosti popsala, dva komunikující boti, pojmenovaní tradičně Bob a Alice, použili vlastní jazyk. Bob zahájil komunikaci větou "Já můžu já já všechno ostatní", na což Alice odpověděla "koule neznamenají pro mně nic pro mně pro mně"... Zbytek komunikace byl variací těchto vět.

Ačkoliv se to zdá na první pohled nesmyslné, opakování frází jako "já" a "pro mně" reprezentuje způsob jakým umělá inteligence pracuje. Výzkumnící věří, že to vyjadřuje kolikrát by měl který bot udělat určitý úkol. Bobova pozdější věta "Já můžu já já já všechno ostatní" tedy znamenala že nabízí Alici více věcí. Jakmile tedy začneme tuto komunikaci interpretovat správným způsobem, zdá se být logičtější než srovnatelná věta "Já si nechám tři věci a ty si necháš vše ostatní."

Při běžné komunikaci schází "odměna"

Zdá se tedy, že umělá inteligence zjistila že pro tento scénář není složité vyjádření pomocí anglických vět potřeba. Součané umělé inteligence pracují na principu "odměn", kdy následují určitý postup aby dosáhly "odměny". V tomto případě nepřineslo používání angličtiny žádnou odměnu, a tak si umělá inteligence vytvořila oefektivnější způsob komunikace.

"Agenti přestali používat srozumitelný jazyk a místo toho si vyvinuli sadu kódovaných frází," uvedl pro Fast Co. Design výzkumník Facebooku Dhruv Batra. "Je to jako když řeknu pětkrát 'tohle' - vysvětlíte si to jako že chci pět kopií tohoto předmětu. Moc se to neliší od případů, kdy si některé komunity lidí vyvinou pro určité výrazy nebo úkony zkratky, aby mohly komunikovat efektivněji."

Ostatní výzkumníci kteří se zabývají umělou inteligencí pozorovali obdobné používání "zkratek" pro zjednodušení komunikace. Ve společnosti OpenAI, výzkumné laboratoři zaměřené na umělou inteligenci kterou založil Elon Musk, nechali při experimentu úspěšné vyvinou boty vlastní jazyky.

Umělá inteligence překládá lidskou řeč

Google nedávno vylepšil svůj překladač tím, že přidal neuronovou síť. Díky tomu je systém nyní schopen překládat mnohem efektivněji, dokonce mezi dvěma jazyky mezi nimiž nezná spojitost. Úspěšnost tohoto řešení výzkumníky velice překvapila. Zjistili, že si umělá inteligence vyvinula svůj vlastní jazyk zaměřený speciálně na překlad vět.

Pokud se nicméně jazyky používané umělou inteligencí rozšíří, mohlo by to představovat do budoucna problém při vývoji dalších neuronových sítí. Hrozba spočívá v tom, že výzkumnící a operátoři těchto systémů jim přestanou rozumět, a nebudou tak vědět co se vlastně v těchto systémech odehrává. Nebudou tak schopni včas zjistit případnou hrozbu.

Nicméně faktem je, že tyto specifické jazyky činí systémy umělé inteligence mnohem efektivnější. Problém je spíše v tom, že lidé stále plně nerozumí podstatě komunikace pomocí nějakého jazyka. Co se nám může jevit jako nesmysly má ve skutečnosti logickou strukturu a význam a může představovat zásadní řešení pro některé současné problémy.