Háček je v tom, že ovládání počítačové super inteligence daleko za hranicemi lidského chápání by vyžadovalo simulaci této super inteligence, kterou můžeme analyzovat. Ale pokud to nejsme schopni pochopit, je nemožné vytvořit takovou simulaci.

Stroje nás jednou ovládnou

Názory typu, že umělá inteligence "nezpůsobí újmu lidem“, nelze podpořit, pokud nerozumíme druhu scénářů, s nimiž AI (umělá inteligence) přijde, jak píší autoři nové studie. Jakmile počítačový systém pracuje na úrovni nad rámec chápání nebo schopností našich programátorů, již nemůžeme jako lidé stanovovat limity. "Super inteligence představuje zásadně odlišný problém, než jaký se obvykle studuje pod hlavičkou robotické etiky, píší vědci. "Je to proto, že super inteligence má mnoho aspektů, a proto je potenciálně schopná mobilizovat různé zdroje, aby dosáhla cílů, které jsou pro člověka potenciálně nepochopitelné, natož kontrolovatelné.“

Část úvah týmu pochází z problému zastavení, který navrhl Alan Turing už v roce 1936. Problém se soustředí na to, zda bude počítačový program schopen se sám ukončit,  nebo se jednoduše navždy pokusí najít si nějaký způsob pokračování.

Jak dokázal Turing prostřednictvím chytré matematiky, zjednodušeně řečeno, jako lidé nemáme kapacitu si pamatovat a ovládat všechny počítačové programy, které kdy byly a budou napsány. Ale AI v superinteligentním stavu by dokázala udržet v paměti každý možný počítačový program na světě. Programy napsané lidmi s cílem zabránit tomu, aby umělá inteligence poškozovala lidi a ničila svět, tak z matematického hlediska neposkytují jistotu, že tak s určitostí učiní.

Alternativou je hloupá AI

Alternativou k této katastrofické predikci je výuka AI určité etice, na což ovšem neexistuje žádný algoritmus, takže jediný způsob, jak to udělat, je omezit schopnosti umělé super inteligence. Mohla by být například odříznuta od části internetu nebo od určitých sítí.

Nová studie také tuto myšlenku ale odmítá a naznačuje, že by to omezilo dosah umělé inteligence. Argumentuje se tím, že pokud ji nebudeme používat k řešení problémů jdoucích nad rámec lidí, tak proč ji vůbec vytvářet?

Pokud se tedy chystáme posunout vpřed s umělou inteligencí, možná bychom v určité fázi ani nepostřehli, že už je tu super inteligence mimo naši kontrolu. To znamená, že musíme začít klást několik vážných otázek ohledně toho, jakým směrem se vydáme.

"Superinteligentní stroj, který ovládá svět, zní jako sci-fi,“ říká počítačový vědec Manuel Cebrian z Max-Planckova institutu pro lidský rozvoj. "Ale již existují stroje, které provádějí určité důležité úkoly nezávisle, aniž by programátoři plně pochopili, jak se to naučily. Vyvstává tedy otázka, v jakém okamžiku by se to mohlo stát nekontrolovatelným a nebezpečným pro lidstvo.“ Výzkum byl publikován v časopise Journal of Artificial Intelligence Research. Dále si přečtěte: Technologický gigant pracuje na třech robotech, kteří budou sloužit v domácnostech.