Umělá inteligence postupně prostupuje do stále většího počtu segmentů jak ve firemních oblastech, tak v koncových zařízeních a službách. Její schopnosti jsou doslova každým dnem lepší a efektivnější. Je takto překotný vývoj nebezpečný a je nutné se bát případných černých scénářů?
Pozvolný rozvoj
Pod označení „Umělá inteligence“ spadá v počítačovém oboru několik různých podsekcí, mezi nimiž je statistika, strojové učení, neuronové sítě, zpracování řeči, robotika a další. Většina z nás si pod tímto pojmem vybaví něco jiného a to se přesně nazývá AGI (Artificial general inteligence) – obecná umělá inteligence a je to něco, co zatím neexistuje.
Různé formy umělých inteligencí existují již desítky let a vznikly s příchodem prvních počítačů. Počáteční úzké zaměření na statistiku bylo postupně rozšířeno a vylepšeno do podoby prvních neuronových sítí a technologií strojového učení. V posledních letech začala umělá inteligence ukazovat své další schopnosti v pro ni úspěšných herních soubojích například s nejlepším šachistou světa, nejlepším hráčem otázkové hry ve stylu Riskuj!, v řádově náročnější hře Go! nebo ve strategických hrách typu Starcraft a podobně.
Při každé porážce odpůrci tvrdili, že umělá inteligence nemůže jít mimo danou disciplínu, avšak to opět bylo během krátkého času vyvráceno. Systémy umělé inteligence se významně zlepšovaly a rozšiřovaly obory působnosti.
Obraz, video, řeč
Velký rozmach přišel s novou formou umělé inteligence – hlubokými neuronovými sítěmi, které více napodobují chování mozku a aktuálně jsou i schopné učit se zcela samostatně, bez učitele. Stačí jim poskytnout data a cíl, kterého mají dosáhnout. Jak toho dosáhnout a co se mají naučit, to zjistí samy. Začíná to znít trochu strašidelně? Tato technika už se ve velkém používá ve stále více oborech.
Typickým příkladem jsou autonomní vozidla, která jsou za určitých podmínek schopna jezdit zcela sama i na běžných silnicích, byť doladění pro reálné použití potrvá ještě pár let. Každá disciplína je tak pro umělou inteligenci pouze otázkou času. Ve všech případech jde ale o specializované umělé inteligence přezdívané „narrow AI“.
AGI alias superinteligence
To, čeho se mnoho lidí, včetně například Elona Muska, bojí, je vznik obecné umělé superinteligence, která bude dostatečně univerzální na to, aby pochopila souvislosti více oborů a segmentů zároveň a případně si uvědomila sama sebe. Nesmíme totiž zapomínat na to, že by mohla být schopna exponenciálně zrychleného učení bez cizího zásahu.
Mnoho těchto kritiků tak volá po regulaci vývoje pokročilých umělých inteligencí podobně jako to je například u zbraní hromadného ničení. Na vývoj by se v budoucnu mohlo například vydávat povolení a docházelo by ke kontrolám, že daná umělá inteligence není využívána k nekalým účelům nebo zda je nějakou formou zabezpečená.
Jak tento problém podchytit, je ale složitá otázka, kterou se zabývá i řada vědců a bezpečnostních týmů po celém světě. I když existuje snaha o to, aby se umělá inteligence nepoužívala v armádním prostředí, už se tak děje a dalšímu rozšíření nelze zabránit. Mnoho procesů je s umělou inteligencí efektivnější a chytřejší a postupně tedy opadá nutnost zapojení člověka.
Neutralita umělé inteligence
Existují určitá rizika využití i samotného fungování umělé inteligence. Již nyní totiž nastala doba, kdy i u specializovaných narrow AI vědci neví, co se děje uvnitř a otevřeně se mluví o černé skříňce, která se nakrmí daty a vygeneruje výsledek. Interní architektura už se totiž učí a programuje sama bez lidí.
Případná superinteligence by tak mohla být schopna začít řešit věci, které jsou zcela mimo naše chápání a tak si lze představit, že jediné, co bude potřebovat, jsou zdroje (energie) a cokoli mimo tuto oblast by potenciálně mohlo být považováno za nadbytečné.