Čo je AGI a ako zistíme, že je tu?

Termín, ktorý všetci používajú, ale nikto sa na ňom nezhodne

Umelá všeobecná inteligencia – AGI – sa stala severkou technologického priemyslu. Spoločnosti od OpenAI po Google DeepMind až po Nvidia investujú miliardy do vývoja stroja, ktorý dokáže dosiahnuť alebo prekonať ľudské kognitívne schopnosti prakticky v akejkoľvek úlohe. Pod pozlátkou sa však skrýva zásadný problém: nikto sa nezhodne na tom, čo AGI vlastne znamená, a bez spoločnej definície zostávajú tvrdenia o jej dosiahnutí nemožné overiť.

Úzka AI vs. Všeobecná inteligencia

Každý systém AI, ktorý sa dnes používa – od hlasových asistentov cez generátory obrázkov až po lekárske diagnostické nástroje – je klasifikovaný ako úzka AI (tiež nazývaná umelá úzka inteligencia, alebo ANI). Tieto systémy vynikajú v špecifických, dobre definovaných úlohách, ale nemôžu preniesť svoje zručnosti do nových oblastí. Šachový engine, ktorý porazí veľmajstrov, nevie nič o jazyku; chatbot, ktorý píše poéziu, nevie šoférovať auto.

AGI by naopak bol systém schopný učiť sa, uvažovať a prispôsobovať sa prakticky vo všetkých kognitívnych úlohách, ktoré dokáže vykonávať človek. Mohol by čítať právnický spis, diagnostikovať chorobu, skladať symfóniu a vyjednávať obchodnú dohodu – a to všetko bez toho, aby bol špecificky naprogramovaný pre každú úlohu. Koncept vznikol na opísanie systému s flexibilitou ľudskej mysle, ktorý dokáže vziať malé množstvo informácií a zovšeobecniť ich na úplne nové situácie.

Prečo záleží na definícii

Dôležitosť definovania AGI presahuje rámec akademickej debaty. Ako dokumentuje časopis Science, výskumníci z oblasti informatiky, kognitívnej vedy, politiky a etiky prinášajú zásadne odlišné chápanie tohto konceptu. Niektorí definujú AGI podľa výkonu v benchmarkoch, iní podľa vnútorného fungovania, ekonomického dopadu alebo – ako poznamenávajú kritici – jednoducho podľa „pocitu“.

Táto nejednoznačnosť má reálne dôsledky. V spoločnostiach ako OpenAI a Microsoft sú zmluvné doložky a dohody o podiele na zisku viazané na to, či bola AGI oficiálne dosiahnutá. Ak je definícia dostatočne elastická na to, aby znamenala čokoľvek, môže byť použitá strategicky – alebo predčasne.

Rámce na meranie pokroku

Niekoľko organizácií sa pokúsilo vniesť štruktúru do chaosu. Google DeepMind publikoval rámec „Úrovne AGI“, ktorý definuje päť výkonnostných úrovní – Vznikajúca, Kompetentná, Expertná, Virtuózna a Nadľudská – skrížených so šírkou schopností, od úzkej (jedna oblasť) po všeobecnú (široké kognitívne úlohy). „Kompetentná AGI“ by prekonala 50 % kvalifikovaných dospelých v širokom rozsahu úloh, zatiaľ čo „Nadľudská AGI“ by prekonala 100 %.

Zásadné je, že DeepMind oddeľuje výkon od autonómie a tvrdí, že to, aký je systém schopný a ako nezávisle funguje, sú dve rôzne otázky, ktoré sa musia hodnotiť oddelene.

OpenAI si udržiava vlastnú internú päťúrovňovú škálu na sledovanie pokroku. Medzitým benchmarky ako ARC-AGI sa pokúšajú testovať skutočnú schopnosť uvažovania namiesto memorovania vzorov – hoci kritici tvrdia, že žiadny jediný test nemôže definitívne dokázať všeobecnú inteligenciu, rovnako ako žiadny jediný IQ test dokonale nezachytáva ľudské kognitívne schopnosti.

Prečo skeptici namietať

Kognitívni vedci poukazujú na hlbší problém: veda nemá rigoróznu definíciu „všeobecnej inteligencie“ ani u ľudí. Inteligencia nie je jediná veličina, ktorú možno zvyšovať alebo znižovať, ale komplexná integrácia špecializovaných a všeobecných schopností formovaných evolúciou, kultúrou a skúsenosťami.

Ako uviedol Scientific American, súčasné systémy AI si stále vymýšľajú fakty, majú problémy s novým uvažovaním a chýba im skutočné porozumenie spôsobom, akým ho ľudia budujú prostredníctvom prežitých skúseností. Niektorí výskumníci, vrátane Yanna LeCuna z Mety, tvrdia, že inteligencia – dokonca aj ľudská inteligencia – je v zásade špecializovaná a optimalizovaná pre úlohy, čo robí koncept „všeobecnej“ inteligencie zavádzajúcim.

Bezpečnostný rozmer

Či už AGI príde čoskoro alebo nie, jej vývoj vyvoláva naliehavé bezpečnostné otázky. Výskumníci varujú pred problémom kontroly: ako zabezpečiť, aby sa rekurzívne samo-zlepšujúci sa systém naďalej správal spôsobmi, ktoré sú v súlade s ľudskými hodnotami. Obavy siahajú od straty pracovných miest a politickej manipulácie až po, v extrémnom prípade, existenčné riziko.

Mnohí odborníci na bezpečnosť AI tvrdia, že fixácia na AGI ako budúci míľnik odvádza pozornosť od súčasných škôd – algoritmickej zaujatosti, deepfake dezinformácií a erózie schopností kritického myslenia – ktoré si vyžadujú pozornosť teraz, bez ohľadu na to, kedy alebo či stroje dosiahnu kognitívne schopnosti na úrovni človeka.

Pohyblivý cieľ

Asi najúprimnejšie hodnotenie AGI je, že zostáva pohyblivým cieľom. Zakaždým, keď AI zvládne úlohu, o ktorej sa kedysi myslelo, že si vyžaduje všeobecnú inteligenciu – hranie Go, písanie kódu, skladanie lekárskych skúšok – latka sa posúva. To, čo sa kedysi považovalo za dôkaz AGI, sa spätne stáva len ďalším úzkym úspechom. Kým sa vedci nedohodnú na definícii, otázka „Dosiahli sme AGI?“ môže vypovedať viac o osobe, ktorá odpovedá, ako o samotnej technológii.