Mi az az AGI, és honnan tudnánk, ha megérkezett?

A fogalom, amelyet mindenki használ, de senki sem ért egyet a jelentésében

A mesterséges általános intelligencia – AGI – a technológiai iparág iránycsillagává vált. Az OpenAI-tól a Google DeepMind-on át az Nvidia-ig vállalatok milliárdokat ölnek egy olyan gép létrehozásába, amely gyakorlatilag bármilyen feladatban felülmúlja az emberi kogníciót. A felhajtás mögött azonban egy alapvető probléma rejlik: senki sem ért egyet abban, hogy mit is jelent valójában az AGI, és közös definíció nélkül lehetetlen ellenőrizni az elérésére vonatkozó állításokat.

Szűk AI vs. Általános Intelligencia

Minden ma használt AI-rendszer – a hangasszisztensektől a képgenerátorokig és az orvosi diagnosztikai eszközökig – szűk AI-ként (más néven mesterséges szűk intelligencia vagy ANI) van besorolva. Ezek a rendszerek kiválóan teljesítenek konkrét, jól meghatározott feladatokban, de nem tudják átvinni képességeiket új területekre. Egy sakkprogram, amely legyőzi a nagymestereket, semmit sem tud a nyelvről; egy chatbot, amely verseket ír, nem tud autót vezetni.

Ezzel szemben az AGI egy olyan rendszer lenne, amely képes tanulni, következtetni és alkalmazkodni gyakorlatilag minden olyan kognitív feladatban, amelyet egy ember el tud végezni. El tudna olvasni egy jogi beadványt, diagnosztizálni egy betegséget, szimfóniát komponálni és üzleti megállapodást tárgyalni – mindezt anélkül, hogy kifejezetten programoznák az egyes feladatokra. A koncepció egy olyan rendszer leírására jött létre, amely az emberi elme rugalmasságával rendelkezik, és amely kis mennyiségű információt képes általánosítani teljesen új helyzetekre.

Miért fontos a definíció?

Az AGI meghatározásának tétje messze túlmutat az akadémiai vitán. Ahogy a Science folyóirat dokumentálta, a számítástechnika, a kognitív tudomány, a politika és az etika kutatói mind alapvetően eltérő módon értelmezik a fogalmat. Egyesek az AGI-t a benchmarkokon elért teljesítmény, mások a belső működés, a gazdasági hatás vagy – ahogy a kritikusok megjegyzik – egyszerűen a „hangulat” alapján határozzák meg.

Ennek a kétértelműségnek valós következményei vannak. Az olyan vállalatoknál, mint az OpenAI és a Microsoft, a szerződéses záradékok és a nyereségrészesedési megállapodások attól függenek, hogy az AGI-t hivatalosan elérték-e. Ha a definíció elég rugalmas ahhoz, hogy bármit jelentsen, akkor stratégiailag – vagy idő előtt – alkalmazható.

Keretrendszerek a fejlődés mérésére

Számos szervezet próbált struktúrát adni a káosznak. A Google DeepMind közzétett egy „AGI-szintek” keretrendszert, amely öt teljesítményszintet határoz meg – Kezdő, Kompetens, Szakértő, Virtuóz és Emberfeletti –, a képesség szélességével kombinálva, a szűktől (egyetlen terület) az általánosig (széles kognitív feladatok). Egy „Kompetens AGI” a képzett felnőttek 50%-ánál jobban teljesítene a feladatok széles skáláján, míg egy „Emberfeletti AGI” 100%-ot múlna felül.

A DeepMind döntő fontosságú módon elválasztja a teljesítményt az autonómiától, azzal érvelve, hogy egy rendszer képessége és az, hogy mennyire önállóan működik, két különböző kérdés, amelyet külön kell értékelni.

Az OpenAI saját belső ötszintű skálát tart fenn a fejlődés nyomon követésére. Eközben az olyan benchmarkok, mint az ARC-AGI a valódi következtetési képességet próbálják tesztelni a minták memorizálása helyett – bár a kritikusok szerint egyetlen teszt sem tudja végérvényesen bizonyítani az általános intelligenciát, ahogy egyetlen IQ-teszt sem ragadja meg tökéletesen az emberi kogníciót.

Miért ellenkeznek a szkeptikusok?

A kognitív tudósok egy mélyebb problémára mutatnak rá: a tudománynak nincs szigorú definíciója az „általános intelligenciára” még az emberekben sem. Az intelligencia nem egyetlen mennyiség, amelyet fel vagy le lehet tekerni, hanem a specializált és általános képességek komplex integrációja, amelyet az evolúció, a kultúra és a tapasztalat alakított ki.

Ahogy a Scientific American beszámolt róla, a jelenlegi AI-rendszerek még mindig tényeket hallucinálnak, küzdenek az újszerű következtetésekkel, és hiányzik belőlük az a valódi megértés, ahogyan az emberek a megélt tapasztalatok révén építik azt. Egyes kutatók, köztük a Meta munkatársa, Yann LeCun, azzal érvelnek, hogy az intelligencia – még az emberi intelligencia is – alapvetően specializált és feladatra optimalizált, ami magát az „általános” intelligencia fogalmát is félrevezetővé teszi.

A biztonsági dimenzió

Függetlenül attól, hogy az AGI hamarosan megérkezik-e vagy sem, a törekvés sürgető biztonsági kérdéseket vet fel. A kutatók figyelmeztetnek a kontrollproblémára: hogyan lehet biztosítani, hogy egy rekurzívan önfejlesztő rendszer továbbra is az emberi értékekkel összhangban viselkedjen. Az aggodalmak a munkahelyek megszűnésétől és a politikai manipulációtól a legszélsőségesebb esetben a létfontosságú kockázatokig terjednek.

Sok AI-biztonsági szakértő azzal érvel, hogy az AGI-ra, mint jövőbeli mérföldkőre való fixáció elvonja a figyelmet a jelenlegi károkról – az algoritmikus torzításról, a deepfake félretájékoztatásról és a kritikus gondolkodási készségek eróziójáról –, amelyek most figyelmet követelnek, függetlenül attól, hogy a gépek mikor érik el az emberi szintű kogníciót.

Egy mozgó célpont

Talán az AGI legőszintébb értékelése az, hogy az továbbra is egy mozgó célpont. Valahányszor az AI elsajátít egy olyan feladatot, amelyről egykor azt gondolták, hogy általános intelligenciát igényel – Go-t játszani, kódot írni, orvosi vizsgákat letenni –, a céloszlopok eltolódnak. Ami egykor az AGI bizonyítékának számított, utólag csak egy újabb szűk eredménynek bizonyul. Amíg a tudósok nem értenek egyet a definícióban, a „Elértük az AGI-t?” kérdés többet mondhat a válaszoló személyről, mint magáról a technológiáról.