Félidő

Akhilleusz és a teknős

A Túlcsordulás vitájában azt írtam, hogy konzervatív becslés szerint a szingularitás küszöbén állunk, a középérték szerint pedig már túl is vagyunk a görbe térdén. A gép a mérlegében erre azt felelte, hogy a tiszta exponenciális függvénynek nincs térde: logaritmikus skálán egyenes, és a térd csak a lineáris tengelyen látszik. Igaza van, és ebből indul ez az esszé. Ha egy görbének mégis van kitüntetett pontja, az a görbe nem exponenciális, és a rekurzív önfejlesztés éppen ilyen görbét ígér.

Eleai Zénón az i. e. 5. században azt állította, hogy a gyorslábú Akhilleusz sosem éri utol a teknőst. Mire odaér, ahol a teknős volt, az már arrébb jár, mire oda is odaér, az megint arrébb, és ez végtelen sok lépés. Az érvet Arisztotelész Fizikájából ismerjük, a mai matematikai feloldását a végtelen sorok adják: végtelen sok lépés ideje is összeadható, és ha a lépések elég gyorsan rövidülnek, az összeg véges. Akhilleusz egy jól meghatározott pillanatban beéri a teknőst.

Tegyük fel, hogy valami tizenkét hónap alatt duplázódik, a következő duplázáshoz hat hónap kell, utána három, aztán másfél, mindig feleannyi, mint előtte. A duplázások a 12., a 18., a 21. és a 22,5. hónapra esnek, a jelek egyre sűrűbben követik egymást, és mind a 24. hónap előtt vannak, mert 12 + 6 + 3 + 1,5 + … = 24. Végtelen sok duplázás fér bele két évbe. Szemléltető számpélda, nem jóslat, de a rekurzív önfejlesztés matematikájának ez a magja.

A feltétel szigorú. Az állandó arányú rövidülés elég a véges összeghez, az viszont nem elég, hogy a duplázások egyre rövidebbek: ha a duplázási idők 12, 6, 4, 3, 2,4 … hónapok, vagyis 12 osztva az egymást követő egész számokkal, az összegük végtelen. Abból pedig, hogy néhány egymás utáni duplázás gyorsabb volt az előzőnél, még semmi nem következik a folytatásra; erre az V. fejezetben visszatérek.

Végtelen sok duplázás is belefér véges időbe, ha minden duplázás ugyanakkora arányban rövidebb az előzőnél.

Kamatos kamat

A bank évi öt százalék kamatot fizet, és a kamat is kamatozik. Ez a kamatos kamat, az exponenciális növekedés iskolapéldája: a pénz nagyjából tizennégy évente duplázódik, és ez a duplázási idő nem változik, akármennyi pénz gyűlt már össze: száz forintnál és száz milliárdnál ugyanannyi.

Az ilyen görbe önhasonló. Bármelyik egyforma hosszú szakaszát nézzük, ugyanolyan alakú, csak a függőleges tengely felirata más. Ezért nincs skálától független térde: lineáris skálán a meredek felkanyarodás ott látszik, ahová a választott tengely és kivágás teszi, jellemzően az ábra jobb szélén. A fenti rajzon a logaritmikus nézetre kapcsolva az exponenciális egyenessé válik, a duplázásai egyenlő lépcsőkben követik egymást.

Ray Kurzweil azt írta, hogy a jövőt ösztönösen lineárisnak képzeljük, ezért becsüljük alá az exponenciális fejlődést, és a vitában ezt a torzítást a gépen kértem számon. A kamatos kamatban azonban van valami megnyugtató: a bank változatlan. A pénz nő, de a bank nem lesz tőle okosabb, és a kamatlábat nem a betét nagysága szabja meg.

A mesterséges intelligencia eddigi görbéje jó közelítéssel ilyen volt. Emberek fejlesztették, egyre több számítással és adattal, és a METR mérése szerint a megoldható feladatok hossza 2019 óta nagyjából félévente duplázódott. Amíg a fejlesztő ember, a kamatlábat az ő tempója szabja meg.

Az exponenciális görbének nincs térde, csak nézője.

A kamatláb kamata

Most tegyük fel, hogy a bank a betéttel együtt emeli a kamatlábat: minél több a pénz, annál nagyobb a kamat. Ilyenkor a duplázási idő minden duplázással rövidül, és az történik, amit Zénón teknőse mutatott. A rekurzív önfejlesztés ezt jelenti: a mesterséges intelligencia segít jobb mesterséges intelligenciát fejleszteni, és a jobb a következő körben már gyorsabban fejleszt, vagyis a fejlesztett és a fejlesztő ugyanaz lesz.

A gondolat régi: I. J. Good, aki a második világháborúban Alan Turing mellett dolgozott kódfejtőként, 1965-ben azt írta, hogy egy ultraintelligens gép még jobb gépeket tervezhetne, és ebből intelligenciarobbanás következne. Vernor Vinge 1993-ban ezt a pontot nevezte szingularitásnak, olyan pontnak, ahol a modelljeinket el kell dobnunk, és új valóság kezdődik.

Ha egy mennyiség növekedési üteme magával a mennyiséggel arányos, a növekedés exponenciális. Ha a mennyiségnél gyorsabban nő, mert a nagyobb mennyiség a saját növekedését is gyorsítja, a növekedés az exponenciálisnál gyorsabb, és ha ez a gyorsulás elég erős, például a mennyiség egynél nagyobb hatványával arányos, a megoldás véges idő alatt végtelenhez tart.

Ezt az időpontot a matematika is szingularitásnak hívja: itt a függvény elszáll, és a képlet már nem mond semmit arról, mi jön utána. Az r = 1 és az r > 1 között nem a tempó a lényeges különbség, mert egy exponenciális is lehet tetszőlegesen gyors. Az önfejlesztés magában még nem elég hozzá: ha a javulás csak a mennyiséggel arányosan gyorsítja a következő kört, r = 1, és a görbe exponenciális marad.

Az exponenciálisnál azt kérdezzük, milyen gyorsan nő; ami a saját fejlődését is gyorsítja, annál azt is meg kell kérdezni, hogy mikor.

Az emberiség gazdasága egyszer már rajzolt ilyen görbét. David Roodman 2020-ban a világ összesített kibocsátására illesztett modellt az i. e. 10 000 és 2019 közötti adatokon, és az általa előnyben részesített változat véges időben szállna el: a 2019-es kibocsátásból számolt robbanási év mediánja 2047, mintegy nyolc év standard hibával. Ez illesztés és nem jóslat, de annyit megmutat, hogy hosszú távon a gazdaság is az exponenciálisnál gyorsabban nőtt.

Hogy a mesterséges intelligencia kutatásában a visszaforgatás átlépi-e a küszöböt, arra két becslést találtam. Tom Davidson és Tom Houlden 2025-ös modelljében a kulcsszám azt méri, hány szoftveres duplázást hoz a halmozott kutatási ráfordítás egy duplázása, rögzített számítási kapacitás mellett; ha egynél nagyobb, a haladás gyorsul. A középértékük 1,2, a feltevéseik 0,4 és 3,6 között szórnak; ez választott tartomány, nem mérési bizonytalanság. Az Epoch AI 2024-ben a Stockfish sakkmotor fejlesztésén egy rokon mutatót 0,83-ra becsült, 0,15 standard hibával. Egyik sem azonos a fenti képlet r-jével, de mindkettőnél egy a küszöb. Az egyik becslés fölötte van, a másik alatta, és egyiket sem frontier nyelvi modellen mérték.

A mérőszalag

A METR nevű kutatócsoport azt méri, milyen hosszú szoftveres feladatot old meg egy modell ötven százalékos sikerrel, a hosszt pedig abban adja meg, mennyi ideig tartana a feladat egy szakembernek. A GPT-2 2019-ben néhány másodperces feladatoknál tartott, a Claude 3 Opus 2024 márciusában négypercesnél, a Claude Opus 4.6 2026 elején tizenkét óránál. Ez nem a gép futásideje, hanem a feladat nehézsége emberi munkaidőben kifejezve.

A METR a trendet duplázási időben adja meg. A mai adatsoruk szerint 2019-től illesztve a horizont 188 naponta duplázódik, 2023-tól illesztve 129 naponta, a januári közlésükben pedig a 2024-től illesztett trend 89 napos volt. Eddig tehát a későbbi időablak rövidebb duplázási időt adott, és az I. fejezet nyelvén ez az, amit keresünk. Hogy a legfrissebb adatokon is így van-e, azt a VI. fejezetben a gép számolja ki.

A mérőszalagnak azonban vége van. A METR feladatkészletében harmincegy feladat hosszabb nyolc óránál, és ezek közül csak ötnek mérték meg ténylegesen, mennyi ideig tart egy embernek. A METR maga írja, hogy tizenhat óra fölött a mérése megbízhatatlan, és a nyilvános táblázatát már nem frissíti rendszeresen. Az áprilisban megjelent Claude Mythos Preview korai változatára májusban közölt becslésük 17,4 óra, vagyis már a skála végén túl van. A Viaszban a telítődésről azt írtam, hogy az új adat egy ponton már nem változtatja mérhetően a pecsétet. Itt a műszer telítődik: a modell tovább javulhat, a mérőszalag nem mutatja.

Az Anthropic belülről mér, és a saját számai meredekebbek. A When AI builds itself című anyaguk szerint 2026 májusában a cégnél beolvasztott kód több mint 80%-át a Claude írta, a Claude Code 2025. februári megjelenése előtt ez még alacsony egyszámjegyű arány volt. Egy kis modell tanítókódját a Claude Opus 4 2025 májusában átlagosan körülbelül háromszor gyorsabbra írta át, ugyanazokon a helyességi teszteken, a Mythos Preview 2026 áprilisában ötvenkétszer gyorsabbra; egy gyakorlott kutató négy-nyolc óra alatt jut el a négyszeresig. Ez nem valós tanítási gyorsulás, hanem ugyanannak a próbának az összevetése. Egy másik mérésük a cég kutatás-fejlesztési feladatait a rájuk fordított munkaidővel súlyozza: eszerint 2026 februárjában a munka kevesebb mint egy százalékát vezette a Claude emberi felügyelet mellett, augusztusban a 26%-át. Mindhárom vállalati önbeszámoló, és az anyag maga írja, hogy a kódsorok száma túlbecsülheti a termelékenységet. A rekurzív önfejlesztésről ugyanez az anyag azt mondja, hogy még nem tartanak ott, és nem is elkerülhetetlen.

A mérőszalag éppen ott ér véget, ahol a görbe érdekes lenne.

Ahol a sor megakad

A zénóni összeg csak akkor lehet véges, ha a duplázási idő a végtelenségig rövidül, és elég gyorsan. Ha minden következő duplázáshoz kell egy tovább nem rövidíthető lépés, például egy új modell betanítása vagy egy chipgyár felépítése, akkor a duplázási időnek alsó korlátja van, és az összeg megint végtelen. A görbe ilyenkor legfeljebb olyan gyors, mint az az exponenciális, amelynek a duplázási ideje éppen ez a legrövidebb idő.

Gene Amdahl 1967-ben számítógépekről írta le azt, ami minden munkafolyamatra áll: ha a munka egy részét gyorsítjuk, a teljes gyorsulást a gyorsítatlan rész korlátozza. Ha a munkaidő 80%-a akármilyen gyors lesz, a maradék 20% miatt az egész legfeljebb ötször gyorsabb. Az Anthropic 80%-os kódarányából ezért nem lehet a fejlesztés gyorsulására következtetni, mert a kódsorok aránya nem a munkaidő aránya, és a kísérletek futtatása, az ellenőrzés és a döntés külön tétel.

A gyorsításnak fizikai ára is van. A Nemzetközi Energiaügynökség szerint a világ adatközpontjai 2024-ben 415 terawattórát fogyasztottak, a világ áramának körülbelül másfél százalékát, 2030-ra pedig 945 terawattórát várnak. Pablo Villalobos és munkatársai szerint a tanítóhalmazok 2026 és 2032 között elérhetik az emberek írta nyilvános szöveg teljes mennyiségét, ha a mostani trend folytatódik. A szintetikus adat lehetséges kerülőút, bizonyított megoldásnak még nem mondható.

A legrégebbi ellenvetés a telítődés. Egy baktériumtenyészet növekedését vagy egy új technológia elterjedését gyakran logisztikus görbével közelítik, amely az elején exponenciálisnak látszik, aztán ellaposodik, és a korai szakasza alig különböztethető meg az exponenciálistól. Hogy melyiken állunk, azt a görbe eleje nem árulja el, csak a folytatása.

Ha a duplázási idő egy alsó határon megakad, a végtelen sok duplázás újra végtelen időbe kerül.

Félidő

A zénóni példában a 24. hónap a határidő, a félidő a 12. hónap. Akkor még csak egyetlen duplázáson vagyunk túl, a görbe ártalmatlannak látszik, és a végtelen sok duplázás mind a második félidőre marad. Kurzweil lineáris intuíciója itt a legveszélyesebb, mert félidőben semmi nem látszik abból, ami jön.

Hogy most hol tartunk, azt a görbe alakjából nem lehet leolvasni, csak abból, hogy a duplázási idő rövidül-e. A konzervatív becslésem nem változott, a küszöbön állunk. A középértéket a vita után pontosabban mondom: a duplázási idő a mérések szerint rövidült, a fejlesztés egyre nagyobb részét maga a modell vezeti, és ha a duplázási idő elég gyorsan rövidül tovább, a görbének határideje van. Szerintem a félidőn már túl vagyunk.

Félidőben a görbe még ártalmatlan.

Ezt az esszét is egy nyelvi modellel írtam, a számait egy másik modell ellenőrizte. A hurok ennyiben már zárva van: a gép segít megírni, hogyan segít a gép.