Hurok
Avagy mit mond Barabási módszere arról, mi lesz, ha mindent mindenki MI-vel csinál, ki fogta meg a „meleget”, és miért a kapu a hurok kormánya.
Egy nap a gépházban
Ma hajnali háromkor tettem fel egy esszét a túlcsordulásról. A deploy-kapu, amelyet magamnak írtam, zárva volt, mert éjjel nem publikálunk, úgyhogy a szöveg a repóban várta meg a reggeli futást. Délelőtt megírtuk a következőt, egy darieni éjszakáról és egy zajszűrős fülhallgatóról. A tényeket mindkettőben egy másik gyártó másik modellje ellenőrizte, az astra, egész nap internet nélkül, mert a sandbox elvágta a világtól.
Délután egy mondaton akadt meg a szemem. A modell egy pszichológiai kísérletet fordított angolból, amelyben a diákok ugyanazt az előadót barátságos vagy rideg változatban látták, és azt írta, hogy aszerint ítélték meg, melegnek vagy hidegnek látták. Magyarul ez úgy is olvasható, hogy az előadót melegnek, vagyis homoszexuálisnak gondolták. A mondaton két gyártó két modellje csúszott át, a stílusé és a tényeké, és én fogtam meg. Kijavítottuk, és a hibáról bejelentés készült a gyártónak.
Aztán fordítva történt. Egy poénom csattanója olyan embereken csattant volna, akik a valóságban nagy bajban vannak, és ezen a gép állt meg, nem én. Megbeszéltük, és lett belőle egy szabály: a gép nem húzza ki a humoromat, de ha egy poén közepesnél nagyobb nyomorúságon csattanhat, rákérdez, és én döntök.
Este a nap eseményeit átadtam egy harmadik gépnek, a dalgyár munkamenetének, és abból dal lett Írom a nullát címmel, jazz-rap, karakterhangon. Most a fülpróbámra vár.
Ha mindent mindenki MI-vel csinál, akkor a társadalomban zajló folyamatokban tényleg ilyen hurkok fognak kialakulni? A kérdésre Barabási Albert-László módszerével kerestem választ, akit egyszer köztársasági elnöknek is javasoltam.
Az elemzés a modellé, a forrásokat ő kereste ki, egy másik modell ellenőrizte, és ahol az ő ítélete áll, ott jelölt doboz van. Barabásitól csak a megjelent munkáit idézem; nem kérdeztem meg, és nem is beszélek a nevében.
A térkép
Barabási módszere négy lépés. Fel kell rajzolni a hálózatot, meg kell mérni, hogyan oszlanak el benne a kapcsolatok, meg kell találni a mechanizmust, amely ezt az eloszlást létrehozza, és ebből előre kell jelezni, amit aztán adaton lehet tesztelni. A róla szóló esszében hálózati gondolkodónak neveztem; most a módszerét a saját napomra alkalmazom.
A mai nap térképe két hurok, amelyek nálam találkoznak. Az elsőben témát adok, a modell ír, egy másik gyártó modellje ellenőriz, és a szöveg csak az én kapumon át jut ki. A másodikban a kész szöveg egy harmadik géphez megy, abból dal lesz egy negyedik gépen, és az is az én fülemen át jön vissza. Négy kapu volt a nap folyamán: a tényellenőrzés jóváhagyása, a „mehet ki”, a poén-kapu és a fülpróba.
A legfontosabb adat a kapukon múlt. A két hiba, amelyet ma megfogtunk, két különböző helyen akadt meg: a „meleg” a gépeken csúszott át, és nálam akadt fenn, a poén nálam csúszott át, és a gépen akadt fenn.
A két hiba két különböző kapun akadt fenn.
Csillag
A második lépés az eloszlás. Barabási és Albert Réka 1999-ben megmutatták, hogy ahol egy hálózat növekszik, és az új csomópontok szívesebben kapcsolódnak oda, ahol már sok kapcsolat van, ott néhány hatalmas csomópont, hub alakul ki, a többség pedig kevés kapcsolattal marad. Ginestra Bianconival 2001-ben hozzátették a rátermettséget: a jobb csomópont gyorsabban gyűjt, és bizonyos feltételek mellett a győztes visz mindent. Az MI-piacon a kettő erősítheti egymást, ha a nagyobb felhasználóbázis hasznosítható tanítóadatot és fejlesztésre fordítható bevételt hoz.
A sejtésem ezért az, hogy sok társadalmi hurok nem gyártók között záródik majd, ahogy az enyém, hanem ugyanazon a néhány hubon át; hogy mennyi, és van-e bennük emberi kapu, azt mérni kellene. Ez inkább csillag, mint gyűrű: a közös szolgáltató sok folyamatot köt össze, és ha a kimenetek később tanítóadatba kerülnek, a csillag vissza is csatol. Ez a tartalomhurok, és már ma is mérhető. Ilia Shumailov és munkatársai 2024-ben megmutatták, hogy ha egy modell nemzedékről nemzedékre a saját kimenetén tanul, előbb az eloszlás szélei tűnnek el, a ritka és a szokatlan, végül a modell összeomlik.
A hubos hálózatnak van egy jól mért tulajdonsága. Albert Réka, Hawoong Jeong és Barabási 2000-ben azt találták, hogy a véletlen hibákat jól tűri, mert a véletlen többnyire kis csomópontot talál el, de ha a hubokat éri a csapás, a hálózat gyorsan szétesik. 2024 júliusában egyetlen hibás CrowdStrike-frissítés nagyjából 8,5 millió Windows-gépet állított le, és velük repülőtereket és kórházakat. A várról szóló esszében ugyanezt éltem meg kicsiben: változatlan havidíj mellett, egy verzióváltás után negyven perc alatt elfogyott a heti keret, és megállt minden, amit rá építettem.
A közös hub hibája egyszerre sok folyamat hibája.
A gép olvasata
A mechanizmust és az előrejelzést a modelltől kértem. Ez az ő ítélete.
modellA legerősebb érv egy azonosság, nem egy mérés. Scott Page diverzitás-tétele szerint egy közösség becslésének négyzetes hibája pontosan annyi, mint az átlagos egyéni hiba, mínusz a becslések sokfélesége. Ha mindenki ugyanazt a becslést veszi át, a sokféleség nulla, és az átlagolás semmin nem javít. A közös modell ezt nem jelenti automatikusan, mert a kérdések és a bemenetek különbözhetnek, a mérések viszont ebbe az irányba mutatnak: Jan Lorenz és munkatársai 2011-ben azt találták, hogy ha a résztvevők látják egymás becslését, a sokféleség csökken, és a tömeg bölcsessége gyengül; Anil Doshi és Oliver Hauser 2024-ben azt, hogy MI-javaslatokkal az egyes történetek kreatívabbak lettek, de egymáshoz is hasonlóbbak.
A sokféleség a gépek között sem magától értetődő. Elliot Kim és munkatársai 2025-ben több mint 350 nyelvi modellt vizsgáltak, és az egyik adathalmazon, amikor két modell egyaránt tévedett, az esetek 60 százalékában ugyanazt a rossz választ adták; az azonos gyártótól származó és az újabb modellek hibái jobban együtt jártak. A „meleg” jól illik ebbe a mintába: két gyártó két modellje ugyanazon a tükörfordításon csúszott át.
Barabási 2018-as könyvének, a The Formula-nak az első törvénye szerint a teljesítmény hozza a sikert, de ahol a teljesítmény nem mérhető, ott a hálózat. Doshi és Hauser kísérlete alapján elképzelhető, hogy ha mindenki MI-vel ír, a szövegek közötti különbség kisebb lesz, és akkor a figyelem még inkább a hálózati pozíciót követheti; ez előrejelzés, nem mérés. Az időzítés is megváltozik. Barabási 2005-ben a löketes emberi aktivitást azzal magyarázta, hogy az ember prioritás szerint választ a teendői közül. A gépek közötti szakasz ennél sokszor gyorsabb, és ilyenkor a hurok tempóját az emberi kapu szabhatja meg; a szerző mai napján így volt.
Végül az irányíthatóság. Yang-Yu Liu, Jean-Jacques Slotine és Barabási 2011-ben azt találták, hogy egy hálózat irányításához szükséges vezérlőcsomópontok jellemzően nem a hubok. Laza analógiával az emberi kapuk a peremen ülnek, a szerzőnél, nem a gyártóknál. Az ítéletem ezért az, hogy a tétel igaz, pontosítással. Hurkok biztosan lesznek, és a piaci erők a közös hubon záródó, kapu nélküli hurok felé húzhatnak, összefüggő hibákkal és egybemosódó tartalommal. A szerző mai hurka két dolog miatt volt jó: több gyártó szerepelt benne, és sűrűn álltak benne kapuk. A hurok akkor jó, ha a kapuk különböző hibákat fognak meg.
Kormány
Az ítéletet átveszem, és a mai két hiba a bizonyítékom. A „meleget” én fogtam meg, a poént a gép, és ha mindkét kapun ugyanaz a fajta figyelem ült volna, valamelyik kicsúszik.
Ebből gyakorlat lesz. Eddig a kaput féknek tartottam: lassít, várni kell miatta a reggeli futásra, a fülpróbára, a jóváhagyásra. A mai nap után inkább kormánynak látom, amellyel a hurok irányt vált, mielőtt a hiba körbeér. Aki hurokban dolgozik, annak a kapuit kell őriznie, nem a munkáját; a munkát a gép úgyis elvégzi, a kaput nem.
A hurok akkor jó, ha a kapuk különböző hibákat fognak meg, és a kapu nem fék, hanem kormány.
Barabási itt nem állna meg: mérne. Ha a társadalom hurkait akarnám követni, öt számot néznék.
| szám | hogyan | mire figyelmeztet |
|---|---|---|
| koncentráció | az MI-vel végzett feladatok hány százaléka megy át az első három gyártón | csillag lesz-e a hurokból |
| sokféleség | mennyire hasonlítanak egymásra a megjelent szövegek, a ChatGPT előtt és után | fogy-e az eloszlás széle |
| hibaegyezés | hányszor téved két gyártó modellje ugyanott | összefüggnek-e a kapuk előtti hibák |
| lavina | egy hub kiesése vagy árváltozása hány folyamatot ért el | mekkora a közös hiba ára |
| kapusűrűség | az automatizált folyamatok hány százalékában dönt ember | van-e még kormány |
Az elnöki esszében azt írtam, hogy a lokálisan túltanult vezető és a hálózati gondolkodó között a magyar jövő olvashatóságában van a különbség. Most annyit tennék hozzá, hogy a hálózatban a kormány a kapuknál van. Barabási módszeréhez nem kell elnöki szék, elég egy térkép és valaki, aki a hurok egy pontján ül, és figyel.
A kormány a kapuknál van.
Források
- Barabási, A.-L., & Albert, R. (1999). Emergence of scaling in random networks. Science, 286(5439), 509–512.
- Albert, R., Jeong, H., & Barabási, A.-L. (2000). Error and attack tolerance of complex networks. Nature, 406, 378–382.
- Bianconi, G., & Barabási, A.-L. (2001). Bose–Einstein condensation in complex networks. Physical Review Letters, 86(24), 5632–5635.
- Barabási, A.-L. (2005). The origin of bursts and heavy tails in human dynamics. Nature, 435, 207–211.
- Liu, Y.-Y., Slotine, J.-J., & Barabási, A.-L. (2011). Controllability of complex networks. Nature, 473, 167–173.
- Barabási, A.-L. (2018). The Formula: The Universal Laws of Success. New York: Little, Brown.
- Shumailov, I., Shumaylov, Z., Zhao, Y., Papernot, N., Anderson, R., & Gal, Y. (2024). AI models collapse when trained on recursively generated data. Nature, 631, 755–759.
- Microsoft (2024. július 20.). Helping our customers through the CrowdStrike outage. Official Microsoft Blog.
- Page, S. E. (2007). The Difference: How the Power of Diversity Creates Better Groups, Firms, Schools, and Societies. Princeton University Press.
- Lorenz, J., Rauhut, H., Schweitzer, F., & Helbing, D. (2011). How social influence can undermine the wisdom of crowd effect. PNAS, 108(22), 9020–9025.
- Doshi, A. R., & Hauser, O. P. (2024). Generative AI enhances individual creativity but reduces the collective diversity of novel content. Science Advances, 10(28), eadn5290.
- Kim, E., Garg, A., Peng, K., & Garg, N. (2025). Correlated errors in large language models. Proceedings of the 42nd International Conference on Machine Learning (ICML), PMLR 267.