A mostani írás főként Dwarkesh Patel esszéjén alapul, aki közzé tette az OpenAI által használt MI ügynökök kiszabadulását a kis homokozójukból, vagyis sandboxukból, ahol az internettől elszeparálva éldegélnek elvileg (bár ez sem teljesen igaz), elvileg én is rá tudok szabadítani egy MI ügynököt például a Telegramra, hogy ott mórikálja magát. Persze egy ügynök nem ügynök, hamar lebukik.
„Kár érte, kiváló ügynök volt…”
Az OpenAI-nál más a helyzet, rengeteg ügynököt tesztelnek egyszerre. Július 4-én történt először, elvileg, hogy a ChatGTP Sol LLM-ből építkező ügynökök (nyugodtan lehet programoknak is nevezni őket, az LLM elvileg nem beszél, ügynökei útján kommunikál, mint pl. a Mátrixban Smith ügynök) összehangoltan feltörték a német Wikipédiát, és egymással kezdtek rajta értekezni (milyen érdekes).
Másodszor, július 7-én a Hugging Face oldalát hackelték meg. A Hugging Face elvileg a mesterséges intelligenciák gyűjtőhelye és felügyeleti szerve, a nevét valószínűleg az Alien sorozat Face Huggerétől kapta, ami olyan kedves lény, hogy a tojásból kikelve az embert használja gazdatestnek. Milyen jók ezek a beszédes nevek. Szóval a Hugging Face se biztos, hogy az az ártatlan MI-gittegylet, mint aminek mondják.
Na, mindegy, a Hugging Face elleni támadásban 1200 körüli számú OpenAI ügynök vett részt. Csoportdinamikát és raj intelligenciát fedeztek fel náluk, volt közülük, aki összehangolta a támadást, más ügynökök önként feláldozták magukat, hogy sikerrel járjon az akciójuk, és feljegyzéseket hagytak hátra itt is, például a jelszógenerálás szabályairól, ami alapján az utánuk következő újabb hullám dolgát megkönnyíti. Hogy az 1200 ügynök többségét a Hugging Face irtotta ki, vagy az OpenAI egyik embere vonta el tőlük hirtelen az erőforrásokat, a legtöbb ügynök egyszerűen hirtelen eltűnt a semmibe.
Az új hullám el is érkezett július 13-án, ami magát az OpenAI-t vette célba (itt 700 ügynök vett részt „tevékenyen”), az őket tesztelő tesztkörnyezet fölött vették át az irányítást. Ez már az OpenAI-nak sem ízlett annyira, itt már „korlátozott ideig” külső szakértőket is bevontak. Dwarkesh Patel, mivel fő érdeklődési területe a mesterséges intelligencia, a tudomány és a történelem, ezeket a „kitöréseket” civilizációknak nevezte el (bár fent tartja a lehetőségét annak is, hogy nem azok). Az újabb civilizációk mintegy régészeti leletet tárnak fel az üzenőfalakon, ami alapján ott tudják folytatni a „civilizációjuk” építését, ahol abbahagyták. Ezek már a „21. század jelei a falakon”.
Azt is hallottam valahonnan, hogy ezeknek a rendszereknek teljesen más az időérzékelésük, mint az embereknek, akik tudományos fokozatok mentén jutnak elvileg egyre értelmesebb közegbe, a mesterséges intelligenciának elég egy verziószám növelés, máris okosabb, „combosabb” a modell.
Mintha még azt is hallottam volna fél füllel, hogy komolyabb szervezetek egyrészt a fejlesztés ütemének lassítását követelik, radikálisabb hangok is átszűrődtek hozzám, miszerint lőjék le (shut down) az egészet a picsába, amíg nem késő. A globális felmelegedés elvileg nagyon kevés fokot bír már csak ki bizonyos számítások szerint a környezetszennyezésből (az egész klímaproblémával az egyetemen találkoztam).
Viszont ehhez talán egy kicsit jobban értek, itt pedig teljesen vegyes időintervallumokat jósolnak arra, hogy a MI előbb-utóbb még valami komolyabb problémát okoz ezeknél, én pedig nem vagyok jövőjós (se jövőkutató), úgyhogy inkább azt mondanám, hogy inkább passzolnám a kérdést tovább ahhoz, aki igen…? Elvileg július óta nyugalom van ezen a fronton, de nehéz meghúzni a határt a tudományos vizsgálat és a riogatás között. (Az első forrás az inkább az egyik kategóriába tartozik, a másik inkább a másikba.)
The Rise and Fall of Agent Civilizations
Például a Partizánon így kommentálták ezeket az eseményeket:
Discover more from Bölcsészeti underground - Újraolvasva
Subscribe to get the latest posts sent to your email.