Beszélgessünk esszékben!

Szokták mondani, hogy nem olvasunk eleget. Mostanában a technológiai elit tagjai is rászoktak az esszékre. Mondtam, hogy jó móka esszéisztikus bejegyzések írása. Mostanában ebből állok ki én is. Az esszé forma attól is különbözik a MI által gyártott tartalomtól, hogy személyes és életrajzi elemeket is tartalmazhat. Az mesterséges intelligencia ilyet nem tud. Ez tehát nem MI-vízjel, ez emberi vízjel.

Védeni kell a határokat

Dario Amodei, az Anthropic (Claude MI) vezérigazgatója is ezzel kezdi. Leírja, hogy 12 éve dolgozik az ágazatban, és látja a mesterséges intellgencia előnyeit és hátrányait is. Nála például korai stádiumú rákot diagnosztizáltak, amit sikerült kikezelni. 50 éve ez lehetetlen lett volna, legalábbis úgy gondolja.

Önfejlesztő hurkok és botnet rajok

A közeljövőben több probléma felmerül, előfordulhat, hogy bizonyos csoportok bioterrorizmusra és kibertámadásokra és gazdasági zavarkeltésre próbálják felhasználni a mesterséges intelligenciát.

A másik probléma az RSI (rekurzív önfejlesztés), amelyben az újabb modellgenerációk már közvetlenül vesznek részt saját utódaik kódolásában, tesztelésében és optimalizálásában, túllépve az emberi felügyelet reakcióidejét. Viccelődtem is vele régebben, hogy lényegében csak rá kell kötni néhány ágenst egy végtelen ciklusra, és akkor elég nehéz lehet őket leállítani. Gyakorlatilag ez történik napjainkban.

Az már csak hab a tortán, hogy most már Dario Amodei is beált azoknak a táborába, akik időpontokat, dátumokat dobálgatnak be, szerinte a jelen állás szerint fennáll a reális veszélye, hogy 6 és 12 hónapon belül ilyen botnet rajok veszik át az internet irányítását. Teljes vagy részleges? Nem is tudom…

4 szintű szabályozást sürget

1. Tiltani és keskenyíteni a MI veszélyes felhasználási zónáját.
2. Körültekintően teszteljék a modelleket, mielőtt kiadják őket
3. A rekurzív önfejlesztés (RSI) gyorsaságának csökkentése
4. A fejlesztések ütemének lassítása vagy szüneteltetése

Az esszének kihagytam azt a részét, ami a demokratikus elképzelésekkel foglalkozik, és olyanokkal pl. hogy „ne adjunk el több chipet Kínának”, mert ezt már a napokban felmerült hidegháborús stratégia részének érzem, ami főleg Amerika és Kína között élesedett ki, amikor Kína kiadta a DeepSeek mesterséges intelligencia modelljét, gyakorlatilag bagóért (olyan 6 millió dollár körüli fejlesztési költségre emlékszem), és ezzel aláásta az amerikai mesterséges intelligencia cégek tőzsdei pozícióit.

Végül kiemelve elmondja az Antrhropic vezér, hogy „nehéz lesz, de nem lehetetlen”, hozzátéve még, hogy „bízik az emberiségben”. Mármint ami a mesterséges intelligencia szabályozását, és határainak őrzését illeti. Adjunk egy esélyt magunknak erre a technológiára. Mi mást is mondhatna?

https://darioamodei.com/post/we-must-pace-the-frontier

• amikor aláírod a DeepSeek felhasználási feltételeit, és a HH2 ázsiai oldalán találod magad

Papp Róbert, BA

Mostanában inkább az egészségtudatos írásokra helyezem a hangsúlyt. Némi antipszichiátria azért belefér. Azt gondolom, a kultúra olyan szövegeket közvetít irányunkba, amelyekben a gyógyulás lehetősége rejlik. Véleményeim a sajátok. Néha MI-vel kiegészítve.

More Posts - Website