Mesterséges interferencia

Gondolom, feltűnt, hogy sokszor szólalok fel a generatív AI (úgynevezett “mesterséges intelligencia”, azaz parancsszavak alapján, gépi tanulási módszerrel létrehozott képi és szöveges anyagok) használata ellen, anélkül, hogy részletesebben belemennék – és talán emiatt merülnek fel még mindig értetlenkedések, ellenérvek, győzködések.

Oké, menjünk bele, miért gondolom azt, amit gondolok, és ki is mondom a lehető legteljesebben és leghatározottabban ezt a központi gondolatot:

A generatív AI-nak semmi keresnivalója a művészetekben, sem határterületein (sem általánosságban a nyílt interneten, ha szigorú akarnék lenni). Ha te olyan kulturális terméket állítasz elő, ami ezeket a technológiákat használja, legyen szó bármilyen hiánypótló könyvről, vagány játékról, eseményről, ezek marketinganyagairól: egész egyszerűen nem fogok neked pénzt adni.

Szóval, miért gondolom ezt, és mi a válaszom az ellenérvekre?

*

Egyelőre ne menjünk bele a technikai részletekbe, kezdjük egy rosszindulatú, ad hominem-típusú ellenérvvel: időnként megkapom, hogy én amolyan régimódi öregember vagyok, aki nem követi az új technológiákat, aki rázza a botját a „mai fiatalokra”, és lemarad olyan dolgokról, amelyek már eleve az életünk részei.

Nyissunk ezzel, mert bármennyire is fárasztó, valahogy meg kell alapoznom a véleményem komolyanvehetőségét: meg a jó francokat maradok le, soha nem maradtam le. Mindig is időben, sőt korán ugrottam új technológiákra. Szégyen, vagy sem, be kell vallanom: több mint öt évvel ezelőtt is használtam ilyen technológiákat mémelésre és hülyéskedésre. Mondjuk, valami rég halott szerző fotóját megetettem a géppel, hogy popdalokat énekeljen, DOS-korabeli játékok grafikáit és régi fotókat „javítottam” nagyobb felbontásra gépi asszisztenciával. Ilyesmi. Magamnak, haverok közt, röhögve. Évekkel ezelőtt foglalkoztam kriptovalutával is, azóta ezt is elítélem. Közösségi média-trendekben, számítógépes technológiában, tudományos kutatásban mindig is jól informáltnak tekintettem magam, és ez egy fikarcnyit nem változott. Szaladtam az új dolgok után, mert hittem a fejlődés fontosságában.

Azt is felismerem, hogy ez a fajta viselkedés nem éppen bölcs: azelőtt próbálok ki dolgokat, hogy utánajárnék, milyenek is valójában. Szerencsére végül utánajárok, mérlegelem a dolgokat: elismerem, ha egy technologiának van haszna, de a technológiának nem csak haszna szokott lenni, hanem ára, kockázata, ideológiai vonzata, betolakodó jellege, környezetre és gazdaságra gyakorolt hatása is. Ezért szerencsére mindig eljön az a pont, amikor átbillenek és azt mondom: jó, én mostantól fogva ezt és amazt nem használom, használatát nem támogatom.

A lényeg, hogy nem, nem kell felvilágosítani: tudomásom van arról, mire jó egy LLM, mik azok a mesterséges neurális hálózatok, miben különböznek egyszerűbb algoritmusoktól és az igazi intelligenciától, mi fán terem a promptolás „művészete”, mik a természetes, fizikai határai ennek a technológiai irányvonalnak, mik a pozitív hozadékai, milyen cégek állnak a fejlesztések mögött, hogy néz ki egy eszközcsoport demokratizálása, és így tovább. Kategorikusan visszautasítom azt az elképzelést, hogy tudatlanságból, egyszerű, megalapozatlan ellenérzésből gondolom azt, amit gondolok.

*

Ha viszont nagyon szeretnénk belemenni abba, hogy a személyiségemből adódóan jön egyfajta ellenérzés… oké, aláírom: a véleményemnek van szakmai és ideológiai vonzata is.

Először is, író vagyok, de emellett végzettségem és személyiségem szerint is amolyan könyvtáros-típus. Ezen felül hiszek a tudományos módszerben, abban, hogy az igazság nem átlagolható, hiszem, hogy vannak a dolgoknak mérhető tulajdonságai, amelyek ennek ellenére kontextus-érzékenyek (pl. ugyanazt a statisztikai adatot két szervezet két különféle igazságként tud beállítani), és hogy ezeket kezelni egy fontos, nehéz szakmai probléma. A generatív AI korában pedig még nehezebb. Azért csak szedjük szét még jobban.

*

1. A könyvtáros dilemmája

Ha egy információs rendszerben nem tudom megtalálni a pontos választ a pontos kérdésemre, az az információs rendszer hibás, használhatatlan, egyenesen veszélyes.

• A generatív AI gombnyomásra, egyetlen másodperc alatt termel megközelítő, átlagolt anyagokat, méghozzá végtelen mennyiségben
• Keresőrendszerek ezeket válogatás nélkül indexelik
• Egy nap, amikor rákeresel egy bébipanda fotójára, nem biztos, hogy találsz már igazi bébipandát

Az egyetemen engem igyekeztek kiképezni arra, hogy információs rendszerekben képes legyek elválasztani az ocsút a búzától, és ez nem véletlenül tartott évekig. Az volt a koncepció, hogy nekünk kellene továbbadni ezt a tudást az átlagfelhasználónak. Ez egyre bonyolultabb feladat. Az átlagfelhasználó (akinek nem szakmája az információs rendszerek menedzselése) ugyanis már eleve arra van kondicionálva, hogy „az interneten olvastam” birodalmában nem kell különbséget tenni vitapontok mentén létrejövő tudományos publikációk és tudományos fejlődésről riportot készítő újságírás között (emiatt az jön le belőle, hogy a „tudósok egyszer ezt mondják, egyszer azt”, emiatt már divat is a tudomány lenézése), nem ismerik a képszerkesztő alkalmazások limitációit, ezért nehezen állapítják meg egy fotóról vagy festményről, hogy eredeti-e, és ha nem, akkor abba beleraktak-e valamennyi munkát (kézzel retusálás) vagy csak belehányták az egészet a gépbe, és az kiadott valamit. Továbbá az átlagfelhasználó makacs egyed: a technológia intuitív tervezése elhiteti vele, hogy ő irányít, pontosan tudja, hogyan kell használni az információs rendszereket.

A helyzet az, hogy még a szakembereknek is nehéz már eligazodni az interneten: a generatív AI ontja magából az igazságot és hazugságot összemosó, homályos, szédítő, átlagolt, ránézésre ártalmatlan, de valójában totális információs bomlással járó „eredményeit”, és egyszerűen belefullad az internet. Hogy értsd:

• A publikálandó tanulmányok (novellák, cikkek, elemzések) közé olyan mennyiségben kerülnek gépgenerált anyagok, hogy szerkesztők, minőségért felelős szakemberek egyszerűen feladják a harcot.
• Amikor rákeresel valamire, a Google immár akkor is felajánl neked valamit, ha történetesen az adott dolog nem létezik – az őszintébb „nincs találat” helyett.
• Ha mondjuk ideológiai meggyőződésből szeretnéd megtudni, hogy igazad van-e, elég egy keresés, hogy az internet algoritmusai megnyugtassanak: természetesen neked van igazad, itt van húsz találat, ami téged igazol. (Mindegy, hogy honnan jönnek, mindegy, hogy igaziak, vagy sem.)

2. A művész és mesterember bosszúsága

Ja, beszéljünk a minap felbukkant „Ghibli stílusban” képekről, vagyis a Mijazaki Hajao-féle rajzfilmek utánzatairól. Illetve, ennek kapcsán beszéljünk a másik kedvenc ellenérvemről: amikor valaki rámutat az AI-generált képekre, és azt mondja „ez tök jól néz ki”.

Két dolog történhet:

• Nem, valójában rohadtul nem néz ki jól. Nézd meg jobban.
• Tényleg a megszólalásig hasonlít emberi munkára, és tényleg jól néz ki.

Természetesen az első eset egyszerű ízléstelenségről és hozzá nem értésről tanúskodik, és mivel a többséget rohadtul nem érdekli, hogy a könyv borítóján az emberalak inggombja hol kisebb, hol nagyobb, nyers erőből lehet tolni az olcsó, tömeggyártott, művész- és mesterembert nem igénylő anyagokat, úgyis megveszik.

A második eset az érdekesebb, de csak remélni merem, hogy így is nyilvánvaló, mi a probléma. A probléma az, hogy lopott, engedély nélkül felhasznált, szellemi tulajdonjogot sértő anyagot látunk. Egy lelketlen, etikátlan utánzatot, amely egy jobb világban azonnal el is tűnne a közönség szeme elől.

Csak ugye, az internet nem felejt. Folyamatosan indexel, katalogizál, forgat, emlékezik. Keress rá a „Studio Ghibli” kifejezésre Google-ben, és máris látod, hogy beszivárognak a hamis képek. Ebben természetesen az újságírók is ludasak, akik nem bírják felfogni, hogy amivel illusztrálnak, az előresorolódik a találatok között. Friss és releváns, hm?

Íme az első magyarázatom, miért nem akarom ezt a technológiát használni: örülnék, ha nem szemetelnénk tele információs rendszereket, és nem nehezítenénk meg a tudás áramlását.

És most jön a dolgok ideológiai vonzata.

*

Tudom, tudom. Én sem akarok mindig a fasizmussal riogatni, de a fentiek mégis túl ismerős trendeket rajzolnak ki.

• Ezek a cégek és politikai támogatóik minden lehetséges eszközzel nehezítik a tanulás és az igazság megismerését.
• Az új technológiák egyszerű és tetszőlegesen kombinálható ideák végtelen mennyiségű sulykolását teszik lehetővé.
• A szakértelem évek alatt felépített kollektív tudását kiszipolyozzák, a dolgozókat semmivel nem kompenzálják, ugyanis az ember ebben a rendszerben lecserélhető, kidobható.
• Terjednek a „régen minden jobb volt”-típusú, múltat idealizáló képek, nosztalgiaposztok, amelyeknek igazságtartalma nyilvánvalóan alulmarad az érzelmi vonzerejükkel szemben – a cél itt is az, hogy a jelen valóság kritikus vizsgálata helyett az ember inkább egy ködös, mitikus álomvilággal foglalatoskodjon.
• Ezt még tetézik a “csak az 1% tudja a választ!” típusú, szögegyszerű egyenletek (zárójeles műveleti sorrend kavar csak be), amelyek semmi másra nem jók, mint hogy kényszeresen posztoljunk, mennyire okosak vagyunk, mennyire hülye a másik, és vesszünk össze a nagy semmin is.
• Ennek kapcsán: az embert a Facebook látszólag arra kondicionálja, hogy minden bejegyzést kihívásnak tekintsen, kötekedési felületnek, a posztolót ne tekintse igazi embernek. Akkor se, ha történetesen igazi, akkor se, ha nem.
• És ha már ennyire a hamisság és megosztás dominál, simán mondhatjuk: minden rossz dolog, amiről esetleg hallottál, az is hamis, ne foglalkozz vele. Inkább azzal foglalkozz, hogy bezzeg régen fára másztunk és nem a telefonunkat bámultuk.
• Mégis ezt tesszük, mert az algoritmus üzenete: csak görgess, görgess, görgess. Minden egyenértékű, minden hír érdekes, minden éppen csak annyira igazi, amennyire szeretnéd, hogy igazi legyen.

Mindezeket a folyamatokat a generatív AI simán megkönnyíti és felgyorsítja. Kettőt találhatsz, kiknek kedvez ez.

*

A második magyarázatom, miért nem akarom ezt a technológiát használni: egyedül az őket üzemeltető cégeket és az emberi munkát semmibe vevőket gazdagítják. Cserébe ezekkel a technológiákkal nem lehet értéket létrehozni, vagy ha igen, az is feloldódik a mindent összemosó kulimászban, és használhatatlan lesz.

*

És mivel már felvázoltam, honnan jön ez az egész, íme a harmadik érvem: lopott anyagból dolgoznak, használóik pedig ünneplik a napot, amikor jól kinéző anyagot kapnak befektetett munka vagy kollaboráció nélkül. Mondanom sem kell, én egy ilyen attitűd mellé soha nem leszek hajlandó odaállni.

*

A jelenlegi generatív „AI”, avagy „mesterséges intelligencia” valójában „mesterséges interferencia”: technológiai cégek lopják az adataidat, a munkád gyümölcsét, abból pedig egy olyan internetkultúrát és digitális világot teremtenek, ami pont arra nem jó, amire eredetileg megszületett: megbízható, lineáris adatkeresésre és egymás munkáinak megismerésére.

Az a technológia, amely a feltett kérdésre valószínűségi alapon ad választ, használhatatlan. Ha az esetek 99%-ban helyes választ ad, akkor is használhatatlan. Ha az esetek 99%-ban tök jól kinéző képekkel ajándékoz meg, akkor is szemetel. Márpedig bármilyen magabiztosan adják ki magukból a gépek a kisesszéket (hallucinált, nem valós hivatkozásokkal), a  giccses festményeket, ezek nem intelligens produktumok, hanem átlagolt, valószínű eredmények. A gép megpróbálja kitalálni a korábbi, tanult minták alapján, mire van szükségünk. Ha egy számológéptől megkérdezzük, hogy 2+2, százból száz esetben ki fogja adni, hogy 4. Egy LLM-alapú technológia nekiáll turkálni a tanult dolgai között, és ha elég sokszor látta az interneten leírva a választ, nagy valószíséggel ő is megmondja, hogy a válasz 4. De… az is lehet, hogy nem. Ez a bizonytalanság nekem nem hiányzott a számítógéphasználatban, ahogy egy adott művész képeinek összeturmixolására sem érdekel, ha egy adott művész konkrét képére vagyok kíváncsi. Ha én egy fotót szeretnék kapni egy ismert emberről, állatról, akármiről, nem egy megközelítő vizuális tipp érdekel. Ha szeretném tudni, hogy néz ki a Ghibli stúdió stílusában a Gálvölgyi Show, ha már rajzolni nem tudok, akkor inkább csak úgy… elképzelem, nem?

Az van, hogy bőven elég, ha ezek a baromságok az én fejemben, a te fejedben maradnak, és nem fojtják meg a még kereshető, még megtalálható, igazi Ghibli-filmek létbizonyítékait. Elhiszem, hogy fél percig jó poén, elröhögsz rajta, de tényleg megéri? A Trump-adminisztráció válogatott gonosztetteken viccelődik ilyen képekkel, ezzel akarsz egy hullámhosszon rezegni?

A nagyszerűen hangzó válaszokat kiköpő ChatGPT és az elképesztően “kreatív” képeket kiadó különféle képalkotó „intelligenciák” nyomkodása továbbá minden használatkor borzasztó és felesleges energiafogyasztással, vagyis közvetett környezetszennyezéssel jár, nem is beszélve arról, hogy ha most belekényelmesedünk az egyszerű „nyomkodás” használatába, már nem kell egy újabb generáció, hogy a kritikai gondolkodásunk erodálódjon, a kutatásba és alkotásba fektetett munka jótékony hatása pedig egész egyszerűen eltűnik a hétköznapjainkból. (Még a Microsoft saját kutatása is ezt támasztja alá, pedig ők aztán tolják izomból, akár akarjuk, akár nem.)

Örülök, ha úgy gondolod, produktívabb és gyorsabb lettél a munkádban a ChatGPT segítségével, áldjon meg az ég. De ahogy mondani szoktam, nem azért túrázunk, hogy a leghatékonyabban odaérjünk. A kutatói és alkotói munkát sem a könnyű és gyors eredményekért választjuk.

*

Szóval, így a végére azt is alá kell írnom, hogy a LLM és neurális hálózatok az élet több területén is képesek lehetnek megkönnyíteni az életünket, hasznossá tehetik magukat, különféle típusú asszisztenciát nyújthatnak olyanoknak, akiknek tényleg szükségük van rá.

De azért ismerjünk fel néhány dolgot:

• Ezeket a technológiákat olyanok erőltetik bele mindenbe, akik nem a barátaink, nem kérnek engedélyt, nem kérdezik, hogy szükségünk van-e rá – ilyen helyzetben nem gondolnám, hogy egy olyasfajta puha ellenállás, mint az enyém, szükségtelen volna.
• Az alkotásba és kutatásba fektetett munka nem csak nyűg és felesleges időpocsékolás. A befektetett munkától ilyen vagy olyan módon gazdagabb leszel.
• A művészek nem azért dolgoznak, hogy valamit létrehozzanak, hanem hogy bejárják a létrehozás lelket gazdagító útját. Ezt nem lehet egy kattintással kiváltani.
• Az utánajárás és az információ értékfelmérésének képessége fontosabb lesz, mint valaha. Az interneten minden azt fogja sugallni, hogy ez nem fontos – ne hallgass erre.
• Ennek kapcsán: ha már FELTÉTLENÜL MUSZÁJ ezeket a szarokat nyomkodnod, tudj róla, hogy hogyan működnek, kik üzemeltetik, mivel tömik őket, mire használják. Legalább ennyit, legalább ezt a minimumot tedd meg.

*

Ennek az egész posztnak a lényege a következő, az én nagy akadékoskodásom végszava, az én személyes kis keserűségem: ha te a művészetek népszerűsítésében érdekelt vagy, csodálattal tekintesz írókra és művészekre (értsd: kiadó vagy, szervező vagy, oktató vagy, fordító vagy), és a fenti szempontok után is még mindig úgy gondolod, hogy MUSZÁJ nyomkodnod ezeket a jópofaság-adagoló automatákat, és gépi gányolt giccsel szeretnéd eladni, reklámozni, lefordítani azokat az emberi dolgokat, amelyek PONT az emberi korlátok áttörése miatt értékesek, akkor legalább őszintén vállald fel, hogy téged nem érdekel ennek az egésznek az emberi vonzata. Nem fogok szemétkedni, sem személyeskedni, de ez a végső szavam: nem én leszek a célközönséged, a pénztárcámmal másra fogok szavazni.

Mert szemernyi kétségem nincs a kérdéskörben: én Mijazakival vagyok.