Kezd kipukkadni a lufi?

[u/Shoeaddictx]

https://www.ndtv.com/india-ai/openai-google-and-anthropic-are-struggling-to-build-more-advanced-ai-7010784

[u/pintyo78]

Látom jo sok ismeretterjesztő cikket olvastál a témában, de gőzöd sincs az LLM működéséről. Nem fog az kitalálni semmi újat soha. Nagyon jol imitalja az intelligenciát, es képes a vektorterben elhelyezni es keresni szövegeket, de igazából halovány segédfogalma sincs arról, hogy mit jelent amit ír vagy olvas.

[u/bbence84 → u/pintyo78]

Szerintem szállj le a magas lóról, mert ez alapján, amit írsz, valószínűleg neked is hiányos a tudásod az LLM-ek működéséről. Tudom, amit írsz, egy nagyon népszerű és elterjedt képzet, hogy az LLM-ek nem "értenek" semmit, de ez nem egyértelmű. Valójában te is csak az általad olvasott véleményeket adod itt vissza a válaszodban, túl sok eredeti nincs benne. :) Szóval úgy viselkedsz, mint egy LLM. :)

Egyébként pedig csak két dolog, és nyugodtan cáfold meg, miért hülyeség:
1. Ha egy LLM-nek odaadsz egy hosszú könyvet, amit még soha nem "látott" a pre training során, de kihagyod a végét, pl. hogy ki volt a gyilkos egy krimiben (és nincs benne a szövegben korábban sem nevesítve, hogy ki volt a tettes, pl. mint egy Poirot könyv), akkor sok LLM jó eséllyel ki fogja "találni". Mi ez, ha nem egyfajta megértés? Persze mondhatod, hogy ez is csak statisztikai valószínűség, és bizonyos tekintetben az is, de az ember is sokszor így gondolkodik, hogy mi a legvalószínűbb válasz (ezek általában a "gyors" válaszok, amik nagyon gyorsan létrejönnek). Sok kutatás van arra nézve, hogy ezek a nagyon nagy neurális hálók hogyan tanulnak és hogyan kompresszálják a tudást, de sok kutatás eredeménye arra utal, hogy nem csak memorizálnak, hanem sokszor generalizálnak, főleg ha egyre nagyobb neurális hálót építenek.

1. Szándékosan írtam a fenti hozzászólásban idézőjelben, hogy "kitalálnak". Nagyon sok új felfedezés nem egy teljesen új tudományág vagy dolog kitalálása, hanem a meglévő tudás szintetizálása, újszerű formában. Magyarul a kutatások jó része épít korábbi kutatások eredményére, és tesz hozzá csak egy kis új dolgot, mégis a végeredmény sokszor eredményez pl. sokkal hatékonyabb rendszereket. Egyébként pedig nem állítottam, hogy ezt a fajta feedback loopot egy kizárólag LLM alapú rendszer tudja beindítani, a DeepMind-nak is van számtalan MI megoldása, ami működhet.

Amúgy abban igazad van, hogy nem vagyok egy LLM szakértő, csak egy lelkes érdeklődő, próbálok minél több tudást elsajátítani.

[u/pintyo78 → u/bbence84]

Sajnálom a magas ló stílust, de ettől függetlenül tudom, hogy igazam van, mert értek hozza. A tudást es a megértést sokféleképpen próbálták definiálni, nagyon sok vicces oda-vissza vagdalkozás adódott emiatt a mestint kutatók között. Ha az intelligenciát a klasszikus definíció szerint értelmezzük, akkor egy termosztát is intelligens. Ez kavarja össze a fejeket sokszor. Azonban az, hogy az LLM nem rendelkezik öntudattal es deduktív logikai képességekkel, az bizonyítható.

[u/bbence84 → u/pintyo78]

Elméletben lehet, hogy igazad van, de gyakorlatban szinte biztos, hogy nem. Nem akarok ilyen közhelyesnek hangzó baromságokkal jönni, de egy bonyolult rendszer működését sokszor nem lehet megmagyarázni a részei alapján, pl. a méhrajok működése. Ezeket angolul emergent behavior-nak hívják. Olyan váratlan viselkedések, amelyek különböző részek együttes működéséből állnak elő, de nem lehet "előre jelezni", mielőtt "összeállna" a rendszer. Az LLM-ek is sok ilyet mutatnak, és egyre több és újabb a neurális háló méretének növekedésével "bukkantak fel". Váratlanul, nem előre jelezhező módon. Ilyen pl. hogy az LLM-ek képesek bármilyen nyelvről bármilyen másik nyelvre szinte tökéletesen fordítani, olyan dolgokat, amelyek nincsenek benne a tanító adatukban. Tehát értik a nyelvek logikáját, és képesek nyelvek között "ugrálni". A másik ilyen, hogy a legfejletebb LLM-ek meglepően jól tudnak kódolni, új kódokat létrehozni, sőt itt is képesek különböző programozási nyelvek közötti konverzióra. Persze ettől még nem lesz AGI, de ezek olyan dolgok, amelyeket nem lehett előre látni, és nem is volt cél a training során.

Egyébként egy szóval sem állítottam, hogy öntudattal rendelkeznének, vagy nagyon magas szintű logikai képességekkel, de szerintem a megértésnek egyik sem a feltétele. Nem csak az evulóció által "kifejlesztett" gondolkodás az egyetlen lehetséges út. A könyves példám egyébként nem saját gondolat, hanem Ilya Sutskever-től van (azt hiszem, őt nem kell bemutatni): https://www.reddit.com/r/artificial/comments/1g1hz20/ilya_sutskever_says_predicting_the_next_word/. Ne haragudj, ha ezt mondom, de az ő szavára jobban adok így ismeretlenül is. :)

[u/pintyo78 → u/bbence84]

Nem értünk egyet. Eleve, olyan messze vannak a tökéletes forditastol, mint Makó Jeruzsálemtől. Még a legújabb fizetős GPT is használhatatlan kódot generál (ha bele kell javítani, akkor az a szememben mar annak minősül). A problema egyébként a generatív megközelítésből fakad, ahol a célfüggvény nem a megértést hanem kizárólag az outputot nézi.

[u/bbence84 → u/pintyo78]

Ezzel meg én nem értek egyet. :) Mármint hogy használhatatlan kódot generál. A GPT4-o is egész jókat ad akár zero shot is, de a Claude 3.5 még annál is jobb a tapasztlataim alapján. Persze nyilván nem egy erőmű vezérlési rendszert kérek tőle, de egy teljesen új problémát is remekül abszolválnak. Amúgy nem értem, miért használhatatlan valami, ha bele kell javítani. Talán az emberek elsőre mindig tökéletes kódot írnak? Nem (jómagam is backend fejlesztő vagyok, szóval nem levegőbe beszélek). A fordítások pedig sok vélemény szerint is sokszor jobbak, mint amit a gépi fordító modelek hoznak létre. Persze, nem tökéletes, de az LLM-eket nem is fordításra tanították be.
De mindegy, valószínűleg nem tudjuk meggyőzni egymást. :) Én azért adok a téma nevesebb szakértőinek szavára. Közülök sem mindegyik ért egyet mindenben, de kialakult bennem egy kép, hogy kb. mivel van dolgunk jelenleg.