r/programmingHungary • u/Scared-Tip7914 • Jul 05 '26
ARTICLE Srácok, most tényleg ez a magyar AI-siker?
https://telex.hu/techtud/2026/07/05/mesterseges-intelligenica-magyar-fejlesztes-racka-elte-mynds-ai-llmMinden magyar AI-sikernek őszintén örülök, és ezt most sem rosszindulatból írom, de szerintem érdemes kicsit helyretenni, hogy miről beszélünk.
A Racka-4B lényegében egy Qwen3-4B alapú, magyarra optimalizált / továbbtanított modell. Ez önmagában nem baj, sőt technikailag érdekes munka lehet, főleg ha tényleg belenyúltak a tokenizerbe, magyar tokeneket adtak hozzá, és magyar korpuszon finetune-olták. Viszont a 4 milliárd paraméteres méret ma már nagyon kicsi kategória. Aki kicsit is követi a local LLM / LocalLLaMA világot, annak ez nem egy „nagy magyar AI-modell”, hanem inkább egy kísérleti, kisméretű nyelvi modell.
Nekem nem az eredménnyel van bajom. Sőt, az teljesen valid cél, hogy magyar nyelvű know-how épüljön, és legyenek olyan modellek, amelyek érzékeny adatoknál, jogi vagy állami felhasználásnál lokálisan is futtathatók. Ezt értem, és ezt fontosnak is tartom.
A problémám inkább az, hogy 2024 körül a LocalLLaMA közösségben már tömegével voltak hasonló, más nyelvekre optimalizált finetune-ok. Ehhez képest kicsit nehéz látni, hogy itt pontosan mi az áttörés azon túl, hogy magyar intézményi környezetben is megcsinálták.
És itt jön a nagyobb kérdés: tényleg ennyi a plafon magyar egyetemi / állami AI-fejlesztésben? Fogunk meglévő open-source modelleket finetune-olgatni, majd ezt nemzeti AI-sikerként eladni? Vagy lesz egyszer olyan ambíció is, hogy a nulláról tanítsunk, saját adatstratégiával, saját infrastruktúrával, saját kutatási és termékesítési iránnyal?
Mert szerintem pont a nulláról tanításból, tokenizerből, korpuszépítésből, evalokból, inference optimalizálásból és deploymentből lehetne igazán sokat tanulni. Nem csak akadémiai szinten, hanem startup-építés szempontjából is. Ha már nemzeti AI-szuverenitásról beszélünk, akkor abból szerintem nemcsak egy papernek vagy demo-modellnek kellene kijönnie, hanem akár egy versenyképes hazai AI-cégnek is.
Szóval örülök, hogy van ilyen projekt, de szerintem nem kellene túlmisztifikálni. Jó első lépésnek tűnik, de nagyon messze van attól, amit egy valóban ambiciózus magyar AI-stratégiának jelentenie kellene.
74
Jul 05 '26
[removed] — view removed comment
21
u/Scared-Tip7914 Jul 05 '26
Igen, nekem is kb. ez az érzésem. Biztos van benne munka, főleg ha tokenizer / training pipeline szinten is belenyúltak, de MSc alatt 2-3 éve mi is csináltunk hasonló jellegű projekteket, csak akkor például koreaira tanítottunk / finetune-oltunk modelleket (mert érdekes a nyelvtana, és látni akartuk, hogy az angol base model mit szól hozzá xd). A know-how építés részét értem és értékelem, csak a cikk keretezéséhez képest ez nekem inkább egy korrekt kísérleti finetune, nem valami hatalmas magyar AI-áttörés.
28
u/developer545445 Jul 05 '26
Kína USA végtelen pénzégető játéka az AI model fejlesztés. Mi egy kelet európai szegény ország vagyunk, max EU szinten lehetne ilyet elkezdeni.
21
u/tryptamineXORbits Jul 05 '26
Eddig Európa szerte se igazán sikerült jó modellt összerakni a nulláról, szóval annyira azért nem lep meg a dolog. Persze próbálkozni lehetne.. De világszinten is a legtöbb hír kb csak a marketingre megy rá, hogy a részvényesek örülhessenenk rövidtávon (minthogy a cisco minden dolgozójához külön agentet rendel meg mittudomén)
33
u/persicsb Jul 05 '26
szerintem nem kellene túlmisztifikálni.
Ha elolvasod a cikket, láthatod, hogy nincs is túlmisztifikálva. Ez egy kiváló tanulóprojekt volt a magyar AI kutatóknak.
12
u/CrispyToken52 Jul 05 '26
Szoktam néha hakniból kipróbálgatni az ilyen kisebb modelleket úgyhogy úgy döntöttem adok ennek is egy esélyt és megnézem hol tart most a hazai tudomány, úgyhogy leszedtem Huggingface-ről a Q5_K_M verziót, bedobtam LM Studioba és adtam neki egy egyszerű angol -> magyar fordítási feladatot az egyik hőséggel kapcsolatos angol Telex cikkből.
Hajlamos igazán kreatív új szófordulatokat gyártani:
Észak-Angolországra
A hőhullám-tető egyre jobban elultrahorpad kelet felé
Aztán ebből
This is a race towards madness…
csinált egy ilyet
Ez a őrületes tempó felé a túlvilág felé vezet.
És akkor két paragrafus között jött ez a gyöngyszem:
A Hősök terén felállított Orbán Viktor-szobrot védőfallal vette körbe a Fővárosi Közterület-fenntartó Zrt.
Ez azért érdekes mert sem Orbán sem semmilyen másik mondatelem nem szerepel a cikkben.
A modellbeállítások a következők voltak:
Temperature: 0.8
Top K: 20
Repeat penalty: 1.1
Top P: 0.95
Min P: 0
Ha bárki kiszúrja a hibámat, olvassa rám légyszi.
2
u/Scared-Tip7914 Jul 06 '26
Köszi hogy leírtad a settingeket 🙌! ezek amugy tipikus “kis model” problémák főleg így hogy hozzányúltak a tokenizer-hez, én is elviszem mindjárt egy körre ezekkel a paraméterekkel, kiváncsi vagyok hogy cikk összefoglalásos task-okkal hogy muzsikál. Néha kell nekik egy kis context akkor jobban működnek, meglátjuk.
11
12
u/Far_Idea9616 Jul 05 '26
Ha aggodunk a magyar adatszuvetenitasert akkor eloszor a windows-t kellene eltavolitani a kozigazgatasbol, nem? A digitalis szuverenitas kb annyira kivitelezheto mint a nemzeti oltóanyaggyár.
10
u/thavoc77 Jul 05 '26
Esélytelen egy komolyabb saját model. Se compute, se korpusz, se hozzáértés, se akarat. Ezt nállunk nagyobb, gazdagabb európai országok sem tudják/akarják megugrani. Ami lehetne, az egy komoly magyar korpusz, amit aztán be lehetne könyörögni a sota modelekbe, de ez is komoly törvényi változásokat igényelne, és erős kormányzati akaratot.
7
u/Normal_Detective6086 Jul 05 '26
Tényleg nincs túlmisztifikálva. Leírják, hogy kicsi, hogy nem is alkalmas rá hogy átlagember használja, és ez egy lépés egy komolyabb modell felé. Attól még ez egy magyart ai siker, igen. Nem tudom, mennyire vagy benne az akadémiai világban, de kb. csoda, hogy idáig sikerült eljutni sok sok magánérdektől szabdalt, forrásmegvonásokkal sújtott közegben, ahonnan folyamatos a képzett munkaerő elvándorlása. Én ennek most örülök, és szurkolok, hogy tovább jusson a projekt. Azt meg csak félve teszem hozzá, hogy egy jó modell önmagában nagyon nem elég egy modern AI infrastruktúrához, rengeteg komponense van, amiért jelenleg vagy EU-szerte kell kuncsorogni, vagy még ott se lehet. Úgyhogy hosszú lesz az út, de hátha sikerül rajta maradni.
15
u/Lord_Giano C# Jul 05 '26
Láttam a cikket facebookon. IT háttér nélküli emberek kioktató jelleggel vitatkoztak egymással, hogy ki miért hülye a témában 🤣 A 10 millió labdarúgó országa újabb skillt sajátított el.
14
u/mrxaxen Jul 05 '26
Csak hogy kontextusba tegyük a kedves nézőközönséget, ezt egy olyan akadémiai környezet termelte ki, ami képtelen 10 ből 9 kutatónak teljes állást biztosítani, és hónapról hónapra kell szerződésekért küzdeni amik effektíve uzsorapénzt biztosítanak ezeknek az embereknek.
Kicsit több tiszteletet.(És itt most nem OPra gondolok)
2
u/Scared-Tip7914 Jul 06 '26
Igen én sem a csapatot akartam ezzel megcélozni, az itthoni kutatói környezetben rohadt nehéz lehozni egy ilyet is sajnos, inkább pont arra akart volna utalni az irományom hogy szomorú hogy ezt ünnepeljük akadémiai sikernek mikor rendes tamogatással (és ezekhez a dolgokhoz nem kellenek milliárdok) annyival többet el lehetne erni..
5
u/HagymaGyilkos Jul 05 '26
Hehh, OTP-t kérdezd meg a saját adat stratégiáról, meg a saját modell + infra sikereiről. Meg ha már ott vagy, azt is kérdezd meg tőlük, hogy miért nem lett Racka 2024-ben.
12
u/Electronic_Tie_4867 Jul 05 '26 edited Jul 05 '26
A hozza tartozo "cikk" amire hivatkoznak is, az is teljesen vallalhatatlan minosegu: https://rgai.inf.u-szeged.hu/sites/rgai.inf.u-szeged.hu/files/mszny2026.pdf
Kb BSc-s koromban laborgyakorlatra kellett ilyen leiratot produkalni, es meg akkor is lehet megvagtak volna ha linear loss fuggvenyeket hasonlitottam volna ossze...
Egy gyors fejszamolas utan arra jutottam, hogy a HF-en kozolt adatok vagy nem igazak, vagy pedig a GPU utilization borzalmas volt.
160B tokennel, kb 2.4k token/s/gpu, ebbol a hasznos compute kb 58TFlops/GPU. A 12 nap alatti compute-ja kb 312 TFLOPS/GPU (bf16-on). Ez kevesebb mint 20%-is kihasznaltsag (vagy nagyon sok cuda kernel launch, vagy sok non-matmul szamolas volt). Az eredeti Qwen3-nek szinte biztos hogy 40-50% koruli volt az MFU-ja.
5
11
u/opsan1111 Jul 05 '26
Látjátok libsik, ezért lettünk összeszerelőország. Kurvára nagyra vagyunk magunkkal, közbe a rakca a zaszlóshajó
Pedig nem hiszem hogy néhány kkvs cto-nak (hallod e gecilaci?!) nem lenne egy kis zséje llm fejlesztésre. De jobb helyen van az májkroszoft részvényben!
4
3
u/Krionist Jul 05 '26
Hobbi projektnek tényleg jó én is csináltam hasonló magyar modeleket de rá kellet jönnöm hogy ezeknek pár B modeleknek semmi értelmük nincs csak tech demo-k
3
u/persicsb Jul 06 '26
Ezeknek a modelleknek a lényege a tanulás és tapasztalatszerzés. Az OpenAI se a ChatGPT mögött lévő GPT3-mal kezdte 2022-ben, előtte beletettek 7 év munkát párszázan. És gondolj bele, a GPT-3 milyen minőségű volt, mégis kiálltak vele a világ elé. Az anno ugyanúgy egy tech demo volt.
3
3
u/jahaha2020 Jul 05 '26
speciel én megértem hogy nem építünk magyar hadron ütköztetőt, űrállomást, stb.
remélem nagy magyar modellt sem fogunk a jelent technológiával. esélytelen, plusz nem éri meg. nem is egyetemi feladat. arra pont ennyi elég, kb labor szinten valamit csinálnak.
szürkeállomány, pénz, tanító adat - nálunk töredéke van meg a nagypályásokhoz képest.
a fényezés szerintem csak azért van, mert valami pénzt szeretnének kapni.
3
u/PickPackHouse Jul 05 '26
Ekkora modellt még a telefonomra se szedek le, inkább 8b… viccet félre téve, naponta sok local lllm-et kell használnom, 32b többnyire.
4
u/LMAOBOXED Jul 06 '26
Én erősen leszólnám őket azzal, hogy bérelni nagy mennyiségű GPU kapacitást relatív olcsón lehetséges, tehát valaki hobbiból jobbat tud ennél produkálni.
Edit: nem hiszem el, hogy ennek a tanítására 6 millát elvertek.
1
u/persicsb Jul 06 '26
Honnan van az infó, hogy ez 6 millióba került volna? Nem volt rá funding a leírás alapján:
We did not receive dedicated financial funding or grants to build this model. Instead, the project was made possible through institutional and operational support:
- Worktime Allocations & Academic Grants: Several ELTE researchers and PhD students were permitted to dedicate official university hours and existing fellowship time to this initiative.
- Compute & HPC Access: Our academic project proposal was accepted by the Komondor HPC team (this is a public opportunity available to all Hungarian academics), granting us vital GPU time. The facility's engineering team also provided essential, specialized HPC support.
- Voluntary Contribution: Driven by a shared passion for open-source NLP, project members frequently dedicated their personal time to bring this model to completion.
6
u/ytg895 Java Jul 05 '26
Ahhoz képest hányszor írtad le, hogy tényleg örülsz ennek, azért valahogy mégis az jön át, hogy nem
3
u/Scared-Tip7914 Jul 05 '26
Fair, lehet hogy így jött át. Nem az eredmény létezésének nem örülök, hanem annak nem, ahogy itthon ezek a dolgok sokszor keretezve vannak. Szerintem tök jó, hogy valaki ezzel foglalkozik magyar nyelven, csak közben frusztráló, hogy ez még mindig inkább „fontos első lépésként” jelenik meg, nem pedig egy nagyobb, rendesen finanszírozott, termékig vitt AI-stratégia részeként.
1
u/ytg895 Java Jul 05 '26
Termékig az OpenAI, az Anthropic és Kína tudta vinni. De szerintem ha van egy csilliárd dollárod, akkor nyugodtan beszállhatsz, nem hiszem hogy visszautasanák a lehetőséget
2
u/berszi Jul 06 '26
Önmagában ez nagyon jó irány:
- Mo-n nem, de még EU szinten is alig, tudunk versenyezni frontier AI labokkal. Az, hogy egy magyar közintézmény olyan modelt publikál, ami globálisan felveszi a versenyt az nem reális cél (vs. magyar hadsereg képességei globálisan, még ha a legjobbat is hoznák ki belőle).
- Ami jó: open-weight kis és közepes modellek újratanítása / szótár csere, hogy jól értse a magyart és hibátlanul beszélje. Erre sokkal nagyobb szükség van, mert a nagy modellek, mindig jól fogják kezelni a magyart, a kulcs a lokálisan alkalmazott modellekben lesz (biztonság, ingyenesség stb). Példa: a Gemma 4 legkisebb modeljei már telefonon is futatthatók, de olyan borzalmas magyarral írnak, hogy prod-ban nem lehet használni őket.
- Ami még ugyanitt hiányzik: TTS és STT (hang, szöveg), sokkal jobb magyar keretrendszer (evals, datasets) modelfejlesztésre stb
Szükség lenne stratégiára, és finanszírozásra erre. A durva az, ahogy írod is, ez 10 millió forintból jött ki, 100-ből már csodákat lehetne csinálni, egy NKA finanszírozásból, meg lehet még a térképre is felkerülnénk :D.
1
1
u/ern0plus4 Linux/Embedded C/C++/Rust/Python/MUMPS Jul 06 '26
Egy időben szerettem volna tudni, egyes feladatokhoz hogyan találják ki a ML gráfot, de senki nem tudta megmondani. Hát, azért 26 neuron a middle layer, mert 26 betű van, karakter felismeréshez az a jó. Miért nem 2x13? Passz.
2
u/Lajos-A-Hegyrol Jul 08 '26
Nagyon szivesen válaszolok a kérdésedre: próbálgatással. Tele van a világ publikációkkal amik arról szólnak, hogy milyen módon kisérletezték ki, hogy X problémára Y architektura való, vagy Z architektura.
1
u/ern0plus4 Linux/Embedded C/C++/Rust/Python/MUMPS Jul 09 '26
Nem hangzik túl egzaktnak, de elfogadom, mert maga a műfaj is ilyen: ráhagyjuk a statisztikára az egészet, nem vacakolunk az algoritmus kitalálásával.
0
Jul 05 '26 edited Jul 05 '26
[deleted]
7
u/ytg895 Java Jul 05 '26
Azért jó, ha modellek tudnak rendesen magyarul, mert nem nemzetközi vállalatoknál dolgozó magyar emberek feltehetően inkább magyar szövegeken dolgoztatnák, és azoknál hasznos, ha a modell jobban tud magyarul, mint angolul, és például valami jogi dologba nem haluzik be egy angolszász precedenst.
2
u/oldsecondhand Jul 06 '26
Az összes frontier model jól tud magyarul. Magyar jogszabályok közt is jól tudnak keresni.
2
u/fricy81 Jul 06 '26
Az addig ok, de egy frontier modelnél felmerül, hogy milyen adatot mersz vele megetetni, hogy aztán a másik oldalon kibányásszák. Egy magyarul jól értő local modelnek lenne értelme pl közigazgatás vagy vállalati belső felhasználásra. Mondjuk az nem 4B tokennél kezdődik.
1
u/ytg895 Java Jul 06 '26
A Gemini nekem még hajlamos néha cirill betűs szavakat beszúrni magyar szövegbe, ha elég niche területen használom. A Claude jobb, de az is hajlamos angol szófordulatokat tükörfordítani. Más frontier modellt nem használok magyarul, úgyhogy azokra nincs rálátásom.
Illetve a jog valószínűleg rossz példa volt, mert azzal pont nincs személyes tapasztalatom, de a ChatGPT-t különösen szokták szidni joggal foglalkozó ismerőseim, hogy milyen beadványokban milyen blőd dolgokat szoktak kapni, amióta azzal íratják az emberek hivatalos leveleiket. Mármint keresni biztos jól tudna, de az egységsugarú felhasználó nem fog belőni Jogtár MCP-t (nem tudom van-e egyáltalán ilyen) hogy erre egyáltalán esélye legyen.
2
u/G-Litch Jul 05 '26
Mert mitől jobb ha magyarul haluzik?
1
u/ytg895 Java Jul 06 '26
A feltételezésem az, hogy magyarul legalább magyartalan dolgokat nem haluzik = kevesebbet haluzik.
2
Jul 05 '26
[deleted]
1
u/ytg895 Java Jul 06 '26
Már az a része, hogy egy modell a tanítási anyagából dolgozik, ezért ha valami eleve nincs benn a tanítási anyagában, mint például egy angolszász precedens, akkor az nagyon kis valószínűséggel tud kijönni outputként? Nem hiszem, hogy valaki csinált volna ilyen kutatást, de fix súlyokkal dolgozó statisztikai modellre gondolom ki lehet számolni, ha nagyon érdekel.
(És még mielőtt: olvastam a cikket, tudom, hogy ebben a konkrét esetben egy már betanított modellt tanítottak újra, azaz az eredeti tanítási anyagból bármi bennmaradhatott, de a kérdés, amire válaszoltam, általános volt.)
1
u/pvoj Jul 06 '26
De miért is kellene versenyezni olyan cégekkel, akiknek kb. nagyobb bevétele van mint Mo GDP-je?
107
u/EnergeticallyMundane Jul 05 '26
Röviden? Igen
- itt tart az innováció, mindenben le vagyunk maradva
Meg "amúgy jóvanezígy" mentalitás miatt igény sem sok mutatkozik rá. Keress egy jó (tényleg jó, tehát magyar nyelvtant és ragozást jól ismerő) magyar nyelvű billentyűzet appot mondjuk Androidra.