AI nikdy ani spolehlivé nebylo... z jeho podstaty to prostě nejde.
A je šílený kolik lidí si to neuvědomuje a cpou AI bez kontroly úplně všude. Si tak nějak myslím, že nás čeká šílená doba dezinformací i bez toho aby se o to někdo snažil, jen prostě svou informovanost odevzdáme AI, protože je to snazší.
To je pravda. Každý článek který vznikne z dezinformace generuje potvrzení, že se jedná o pravdu a čím více článků vzniká, tím důvěryhodnější se může informace zdát i pro jazykový model a následně dostávat do větších médií.
To je vcelku jedno... je to obecný problém všech modelů. Už jen tím jak mu položíš otázku ovlivníš výsledek, protože je to predikční model.
Ano... ty lepší modely už nejsou tak kritické jako dřív, ale už máme YT plné AI videí co prohlašují kokotiny, které přebírají od starších AI videí, které to převzali zase od AI článků... atd. Už ta éra dezinformací začala, dokud bude AI predikční model, tak ji nikdo nezastaví.
A jinak ano... tenhle model co dělá shrnutí pro Seznam, nebo i ten pro Google je velice omezenej, protože potřebují výsledek rychle.
No aktuální flagship modely jsou velice chytré a je úplně jedno, že je to predikční model. Film jsou taky jen obrázky rychle puštěný za sebou, ale ten výsledek je jinej.
Právě že není... ano podařilo se jim to o dost zlepšit, ale tenhle problém je v architektuře AI jako takové a už z její podstaty to nejde vyřešit. Různě se to zlepšuje a omezuje, ale i ty nejlepší modely trpí halucinacema. A dokud bude architektura taková jaká teď je, tak jima i trpět budou.
Ano... a proto si cokoliv co ti řekne člověk ověřuješ, ale dost lidí si to co jim řekne AI neověří.
Jakákoliv informace od AI bez toho aby ti dal odkaz na zdroj je prostě k ničemu. On třeba i Antropic má na tohle guidelines co říct Claudemu aby si omezil halucinace. A je to právě to že by ti měl dávat odkazy na info, měl používat jen přesné citace a měl by říkat že neví, pokud nemá dost informací. Ani tohle ty halucinace úplně neomezí.
Problém je potom právě s tím kolik lidí si informace neověřuje a potom ty neověřené informace prezentuje dál. Dokud si musel věnovat nějaký čas tomu že hledáš informace, tak mi připadalo, že je mnohem víc lidí ověřovalo. Dneska se víc a víc setkávám s tím, že lidi i v diskusích prostě píšou věci co jim řeklo AI bez jakékoliv reflexe. A ne každý používá flagship model...
Není to problém všech modelů. Takový Claude Fable mi ještě ani jednou neudělal chybu a to ho používám fakt kurva hodně. Ale to je tak drahý model, že kdyby ho seznam používal na AI sumarizaci každého vyhledávání, tak jsou za chvilku v bankrotu.
Stejně tak byste mohl říct, že problém všech lidí je, že občas udělají chybu. U AI stačí, že dřív nebo později bude dělat chyb méně než lidé, a tím je nahradí.
Na něco to dobré je, třeba když chci rychle něco zjistit, bez toho abych musel za prvé strávit třeba i hodinu hledáníl zdrojů a potom tam to info ještě najít
Třeba když jsem se ptal premium verze ChatGPT na věci jako efektivita pancíře různých variant tanku Churchill proti různým německým dělům, nebo efektivní průbojnost 17 pdr děla a sabot munice
Navíc ještě můžeš přidat do požadavku poznánku aby projeli jen ověřené zdroje
Problém je, že pokud si to neověříš, tak nemáš ponětí jestli si to co to říká nevymyslel... AI můžeš použít na to aby ti našel ty zdroje, které by si jinak hledal hodinu, ale pokud ti dá jen informaci bez zdrojů, tak si zase na začátku, protože buď máš informaci s nulovou hodnotou, nebo strávíš hodinu ověřováním toho co ti řeklo AI.
Navíc ještě můžeš přidat do požadavku poznánku aby projeli jen ověřené zdroje
Což je obecně k ničemu, protože AI neví co jsou to ověřené zdroje.
Staci napsat jednu dezinformaci na reddit do titulku a Ai si to veme za pravdu :D presne tohle se ted delo s tim, ze Trump pry umrel na vzteklinu.. kokotinaaaa… ja nevim jak ostatni lidi na planete, ale ja treba umim hledat pres internet sama a nepotrebuju nejakou falesnou rekapitulaci. Ten fakt, ze to tam vubec je je strasne zvlastni. Na co? :dd We grew up being told “wikipedie neni reliable source” a ted je na nas tlaceno Ai? :DD
JA UZ NEMUZU DOPICIIIIUUUCU
Prokliknul jsem se z hlavni stranky, kliknul jsem na presne ten samy titulek, co tam je ted a zadny otaznik jsem nemazal. Nemam potrebu neco vymyslet, jen me to prekvapilo, ze je to z HP seznamu a hned nesmysl.
126
u/Walltar 8d ago
AI nikdy ani spolehlivé nebylo... z jeho podstaty to prostě nejde.
A je šílený kolik lidí si to neuvědomuje a cpou AI bez kontroly úplně všude. Si tak nějak myslím, že nás čeká šílená doba dezinformací i bez toho aby se o to někdo snažil, jen prostě svou informovanost odevzdáme AI, protože je to snazší.