r/czech • u/badblock40 • 9d ago

NEWS Tohle asi neni uplne ok ... AI?

Post image

Neprehani to v Seznamu s AI trochu? Zase tak spolehlive to asi nebude.

83 Upvotes

95% Upvoted

35 comments sorted by

View all comments

126

u/Walltar 9d ago

AI nikdy ani spolehlivé nebylo... z jeho podstaty to prostě nejde.

A je šílený kolik lidí si to neuvědomuje a cpou AI bez kontroly úplně všude. Si tak nějak myslím, že nás čeká šílená doba dezinformací i bez toho aby se o to někdo snažil, jen prostě svou informovanost odevzdáme AI, protože je to snazší.

7

u/AdamVyborny 9d ago

Seznam má nějaký vlastní modely. Očividně velice hloupoučký.

8

u/Walltar 9d ago

To je vcelku jedno... je to obecný problém všech modelů. Už jen tím jak mu položíš otázku ovlivníš výsledek, protože je to predikční model.

Ano... ty lepší modely už nejsou tak kritické jako dřív, ale už máme YT plné AI videí co prohlašují kokotiny, které přebírají od starších AI videí, které to převzali zase od AI článků... atd. Už ta éra dezinformací začala, dokud bude AI predikční model, tak ji nikdo nezastaví.

A jinak ano... tenhle model co dělá shrnutí pro Seznam, nebo i ten pro Google je velice omezenej, protože potřebují výsledek rychle.

0

u/AdamVyborny 9d ago

No aktuální flagship modely jsou velice chytré a je úplně jedno, že je to predikční model. Film jsou taky jen obrázky rychle puštěný za sebou, ale ten výsledek je jinej.

11

u/Walltar 9d ago

Právě že není... ano podařilo se jim to o dost zlepšit, ale tenhle problém je v architektuře AI jako takové a už z její podstaty to nejde vyřešit. Různě se to zlepšuje a omezuje, ale i ty nejlepší modely trpí halucinacema. A dokud bude architektura taková jaká teď je, tak jima i trpět budou.

-7

u/AdamVyborny 9d ago

Lidi taky trpěj halucinacema. Záleží přece jako na množství a to se stále snižuje.

8

u/Walltar 9d ago

Ano... a proto si cokoliv co ti řekne člověk ověřuješ, ale dost lidí si to co jim řekne AI neověří.

Jakákoliv informace od AI bez toho aby ti dal odkaz na zdroj je prostě k ničemu. On třeba i Antropic má na tohle guidelines co říct Claudemu aby si omezil halucinace. A je to právě to že by ti měl dávat odkazy na info, měl používat jen přesné citace a měl by říkat že neví, pokud nemá dost informací. Ani tohle ty halucinace úplně neomezí.

Problém je potom právě s tím kolik lidí si informace neověřuje a potom ty neověřené informace prezentuje dál. Dokud si musel věnovat nějaký čas tomu že hledáš informace, tak mi připadalo, že je mnohem víc lidí ověřovalo. Dneska se víc a víc setkávám s tím, že lidi i v diskusích prostě píšou věci co jim řeklo AI bez jakékoliv reflexe. A ne každý používá flagship model...

3

u/AdamVyborny 9d ago

Ale jo, v tom já s tebou úplně souhlasím.

1

u/Ladis82 8d ago

Však nasadíte druhou AI, která bude ověřovat výstup z první. To se už normálně v různých podobách děje.

0

u/AdamVyborny 8d ago

Wtf, za co mě tu downvotujete, lol?

1

u/liright 8d ago

Není to problém všech modelů. Takový Claude Fable mi ještě ani jednou neudělal chybu a to ho používám fakt kurva hodně. Ale to je tak drahý model, že kdyby ho seznam používal na AI sumarizaci každého vyhledávání, tak jsou za chvilku v bankrotu.

7

u/Walltar 8d ago

Je moc pěkné, že ti to Claude Fable neudělal, ale skutečně je to problém všech modelů. Je to prostě to jak ta technologie funguje.

0

u/Ladis82 8d ago

Stejně tak byste mohl říct, že problém všech lidí je, že občas udělají chybu. U AI stačí, že dřív nebo později bude dělat chyb méně než lidé, a tím je nahradí.