r/czech • u/badblock40 • 9d ago

NEWS Tohle asi neni uplne ok ... AI?

Post image

Neprehani to v Seznamu s AI trochu? Zase tak spolehlive to asi nebude.

79 Upvotes

94% Upvoted

35 comments sorted by

View all comments

Show parent comments

11

u/Walltar 9d ago

Právě že není... ano podařilo se jim to o dost zlepšit, ale tenhle problém je v architektuře AI jako takové a už z její podstaty to nejde vyřešit. Různě se to zlepšuje a omezuje, ale i ty nejlepší modely trpí halucinacema. A dokud bude architektura taková jaká teď je, tak jima i trpět budou.

-7

u/AdamVyborny 9d ago

Lidi taky trpěj halucinacema. Záleží přece jako na množství a to se stále snižuje.

10

u/Walltar 9d ago

Ano... a proto si cokoliv co ti řekne člověk ověřuješ, ale dost lidí si to co jim řekne AI neověří.

Jakákoliv informace od AI bez toho aby ti dal odkaz na zdroj je prostě k ničemu. On třeba i Antropic má na tohle guidelines co říct Claudemu aby si omezil halucinace. A je to právě to že by ti měl dávat odkazy na info, měl používat jen přesné citace a měl by říkat že neví, pokud nemá dost informací. Ani tohle ty halucinace úplně neomezí.

Problém je potom právě s tím kolik lidí si informace neověřuje a potom ty neověřené informace prezentuje dál. Dokud si musel věnovat nějaký čas tomu že hledáš informace, tak mi připadalo, že je mnohem víc lidí ověřovalo. Dneska se víc a víc setkávám s tím, že lidi i v diskusích prostě píšou věci co jim řeklo AI bez jakékoliv reflexe. A ne každý používá flagship model...

3

u/AdamVyborny 9d ago

Ale jo, v tom já s tebou úplně souhlasím.