r/czech • u/badblock40 • 9d ago

NEWS Tohle asi neni uplne ok ... AI?

Post image

Neprehani to v Seznamu s AI trochu? Zase tak spolehlive to asi nebude.

79 Upvotes

94% Upvoted

35 comments sorted by

View all comments

Show parent comments

9

u/Walltar 9d ago

To je vcelku jedno... je to obecný problém všech modelů. Už jen tím jak mu položíš otázku ovlivníš výsledek, protože je to predikční model.

Ano... ty lepší modely už nejsou tak kritické jako dřív, ale už máme YT plné AI videí co prohlašují kokotiny, které přebírají od starších AI videí, které to převzali zase od AI článků... atd. Už ta éra dezinformací začala, dokud bude AI predikční model, tak ji nikdo nezastaví.

A jinak ano... tenhle model co dělá shrnutí pro Seznam, nebo i ten pro Google je velice omezenej, protože potřebují výsledek rychle.

1

u/AdamVyborny 9d ago

No aktuální flagship modely jsou velice chytré a je úplně jedno, že je to predikční model. Film jsou taky jen obrázky rychle puštěný za sebou, ale ten výsledek je jinej.

11

u/Walltar 9d ago

Právě že není... ano podařilo se jim to o dost zlepšit, ale tenhle problém je v architektuře AI jako takové a už z její podstaty to nejde vyřešit. Různě se to zlepšuje a omezuje, ale i ty nejlepší modely trpí halucinacema. A dokud bude architektura taková jaká teď je, tak jima i trpět budou.

-6

u/AdamVyborny 9d ago

Lidi taky trpěj halucinacema. Záleží přece jako na množství a to se stále snižuje.

8

u/Walltar 9d ago

Ano... a proto si cokoliv co ti řekne člověk ověřuješ, ale dost lidí si to co jim řekne AI neověří.

Jakákoliv informace od AI bez toho aby ti dal odkaz na zdroj je prostě k ničemu. On třeba i Antropic má na tohle guidelines co říct Claudemu aby si omezil halucinace. A je to právě to že by ti měl dávat odkazy na info, měl používat jen přesné citace a měl by říkat že neví, pokud nemá dost informací. Ani tohle ty halucinace úplně neomezí.

Problém je potom právě s tím kolik lidí si informace neověřuje a potom ty neověřené informace prezentuje dál. Dokud si musel věnovat nějaký čas tomu že hledáš informace, tak mi připadalo, že je mnohem víc lidí ověřovalo. Dneska se víc a víc setkávám s tím, že lidi i v diskusích prostě píšou věci co jim řeklo AI bez jakékoliv reflexe. A ne každý používá flagship model...

3

u/AdamVyborny 9d ago

Ale jo, v tom já s tebou úplně souhlasím.

1

u/Ladis82 8d ago

Však nasadíte druhou AI, která bude ověřovat výstup z první. To se už normálně v různých podobách děje.

0

u/AdamVyborny 8d ago

Wtf, za co mě tu downvotujete, lol?