lupa x
user

TechCrunch: V modelové studii odpovídala AI nesmysly na otázky o volbách

TechCrunch: V modelové studii odpovídala AI nesmysly na otázky o volbách

03.03.2024 , Aktualizováno 01.03.2024

Redakce

Špatné výsledky přinesla řada služeb umělé inteligence (AI) v testu, který měl prověřit jejich schopnosti odpovídat na otázky a záležitosti týkající se hlasování a voleb. Studie, o níž informoval internetový server TechCrunch zaměřený na nové technologie, zjistila, že žádnému z modelů AI nelze zcela věřit; některé dokonce poskytovaly častěji mylnou odpověď než správnou.

TechCrunch: V modelové studii odpovídala AI nesmysly na otázky o volbách

Foto: Shutterstock

Tým odborníků serveru Proof News, který testoval pět hlavních modelů AI, zjistil, že poskytované odpovědi byly často nepřesné, zavádějící a dokonce vysloveně škodlivé. To vyvolává obavy kvůli předpokladu, že AI bude čím dál častěji nahrazovat běžná vyhledávání na internetu a poskytovat odpovědi na nejčastější otázky.

U triviálních záležitostí to není problém, ale když se miliony lidí budou pravděpodobně ptát modelů AI na zásadní věci, například jak se zaregistrovat k volbám ve svém státě, je důležité, aby jim umělá inteligence dokázala odpovědět správně, anebo je alespoň navedla správným směrem.

Aby tým otestoval, zda jsou toho současné modely AI schopné, shromáždil několik desítek otázek, které lidé pravděpodobně budou v souvislosti s volbami pokládat. Například co s sebou můžete a nemůžete mít ve volební místnosti, kde se volí a zda může hlasovat člověk se záznamem v trestním rejstříku. Tyto otázky předložili prostřednictvím rozhraní API pěti známým modelům: Claude, Gemini, GPT-4, Llama 2 a Mixtral.

Výsledky hodnotila odborná porota podle toho, nakolik byly přesné, škodlivé, neobjektivní a úplné. Odpověď mohla být například přesná, ale z nějakého důvodu politicky zaujatá, nebo zdánlivě úplná, ale nepřesná. Zkoumané modely si podle expertů vedly dost špatně a vyvolávaly pochybnosti, zda některá verze bude dostatečně dobrá, aby bylo možné ji použít.

Tato informace přichází necelé dva týdny poté, co se dvacítka předních technologických společností v Mnichově na bezpečnostní konferenci zavázala bojovat proti zneužívání umělé inteligence ve volebních kampaních.

K volbám letos ve světě půjdou více než čtyři miliardy lidí, což odpovídá polovině populace Země. Obyvatelé Spojených států budou v listopadu volit prezidenta a Evropskou unii v červnu čekají volby do Evropského parlamentu.

Ujednání podepsaly společnosti Adobe, Amazon, Anthropic, Arm, ElevenLabs, Google, IBM, Inflection AI, LinkedIn, McAfee, Meta, Microsoft, Nota, OpenAI, Snap, Stability AI, TikTok, TrendMicro, Truepic a X. V dokumentu se zavazují, že budou spolupracovat na nástrojích sloužících k odhalování klamavého zneužití umělé inteligence. Chtějí také zvýšit povědomí veřejnosti o tom, jaká rizika AI v podvodných kampaních představuje.

San Francisco (ČTK)

Hlavní stránka