Umelá inteligencia získava čoraz väčšiu mieru samostatnosti, no dôvera v jej rozhodnutia klesá. Nový globálny výskum SAS a IDC ukazuje, že až 97,2 % používateľov aspoň niekedy upravuje alebo prepisuje odporúčania vytvorené AI. Najčastejším dôvodom je, že systém nedokáže vysvetliť, ako k svojmu rozhodnutiu dospel. Firmy, ktoré sa dôveryhodnosti AI venujú systematicky, pritom majú až 15-krát vyššiu pravdepodobnosť vysokej návratnosti investícií do AI.

Firmy po celom svete zvyšujú investície do umelej inteligencie, no samotná technológia na úspech nestačí. Nová globálna štúdia Data and AI Impact Report: The New Economics of Trust spoločnosti SAS, ktorá prináša výsledky výskumu analytickej spoločnosti IDC, ukazuje, že dôležitú úlohu zohráva aj dôvera používateľov v rozhodnutia AI.

Ak ľudia nerozumejú tomu, ako systém k svojmu záveru dospel, jeho odporúčania častejšie kontrolujú, upravujú alebo prepisujú. Organizácie tak môžu strácať čas a produktivitu a zároveň nevyužiť plný potenciál svojich investícií do AI.

Keď AI nevie vysvetliť „prečo“, nastupuje človek

Až 97,2 % používateľov podľa štúdie aspoň v niektorých prípadoch prepisuje odporúčania vygenerované AI.

Najčastejším dôvodom manuálnych zásahov pritom nie je to, či bol výsledok AI správny alebo nesprávny. Používatelia zasahujú najmä vtedy, keď systém nedokáže vysvetliť, ako k svojmu rozhodnutiu dospel.

S rastúcou mierou samostatnosti AI zároveň klesá aj dôvera používateľov:

• 97,2 % používateľov aspoň niekedy upravuje alebo prepisuje odporúčania AI.
• Chýbajúce vysvetlenie je hlavným dôvodom zásahu a to bez ohľadu na to, či bol samotný výstup AI správny.
• Dôvera klesá zo 76 % pri generatívnej AI na 66 % pri agentickej AI, čo ukazuje, že s rastúcou samostatnosťou systémov rastú aj obavy používateľov.

„S rastúcou mierou samostatnosti AI čelia organizácie novej výzve: ako si zachovať dôveru v systémy, ktorým ľudia úplne nerozumejú,“ uviedol Chris Marshall, viceprezident spoločnosti IDC. „Naše zistenia ukazujú, že ak chcú firmy využívanie AI úspešne rozširovať, potrebujú silnejší dohľad, väčšiu vysvetliteľnosť, jasne nastavenú zodpovednosť a kvalitné dátové základy.“

AI nie je neomylná: pri komplexných úlohách môže chybovať vo viac ako 25 % prípadov

Umelá inteligencia nie je neomylná a v dôležitých biznisových situáciách môže slepá dôvera viesť k vážnym škodám. Podľa odborníkov je preto nevyhnutné, aby si ľudia nad systémami ponechali prísny dohľad.

„Keď AI funguje správne, jej prínos môže byť obrovský,“ uviedol Bryan Harris, technologický riaditeľ (CTO) spoločnosti SAS. „Najmodernejší AI agenti však môžu pri komplexných úlohách chybovať vo viac ako 25 % prípadov (1) , čo je pri dôležitých obchodných rozhodnutiach neprijateľné. Ak chcú organizácie dosiahnuť vyššiu presnosť a spoľahlivosť, musia prepájať odborné znalosti s procesmi agentickej AI a zároveň zachovať ľudský dohľad. Tie, ktoré to zvládnu, dokážu posilniť dôveru v AI a využiť ju ako významnú konkurenčnú výhodu.“

(1 Zdroj: Stanford HAI, 2026 AI Index Report; nezávislé benchmarkové hodnotenia AI agentov)

Bez kvalitných dát nebude fungovať ani kvalitná AI

Výsledky štúdie ukazujú, že problémom nie je iba samotný model AI. Dôležitú úlohu zohráva aj kvalita dát, z ktorých systém vychádza.

• Len 17,5 % podnikov má plne optimalizovanú dátovú infraštruktúru pripravenú na využívanie agentickej AI.

Organizácie s optimalizovanými dátami majú pritom štyrikrát vyššiu pravdepodobnosť, že od AI projektov očakávajú vysokú návratnosť investícií. Zároveň až šesťkrát častejšie vyžadujú kontroly kvality dát a vysvetliteľnosti, ktoré pomáhajú budovať dôveru v AI.

Dôvera v AI sa firmám môže vyplatiť

Výskum ukazuje výrazný rozdiel medzi organizáciami, ktoré sa dôveryhodnosti AI venujú systematicky, a tými, ktoré v tejto oblasti zaostávajú.

• Firmy investujúce do dôveryhodnej AI majú až 15-krát vyššiu pravdepodobnosť, že pri svojich projektoch dosiahnu vysokú alebo veľmi vysokú návratnosť investícií – 62 % v porovnaní so 4 % u ostatných.
• Lídri v oblasti dôveryhodnej AI dosahujú 1,85-krát vyššie prínosy v 13 obchodných ukazovateľoch vrátane rastu tržieb, úspor nákladov a zákazníckej skúsenosti.
• Až 85 % týchto organizácií plánuje tento rok zvýšiť investície do dôveryhodnej AI o viac ako 10 %.

Výsledky tak naznačujú, že rozdiel medzi úspešnejšími a menej úspešnými AI projektmi nemusí spočívať len v samotnej technológii. Rozhodujúce je aj to, ako firmy AI riadia, kontrolujú, vysvetľujú jej rozhodnutia a pracujú s dátami.

O prieskume

Zistenia vychádzajú z globálneho prieskumu analytickej spoločnosti IDC pre SAS medzi 2 699 manažérmi s rozhodovacou právomocou, ktorí zodpovedajú za dátové a AI iniciatívy vo svojich organizáciách. Prieskum sa uskutočnil v 28 krajinách a zameral sa na štyri kľúčové odvetvia: bankovníctvo, poisťovníctvo, vedy o živej prírode (life sciences) a verejný sektor.

Kompletná správa Data and AI Impact Report: The New Economics of Trust je dostupná na sas.com/ai-impact.

Zdroj: sas