Jaká rizika skrývá umělá inteligence? To přibližuje nová příručka pro seniory

Umělou inteligenci řada lidí využívá jako efektivní nástroj pro svou práci. Bohužel je ale snadno zneužitelná a dokáže vytvářet obsah, který pro nás může být nebezpečný. Jako příklad lze využít takzvaná deep fake videa, která nás mohou zmást a přimět k ukvapené reakci, jako tomu bylo v případě videa známého politika, který lákal na podvodné investice. Jedinou obranou před těmito riziky je pak především trvalé zvyšování mediální gramotnosti uživatelů na internetu – a to jak mladé generace, tak i generace dříve narozených. Právě na seniorstvo se zaměřuje publikace projektu E-Bezpečí, která právě vychází.

Příručku s názvem Rizika spojená s umělou inteligencí pro seniory vydává projekt E-Bezpečí Pedagogické fakulty Univerzity Palackého v Olomouci ve spolupráci se Středoevropskoou observatoří digitálních médií (CEDMO) při Univerzitě Karlově.

Příručka nabízí komplexní pohled na umělou inteligenci, její využití a potenciální rizika. Čtenáři se tak dozví základní pojmy a fungování AI, popisuje její pozitiva a praktické přínosy, například ve zdravotnictví, vzdělávání nebo zábavě, ale upozorňuje také na možná nebezpečí, jako jsou internetové podvody, šíření dezinformací, deep fake videa a narušení soukromí.

Tisíce lidí přicházejí o své úspory

„Virtuální svět posledních let je doslova prorostlý nebezpečným obsahem, ke kterému patří např. různé druhy online podvodů, které zneužívají umělou inteligenci,” vysvětlil situaci autor publikace Kamil Kopecký z Pedagogické fakulty Univerzity Palackého v Olomouci. „Tisíce lidí přicházejí o své úspory, protože je investují do ‚zaručeně fungujících investičních produktů,‘ ve kterých k nim promlouvá prostřednictvím deep fake videí známá osobnost, třeba prezident, expremiér, známý herec či zpěvák, a slibuje jim snadné zbohatnutí,“ navázal s tím, že se zpravidla jedná o podvod, fikci, jejímž výsledkem jsou obrovské finanční ztráty. „Jedinou cestou, jak se stát před těmito riziky odolnými, je systematické vzdělávání a zvyšování mediální gramotnosti obyvatel. A právě na to je naše nová publikace zacílena,“ doplnil.

Nástroje generativní umělé inteligence přitom většina české společnosti zatím navyužívá. „Z výsledků našeho průzkumu CEDMO Trends vyplývá, že tři čtvrtiny české populace starší 16 let nástroje generativní umělé inteligence nepoužívají vůbec,“ uvedla projektová manažerka CEDMO Anja Grabovac s tím, že mezi mladšími ročníky pouze třetina respondentů nevyužívá nástroje umělé inteligence. Ve věkové skupině nad 65 let se jedná až o 94 procent respondentů.

„Obdobné rozdíly jsme zaznamenali i v případě zjišťování znalosti fenoménu deepfake videí, kdy pouze necelá třetina respondentů starší 65 let dokázala z nabízených odpovědí správně určit co je deepfake — tedy, že se jedná o zdánlivě reálný umělou inteligencí vytvořený obraz, video nebo zvuk něčeho, co se nezakládá na pravdě,“ navázala Grabovac. Průzkum také poukazuje na velké rozdíly v povědomí o tom, co je deepfake mezi ženami a muži – polovina dotázaných mužů odpověděla správně, u žen to bylo 32 procent.

Krom zmiňovaných deep fake videí a online podvodů se příručka věnuje také problematice deep nudes, takzvaných svlékacích aplikací, které autoři pokládají za vysoce nebezpečný trend. „Umělá inteligence integrovaná do webových či mobilních aplikací umožňuje komukoli vygenerovat z běžné fotografie fotografii obnaženou. Ta pak může být zneužita např. k vydírání, vyhrožování a podobně,“ uvedli autoři.

Příručka tak poskytuje praktické rady a doporučení, jak se chránit před zneužitím AI a přináší přehled užitečných aplikací a nástrojů pro její bezpečné využívání. Příručka je zdarma ke stažení na webech E-Bezpečí a CEDMO. V omezeném nákladu také vychází v tištěné podobě.