Zahynieme my ľudia na vlastnú pohodlnosť? Toto hovorí odborník na AI
AI nepozná súcit a nemá limity. Útok na Irán, únos venezuelského prezidenta Madura…čo bude ďalej? Hosťom Kamila Aujeského je vedec, vysokoškolský pedagóg a manažér Vladimír Šucha.Umelá inteligencia sa podľa odborníkov stala pevnou súčasťou moderných inštitúcií aj demokratických systémov. Už ju nemožno vnímať ako niečo oddelené či okrajové.
Zásadný problém však nastáva v momente, keď sa AI dostane do vojenskej sféry. „Útok na Irán je prekročená veľká červená čiara z použitia umelej inteligencie. Ona spochybňuje akýkoľvek dohlaď človeka. Človek je tam v podstate iba štatistom. Systémy rozhodujú o tom, aký cieľ sa zasiahne a ako,“ Hovorí Vladimír Šucha.
AI dokáže analyzovať záznamy z kamerových systémov v rozsahu, ktorý by človeku zabral celé týždne. Problémom však je, že ak má človek na vyhodnotenie výsledku len niekoľko desiatok sekúnd, v praxi už nejde o skutočnú kontrolu. V tak krátkom čase totiž nemožno rozhodnutie reálne preveriť, ani zmeniť a ľudský zásah sa stáva len formálnym.
V dnešnej dobe je možné využiť AI na vojnové ciele
Odborník zároveň upozornil na znepokojivý paradox dnešnej doby. Rovnaké technológie, ktoré bežne používame na písanie e-mailov alebo bežnej kancelárskej práce, môžu ľudia využiť aj na mimoriadne závažné a smrteľné operácie. Aj preto podľa neho vojenské využitie AI neuniklo žiadnej pozornosti vyspelejšej armády. „Všetci si uvedomili, ako bola AI využitá. To znamená, že to všetci budú chcieť. Všetci tí, ktorí si to budú môcť dovoliť.“
Môže si každý dnes vďaka AI robiť, čo mu napadne?
Podobný vývoj už dnes vidno aj vo vojne na Ukrajine. Obe bojujúce strany podľa neho pracujú na autonómnych systémoch riadenia dronov, ktoré sú v záverečnej fáze letu schopné fungovať úplne samostatne, pomocou zabudovanej umelej inteligencie. V tomto prenose sledujeme konečnú transformáciu obranného sektora, v ktorom sa úloha človeka stále viac oslabuje a jeho potvrdenie rozhodnutia sa stáva skôr formálnym, než reálnym zásahom do procesu… „Problém je, že každý si môže robiť čo chce a nie sú tu žiadne etické, alebo zákonne rámce.“
