Umělá inteligence se stává mocným nástrojem kybernetické kriminality. AI urychluje a usnadňuje trestnou činnost. Stejně jako podniky využívají AI ke zvýšení efektivity, zločinci ji nasazují k automatizaci kyberútoků, phishingu a hledání zranitelností chráněných systémů. Navíc se již nyní vyvíjejí autonomní AI systémy, které mohou provádět složité trestné činy zcela samostatně – stačí jen zadat příkaz.

K čemu se prakticky využívá AI v podsvětí?

• Automatizace útoků AI umožňuje rozsáhlé phishingové kampaně a vytváří adaptivní malware, který se dokáže vyhnout detekci. Pokročilé AI nástroje umožňují vstup na „trh kyberkriminality“ i méně zkušeným útočníkům.
• Deepfaky a syntetická média AI se využívá ke generování deepfaků, které umožňují podvody prostřednictvím imitace různých osob, což usnadňuje podvody typu BEC (Business Email Compromise) a vydírání. AI také usnadňuje podvody se syntetickými identitami, což umožňuje vytváření falešných bankovních a kryptoměnových účtů.
• Výroba pornografických materiálů AI umožňuje generování dětské pornografie bez nutnosti přímého zneužívání obětí, což přináší etické a právní dilema. Dle veřejně dostupných informací bylo jen v roce 2024 na dark webu vytvořeno 3 500 AI generovaných materiálů, které se vztahovaly k nezletilým osobám.
• Pokročilé kyberútoky AI optimalizuje ransomwarové útoky, cílením na klíčové systémy maximalizuje škody. AI se také využívá pro kybernetickou špionáž, která dokáže obejít tradiční bezpečnostní opatření a výrazně zvyšuje globální kybernetické hrozby.
• Dezinformační operace AI umožňuje masovou tvorbu a distribuci propagandy, což usnadňuje cílené oslovování zranitelných skupin a destabilizuje společnost jako celek. To vede k polarizaci společnosti a ohrožení demokratických procesů.
• Podvody Deepfaky a klonování hlasu umožňují extrémně přesvědčivé podvody. V roce 2024 podvodníci například napodobovali hlasy vedoucích zaměstnanců firem, aby vylákali finanční prostředky. Zločinci také napodobují hlasy členů rodiny, což se zneužívá k dalším formám vydírání.

Samostatný AI zločinec

V budoucnu bude využívání AI k trestné činnosti pravděpodobně vyžadovat minimální lidský zásah. Přestože AI zatím nedosáhla této úrovně, existují náznaky, že se k tomu blíží:

• AI systémy získávají autonomní přístup k nástrojům, jako jsou internetové prohlížeče, databáze a kryptoměnové peněženky.
• AI modely se optimalizují pro konkrétní cíle, například maximalizaci zisku nebo ovlivňování veřejného mínění.

Prevence a zmírnění AI kriminality

Rovnováha mezi inovacemi v oblasti AI a globální bezpečností vyžaduje komplexní přístup, který zahrnuje technologie, regulace, vzdělávání a spolupráci.

• Technologická řešení: Nástroje využívající AI, jako detekce deepfake obsahu a sledování finančních anomálií, posilují kybernetickou bezpečnost.
• Regulace a politika: Jednotlivé státy by měly vyvíjet pravidla, která podporují inovace v AI, ale zároveň minimalizují rizika.
• Osvěta a vzdělávání: Úřady by měly informovat veřejnost o rizicích podvodů, dezinformací a deepfake technologií a zároveň zdůrazňovat nutnost adaptace orgánů činných v trestním řízení na nové hrozby.

Budoucnost boje proti AI kriminalitě spočívá v samotné AI

AI řízený zločin a jeho rychlý vývoj vyžadují okamžitá protiopatření. K efektivnímu boji proti těmto hrozbám je nutné:

• Využívat AI pro detekci finanční kriminality prostřednictvím inteligentních blockchainových analýz.
• Posilovat obranu pomocí AI integrovaných bezpečnostních systémů, které zvyšují odolnost proti kybernetickým hrozbám.
• Podporovat globální spolupráci prostřednictvím sdílení informací a koordinovaných strategií.

Integrace AI do bezpečnostních nástrojů umožňuje dynamickou a adaptivní obranu proti rychle se vyvíjejícím AI zločinům. Využívání pokročilých AI technologií kombinovaných s lidskou expertízou je zřejmě jedinou efektivní cestou, jak bojovat proti finanční kriminalitě.