AI pomáhá hackerům. Počet ransomware útoků vzrostl o více než 20 %

19. 7. 2024 07:00    Rubrika: Ostatní    Autor: TZ

Rozšíření umělé inteligence je jedním z faktorů, které mají aktuálně zásadní vliv na kybernetickou bezpečnost. Firmy i jednotlivci jsou nyní ohroženější než dříve. A to právě kvůli rozvoji AI a dalších technologií, které pomáhají útočníkům chytře útočit, vytvářejí kvalitní překlady komunikace a pomáhají jednoduché dostupnosti kybernetických zbraní v jako služby.

Rozšíření generativní umělé inteligence umožňuje i méně zdatným skupinám provádět sofistikované útoky na soukromé i firemní cíle a vede také k nárůstu jejich počtu.

„Z veřejně dostupných údajů vyplývá, že počet útoků ransomwarem v prvním čtvrtletí roku 2024 vzrostl o více než 20 % ve srovnání s prvním čtvrtletím předešlého roku,“ říká Ondřej Ševeček, odborník na bezpečnost a etický hacking z Počítačové školy GOPAS.

Podle dat zprávy ESET Theat Report H1 2024 bylo využití nástrojů umělé inteligence během prvního pololetí 2024 patrné u několika různých typů kybernetických hrozeb. Jednalo se například o hrozby zaměřené na mobilní bankovní služby platformy Android. Nový mobilní malware GoldPickaxe dokonce dokáže krást data pro rozpoznávání obličeje a vytvářet deepfake videa, která útočníci používají k ověření podvodných finančních transakcí.

Metoda Prompt Injection je sofistikovaný způsob kybernetického útoku, který využívá schopnosti velkých jazykových modelů AI k generování obsahu. Tato technika spočívá v začlenění specifických instrukcí nebo kódů do promptů, které jsou zadávány do AI. Tyto prompty jsou formulovány tak, aby byly pro AI zdánlivě neškodné, ale ve skutečnosti obsahují skryté příkazy nebo kód, který může vést k neautorizovanému přístupu k datům nebo spuštění škodlivých operací.

Tato metoda představuje značné riziko, protože může být obtížné odhalit a zablokovat takové manipulativní prompty, zejména pokud jsou dobře maskované. To vyžaduje neustálé monitorování a aktualizaci bezpečnostních protokolů AI, aby bylo možné tyto hrozby identifikovat a neutralizovat.

Jedním z důsledků rozvoje nástrojů generativní umělé inteligence je také rychlý rozvoj phishingu a metod sociálního inženýrství i ve složitějších a menších jazycích jako je čeština. Dříve byly phishingové e-maily buď v angličtině nebo v úsměvně nedokonalé češtině. To už dnes neplatí. Spolu se zdokonalením personalizace povede k růstu úspěšných útoků vedených tímto způsobem.

Útočníci využívají AI k vytváření pokročilých phishingových kampaní, které je stále těžší odhalit. AI také umožňuje automatizaci a škálování útoků.

Nástroje generativní umělé inteligence umožní útočníkům lépe a chytřeji zacílit na jednotlivé uživatele s cílem vylákat jejich přístupové údaje nebo je přimět k akci, která poškozuje je samotné nebo společnost, ve které pracují. Útočníci už teď mohou automatizovaně sesbírat informace o jednotlivých zaměstnancích v řádech několika minut, a za stejně dlouhou dobu připravit personalizovaný e-mail, na kterém na první pohled nebude nic podezřelého.

Nejslabším článkem zabezpečení firem jsou, ať už úmyslně nebo neúmyslně, zaměstnanci. Mohou vědomě vynášet citlivé informace, ale i bez špatného úmyslu klikat na nebezpečné odkazy nebo otevírat zavirované přílohy. Či bez uvážení předávat firemní data nedůvěryhodným zdrojům, v krajním případě i hackerům či šmejdům posílat firemní finanční prostředky. A nejnověji na ně útočí i AI v podobě naprogramovaných chatbotů či musí čelit zcela novým rizikům ChatGPT.

Podle výsledků simulovaných útoků v rámci testování odolnosti firem, pětina zaměstnanců klikne na odkaz ve zprávě, aniž by si prověřila, kam směřuje. Únik nebo poškození dat, falešné platební příkazy nebo phishingové léčky mohou způsobit firmám katastrofální škody. Zacílení na jednotlivce je velmi účinná technika, mnoho zaměstnanců stále kliká na phishingové e-mailové odkazy a stahuje přílohy se škodlivými soubory.