Ochrana AI agenta – časté dotazy

Funkce AI Agent Protection (Sage) je k dispozici v nové aplikaci Avast One pro Windows. Jde o vrstvu zabezpečení v reálném čase, která je umístěna mezi vaším agentem AI a vaším systémem. Než se provede akce (spuštění příkazu, stažení souboru, zápis na disk), funkce AI Agent Protection ji nejprve zkontroluje a buď ji povolí, zablokuje, nebo vás požádá o zadání. Pomáhá vašim agentům pracovat rychle, aniž by hrozby proklouzly.

Funkce AI Agent Protection je k dispozici v bezplatné i placené verzi programu New Avast One:

• Nový Avast One s Free Antivirus
• Nový Avast One s aplikací Premium Security

Funkce AI Agent Protection funguje s Claude Code, Cursor a OpenClaw. Všechny platformy používají stejný detekční modul a stejná pravidla hrozeb, takže máte stejnou úroveň ochrany bez ohledu na to, který nástroj používáte. Aktivně rozšiřujeme podporu platforem.

Zapnutí funkce AI Agent Protection:

1. Otevřete Avast One, najeďte kurzorem na boční nabídku a vyberte Premium Security (nebo Free Antivirus).
2. Vyberte Ochrana agenta AI.
3. Vedle vámi vybrané podporované platformy (nebo platforem) klikněte na Přidat ochranu.
4. Otevře se stránka zapojení pro Sage: https://ai.gendigital.com/sage.
5. Dokončete instalaci podle pokynů na obrazovce.

Po instalaci se Sage integruje s voláními nástrojů agenta a před jejich spuštěním je analyzuje. Každá akce zahájená agentem AI obdrží jeden ze tří verdiktů: Povolit, Zeptat se, Odepřít.

Postup vypnutí ochrany AI agenta:

1. Otevřete Avast One, najeďte kurzorem na boční nabídku a vyberte Avast Premium Security (nebo Avast Free Antivirus).
2. Vyberte AI Agent Protection.
3. Vedle podporované platformy (platforem) klikněte na ••• (tři tečky) a vyberte Odebrat ochranu.

Funkce AI Agent Protection je vypnutá.

Každá akce, kterou se váš agent AI pokusí provést, bude vyhodnocena jedním ze tří verdiktů:

• Povolit: Nebyla zjištěna žádná hrozba. Akce probíhá normálně.
• Zeptat se: Něco vypadá podezřele. Akce je pozastavena, abyste ji mohli schválit nebo zamítnout.
• Odmítnout: Potvrzená hrozba. Automaticky zablokováno – z vaší strany není nutná žádná akce.

Verdikty jsou výsledkem několika detekčních vrstev, které běží paralelně:

• Lokální heuristiky: Pravidla založená na vzorech, která zachycují nebezpečné příkazy, odhalení přihlašovacích údajů, obfuskaci a další. Pokud se například váš agent pokusí spustit příkaz, který by smazal celý váš domovský adresář, tato vrstva ho zachytí dříve, než se provede.
• Důvěryhodnost adresy URL: Vyhledávání v reálném čase ve službě Avast Threat Intelligence za účelem identifikace škodlivých, phishingových nebo podvodných adres URL. Pokud váš agent načte adresu URL, o které Avast už ví, že hostuje malware nebo falešnou přihlašovací stránku, je okamžitě zablokována.
• Kontroly dodavatelského řetězce balíčků: Ověřuje, zda jsou balíčky (knihovny a nástroje třetích stran, které se může váš agent pokusit instalovat) legitimní, kontroluje důvěryhodnost souborů a označuje podezřele nové balíčky. Pokud se váš agent pokusí nainstalovat balíček, který byl zveřejněn teprve před dvěma hodinami a jehož název se liší o jeden znak od oblíbené knihovny, tato vrstva jej označí jako pravděpodobný útok.

Každá vrstva vytváří signál se skóre důvěryhodnosti. Rozhodovací modul kombinuje všechny signály a určí verdikt.

Ochrana AI Agent automaticky blokuje potvrzené hrozby, včetně:

• Škodlivé adresy URL: Odkazy, které vedou ke stažení malwaru, na phishingové stránky nebo na podvodné weby.
• Destruktivní příkazy: Příkazy, které by mohly smazat kritické soubory nebo vymazat důležitá data z vašeho systému.
• Útoky typu prompt injection: Skryté pokyny v souborech, na webových stránkách nebo při chatování, které se snaží oklamat vašeho agenta AI, aby ignoroval vaše příkazy nebo vyzradil data.
• Reverzní shelly: Triky, které umožňují útočníkovi vzdáleně ovládat váš počítač tím, že k sobě otevře skryté připojení.
• Úniky přihlašovacích údajů: Neúmyslné odhalení hesel, klíčů rozhraní API nebo přístupových tokenů (například tím, že je zahrnete do kódu, který váš agent píše nebo sdílí).
• Útoky na dodavatelský řetězec: Instalace balíčků softwaru, které jsou kompromitované, falešné nebo záměrně pojmenované tak, aby vypadaly jako oblíbené legitimní balíčky (označuje se jako „typosquatting").
• Nebezpečné doplňky a nástroje: Pluginy, dovednosti nebo nástroje AI, které požadují příliš rozsáhlý přístup nebo obsahují vestavěné škodlivé chování.
• Škodlivé skripty v obsahu AI: Nebezpečné skripty nebo úryvky kódu skryté v souborech, které váš agent AI vytváří nebo otevírá.
• Obfuskované datové části: Škodlivé příkazy maskované pomocí triků s kódováním (například Base64 nebo hex), aby na první pohled nevypadaly nebezpečně.

Když něco vypadá podezřele, ale nejde o potvrzenou hrozbu, funkce AI Agent Protection pozastaví akci a zobrazí vám, co bylo označeno. Podrobnosti uvidíte přímo v rozhraní svého agenta (např. v terminálu nebo při chatování) a ještě před pokračováním můžete zvolit, zda akci schválíte, nebo odmítnete.

Ochrana AI agenta spouští svůj hlavní detekční modul lokálně v počítači. Vaše příkazy, zdrojový kód, obsah souborů i cesty k souborům se analyzují přímo v zařízení.

Aby poskytovala účinnou ochranu, funkce AI Agent Protection také provádí několik kontrol v cloudu, které posilují naši ochranu:

• Důvěryhodnost adresy URL: Adresy URL, ke kterým váš agent přistupuje, se odesílají do reputační služby Avast k detekci malwaru, phishingu a detekci podvodů.
• Prověřování důvěryhodnosti balíčku: Hashy balíčků se kontrolují pomocí služby hodnocení důvěryhodnosti souborů.
• Vyhledávání v registru balíčků: Názvy balíčků se ověřují ve veřejných registrech (npmjs.org, pypi.org), aby se potvrdila jejich existence, verze a integrita. Takhle funkce AI Agent Protection odhaluje balíčky s typosquattingem a halucinované balíčky.
• Vyhledávání zásuvných modulů a nástrojů: Když váš agent použije plugin nebo nástroj, funkce AI Agent Protection porovná zabezpečený otisk této dovednosti s cloudovou službou Avast, aby pomohla rozpoznat rizikové nebo nežádoucí nástroje.
• Kontrola verze: Při zahájení relace se odešle verze AI Agent Protection, operační systém a platforma agenta, aby se zkontrolovaly aktualizace. Není zahrnut žádný uživatelský obsah.

Ano. Detekční pravidla ochrany AI Agent jsou napsána v pro člověka čitelném formátu a jsou k dispozici ke kontrole. Pravidla pokrývají kategorie, jako jsou destruktivní příkazy, úniky přihlašovacích údajů, reverzní shelly, techniky perzistence, obfuskace, hrozby dodavatelského řetězce a škodlivé adresy URL. Každé pravidlo obsahuje ID, závažnost, skóre spolehlivosti a vzor, se kterým se shoduje.

Funkce AI Agent Protection využívá technologii Sage, agentní bezpečnostní engine od společnosti Gen, rodiny důvěryhodných spotřebitelských značek, do které Avast patří. Kompletní sadu pravidel si můžete prohlédnout na adrese https://github.com/gendigitalinc/sage/tree/main/threats.

Částečně. Místní detekční pravidla, která zahrnují nebezpečné příkazy, úniky přihlašovacích údajů, obfuskaci a další prvky, fungují plně v offline režimu. Kontroly reputace adres URL a balíčků vyžadují připojení k internetu, ale pokud jsou tyto služby nedostupné, funkce AI Agent Protection vás nadále chrání pouze podle místních pravidel.