PočúvAI: Všetko, čo píšete chatbotovi, môže skončiť na čiernom trhu

Nástup umelej inteligencie do firiem pripomína divoký západ. Kým manažment vidí v AI cestu k efektivite, bezpečnostní experti varujú pred fenoménom známym ako Shadow AI. Ide o nekontrolované používanie súkromných AI účtov zamestnancami, cez ktoré do sveta unikajú finančné výsledky, heslá či duševné vlastníctvo.

Obyčajné ochranné systémy ako firewall už v ére inteligentných agentov nestačia. Kriminálne skupiny dnes využívajú vlastné AI modely na to, aby cielene prehľadávali úniky dát z promptov a predávali ich na čiernom trhu. Útočníci navyše dokážu pomocou techniky „prompt injection“ zmanipulovať firemného chatbota, aby im sám poslušne odoslal napríklad interné údaje.

O tom, prečo sú tradičné e-learningy neúčinné a ako môžu firmy získať kontrolu nad svojimi dátami bez toho, aby museli AI zakazovať, sa v podcaste PočúvAI rozprával Maroš Žofčin s riaditeľom stratégie a obchodu spoločnosti IstroSec, Romanom Čupkom.

Podcast vznikol v spolupráci so spoločnosťou IstroSec.

Pripravte sa na budúcnosť s knihou od redaktorov Živé.sk „Umelá inteligencia: Pripravte sa na budúcnosť“. Teraz ju máme aj v elektronickej verzii. Nájdete ju na obchod.aktuality.sk.

TIP: https://zive.aktuality.sk/clanok/0RfdZVW/nahliadnite-do-buducnosti-vydavame-knihu-o-umelej-inteligencii/

V podcaste hovoríme aj o týchto témach:

• Prečo je pre firmy problém, keď nevedia, aké AI zamestnanci využívajú a kam tie dáta tečú.
• Ako sa citlivé finančné kľúče a stratégie dostávajú z četovacieho okna priamo k hackerom.
• Prečo útočníci nemusia hacknúť Google, aby sa dostali k vašim otázkam pre AI.
• Prompt Injection: Mechanizmus, ktorým hackeri dokážu podstrčiť AI asistentovi škodlivý príkaz.
• Technické nástroje, ktoré dokážu zachytiť a očistiť citlivý prompt skôr, než opustí firmu.

Podcast pripravuje magazín Živé.sk.