Zabýváte se technickými bezpečnostními nástroji, zejména kamerovými systémy, přístupovými systémy, síťovými kamerami atd. Jaké v této oblasti v posledních letech sledujete trendy? Rozšiřuje se zájem o kamerového a další bezpečnostní systémy i do oblastí a sektorů, kde to dříve nebylo běžné?
Dalibor Smažinka (Axis Communications): Nemyslím si, že by se bezpečnostní kamerové systémy a další technologie fyzické bezpečnosti začaly nějak revolučně objevovat v oblastech, kde dřív nebyly. Je to spíš postupný, evoluční proces. Tyto technologie se stále nejčastěji využívají v sektorech jako obchody, doprava, města, banky, průmyslové a skladové objekty nebo veřejné budovy, například školy a nemocnice. V těchto oblastech vidíme i mírný růst jejich využívání, přičemž největší nárůst je u prvků kritické infrastruktury.
Jedním z nejzajímavějších trendů je ale využití kamer v non-security oblastech, třeba při automatizované kontrole kvality ve výrobě, například v automobilkách. I když je objem takto využívaných kamer zatím menší než v tradičním bezpečnostním sektoru, roste s digitalizací a robotizací průmyslu. V maloobchodu zase kamery často plní hybridní roli – slouží nejen k ochraně proti krádežím, ale zároveň poskytují data pro provozní a marketingové účely. Umí anonymně sledovat, kolik zákazníků navštívilo prodejnu, jak se pohybovali po prodejní ploše nebo jak dlouhé byly fronty u pokladen.
Tento posun ukazuje, že kamery dnes nejsou jen bezpečnostní nástroje, ale stále častěji pomáhají zefektivnit provoz i v dalších odvětvích.
Čím je podle vás rostoucí oblíbenost kamerových a dalších sledovacích zařízení způsobena?
Dalibor Smažinka (Axis Communications): Když se podíváme na segment kritické infrastruktury, důvod pro modernizaci bezpečnostních technologií je zcela jasný – zhoršující se geopolitická situace. Státy vidí, nejen na příkladu ruské agrese na Ukrajině, že infrastruktura jako jsou elektrárny, vodárny, teplárny nebo komunikační sítě, je v případě konfliktu jedním z prvních cílů. Tyto objekty sice vždy měly nějakou fyzickou ochranu, ale ta často neodpovídá jejich významu pro chod státu. Technologie bývají zastaralé, neefektivní nebo vzájemně neintegrované, což zvyšuje nároky na jejich obsluhu i náklady. Navíc jsou často zaměřené pouze pasivně – zaznamenají událost nebo pachatele, ale nijak nebrání incidentu. Moderní technologie však nabízejí mnohem víc: aktivitu a prevenci místo pouhé pasivity.
Dalším faktorem je legislativa. Směrnice CER (Critical Entities Resilience), která se transponuje do nového zákona o kritické infrastruktuře, už teď motivuje organizace přemýšlet dopředu. I když se očekává, že zákon bude účinný zřejmě až v druhé polovině roku 2025, případně ještě o něco později, zodpovědné organizace už dnes modernizují své systémy. Technologie se totiž pořizují na dlouhou dobu, obvykle na 5 až 7 let. Podobně i směrnice NIS2 zaměřená na kybernetickou bezpečnost tlačí na obměnu technologií. Dnes je totiž všechno propojené. Kamery a další systémy jsou IT zařízení, která potřebují kybernetickou ochranu, a zároveň hrají klíčovou roli ve fyzickém zabezpečení, například při ochraně datacenter nebo prostorů se servery.
Zhoršující se bezpečnostní situace nutí k modernizaci i další organizace jako je armáda, zpravodajské služby nebo Policie ČR. Jedním z mement je incident ve Vrběticích, který ukázal, že ani na našem území není nemožné, aby cizí silové složky provedly fyzický útok na subjekt kritické infrastruktury. To jasně potvrzuje, že je nezbytné tyto objekty zodolnit všemi dostupnými technickými a organizačními opatřeními, včetně pokročilých technologií.
A co kamerové systémy v rezidenčním sektoru?
Dalibor Smažinka (Axis Communications): Kamerové systémy si laická veřejnost nejčastěji spojuje s rezidenčním sektorem, tedy s kamerami v bytových a rodinných domech. To je pochopitelné, lidé je mají na dosah a snadno si je dokážou představit. Ve skutečnosti je ale rezidenční sektor spíš okrajový a v mnoha ohledech se vymyká ostatním oblastem. Paradoxní je, že právě tady vznikají největší problémy s ochranou soukromí.
Hlavní potíž je v tom, že správci a provozovatelé těchto systémů, jako jsou jednotlivci, bytová družstva nebo SVJ, jsou často laici. Chybí jim odborné znalosti, aby kamerový systém správně nastavili, ať už z pohledu ochrany soukromí nebo kybernetické bezpečnosti. To pak vede k problémům, jako jsou sousedské spory, které se přes kamery řeší, místo aby sloužily ke své skutečné ochranářské funkci. Podle Úřadu pro ochranu osobních údajů právě rezidenční sektor generuje nejvíc podnětů ke kontrole. Ve většině případů ale nejde o zásadní porušení pravidel, spíš o sousedské naschvály, kdy se kamery stávají nástrojem osobních konfliktů.
Je to škoda, protože takové situace vrhají špatné světlo i na profesionální kamerové systémy, které mají prokazatelný přínos při ochraně životů, zdraví, majetku a veřejného pořádku. Trend v rezidenčním sektoru osobně příliš nesleduji, ale odhaduji, že počet těchto kamer bude nadále mírně růst. S tím by ale mělo jít ruku v ruce i lepší povědomí o tom, jak tyto systémy správně nastavit a provozovat. To by mohlo zmírnit problémy a zvýšit jejich skutečný přínos.
Když se hovoří o kybernetické bezpečnosti, třeba v souvislosti se směrnicí NIS2 či nařízením DORA, obvykle se mluví o zabezpečení dat online, řízení přístupů, hackerských útocích nebo o riziku subdodavatelů. O fyzické ochraně prostor se hovoří už méně, přitom je to nedílnou součástí celkové bezpečnostní politiky každé organizace, bez ohledu na to, jestli je regulována nebo ne. Narážíte na to také někdy v praxi, kladou někteří klienti větší pozornost na bezpečnost řekněme v online světě a tu fyzickou třeba i lehce podceňují?
Dalibor Smažinka (Axis Communications): Máte pravdu, že kybernetická bezpečnost je dnes často skloňovaná, hlavně kvůli regulacím jako je směrnice NIS2 nebo nařízení DORA. A je pravda, že tato oblast zahrnuje i bezpečnostní technologie, protože dnes už prakticky všechna zařízení, která se instalují, jsou digitální. Jsou to IT prvky, které potřebují kybernetickou ochranu, stejně jako třeba servery nebo síťové prvky.
Ale nesouhlasím s tím, že by se o fyzické ochraně mluvilo méně. Možná to tak působí, pokud se víc pohybujete v oblasti informační bezpečnosti a ochrany soukromí, kde má kybernetika logicky větší prostor. O potřebě fyzické bezpečnosti se ale mluví také hodně – a v poslední době ještě víc.
Já osobně jsem začínal v kybernetické bezpečnosti, kde jsem byl aktivní před zhruba 20 lety, ale postupně jsem přešel k fyzické bezpečnosti a už jsem u ní zůstal. Proto jsem rád, že se kybernetika stále víc propojuje i s fyzickými systémy. Ještě donedávna byla fyzická bezpečnost čistě analogová, digitalizace je v tomto oboru poměrně nová. Setkávám se ale občas s názorem „starých bezpečáků“, že kybernetika se fyzických systémů netýká. To už dnes rozhodně neplatí.
Podobně jako NIS2 nastavuje pravidla pro kybernetickou bezpečnost, je tu již zmiňovaná směrnice CER, která se zaměřuje na fyzickou ochranu kritických subjektů. Jejím cílem je posílit jejich odolnost vůči hrozbám, fyzickým, digitálním nebo datovým. Směrnice CER se soustředí na klíčové oblasti, jako je energetika, doprava nebo zdravotnictví, a zároveň zahrnuje aspekty kybernetické bezpečnosti i ochrany soukromí. Myslím, že právě tento integrovaný přístup je na těchto nových pravidlech to nejpozitivnější.
Měl byste po ruce nějaký příběh, kdy podcenění fyzické bezpečnosti mělo bezprostřední negativní dopad na celkový systém ochrany informací či fungování organizace jako takové?
Dalibor Smažinka (Axis Communications): Takových případů je bohužel hodně, ale otevřeně o nich mluvit je často nemožné, a to z několika důvodů. Zaprvé, prokázat přímou souvislost mezi technickým selháním fyzického zabezpečení a porušením GDPR je velmi složité. Vyžaduje to detailní analýzu, která často není veřejně dostupná. Zadruhé, mnoho těchto případů se řeší neveřejně, ať už před soudy nebo regulačními orgány. A zatřetí, technické detaily o konkrétních slabinách nebo chybách bývají pro veřejnost obtížně srozumitelné a nezřídka zůstávají utajené, aby nedošlo k dalšímu ohrožení.
Existují i veřejně známé případy, kdy nedostatečné fyzické zabezpečení vedlo k úniku osobních dat. Například v roce 2014 došlo k úniku osobních údajů zákazníků společnosti T-Mobile, což vedlo k pokutě 3,6 milionu Kč a poškození reputace firmy. Podobně v roce 2022 zpřístupnil špatně nastavený server Azure Blob citlivá data tisíců firem a institucí, včetně českých ministerstev. Tyto případy ukazují, že podcenění fyzické bezpečnosti může mít vážné důsledky pro ochranu osobních údajů.
Jedním z problémů, které v tomto kontextu stále častěji vidíme, jsou útoky ransomwarem. Škodlivý kód se může do sítě uživatele dostat například přes špatně zabezpečený kamerový systém nebo server, na kterém běží video management software. Útočníci poté zašifrují uložená data, včetně osobních údajů a kamerových záznamů. Osobně znám několik takových případů, kdy firmy musely čelit značným problémům. Jeden z těchto útoků se stal zrovna nedávno, firmě byly zašifrovány všechny klíčové systémy včetně kamerového systému. Náklady na obnovení dat a zprovoznění systémů byly násobně vyšší než preventivní investice do správné kybernetické a fyzické ochrany.
Tyto případy ukazují, že fyzická bezpečnost musí být nedílnou součástí celkové strategie ochrany dat. Nestačí mít špičkové kybernetické zabezpečení, pokud je například serverovna přístupná přes zámek, který lze snadno překonat. Bezpečnost je vždy otázkou propojení technologií, procesů a odpovědného přístupu. Právě tento holistický přístup dokáže organizace ochránit před riziky a zároveň zvýšit důvěru jejich zákazníků.
Vaše společnost nabízí rovněž inteligentní kamerové systémy. Co si pod tím pojmem představit?
Dalibor Smažinka (Axis Communications): Inteligentní kamerové systémy znamenají zásadní posun v tom, co mohou kamerové technologie nabídnout. Už nejde jen o pasivní zaznamenávání obrazu, který se následně používá jako důkaz nebo podklad pro vyšetřování. Tyto systémy dokážou převést význam kamer z reaktivní funkce směrem k prevenci. Cílem je, aby k nechtěným událostem vůbec nedošlo, nebo aby byly jejich dopady minimalizovány rychlou a přesnou reakcí.
Dnešní technologie umožňují například detekovat vstup do určené zóny, analyzovat dopravu, klasifikovat objekty nebo identifikovat nebezpečné zvuky, jako je rozbití skla – a to všechno v reálném čase. Inteligence, která dříve byla součástí centrálních počítačů a video management softwaru, se díky růstu výpočetního výkonu přesouvá přímo do kamer. To přináší řadu výhod, jako je rychlejší analýza v reálném čase nebo menší nároky na přenos dat. Navíc to snižuje zpracování osobních údajů, protože analýza obrazu probíhá přímo v kameře a ven se dostávají jen anonymizovaná data v souladu s principy „privacy by design“.
Další velkou výhodou je, že moderní kamery dokážou dynamicky anonymizovat osoby v reálném čase, například rozmazáním obličeje, celé osoby nebo zamaskováním určité zóny v obraze, i když je kamera otočná. Pokud někdo požádá o anonymizaci své osoby v záznamu, tyto pokročilé systémy to umožňují udělat během pár minut, což bylo dříve prakticky nemožné. Tyto funkce ale nabízí jen ti technicky nejvyspělejší a zároveň nejzodpovědnější výrobci, kteří chápou důležitost ochrany soukromí, i za cenu vyšších nákladů.
Bohužel se s inteligentními kamerami pojí i negativní konotace, například zneužití analýzy obrazu pro diskriminační účely, jako je sledování Ujgurů v Číně. To ukazuje, že každá technologie může být zneužita. Přesto je míra pozitivního využití těchto systémů jednoznačně vyšší. Právě proto potřebujeme jasná pravidla a regulace, jako je AI Act v EU, který stanoví etické a bezpečné využívání AI technologií.
Axis Communications je v tomto směru jedním z průkopníků. Nejenže dodržuje pravidla, ale pomáhá je aktivně nastavovat a integruje ochranu soukromí přímo do svých produktů. Inteligentní kamerové systémy tak nejsou jen nástrojem pro vyšší fyzickou bezpečnost, ale také přispívají k lepší rovnováze mezi bezpečností a soukromím. A o to by mělo jít především.
Jaké má tato technologie využití v praxi a kde je podle vás další prostor, kde by se mohla prosadit a šetřit čas i náklady?
Dalibor Smažinka (Axis Communications): Kamery se stále častěji uplatňují i v non-security oblastech, například v průmyslu nebo maloobchodě.
V těchto případech fungují kamery spíš jako vizuální senzory. Neslouží ke sledování nahraného obrazu, ale poskytují data pro řízení, automatizaci nebo optimalizaci různých procesů. Díky tomu se jejich povaha zásadně mění. Místo pasivního monitorování dokážou přímo ovlivnit efektivitu a kvalitu výroby. Z pohledu ochrany soukromí se většinou ani nejedná o zpracování osobních údajů, což minimalizuje riziko jejich zneužití.
V průmyslové výrobě například kamery v reálném čase detekují vady na produktech nebo odchylky ve výrobních procesech. To zrychluje kontrolu kvality a snižuje riziko chyb. V maloobchodě zase anonymně sledují pohyb zboží a zákazníků, což pomáhá optimalizovat skladové zásoby nebo uspořádání prodejen. Výsledkem je vyšší efektivita a lepší zážitek pro zákazníky.
Další zajímavou oblastí je logistika. Kamery tady pomáhají optimalizovat nakládku a vykládku zboží, sledují tok materiálů, identifikují zdržení nebo chyby a přispívají k plynulejšímu chodu celého procesu.
Ve zdravotnictví zase mohou kamery monitorovat pacienty na dálku pomocí termálních technologií. Umí třeba upozornit na neobvyklé situace, jako je pád pacienta, a přitom respektují jeho soukromí, protože nezpracovávají detailní obrazové informace díky využití anonymizace obrazu osoby přímo v kameře nebo termální technologie.
Opravdu lze v při nasazení inteligentních kamerových systémů zajistit dostatečnou ochranu práv lidí, kteří kamerami budou sledováni, a soulad s GDPR či zákoníkem práce v případě zaměstnanců? Máme se vašich kamer bát?
Dalibor Smažinka (Axis Communications): Moderní a zodpovědný přístup správců a zpracovatelů osobních údajů může zajistit dostatečnou ochranu práv sledovaných osob a zároveň splnit regulatorní požadavky. Bohužel jsme zatím spíš na začátku cesty. Technologie některých odpovědných výrobců to dnes už umožňují, ale bude potřeba ještě hodně osvěty a času, než se tyto přístupy stanou standardem.
Jak jsem už zmínil, inteligence v kamerách některých zodpovědných výrobců dnes v mnoha případech slouží právě ochraně soukromí. Velkým posunem je například to, že analýza obrazu a extrakce dat se přesouvá ze vzdálených serverů přímo do kamer. Tím se minimalizuje přenos obrazu po síti, což snižuje riziko, že by se osobní data mohla dostat do nepovolaných rukou. Pro účely fyzické bezpečnosti navíc nejčastěji stačí informace typu „někdo nebo něco je tam, kde by nemělo být“. V těchto případech jde o přehled a detekci, ne o identifikaci.
Aplikace přímo v kameře může například poslat informaci o události nebo alarm na potřebná místa, aniž by bylo nutné přenášet obraz pro živý náhled. Obraz se pak může paralelně ukládat na zabezpečené úložiště jen pro případnou pozdější analýzu nebo jako důkaz. Pokud se ale žádná relevantní událost nestane, obraz nemusí nikdy nikdo vidět. Tento přístup výrazně omezuje objem zpracovávaných osobních údajů, což je důležité pro ochranu soukromí.
Dnes se významná část kamerových systémů, včetně těch starších, „hloupých“, používá způsobem, který z pohledu ochrany soukromí není ideální. Dobrá zpráva je, že to do budoucna můžeme změnit. K tomu je ale potřeba zodpovědný přístup, větší povědomí o požadavcích GDPR a vývoj technologií v souladu s principy „privacy by design“ a „privacy by default“.
Myslíte, že se v dohledné době přesuneme od "hloupých" kamer k těm chytrým?
Dalibor Smažinka (Axis Communications): Osobně doufám a věřím, že tento vývoj bude podobný tomu, co jsme viděli historicky například v automobilovém průmyslu. Od vynálezu automobilu až do šedesátých let 20. století rostl počet dopravních nehod a smrtelných obětí. V sedmdesátých letech to kulminovalo a automobilový průmysl se poučil. Začaly se masivně nasazovat bezpečnostní prvky, jako jsou pásy, deformační zóny nebo airbagy a zpřísnila se regulace formou dopravních předpisů. Přesto, že je dnes mnohem více vozidel a jezdí rychleji, klesly postupně počty obětí nehod na zhruba pětinu.
Digitální technologie, včetně kamerových systémů a AI, jsou v mnoha ohledech stále novinkou. V analogii s vývojem automobilismu jsme někde v 40. nebo 50. letech minulého století. Bude potřeba ještě nějaký čas, než rizika spojená s jejich používáním dosáhnou vrcholu, a pak, doufejme, začneme ve větší míře používat pravidla a standardy, které tyto technologie „zkrotí“, pomohou je udělat bezpečnější z pohledu ochrany soukromí a dostanou do rovnováhy s ostatními potřebami.
Takže odpověď na otázku „Máme se kamer bát?“ zní: ne, pokud budeme s technologiemi zacházet zodpovědně a nastavíme jasná pravidla pro jejich používání.
Řeší vaši klienti tyto otázky často, vyžadují například dodatečné záruky či opatření proto, aby minimalizovali zásah do práv osob ve sledovaných prostorech? Nebo je primárně zajímá ten bezpečnostní a provozní aspekt?
Dalibor Smažinka (Axis Communications): Záleží na tom, se kterým oddělením u našich klientů jednáme. Jejich priority se totiž liší. Klasičtí pracovníci fyzické bezpečnosti se obvykle ochranou soukromí primárně nezabývají. Jejich hlavním úkolem je fyzická ochrana, která zahrnuje ochranu lidí, majetku a zdraví před fyzickými hrozbami, jako jsou krádeže, vandalismus, neoprávněný přístup nebo přírodní katastrofy. Cílem je minimalizovat rizika spojená s těmito hrozbami a zajistit nepřetržitý provoz organizace i bezpečnost osob.
Jako zodpovědní výrobci se však snažíme přistupovat k bezpečnosti holisticky a vnímat ji v celé šíři. Proto se s klienty snažíme navázat dialog i s pověřenci pro ochranu osobních údajů, pracovníky IT a kybernetické bezpečnosti. Tento přístup přináší klientům v naprosté většině případů významné výhody, protože pomáháme jednotlivým oddělením pochopit, že jejich cíle nemusí být nutně protichůdné. Naopak technologie inovativních a odpovědných výrobců umožňují nalézt rovnováhu mezi třemi vrstvami bezpečnosti – fyzickou, informační a kybernetickou – aniž by byly tyto přístupy v opozici.
V mnoha organizacích a firmách jsou ale tyto tři oblasti bezpečnosti stále řešeny odděleně. V angličtině se tento jev trefně označuje jako „working in silos“. Oddělení odpovědná za jednotlivé vrstvy bezpečnosti často nekomunikují a posuzují rizika izolovaně, což vede k návrhům řešení, která se mohou vzájemně vylučovat. Tento stav má historické kořeny, protože jednotlivé oblasti bezpečnosti byly dlouho zcela oddělené. Dnes, kdy hrozby nabývají hybridní povahy, je však třeba přistupovat k bezpečnosti rovněž hybridně, nebo lépe řečeno holisticky. Bohužel mnoho organizací, především ve veřejné správě, na tento přístup není mentálně ani organizačně připraveno a aktivně se mu brání ve stylu: „Takhle jsme to dělali vždycky, tak co bychom to měnili“.
Přitom legislativa už tuto potřebu reflektuje. Směrnice CER a připravovaný zákon o kritické infrastruktuře obsahují požadavky na kybernetickou ochranu i ochranu soukromí. Směrnice NIS2 a z ní připravovaný zákon o kybernetické bezpečnosti zahrnuje paragrafy o fyzické bezpečnosti i ochraně soukromí. GDPR sice přímo neřeší fyzickou bezpečnost, ale například v ČR metodika ÚOOÚ pro navrhování a provoz kamerových systémů zahrnuje technická a organizační opatření spadající do oblasti fyzické i kybernetické bezpečnosti.
Naší snahou je proto osvěta a snaha změnit nastavení mysli a probourat stěny dělící jednotlivá oddělení. Pomáháme klientům tyto vrstvy bezpečnosti propojit, což zvyšuje efektivitu jejich bezpečnosti a ochrany a zároveň snižuje náklady. Toto snížení nákladů plyne z toho, že bezpečnostní analýzy začnou provádět souhrnně pro všechny tři oblasti a podle toho nastaví i technická a organizační opatření. Technologie to umožňují, legislativa k tomu nabádá, ale reálná praxe v organizacích je mnohdy stále pozadu.
Nabízíte nějaké standardizované opatření, postupy či dokumenty, které vašim klientům usnadní nastavit inteligentní kamerové systémy způsobem, který je v souladu s GDPR?
Dalibor Smažinka (Axis Communications): Ano, nabízíme celou řadu řešení, nástrojů a postupů, které pomáhají našim klientům splnit požadavky GDPR při provozu inteligentních kamerových systémů. Základem je podpora principů „Privacy by Design“ a „Privacy by Default“. Tyto zásady jsou součástí návrhu našich produktů, jako jsou kamery, přístupové systémy nebo radary, které jsou vybaveny funkcemi pro ochranu soukromí už od základu. Toto je první vrstva, která klientům usnadňuje dosažení souladu s GDPR.
Další důležitou podporou je dokumentace, konkrétně „Hardening Guide", která slouží jako průvodce pro bezpečné nastavení našich systémů. Tento dokument zahrnuje doporučení pro konfiguraci, která zohledňují měnící se bezpečnostní hrozby a pomáhají chránit zařízení nejen před fyzickými hrozbami, vandalismem nebo neoprávněným přístupem, ale také před kybernetickými útoky. Průvodce se navíc zaměřuje i na ochranu soukromí a nabízí konkrétní postupy, jak minimalizovat zpracování osobních údajů a posílit celkový soulad s GDPR.
Mezi klíčová doporučení patří omezení sběru dat pouze na nezbytně nutné oblasti, například pomocí statického a dynamického maskování soukromí. Statické maskování umožňuje trvalé skrytí citlivých oblastí na záznamech i v živém přenosu, zatímco dynamické maskování, například prostřednictvím aplikace v kamerách AXIS Live Privacy Shield, anonymizuje pohybující se osoby a další citlivé prvky v reálném čase. To umožňuje sledovat aktivity bez shromažďování identifikovatelných údajů. K dispozici je také možnost následné anonymizace videonahrávek, která usnadňuje sdílení záznamů s třetími stranami, například policií, při zachování práv ostatních osob.
Pro citlivé prostředí nabízíme technologie, jako jsou termální kamery nebo radary, které snímají pouze tvary a pohyby bez detailů umožňujících identifikaci osob. Tyto technologie jsou ideální pro nemocnice, průmyslové areály nebo jiná prostředí, kde je ochrana soukromí klíčová.
Kromě těchto funkcí poskytujeme podrobnou dokumentaci a školení, která zahrnují osvědčené postupy a návody na konfiguraci systémů. Nástroje jako AXIS Camera Station navíc zahrnují vestavěné možnosti správy soukromí a ochrany dat. Naše řešení jsou navržena tak, aby nejen splňovala legislativní požadavky, ale zároveň nastavovala vysoký standard v oblasti ochrany soukromí a kybernetické bezpečnosti.
Zabýváte se i Aktem o umělé inteligenci (AI Act), který bude postupně nabývat účinnosti od února roku 2025? Myslíte, že kvůli němu budete muset svoje produkty a jejich fungování nějakým způsobem měnit?
Dalibor Smažinka (Axis Communications): Ano, Aktem o umělé inteligenci se zabýváme jako výrobce, a zároveň toto téma sleduji z pohledu fyzické bezpečnosti v ČR. Nařízení, které vstoupilo v platnost letos v srpnu, jsem si podrobně prostudoval a snažím se na toto téma dělat osvětu mezi našimi klienty. AI Act představuje právní rámec, který má zajistit bezpečné a etické využívání umělé inteligence v EU. Klade důraz na ochranu základních práv, prevenci diskriminace a zajištění transparentnosti. Nařízení se týká nejen výrobců AI systémů, kteří musí splnit požadavky na kvalitu, bezpečnost a transparentnost, ale také jejich uživatelů, kteří odpovídají za správnou implementaci a využití těchto technologií
AI Act rozděluje AI systémy do kategorií podle rizika. Systémy s nepřijatelným rizikem, jako je biometrická identifikace v reálném čase na veřejnosti nebo sociální scoring, jsou zcela zakázané. Systémy s vysokým rizikem, například biometrická identifikace mimo reálný čas nebo AI používané v kritických odvětvích, jako je zdravotnictví nebo doprava, podléhají přísné regulaci. Na druhé straně systémy s nízkým a minimálním rizikem, jako jsou virtuální asistenti nebo doporučovací algoritmy, jsou regulovány méně přísně.
Pro Axis, který nevyrábí software pro biometrickou identifikaci (například rozpoznávání obličejů), AI Act nepřináší zásadní změny. I tak ale dbáme na to, aby naše produkty s AI funkcemi splňovaly určité klíčové standardy. Například musí být možné AI funkce deaktivovat, aby si uživatelé mohli technologie přizpůsobit svým potřebám nebo legislativním požadavkům. Důraz klademe i na anonymizaci a minimalizaci zpracování osobních údajů. Transparentnost je také zásadní – uživatelé musí být jasně informováni, pokud systém využívá AI, například k analýze nebo rozpoznávání situací.
Je třeba říci, že současné bezpečnostní technologie většinou nepoužívají generativní AI nebo jazykové modely, které jsou nyní v centru pozornosti. Spíše pracují s algoritmy strojového učení, což obavy ze zneužití snižuje. Přesto je AI Act relativně novou oblastí a některé detaily implementace budou vyjasněny až v dalších letech.
Ve společnosti Axis se touto problematikou zabýváme intenzivně už teď. Naším cílem není jen splnit legislativní požadavky, ale také nastavovat nové standardy pro bezpečné, etické a transparentní využívání AI technologií, které podporují důvěru veřejnosti.
Jakou roli vůbec v oblasti fyzické či provozní bezpečnosti bude hrát umělá inteligence v budoucnosti?
Dalibor Smažinka (Axis Communications): Určitě nějakou roli hrát bude, ale dnes je ještě brzy přesně odhadovat, jak velkou a v jakých konkrétních oblastech. Při současné rychlosti technologického vývoje se můžeme dočkat inovací, které si zatím ani neumíme představit. Právě proto je důležité, aby výrobci a vývojáři postupovali opatrně a zodpovědně, aby nové technologie skutečně sloužily k ochraně lidí, majetku a dat, a ne k jejich ohrožení.
Umělá inteligence už dnes přináší pokročilé možnosti, jako je analýza obrazu nebo automatizace určitých procesů. V budoucnu se pravděpodobně dočkáme ještě dalších aplikací. Zároveň bude ale klíčové, aby konečné rozhodování o zásadních otázkách, jako je reakce na krizové situace nebo hodnocení bezpečnostních rizik, zůstalo v rukou lidí, nikoli strojů. AI by měla sloužit jako nástroj, který lidem poskytne lepší informace a usnadní rozhodování, ale neměla by je plně nahradit.
Důležité je také zohlednit etické otázky a potenciální rizika spojená s nasazením AI. Klíčem je transparentnost a respekt k lidským právům. Důvěra v nové technologie může vzniknout pouze tehdy, když víme, že jsou používány zodpovědně a s respektem k našim hodnotám. AI v bezpečnosti má obrovský potenciál, ale lidský faktor musí vždy zůstat rozhodujícím prvkem.
Doufám a věřím, že společnost bude v této oblasti postupovat uvážlivě a že implementace AI bude zaměřena nejen na přínosy, ale také na minimalizaci rizik. Jen tak bude možné plně využít potenciál umělé inteligence, aniž bychom ohrozili to nejcennější – důvěru lidí v technologie a jejich etické využívání.
Dalibor Smažinka je odborníkem v oblasti fyzické bezpečnosti, kybernetické ochrany a ochrany osobních údajů s více než 18 lety zkušeností v oboru bezpečnostních technologií. Specializuje se na kamerové a přístupové systémy a jejich integraci do komplexních bezpečnostních řešení. Jako Ph.D. student v oboru bezpečnostního inženýrství se věnuje tématům využití inteligentních technologií pro zajištění bezpečnosti v městském prostředí. Kromě toho aktivně působí jako konzultant a lektor, přičemž se zaměřuje na problematiku souvislostí CER, NIS2, GDPR a dalších regulací ovlivňujících bezpečnostní technologie.
Axis Communications je světovým lídrem v oblasti síťových video řešení a pionýrem v oblasti IP kamer. Společnost nabízí široké portfolio produktů a služeb zaměřených na bezpečnost, dohled a analýzu dat, včetně kamerových systémů, přístupových technologií, audio systémů a analytických nástrojů založených na umělé inteligenci. Axis klade důraz na inovace, udržitelnost a odpovědné využívání technologií v souladu s principy „Privacy by Design“ a „Privacy by Default“. Jako součást skupiny Canon se Axis zaměřuje na řešení, která pomáhají organizacím po celém světě zajišťovat bezpečnost a ochranu dat v souladu s moderní legislativou, jako jsou GDPR nebo AI Act.
