GDPR je účinné již pět let. Přineslo do vztahů mezi správci, zpracovateli, subjekty osobních údajů a dozorovými orgány nové povinnosti a práva.
Tématu se dnes věnovala Lucie Korbeliusová ze spotřebitelské organizace dTest s tím, že s nástupem generativní umělé inteligence se však otevírají další otázky, na které musí provozovatelé systémů umělé inteligence řádně odpovědět. Evropský parlament v současnosti projednává návrh aktu o umělé inteligenci, který by měl tyto otázky pomoci řešit.
„Před rokem se dTest ve vztahu k ochraně osobních údajů zabýval rozhodnutím Evropského soudního dvora, kterým bylo spotřebitelským organizacím umožněno podávat zástupné žaloby i ve věcech týkajících se ochrany osobních údajů spotřebitelů,“ uvádí Petr Šmelhaus, vedoucí právního oddělení spotřebitelské organizace dTest a dodává: „Bohužel, za rok jsme se u hromadných žalob posunuli spíše k horšímu, protože rizika pro spotřebitelské organizace spojená s těmito řízeními, pokud systém hromadného řízení projde legislativním procesem tak jak je navrhován, budou fungovat jako obrovská překážka podání jakékoliv hromadné žaloby.“ Hrozí tak situace, že do českého právního řádu přibude předem nefunkční systém hromadného řízení, který ani v oblasti ochrany osobních údajů spotřebitelům nic nepřinese.
dTest se dlouhodobě snaží o posílení práv spotřebitelských organizací při ochraně osobních údajů spotřebitelů. „Spotřebitel často stojí sám proti obrovským nadnárodním korporacím a jejich technicky i právně složitým výrobkům a službám,“ vysvětluje Petr Šmelhaus a pokračuje: „Mezi odbornou veřejností je dobře známa stížnost dTestu na společnost Google ve věci zneužívání lokalizačních údajů fyzické osoby ze strany této společnosti. Ani čtyři a půl roku od podání stížnosti nemáme v rukou rozhodnutí irského dozorového orgánu ve věci této stížnosti.“ Prokazuje se tím, že vymahatelnost práv spotřebitelů, nejenom v oblasti ochrany osobních údajů, je velmi komplikovaná.
V současné době je velkým tématem nástup generativní umělé inteligence, zejména z hlediska možné manipulace se zdrojovými daty, které systémy umělé inteligence používají, dále v oblastech ochrany osobních údajů a autorských práv. Demokratické společnosti mohou být umělou inteligencí ovlivňovány v řadě oblastí při rozhodování osob, podnikatelů i veřejných institucí.
Veřejná diskuse o regulaci umělé inteligence tak pozměnila i debatu o Aktu o umělé inteligenci, který je aktuálně projednáván v Evropském parlamentu. Výbor pro občanské svobody (LIBE) a Výbor pro vnitřní trh a ochranu spotřebitelů (IMCO) Evropského parlamentu v oblasti ochrany osobních údajů například navrhují:
– Zcela zakázat biometrickou identifikaci na dálku, jako je rozpoznávání obličeje, ve veřejně přístupných prostorách.
– Zakázat sociální scoring, pokud je používán soukromými subjekty, což znamená, že systém umělé inteligence nesmí vyhodnocovat důvěryhodnost jednotlivce na základě sociálního chování nebo preferencí, emocí, zdraví nebo inteligence.
– Stanovit vývojářům umělé inteligence povinnost identifikovat, snížit a zmírnit rizika pro zdraví, bezpečnost a základní práva před uvedením systému umělé inteligence.
Umělá inteligence obrací pracovní trh naruby. Některé profese se úplně změní
„Máme stále výhrady k vymáhání práv spotřebitelů podle GDPR,“ konstatuje Petr Šmelhaus a uzavírá: „Ale je nesporné, že po pěti letech účinnosti můžeme GDPR hodnotit pozitivně, protože je robustním nástrojem chránícím spotřebitele. Očekáváme totéž od Aktu o umělé inteligenci a v dTestu si zejména přejeme, aby v debatě o hromadných žalobách, které jsou potřebné pro zajištění vymahatelnosti práv spotřebitelů, vzali i naši zákonodárci tato práva vážně.“
