Shortcomings in the Exercise of Rights in Case of Use of Automated Decision-making
Czech original: Deficity uplatňování práv při využití automatizovaného rozhodování
The article analyzes both the normative and practical shortcomings in the protection of individu¬als when automated decision-making is used in EU law, focusing on Article 22 GDPR and Article 86 of the Artificial Intelligence Act. It examines the scope and limits of the rights to an explanation, human interven¬tion, expression of his/her points, and contesting a decision – not only on the basis of statutory provisions themselves, but also in the context of CJEU case law. The article addresses preparatory and auxiliary auto¬mated acts that effectively determine the final outcome without falling under a special-protection regime. It further criticizes the exclusion of legal persons from these rights despite the significant impacts of automated decision-making in areas such as creditworthiness assessment or market access, as well as the uncertainties related to the allocation of responsibilities between controllers and processors and to the categorization of AI systems. In conclusion, the article argues for a material, impact-based understanding of decisions subject to special protection and for strengthening the right to an explanation across AI system risk categories.
Czech original: Článek analyzuje normativní i praktické deficity ochrany osob při využívání automatizovaného rozhodování v právu EU ve vztahu k čl. 22 GDPR a čl. 86 aktu o umělé inteligenci. Článek rozebírá rozsah a limity práv na vysvětlení, lidský zásah, vyjádření názoru a napadení rozhodnutí nejen na základě samotných zákonných ustanovení, ale též v kontextu judikatury SDEU. Článek se zabývá přípravnými a podpůrnými automatizovanými akty, které fakticky determinují konečné rozhodnutí, aniž by spadaly pod režim zvláštní ochrany. Kriticky dále poukazuje na vyloučení právnických osob z těchto práv navzdory významným dopadům automatizovaného rozhodování v oblastech, jako je úvěruschopnost či přístup na trh, a na nejistoty spojené s rozdělením odpovědnosti mezi správcem a zpracovatelem i s kategorizací systémů umělé inteligence jako. Závěrem článek argumentuje pro materiální, na skutečných dopadech založené pojetí rozhodnutí podléhajících zvláštní ochraně a pro posílení práva na vysvětlení napříč rizikovými kategoriemi systémů umělé inteligence.