Artificial intelligence in the exercise of public authority and the democratic accountability of the administrative body. Between legality, human oversight and judicial review
DOI:
https://doi.org/10.61823/dpia.2026.2.574Keywords:
artificial intelligence, public authority, democratic accountability, human oversight, judicial reviewAbstract
The article analyses the democratic accountability of the use of artificial intelligence in the exercise of public authority. Its point of departure is not the full automation of administrative decisions, but less visible situations in which an AI system affects the analysis of case materials, case classification, the drafting of decisions, statements of reasons, or public communications. The main argument is that democratic accountability is broader than ordinary legal accountability, because it includes preserving the link between the exercise of public powers and the democratically legitimised authority, ensuring genuine human oversight, enabling an explanation of the system’s role in the case, and securing effective administrative and judicial review. The article distinguishes the obligations of providers and deployers under the AI Act and argues that the decision trace is only one documentary instrument within a broader standard. The analysis is doctrinal and is based on the Polish Constitution, the Code of Administrative Procedure, the Law on Proceedings before Administrative Courts, the GDPR, and the AI Act.
References
Adamiak B., Borkowski J., Kodeks postępowania administracyjnego. Komentarz, Warszawa 2024.
Bidziński M., Chmaj M., Szustakiewicz P., Ustawa o dostępie do informacji publicznej. Komentarz, Warszawa 2023.
Blicharz J., Inteligentne miasta i sztuczna inteligencja. Wybrane aspekty teoretycznoprawne, Wrocław 2023.
Blicharz J., Zautomatyzowane podejmowanie decyzji oparte na technologii algorytmicznej: kilka refleksji na temat prawa do wyjaśnienia w kontekście RODO, [w:] Stosowanie prawa administracyjnego. Księga jubileuszowa Profesora Andrzeja Matana, red. G. Łaszczyca, Warszawa 2024.
Bovens M., Analysing and Assessing Accountability: A Conceptual Framework, „European Law Journal” 2007, vol. 13, nr 4.
Bovens M., Two Concepts of Accountability: Accountability as a Virtue and as a Mechanism, „West European Politics” 2010, vol. 33, nr 5.
Coglianese C., Lehr D., Regulating by Robot: Administrative Decision Making in the Machine-Learning Era, „Georgetown Law Journal” 2017, vol. 105.
Edwards L., Veale M., Slave to the Algorithm? Why a Right to an Explanation Is Probably Not the Remedy You Are Looking For, “Duke Law and Technology Review” 2017, vol. 16.
Florczak-Wątor M., [w:] Konstytucja RP, t. 1: Komentarz, red. M. Safjan, L. Bosek, Art. 1-86, Warszawa 2016.
Konstytucja Rzeczypospolitej Polskiej. Komentarz, t. 1, red. L. Garlicki, M. Zubik, Warszawa 2016.
Geburczyk F., Automatyzacja załatwiania spraw w administracji samorządowej a gwarancje procesowe jednostek. Uwagi de lege ferenda w kontekście ogólnego rozporządzenia o ochronie danych (RODO), „Samorząd Terytorialny” 2021, nr 5.
Graux H. et al., Interplay between the AI Act and the EU digital legislative framework, European Parliament, PE 778.575, 2025.
Gudowska-Natanek E., Kuca G., Ustawa o dostępie do informacji publicznej. Komentarz, Warszawa 2024.
Jaśkowska M., Kabat A., [w:] Prawo o postępowaniu przed sądami administracyjnymi. Komentarz, red. R. Hauser, M. Wierzbowski, Warszawa 2024.
Kupiec M., Uzasadnienie decyzji administracyjnej wydanej za pomocą systemu sztucznej inteligencji w świetle realizacji zasady budowania zaufania do władzy publicznej, „Dyskurs Prawniczy i Administracyjny” 2025, nr 1.
Mulgan R., Holding Power to Account. Accountability in Modern Democracies, Basingstoke 2003.
Sawicki J., The Role of Decision-Making Algorithms in Public Administration - Legal and Ethical Challenges, „Zeszyt Prawniczy UAM” 2025, nr 15.
Schillemans T., Moving Beyond the Clash of Interests: On Stewardship Theory and the Relationships Between Central Government Departments and Public Agencies, „Public Management Review” 2013, vol. 15, nr 4.
Sibiga G., Problem fikcji czynnika ludzkiego w rozstrzygnięciach podejmowanych automatycznie na podstawie prawa administracyjnego, „Dyskurs Prawniczy i Administracyjny” 2024, nr 3.
Sibiga G., Wiewiórowski W., Automatyzacja rozstrzygnięć i innych czynności w sprawach indywidualnych załatwianych przez organ administracji publicznej, [w:] Informatyzacja postępowania sądowego i administracji publicznej, red. J. Gołaczyński Warszawa 2010.
Szot A., Algorithm in the Structure of Administrative Decision-Making: A Model of Explainability and Burden of Proof for the Purposes of an Effective Remedy, „Studia Iuridica Lublinensia” 2025, vol. 34, nr 5.
Konstytucja Rzeczypospolitej Polskiej. Komentarz, red. P. Tuleja, Warszawa 2023.
Wachter S., Mittelstadt B., Floridi L., Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, „International Data Privacy Law” 2017, vol. 7, nr 2.
Konstytucja Rzeczypospolitej Polskiej z 2.04.1997 r., Dz.U. Nr 78, poz. 483 ze zm.
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2016/679 z 27.04.2016 r. w sprawie ochrony osób fizycznych w związku z przetwarzaniem danych osobowych i w sprawie swobodnego przepływu takich danych oraz uchylenia dyrektywy 95/46/WE, Dz.Urz. UE L 119.
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13.06.2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji, Dz.Urz. UE L 2024/1689.
Ustawa z 14.06.1960 r. – Kodeks postępowania administracyjnego, t.j. Dz.U. z 2025 r. poz. 1691.
Ustawa z 30.08.2002 r. – Prawo o postępowaniu przed sądami administracyjnymi, t.j. Dz.U. z 2024 r. poz. 935 ze zm.
Ustawa z 6.09.2001 r. o dostępie do informacji publicznej, t.j. Dz.U. z 2022 r. poz. 902.
Wyrok NSA z 19.04.2021 r., III OSK 836/21, OSP 2022, nr 1, poz. 9.
Wyrok NSA z 26.05.2022 r., III OSK 1189/21, ONSAiWSA 2022, nr 6, poz. 92.
Wyrok TK z 20.03.2006 r., K 17/05, OTK-A 2006, nr 3, poz. 30.
Wyrok TS z 7.12.2023 r., C-634/21, OQ przeciwko Land Hessen, ECLI:EU:C:2023:957.
Wyrok TS z 27.02.2025 r., C-203/22, CK przeciwko Dun & Bradstreet Austria GmbH i Magistrat der Stadt Wien, ECLI:EU:C:2025:117.
Downloads
Published
Issue
Section
License
Copyright (c) 2026 prof. UW dr hab. Ksenia Kakareko, prof. dr hab. Jacek Sobczak
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
