Judiciary, Artificial Intelligence and Human Rights

O artigo analisa os impactos da Inteligência Artificial (IA) na atividade judicial, examinando as oportunidades e os desafios críticos decorrentes do uso de sistemas algorítmicos nos processos de tomada de decisão. Após reconstruir as origens teóricas da justiça preditiva e as razões do crescente interesse por instrumentos capazes de reduzir a incerteza jurídica e a sobrecarga dos tribunais, o artigo explora os principais campos de aplicação da IA nos sistemas judiciais – desde a pesquisa de jurisprudência até os mecanismos de resolução alternativa de conflitos, desde a avaliação de riscos até a redação assistida de documentos –, ao mesmo tempo em que destaca as limitações estruturais dos algoritmos. Por meio da análise de casos exemplares, são evidenciados os riscos associados à opacidade dos modelos, aos vieses discriminatórios e à possível violação dos princípios do devido processo legal, da transparência e da igualdade de armas. O artigo enfatiza a necessidade de garantir a qualidade e a acessibilidade dos dados, a verificabilidade dos procedimentos decisórios e a preservação da independência do juiz, a fim de evitar formas de determinismo tecnológico e de conformismo jurisprudencial. A parte final examina o marco regulatório, em particular o papel do RGPD e as novas iniciativas regulatórias europeias, delineando perspetivas para uma governança responsável da IA que assegure o respeito aos direitos fundamentais e a coerência do sistema judicial.

The paper analyzes the impact of artificial intelligence (AI) on judicial activity, examining opportunities and critical issues arising from the use of algorithmic systems in decision-making processes. After reconstructing the theoretical origins of predictive justice and the reasons for the growing interest in tools capable of reducing legal uncertainty and the judicial backlog, the article explores the main applications of AI in judicial systems – from case law research to alternative dispute resolution, from risk assessment to assisted drafting of documents – while highlighting the structural limitations of algorithms. Through the analysis of emblematic cases, the risks associated with the opacity of the models, discriminatory biases and the possible compromise of the principles of due process, transparency and equality of arms are highlighted. The article argues for the need to ensure the quality and accessibility of data, the verifiability of decision-making procedures and the preservation of the autonomy of the judge, to avoid forms of technological determinism and jurisprudential conformism. The final part examines the regulatory framework, in particular the role of the GDPR and new European regulatory initiatives, outlining prospects for an AI-responsible government that ensures respect for fundamental rights and the coherence of the judicial system.

L’articolo analizza l’impatto dell’Intelligenza Artificiale (IA) sull’attività giudiziaria, esaminando le opportunità e le sfide critiche derivanti dall’uso di sistemi algoritmici nei processi decisionali. Dopo aver ricostruito le origini teoriche della giustizia predittiva e le ragioni del crescente interesse per strumenti capaci di ridurre l’incertezza giuridica e il sovraccarico dei tribunali, l’articolo esplora i principali ambiti di applicazione dell’IA nei sistemi giudiziari – dalla ricerca giurisprudenziale ai meccanismi di risoluzione alternativa delle controversie, dalla valutazione del rischio alla redazione assistita di documenti –, mettendo al contempo in evidenza i limiti strutturali degli algoritmi. Attraverso l’analisi di casi esemplari, vengono evidenziati i rischi associati all’opacità dei modelli, ai bias discriminatori e alla possibile violazione dei principi del giusto processo, della trasparenza e della parità delle armi. L’articolo sottolinea la necessità di garantire la qualità e l’accessibilità dei dati, la verificabilità delle procedure decisionali e la salvaguardia dell’indipendenza del giudice, al fine di evitare forme di determinismo tecnologico e di conformismo giurisprudenziale. La parte finale esamina il quadro regolatorio, in particolare il ruolo del RGPD e le nuove iniziative regolatorie europee, delineando prospettive per una governance responsabile dell’IA che assicuri il rispetto dei diritti fondamentali e la coerenza del sistema giudiziario.