Trabalho Final - Marta Rocha Palma

 Em que medida é que a utilização de algoritmos e inteligência artificial, na tomada de decisão administrativa, compromete a garantia dos atos administrativos? 

 

 

 

 

Marta Alexandra Rocha Palma (n.º 67800)

 

 

1. O que é a automatização da vontade administrativa? 

A automatização da vontade administrativa, apesar de não ter uma definição jurídica uniforme que permita estabelecer uma base sólida e comum de interpretação, pode assumir vários conceitos e surgir de diversas formas, dependendo do uso que se dá à expressão.

O Código do Procedimento Administrativo (CPA) comporta em si diversos preceitos legais que evidenciam um movimento claro no sentido da digitalização e automatização de fases específicas do procedimento administrativo, contribuindo, assim, para enquadramento desta realidade. O n.º 4 do artigo 62.º, o n.º 3 do artigo 106.º e a alínea c) do n.º 1 do artigo 112.º do CPA, por exemplo, não só autorizam o uso de sistemas tecnológicos na tramitação administrativa, mas também reconhecem que esses sistemas podem praticar atos jurídicos com eficácia, em determinadas situações. Embora ainda se trate de uma automatização parcial, que atua sobre elementos instrumentais do procedimento, abre-se caminho para decisões administrativas totalmente automatizadas, baseadas em critérios previamente definidos. 

Assim sendo, de forma geral, pode afirmar-se que a automatização da vontade administrativa corresponde à utilização de sistemas computacionais, com base em algoritmos ou inteligência artificial (IA), que têm como objetivo auxiliar ou, em alguns casos, substituir a atuação humana na tomada de decisões administrativas, dentro dos parâmetros previamente definidos pela ordem jurídica[1]. 

Esta realidade, em rápida expansão, representa uma mudança paradigmática na forma como o poder público exerce a sua função administrativa, uma vez que desloca o centro da decisão de um agente humano para um sistema técnico, por vezes com reduzida ou nula intervenção humana direta. 

O conceito que se depreende de automatização da vontade administrativa não se esgota na mera utilização da tecnologia para fins administrativos, visto que o mesmo implica uma mudança qualitativa na forma como a decisão administrativa é construída, pressupondo uma nova arquitetura decisória em que os algoritmos, muitas vezes criados por entidades privadas, desempenham um papel central na definição dos resultados. Esta realidade levanta desafios específicos quanto à imputação da vontade administrativa, à fundamentação dos atos, à garantia dos direitos dos particulares e à responsabilização da Administração. 

Neste sentido, a automatização da vontade administrativa representa um novo paradigma no funcionamento da Administração Pública, que exige uma reflexão crítica e interdisciplinar sobre o modo como o Direito pode e deve responder às exigências da modernidade digital, sem comprometer os princípios fundamentais do Estado de Direito democrático. A construção de um quadro normativo claro, que assegure a transparência, a legalidade, a imparcialidade e a proteção dos direitos dos administrados, revela-se não apenas desejável, mas absolutamente necessária. 

 

2. O direito à explicação: decisões exclusivamente automatizadas.

Com o surgimento e implementação de sistemas de decisões automatizadas, tornou-se necessário refletir sobre os direitos dos cidadãos perante atos que são produzidos, total ou maioritariamente, sem uma intervenção humana direta. Neste contexto, surge o direito à explicação, um conceito que, embora não esteja expressamente consagrado no texto do Regulamento Geral sobre a Proteção de Dados (RGPD), tem sido extraído dos seus artigos 13.º a 15.º e artigo 22.º, relacionado a um conceito mais lato de explicabilidade, como decorrência ou necessidade de transparência no uso de sistemas de IA. 

Por força do n.º 1 do artigo 22.º do RGPD, “o titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar”. Este direito é mitigado no n.º 2 e 3 do artigo em questão, que admitem exceções, nomeadamente quando a decisão for autorizada por lei, necessária para a execução de um contrato, ou baseada no consentimento explícito do titular. Ainda assim, mesmo nestes casos, o titular tem direito a obter intervenção humana, a expressar o seu ponto de vista e a contestar a decisão (n.º 3).

Ora, o problema reside precisamente na capacidade de compreender e contestar uma decisão cuja lógica interna é opaca. Isto porque ou é demasiado técnica ou porque assenta em métodos estatísticos cuja rastreabilidade é limitada. 

Neste contexto, o direito à explicação tem vindo a ser desenvolvido por autores como SANDRA WACHTER, BRENT MITTELSTADT e LUCIANO FLORIDI, que apontam para a necessidade de garantir aos cidadãos uma explicação compreensível dos critérios utilizados pelo sistema automatizado para tomar determinada decisão. Os autores entendem ainda que a utilização de algoritmos na tomada de decisões administrativas levanta desafios adicionais, sobretudo porque tende a escapar ao escrutínio direto, podendo originar efeitos inesperados e difíceis de antecipar. Sem esta explicação, torna-se impossível exercer verdadeiramente o contraditório ou garantir a tutela jurisdicional efetiva, pilares do Estado de Direito Democrático[2].

Contudo, com a introdução de decisões exclusivamente automatizadas, surgem novos desafios à concretização deste direito. A lógica de funcionamento de muitos algoritmos, especialmente os baseados em machine learning, é de tal forma complexa que a Administração poderá não conseguir, ou não saber, explicar com clareza os critérios subjacentes à decisão tomada, já que tal circunstância ameaça o princípio da transparência e enfraquece a confiança dos cidadãos na Administração Pública. 

Assim, o direito à explicação não é apenas uma garantia associada à proteção de dados pessoais, é uma verdadeira expressão do princípio da legalidade e da boa administração, com consequências diretas na validade e legitimidade dos atos administrativos praticados por meios tecnológicos. 

3. O dever de fundamentação e de transparência nos atos administrativos. 

No âmbito do Direito Administrativo, a exigência de fundamentação dos atos administrativos vem consagrada no artigo 152.º do CPA. Esta obrigação visa garantir que os atos da Administração sejam compreensíveis, controláveis e passíveis de escrutínio pelos tribunais, pelos cidadãos e pelos demais órgãos públicos. 

O dever de fundamentação dos atos administrativos tem uma dupla função, já que, por um lado, garante a transparência da atuação administrativa, mas, por outro, protege o administrado, permitindo-lhe conhecer as razões que determinaram o ato e preparar uma eventual reação jurídica. Todavia, trata-se de um dever que não é um requisito de validade do ato sempre exigível ou verificável, dado que o mesmo está dependente de previsão legal expressa. Portanto, o mesmo é imposto à Administração, que se encontra obrigada a explicitar os motivos subjacentes à sua decisão, bem como os elementos que a justificam ou condicionam, apenas quando tal resulte de norma legal. 

Este dever assume uma importância ainda maior quando se trata de atos que afetam negativamente os direitos ou interesses legítimos dos cidadãos. Porém, não se destina meramente a responder a interesses informais ou a legitimar a atuação administrativa perante a opinião pública, já que assume, antes, a natureza de uma verdadeira garantia constitucional, conforme consagrado no n.º 3 do artigo 268.º da Constituição da República Portuguesa (CRP). 

Assim sendo, contrariamente ao que se poderia supor, o dever de fundamentação não se encontra definido de forma expressa na lei, já que uma definição legal não vinculativa poderia conduzir a uma discussão excessivamente centrada nos seus contornos formais, desviando o foco da doutrina e da jurisprudência da análise substancial do seu verdadeiro alcance e sentido. 

Neste sentido, adotarei a posição de PAULO OTERO, que entende que a fundamentação “consiste num discurso justificativo da solução decisória proposta ou já adotada, num propósito argumentativo da coerência do percurso do seu autor e garantístico da sua controlabilidade pelos destinatários (...)”[3].

A fundamentação é, assim, um dever da Administração e, simultaneamente, uma garantia dos cidadãos, que funciona como uma “janela de acesso dos tribunais à racionalidade e coerência do trajeto procedimental de decisão administrativa”[4], assumindo uma “leitura garantística”[5] que não pode ser desconsiderada. 

Portanto, tendo em particular atenção a automatização da vontade administrativa quanto à fundamentação, é de destacar que a mesma implica especiais reflexões nas temáticas de transparência e de imparcialidade. 

O n.º 1 do artigo 14.º do CPA prevê que a digitalização da Administração Pública tem como objetivo melhorar a eficiência, garantir maior transparência e aproximar os serviços dos cidadãos. No entanto, o uso da IA, nesse contexto, exige cautela, dado que não pode comprometer princípios fundamentais como o dever de fundamentação, a legalidade e a proteção dos direitos dos interessados.

A transparência, enquanto princípio democrático, adquire uma nova dimensão com a introdução de sistemas automatizados de decisão. Normas como o artigo 9.º da Carta Portuguesa de Direitos Humanos na Era Digital (CPDHED), os artigos 5.º e 12.º do RGPD e o artigo 16.º do CPA destacam a importância de garantir que os cidadãos compreendam como os seus dados são tratados e como funcionam os algoritmos que influenciam ou tomam decisões públicas. 

A utilização de sistemas opacos, como as chamadas black boxes, ou os riscos de “alucinação” dos modelos de IA, levantam sérias preocupações quanto à explicabilidade das decisões. Sem acesso claro à lógica de funcionamento ou aos dados tratados, os interessados ficam impedidos de contestar ou compreender os atos que os afetam. Isso compromete não apenas a transparência, mas também a responsabilização da Administração.

3.1. Os desafios que a automatização coloca na fundamentação dos atos administrativos. 

À medida que a Administração Pública adota, cada vez mais, ferramentas tecnológicas no desempenho das suas funções, surgem novas questões sobre a forma como essas soluções se articulam com os princípios fundamentais do Direito Administrativo. A maior dificuldade que surge em compreender os temas que a automatização suscita neste âmbito, sobretudo no que diz respeito aos atos administrativos, é marcada pela designação que é dada à época em que vivemos. 

PEDRO COSTA GONÇALVES identifica este período como sendo a Administração 4.0. ou Administração Pública de 4ª geração, isto é, “na Era Digital e da “quarta revolução industrial” (“indústria 4.0”) – que é uma revolução digital –, as entidades da Administração utilizam, em muita larga medida, processos de automação (ou de automatização) e de interconexão de dados e sofisticados sistemas de tratamento de informação e de produção automatizada de resultados que, num passado não muito distante, apenas poderiam ser produzidos pela inteligência humana: (...)”[6]. 

O uso de IA na Administração Pública requer uma adaptação normativa e interpretativa para assegurar que o dever de fundamentação não se torne meramente simbólico. Neste sentido, é fundamental que a Administração garanta a auditabilidade dos sistemas, ou seja, que seja possível reconstruir o processo lógico da decisão, mesmo que esta tenha origem num sistema automatizado. Quando se utiliza um algoritmo com base em redes neuronais artificiais ou em modelos de aprendizagem profunda (deep learning), a explicação das decisões pode ser extremamente difícil, senão impossível, de reconstruir. Isto levanta dúvidas sobre quem, em última instância, é responsável pelas decisões e como se assegura a sua legalidade e fundamentação. 

Ainda que os algoritmos sigam instruções previamente definidas pela Administração, há situações em que a diversidade e especificidade dos casos concretos exige um juízo mais humano, atento às nuances do procedimento[7]. A automatização, quando aplicada a decisões de cariz mais flexível ou discricionário, pode dificultar a avaliação cuidada das circunstâncias particulares de cada situação.

Outro aspeto a ter em conta é a dificuldade em explicar as decisões produzidas por certos sistemas, especialmente quando envolvem algoritmos complexos ou de natureza não determinística. Isto levanta preocupações sobre a transparência do processo, o controlo efetivo por parte da Administração e o respeito pelas garantias dos cidadãos, nomeadamente o seu direito a conhecer os fundamentos das decisões que os afetam. 

Por estas razões, torna-se essencial perceber se o quadro legal atual está preparado para dar resposta a estes desafios, ou se será necessário ajustá-lo, garantindo que a inovação tecnológica não compromete valores essenciais como a imparcialidade, a participação dos interessados ou o controlo da legalidade dos atos administrativos. Em vez de enfraquecer o dever de fundamentação, a tecnologia deve ser aproveitada para o reforçar, tornando os processos mais claros, acessíveis e eficientes. 

 

3.2. Será que podemos falar em verdadeira transparência e imparcialidade quando utilizamos algoritmos ou IA na tomada de decisões administrativas?

A promessa de maior imparcialidade através da utilização de algoritmos na Administração Pública tem sido frequentemente apresentada como uma das grandes vantagens da transição digital. Em teoria, os sistemas automatizados, por se basearem em dados e regras previamente definidos, eliminariam os fatores subjetivos e emocionais que caracterizam muitas decisões humanas, conduzindo a resultados mais objetivos e equitativos. No entanto, a prática revela que essa imparcialidade tecnológica está longe de ser garantida. 

Desde logo é importante reconhecer que os algoritmos são produtos humanos, isto é, são concebidos, treinados e ajustados por pessoas, e operam com base em dados históricos frequentemente carregados de preconceitos sociais, económicos ou raciais. Os sistemas algorítmicos podem reproduzir, e até amplificar, as desigualdades existentes, ao aplicarem padrões extraídos de dados enviesados a novas decisões. Neste sentido, longe de eliminar a discriminação, a tecnologia pode torná-la menos visível e, por isso, mais difícil de combater.

A transparência, por sua vez, também se vê gravemente comprometida. Muitos modelos de IA, especialmente aqueles baseados em machine learning e deep learning, são estruturalmente opacos. Mesmo para especialistas, pode ser extremamente difícil ou mesmo impossível compreender, a posteriori, o percurso lógico que conduziu a determinada decisão. Quando utilizados pela Administração, estes sistemas colocam em causa o dever de fundamentação previsto no CPA e fragilizam o princípio da confiança, essencial à relação entre o Estado e os cidadãos.

Para além disso, a utilização de algoritmos comerciais, muitas vezes protegidos por segredos industriais ou direitos de propriedade intelectual, impede que os próprios órgãos públicos tenham acesso ao funcionamento interno dos sistemas que utilizam. Essa limitação mina o princípio da legalidade e inviabiliza o controlo jurisdicional efetivo. A adoção de soluções tecnológicas pela Administração não pode subverter os princípios estruturantes do Direito Administrativo, sob pena de se criar uma “zona cinzenta” onde a decisão pública escapa ao escrutínio democrático.

Pode-se concluir que não podemos, no estado atual da tecnologia e da regulação, afirmar que a utilização de algoritmos e IA assegura, por si só, uma verdadeira transparência ou imparcialidade. Pelo contrário, se não forem acompanhados de exigentes mecanismos de auditoria, explicabilidade e supervisão humana, os sistemas automatizados podem transformar-se em instrumentos de opacidade e injustiça, profundamente incompatíveis com os valores do Estado de Direito. 

A entrada em vigor do Regulamento para a Inteligência Artificial marca uma nova etapa na consolidação do princípio da transparência, agora com um impacto mais alargado e normativamente vinculado ao uso da tecnologia no contexto europeu[8]. Esta transparência, entendida na sua vertente externa, deixa de ser um conceito estritamente ligado ao domínio do Direito Administrativo para assumir uma natureza transversal, que deve ser aplicada de forma integrada e não isolada por áreas temáticas.
Neste enquadramento mais amplo, e ao analisar conjuntamente o princípio da imparcialidade, presente no n.º 2 do artigo 266.º da CRP e no artigo 9.º do CPA, especialmente na sua articulação com a transparência, torna-se evidente que a integração de sistemas automatizados na atuação administrativa obriga à implementação de soluções técnicas, organizativas e procedimentais. 

 

4. Conclusões 

A utilização de algoritmos e IA na tomada de decisões administrativas representa uma mudança tecnológica profunda na atuação do Estado. Embora estas ferramentas tragam consigo benefícios evidentes, como a celeridade, a uniformização de critérios e a otimização de recursos, a sua aplicação levanta sérias questões quanto à salvaguarda das garantias jurídicas associadas aos atos administrativos. 

Em particular, torna-se evidente que os princípios da legalidade, da imparcialidade, da transparência e da fundamentação não podem ser colocados em causa sob o pretexto da inovação. A automatização não pode justificar a opacidade nem a impossibilidade de controlo efetivo das decisões por parte dos cidadãos ou dos tribunais. A Administração não se pode escusar à responsabilidade de explicar, justificar e permitir o contraditório relativamente a decisões que, mesmo automatizadas, afetem diretamente os direitos dos administrados. 

Além disso, o ideal de imparcialidade algorítmica revela-se frequentemente ilusório, pois os sistemas de decisão automatizada não são neutros, são o reflexo dos dados que os alimentam. Sem o devido escrutínio, a sua utilização pode comprometer os princípios da justiça e da igualdade, além de reproduzir discriminações que se pretendiam eliminar. 

Neste contexto, a transição para uma Administração mais digital deve ser responsável e juridicamente consciente, com automatização acompanhada de mecanismos robustos de auditoria, explicabilidade e controlo humano. Só assim é que será possível garantir que os direitos fundamentais sejam preservados, compatibilizando o avanço tecnológico com um Estado de Direito efetivamente garantístico e democrático.

Bibliografia 

DUARTE, DAVID, Procedimentalização, participação e fundamentação, para uma concretização do princípio da imparcialidade administrativa como parâmetro decisório, Coimbra, Almedina, 1996, p. 182. 

OTERO, PAULO, Direito do Procedimento Administrativo, I Volume, Coimbra, Almedina, 2016, p. 577. 

COSTA GONÇALVES, PEDRO, “Regime jurídico da Administração Pública eletrónica (tópicos)”, in Estudos em Homenagem ao Professor Doutor Fernando Alves Correia, Direito Constitucional e Direito Administrativo, Almedina, Coimbra, Volume I, 2023, p. 955. 

WACHTER, SANDRA, MITTELSTADT, BRENT, FLORIDI, LUCIANO, Why a Right to explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, International Data Privacy Law, Vol. 7, N.º 2, 2017, p. 77. 

---

[1] Nomeadamente respeitando os princípios da legalidade (artigo 3.º, CPA), imparcialidade (artigo 9.º, CPA), transparência (artigo 14.º, CPA), o dever de fundamentação e a responsabilidade da administração (artigo 16.º, CPA) – estes princípios garantem que, mesmo em contextos de decisão automatizada, os direitos dos cidadãos sejam assegurados e a atuação administrativa permaneça conforme o Estado de Direito. 

[2] SANDRA WACHTER, BRENT MITTELSTADT, LUCIANO FLORIDI, Why a Right to explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation, International Data Privacy Law, Vol. 7, N.º 2, 2017, p. 77. 

[3] PAULO OTERO, Direito do Procedimento Administrativo, I Volume, Almedina, 2016, p. 577.

[4] PAULO OTERO, op. cit., p. 577. 

[5] DAVID DUARTE, Procedimentalização, participação e fundamentação, para uma concretização do princípio da imparcialidade administrativa como parâmetro decisório, Almedina, 1996, p. 182.

[6] PEDRO COSTA GONÇALVES, “Regime jurídico da Administração Pública eletrónica (tópicos)”, in Estudos em Homenagem ao Professor Doutor Fernando Alves Correia, Direito Constitucional e Direito Administrativo, Almedina, Coimbra, Volume I, 2023, p. 955. 

[7] Por exemplo, num processo de atribuição de apoios sociais, um sistema automatizado pode não conseguir avaliar devidamente uma situação de emergência económica resultante de violência doméstica ou desemprego súbito, onde o contexto pessoal faz toda a diferença na decisão. 

[8] O Regulamento para a Inteligência Artificial, relativamente aos temas da transparência, define um conjunto de obrigações, da qual se destacam os artigos 11.º, 12.º, 13.º, 17.º e 50.º.