Trabalho do blog: O princípio da imparcialidade na era digital

 

O princípio da imparcialidade na era digital

The Principle of Impartiality in the digital era

____

Filipa Aroso Silva, n.º 69539, PB17

 

Sumário: 1. O princípio da imparcialidade – 1.1. Contextualização histórica – 2. O recurso à inteligência artificial – 2.1. Benefícios e desafios – 2.2. Será a IA imparcial? – 3. Atualizações ao quadro normativo – 4. Caso prático – 5. Considerações finais

 

Resumo: O presente trabalho tem como objetivo analisar como o princípio da imparcialidade se adaptará a uma era de transformações digitais. Concretamente, o trabalho propõe desenvolver se a utilização da inteligência artificial nos procedimentos administrativos irá facilitar a promoção da imparcialidade, ou se, por outro lado, tornará mais difícil a garantia dessa mesma imparcialidade, de acordo com os dados existentes à data.

 

Palavras-chave: Imparcialidade; Administração Pública: CPA; Direito; Inteligência Artificial; Evolução Tecnológica.

 

Abstract: This paper aims to analyse how the Principle of Impartiality will adapt to an era of digital transformations. Specifically, this paper proposes to develop whether the use of artificial intelligence in administrative procedures will facilitate the promotion of impartiality, or if, on the other hand, it’ll make it more difficult to guarantee such impartiality, according to data available to date.

 

Keywords: Impartiality; Public Administration; CPA; Law; Artificial Intelligence; Technological Evolution.

 

 

 

 

 

 

 

1.     O princípio da imparcialidade

O princípio da imparcialidade é um dos princípios fundamentais do procedimento administrativo, consagrado no artigo 9.º do Código de Procedimento Administrativo, em diante CPA.

Este princípio é também mencionado no artigo 266.º da Constituição da República Portuguesa (doravante, CRP), em uniformidade com os princípios da igualdade, justiça e proporcionalidade. Segundo o Professor António Francisco de Sousa, a adoção destes princípios ajuda a preservar a imagem e a reputação da Administração Pública, aumentando a confiança dos cidadãos na mesma[1].

O Professor Freitas do Amaral refere que “o princípio da imparcialidade impõe que os órgãos e agentes administrativos atuem de forma isenta e equidistante relativamente aos interesses em jogo”[2]. A imparcialidade administrativa implica, então, uma conduta objetiva, desinteressada, isenta, neutra e independente por parte dos órgãos e agentes da Administração Pública. Deste modo, visa garantir que as decisões administrativas sejam tomadas com base em critérios objetivos, sem influência de considerações pessoais ou externas. Só deste modo se poderá considerar uma decisão verdadeiramente justa.

Temos assim, um princípio fundamental no Estado de direito democrático, uma vez que assegura a confiança dos cidadãos no mesmo garantindo a legitimidade das decisões administrativas.

1.1. Contextualização histórica

Fazendo uma breve contextualização histórica, o princípio da imparcialidade não teve um caminho linear na sua consagração enquanto princípio fundamental no direito português.

A ideia de imparcialidade tem raízes antigas, ligadas a um princípio de moralidade, que desde cedo esteve presente na história. De facto, podemos constatar uma ideia de imparcialidade na tradição jurídica ocidental, onde a separação de poderes e o respeito pelas garantias individuais constituíram fundamentos essenciais para a definição de Estado de Direito.

No direito português em concreto, a ideia de imparcialidade remonta, pelo menos, ao período das Ordenações Afonsinas, que, no seu Livro III, título XXX, consagra a proibição de os juízes julgarem os seus próprios atos ou de pessoas com quem viviam. Por sua vez, as Ordenações Manuelinas vêm alargar estes impedimentos, proibindo os juízes de julgar parentes até ao 4.º grau. Por fim, as Ordenações Filipinas vêm ainda permitir ao réu recusar um juiz que considerasse parcial na decisão de um caso. Esta visão foi, mais tarde, consagrada no Código de Processo Civil, em 1876.

Apesar desta origem processual, preocupação com a imparcialidade enquanto regra de conduta das autoridades públicas no exercício das suas funções foi além da função judicial, tornando-se transversal a toda a Administração Pública Portuguesa.

Em Portugal, durante o período pré-constitucional, a imparcialidade não era expressamente consagrada como princípio autónomo, mas era subentendida na exigência de que o poder administrativo fosse exercido de forma justa, honesta e moral — algo presente já nas reflexões de juristas do século XIX.

Então, a partir do século XIX, torna-se mais evidente o reconhecimento da imparcialidade, sendo já referida em alguns setores da vida administrativa. Começando a ser, muitas vezes, reconhecida pela própria lei e jurisprudência, embora tal reconhecimento fosse maioritariamente implícito ou indireto, a imparcialidade começou a ganhar palco no nosso ordenamento, culminando num verdadeiro princípio ordenador de toda a atividade administrativa.

É assim que, depois de um período de Administração agressiva (em que não há espaço para os interesses dos particulares, sendo o princípio da imparcialidade mais uma expectativa ética do que algo que a Administração prossegue), transitamos para um período de Administração prestadora, a qual, ao serviço dos cidadãos, assume uma evidente preocupação com a proteção dos direitos fundamentais e com a transparência.

Assim, com a Revolução de 1974 e a adoção da Constituição da República Portuguesa de 1976, iniciou-se a construção de um Estado de Direito democrático em que os princípios da legalidade, igualdade, justiça e também imparcialidade se afirmam com força jurídica renovada. No entanto, a consagração deste princípio no Código de Procedimento Administrativo (CPA) enquanto princípio fundamental da atuação administrativa só se deu com a revisão de 2015 (Decreto-Lei n.º 4/2015, de 7 de janeiro).

Hoje em dia, a sua redação mantém-se, ressaltando a sua importância como princípio definidor da atividade administrativa.

 

2.     O recurso à inteligência artificial

O contexto histórico referido acima serve para demonstrar como os princípios normativos estão em constante evolução e adaptação, pelo que esta nova era digital não será exceção.

Por “era digital”, temos uma era de constantes transformações digitais, desde inovações tecnológicas revolucionárias à digitalização de procedimentos simples e automáticos. Tem-se assistido a uma exponencial expansão da inteligência artificial pelos vários setores, privados e públicos, não ficando o sistema jurídico de parte.

É neste cenário que emerge uma nova Administração Pública- que utiliza cada vez mais as tecnologias à sua disposição, nomeadamente de Informação e Comunicação, como suporte principal da sua atuação.

Assim, o século XXI, com a evolução das práticas administrativas e o advento das novas tecnologias, impõe uma nova leitura e desafios à aplicação deste princípio, exigindo uma constante atualização dos mecanismos de controle e transparência.

2.1. Benefícios e desafios

O avanço das tecnologias digitais tem permitido um grande avanço para a Administração Pública, nomeadamente pela implementação de sistemas de inteligência artificial (doravante, IA) em processos administrativos burocráticos.  O extenso processo administrativo (mencionado desde logo no artigo 1.º do CPA) exige diversos atos e formalidades que têm vindo a ser automatizados e otimizados para um mais rápido alcance de resultados. Para além de um aumento de eficiência, esta solução permite a alocação de profissionais, assim como de tempo, para outros setores, além de uma redução de possíveis erros por mão humana.

No entanto, e por mais benefícios que esta automatização tenha, a Administração Pública enfrenta alguns desafios na implementação deste modelo. Poderá ser, em primeiro lugar, questionada a qualidade e viés dos dados inseridos, uma vez que a sua aplicação está dependente de seleção prévia, a qual poderá refletir as desigualdades já existentes na sociedade, reproduzindo tais padrões discriminatórios.

Por outro lado, levanta-se uma questão quanto à interpretação dos dados obtidos pela dificuldade de identificar vieses e estudar os algoritmos, o que leva à necessidade de supervisão humana constante por entidades focadas e conhecedoras do processo (exemplo: programadores), o que levanta uma nova dificuldade na responsabilização legal de entidades pelo processo.

Por fim, é evidente que a rápida evolução tecnológica impõe uma atualização constante do quadro normativo, de modo a acompanhar os desafios e as oportunidades trazidos pela IA, sem comprometer os direitos fundamentais dos cidadãos.

Esta reflexão evidencia que a imparcialidade dos sistemas de inteligência artificial é alcançável somente mediante uma garantia de integração de dados de qualidade, transparência dos algoritmos e a contínua supervisão humana, elementos que, em conjunto, podem contribuir para que seja possível a utilização do digital alinhada aos valores consagrados na ordem jurídica.

Esta constatação levanta ainda uma importante questão.

2.2. Será a inteligência artificial imparcial?

A utilização de algoritmos na tomada de decisões jurídico-administrativas gera uma preocupação sobre a sua parcialidade. Sendo a imparcialidade fundamental para uma decisão ser considerada justa, decidida com base em critérios racionais e equitativos, a implementação de sistemas automatizados suscita uma questão quanto à reprodução de vieses nos dados inseridos, ou repetição de padrões adquiridos.

De facto, os algoritmos utilizados na inteligência artificial funcionam e desenvolvem-se a partir de grandes conjuntos de dados, nomeadamente o recurso à internet no seu geral, os quais podem conter desde erros a informações tendenciosas. Do mesmo modo, o argumento de a programação ser realizada por seres humanos, pode inadvertidamente introduzir parcialidade no sistema, mesmo que não intencional.

Essa imparcialidade nos algoritmos evidencia-se nos chamados “black boxes”, o que dificulta a perceção de uma lógica racional subjacente à decisão gerada.

Segundo o acórdão do Tribunal Central Administrativo Norte, de 16 de novembro de 2006: “à Administração não basta ser imparcial exigindo-se também que pareça imparcial”. Temos assim que a violação do princípio da imparcialidade não depende de provas de atuações parciais concretas, bastando que se ponham em causa as garantias de isenção, de transparência e de imparcialidade.

Assim, como pode um particular, estranho ao procedimento administrativo interno, ter garantias da imparcialidade de uma decisão que é gerada por algoritmos que desconhece? E sobre quem incide a responsabilidade de possíveis decisões prejudiciais para o mesmo?

 

3.     Atualizações ao quadro normativo

Perante tudo isto, o ordenamento jurídico procura adaptar-se a uma nova realidade.

A CRP e outros diplomas normativos portugueses, como a Lei n.º 58/2019, de 8 de agosto[3] (que transpõe para a ordem interna o Regulamento (UE) 2016/679 relativo à proteção de dados pessoais), estabelecem um marco jurídico que valoriza a proteção dos direitos fundamentais. Estes dispositivos, aliados à crescente preocupação com a transparência e responsabilização na utilização da IA, impõem que os sistemas sejam avaliados quanto à sua compatibilidade com os direitos à igualdade e à dignidade.

A aplicação de normas europeias, tais como o Regulamento sobre Inteligência Artificial, também tem influenciado a regulação em Portugal, tendo como objetivo harmonizar os requisitos de segurança e transparência dos algoritmos, garantindo que os sistemas de IA contribuam para uma justiça efetivamente imparcial.

Mas para além de preceitos normativos, para garantir a imparcialidade nos procedimentos administrativos deve tomar-se medidas também ao nível dos próprios órgãos administrativos, como o controlo do funcionamento dos sistemas automatizados, através de inspeções periódicas, o que implica que, mesmo com procedimentos automatizados, haja revisão humana que garanta a fundamentação e o respeito pelos princípios constitucionais e do CPA.

Será indispensável estabelecer a imposição de divulgar relatórios periódicos sobre o funcionamento dos sistemas automatizados, de modo a ser regularmente verificado o seu funcionamento e identificadas possíveis vieses.

Do mesmo modo, deve ser viável a contestação destas decisões pelos responsáveis, deve haver uma transparência não só interna, mas externa, que permita a todos os envolvidos entender os critérios utilizados.

 

4.     Caso prático

Este tema levou-me a procurar sobre a evolução da implementação destes sistemas no mundo, chegando a um caso que será possivelmente um dos exemplos mais emblemáticos no cenário internacional.

O caso prende-se com o uso do sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) nos Estados Unidos da América, o qual foi desenvolvido para ser aplicado na avaliação de um risco de reincidência criminal, para fins de sentença

O COMPAS é, então, um algoritmo de avaliação de risco, desenvolvido para auxiliar juízes e tribunais a estimar a probabilidade de um indivíduo acusado cometer novos delitos, orientando a determinação de penas ou a concessão de alternativas à prisão. Este sistema é responsável por analisar uma série de variáveis, que vão desde o histórico criminal do indivíduo até aspetos do seu perfil sociodemográfico, emitindo por fim uma determinada pontuação, que deverá refletir a probabilidade de reincidência.

Em diversos Estados dos EUA, o COMPAS foi incorporado no processo de tomada de decisão para a definição de sentenças e concessão de liberdade condicional. Nestes casos, o algoritmo servia como uma ferramenta auxiliar, sobre a qual os juízes podiam fundamentar as suas decisões, considerando, por exemplo, a gravidade do risco estimado.

O uso do COMPAS levantou intensos debates acerca da imparcialidade dos algoritmos. Investigações jornalísticas (nomeadamente, a reportagem “Machine Bias”^[4]) demonstraram que o sistema tendia a apresentar vieses raciais. Por exemplo, indivíduos negros recebiam frequentemente pontuações de risco mais elevadas do que indivíduos brancos, mesmo quando comparados em perfis semelhantes. A opacidade do funcionamento dos algoritmos, que por vezes não permite rastrear e perceber quais os fatores concretos que levaram àquela pontuação, intensifica a preocupação com sua imparcialidade. Esta falta de transparência (o chamado “black box”) tem implicações significativas, pois dificulta que as partes afetadas compreendam os fundamentos da decisão judicial, para que a possam eventualmente contestar.

A controvérsia em torno do COMPAS exemplifica como a utilização de inteligência artificial em processos pode impactar diretamente os direitos dos particulares, como, neste caso, o direito a um processo equitativo e a igualdade perante a lei. Isto leva a que diversos juristas argumentem que, embora a IA possa aumentar a eficiência e fornecer dados estatísticos relevantes, a sua aplicação sem a devida supervisão humana e sem mecanismos rigorosos de controlo, compromete a imparcialidade e a responsabilização das decisões.

Concluindo, o caso COMPAS demonstra, na minha opinião, que, embora a inteligência artificial possa contribuir para a tomada de decisões e desburocratização de processos, os seus resultados podem estar sujeitos a vieses implícitos, levantando questões críticas sobre a sua imparcialidade. Este exemplo ilustra o dilema enfrentado por muitos ordenamentos jurídicos ao incorporar tecnologias disruptivas: a busca por eficiência sem sacrificar os princípios fundamentais de transparência, imparcialidade e igualdade.

Assim, evidencia o que já foi mencionado, quanto à importância de mecanismos de transparência e supervisão humana, para assegurar que a adesão a esta era digital não comprometa os pilares da justiça.

 

5.     Considerações finais

O desenvolvimento deste trabalho permitiu-me concluir que a inteligência artificial, por si só, pode não ser intrinsecamente imparcial.

Como foi referido, a imparcialidade dos sistemas de IA depende essencialmente da qualidade dos dados inseridos, do rigor metodológico adotado no seu desenvolvimento (assim como as fontes adotadas) e da existência de mecanismos de supervisão e transparência eficazes.

Em Portugal, os dispositivos constitucionais e normativos (como a Lei n.º 58/2019) oferecem uma base jurídica que visa proteger os particulares e garantir que os sistemas de IA atuem em conformidade com os direitos fundamentais. Contudo, verifica-se que a natureza complexa e opaca dos algoritmos impõe que a intervenção humana permaneça essencial na revisão e na validação das decisões automatizadas

Portanto, embora a IA possa contribuir significativamente para a eficiência e a modernização do sistema jurídico e administrativo, a plena garantia de imparcialidade dependerá da implementação efetiva de mecanismos, nomeadamente de transparência e responsabilidade, aliados a uma regulação dinâmica e adaptada aos novos desafios (presentes e futuros) que a inteligência artificial nos traz.

 

 

 

 

 

 

 

Bibliografia

AROSO DE ALMEIDA, Mário. Teoria Geral do Direito Administrativo – O Novo Regime do Código de Procedimento Administrativo, 6ª edição, Almedina, Coimbra, 2020

CLARKE, Roger & GREENLEAF, Graham. Dataveillance regulation: A research framework. JL Inf. & Sci., v. 25, 2017, p. 104

SOUSA, Susana Aires de. “Não fui eu, foi a máquina”: teoria do crime, responsabilidade e inteligência artificial, in Anabela Miranda Ro‑ drigues, coord., A inteligência artificial no direito penal, Almedina, Coimbra, 2020, pp. 59‑93

MENDES, Paulo de Sousa. Uma nota sobre Inteligência Artificial aplicada ao Direito e sua regulação, in Revista da Faculdade de Direito da Universidade de Lisboa, Vol. LXIII, 2022, pp. 791- 813

GUIMARÃES, Maria Raquel & PEDRO, Rute Teixeira. Direito e Inteligência Artificial, Almedina, Porto, 2023, pp. 10- 125

 

 

---

[1] SOUSA, António Francisco. Manual de Direito Administrativo. Porto, Vida Econômica, 2019

[2] AMARAL, Diogo Freitas. Curso de direito administrativo. Volume II. 2ª Edição. Almedina. 2015

[3] Lei n.º 58/2019, de 8 de agosto, de Proteção de Dados Pessoais, Diário da República, 2019

[4]  Machine bias, ProPublica, 2016, acessível em cij.up.pt