Os desafios da inteligência artificial para o Direito Administrativo

 

Os desafios da inteligência artificial para o Direito Administrativo

 Beatriz Teixeira da Mota 

Sumário: 1. A utilização da IA no Direito Administrativo – 1.1. Conceito – 1.2. Aplicação – 2. Vantagens e desafios da IA nas entidades da Administração Pública – 3. A IA na tomada de decisões – 3.1. Caso do Tribunal de Contas – 4. Conclusões. 

Resumo: Este trabalho tem por objeto o estudo da inteligência artificial (IA) no domínio da Administração Pública, visto que o Direito se encontra em constante evolução e adaptação à sociedade atual. Deste modo, o presente trabalho tem em vista compreender melhor em que consiste a inteligência artificial (IA), como poderá ser utilizada e que impacto terá nos diversos ramos do direito, nomeadamente, nas decisões administrativas. Assim, iremos recorrer ao caso do Tribunal de Contas, em particular, a utilização da IA na contratação pública, de modo a apreciar a inclusão da IA no direito e processo administrativo. 

Palavras-chave: Direito Administrativo; Inteligência Artificial; Administração Pública; Tribunal de Contas

1. A utilização da Inteligência Artificial no Direito Administrativo 

1.1 Definição do conceito

 A expressão inteligência artificial (de ora em diante, também IA) foi cunhada em 1955 por JOHN MCCARTHY1 , conhecido como o patrono da IA, termo que se tornou essencial e guiou gerações de cientistas na expectativa de replicar a inteligência humana em máquinas. McCarthy também desenvolveu a linguagem de programação LISP (List Processing)2 , que se tornou um pilar na área da inteligência artificial e da programação simbólica.

 Entre as suas muitas reflexões sobre a IA, destaca-se a citação de John McCarthy “a inteligência artificial é a ciência de fazer com que as coisas façam coisas que requerem inteligência artificial quando feitas por pessoas”. O seu legado perdura na IA moderna, e a sua visão e contribuições abriram caminho para os grandes avanços atuais e futuros. 

 A inteligência artificial (IA) é a capacidade de uma máquina para reproduzir competências semelhantes às humanas, como é o caso do raciocínio, a aprendizagem, o planeamento e a criatividade. A IA é considerada essencial para a transformação digital da sociedade, tornando-se uma prioridade para a União Europeia. De acordo com a Comissão Europeia3 , a IA é um conceito que se refere a “sistemas que apresentam um comportamento inteligente, analisando o seu ambiente e tomando medidas – com um determinado nível de autonomia – para atingir objetivos específicos”, compreendendo um vasto conjunto de abordagens e tecnologias capazes de atuar em distintos níveis e contextos.

 A inteligência artificial tem sido definida de várias formas e recorrendo a múltiplos conceitos. A sua definição evoluiu para um conceito mais analítico, a capacidade de um sistema se adaptar a improvisar ações num novo contexto, simplificar conhecimento, traduzindo-se em eficiência de aprendizagem e aquisição de novas competências. Num

 1 https://pt.wikipedia.org/wiki/john_McCarthy 

2 https://pt.wikipedia.org/wiki/Lisp 

3Cf. COMISSÃO EUROPEIA, Comunicação da Comissão ao Parlamento Europeu, ao Conselho Europeu, ao Conselho, ao Comité Económico e Social Europeu e ao Comité das Regiões: Inteligência artificial para a Europa [COM(2018) 237 final], Bruxelas, 2018, p. 1, disponível em https://eurlex.europa.eu/legalcontent/PT/TXT/?uri=CELEX%3A52018DC0237 (29.10.2019  

sentido mais técnico, pode-se afirmar que a IA reúne ciência, teoria e técnica para alcançar a mimetização das capacidades cognitivas de um humano por uma máquina. 

 1.2 Aplicação da IA

 A utilização de técnicas de Inteligência Artificial (IA) na Administração Pública está neste momento num processo de expansão, fomentada pela transformação digital em curso, com aplicação na maioria das áreas de atuação, desde a saúde à justiça.~

 No âmbito do Direito Administrativo, a utilização da inteligência artificial oferece diversas oportunidades, como ajudar a projetar melhores políticas e tomar melhores decisões, além de melhorar a comunicação e o envolvimento com os cidadãos, e ainda na automação de processos, como a análise de documentos jurídicos.

 As principais aplicações da IA no Direito Administrativo passam pela automatização dos processos, já que a IA permite agilizar tarefas administrativas repetitivas, como a emissão de licenças, análises de pedidos e concessão de benefícios, reduzindo assim o tempo de espera dos utentes. A análise preditiva, com a utilização de algoritmos para prever tendências, como a necessidade de recursos em saúde pública, segurança, ou planeamento urbano, ajuda a prevenir práticas corruptas, na deteção de fraudes e combate à corrupção. E na assistência jurídica e processual, com o uso de ferramentas que podem ajudar na triagem de processos judiciais, análise de legislação e apoio em processos administrativos complexos. 

2. Vantagens e desafios da IA nas entidades da Administração Pública 

Como já demonstrado anteriormente, a IA trouxe importantes avanços para a nossa sociedade, com potencial para aumentar significativamente a eficiência e qualidade dos serviços prestados. No âmbito da Administração Pública, são várias as vantagens que podemos realçar, nomeadamente, no aumento da eficiência; melhoria na previsão e 4 planeamento, redução de custos; no combate à corrupção e na análise e cruzamento de grandes volumes de dados em tempo real.

 No art.267º da Constituição da República Portuguesa (CRP)4 , está previsto o princípio da eficiência, o qual orienta a Administração Pública para uma gestão mais produtiva e orientada, ao automatizar tarefas burocráticas, a IA reduz os tempos de processamento e melhora a produtividade, contribuindo para uma administração mais ágil.

 Assim, a IA pode ser utilizada para a modernização e agilização dos serviços, por exemplo, com a automatização de processos administrativos, análise de dados e tomada de decisão, através de algoritmos de machine learning 5 (refere-se a uma família de técnicas de IA que partilham algumas características em comum) e gestão de recursos humanos.

 Portugal tem dado passos significativos na adoção de tecnologias de IA na administração pública, como por exemplo, com a implementação do projeto Simplex6 , focado na simplificação e digitalização de processos administrativos para reduzir a burocracia. Data Lab, iniciativa para promover o uso de Big Data7 e IA no setor público, visando melhorar a eficiência e a tomada de decisões.

 A transparência e o escrutínio são fundamentais para combater a corrupção, e a IA oferece soluções eficazes, já que permite detetar padrões suspeitos e comportamentos irregulares, por exemplo, através da implementação de sistemas de compliance8 para prevenir fraudes e garantir a conformidade com a lei.

 Além da deteção de anomalias e fraudes, a IA também permite a monitorização em tempo real, com a utilização de data analytics, e auditorias automatizadas, detetando irregularidades que poderiam passar despercebidas numa análise manual.

4 De ora em Diante, CRP 

5 David Fumo, Types of Machine Learning Algorithms You Should Know, TOWARDS DATA SCIENCE (June 15, 2017), https://towardsdatascience.com/types-of-machine-learning-algorithms-youshould-know-953a08248861 [https://perma.cc/3QQU-6LXT]. 

6 pacote legislativo denominado Simplex Urbanístico, aprovado pelo Decreto-Lei n.º 10/2024, de 8 de janeiro (“DL 10/2024”), apresenta-se como uma reforma do regime jurídico do licenciamento urbanístico

 7 https://pt.wikipedia.org/wiki/Big_data 

8 O Sistema de Gestão de Compliance (SGC) é uma ferramenta inteligente e exclusiva, que reúne em uma única plataforma os principais pilares de um Programa de Integridade

Por fim, a análise e cruzamento de grandes volumes de dados em tempo real, a capacidade de analisar Big Data em tempo real é uma das maiores vantagens da IA para a Administração Pública.

 A IA facilita o cruzamento de informações entre diferentes bases de dados governamentais, permitindo uma visão mais integrada dos dados dos cidadãos, o que pode melhorar a prestação de serviços e o cumprimento de políticas públicas. Além de uma tomada de decisão mais informada, com análises em tempo real, os gestores públicos podem tomar decisões mais rápidas e baseadas em evidências, adaptando rapidamente as estratégias às necessidades emergentes. 

Por outro lado, a utilização da IA no setor público também reconhece alguns inconvenientes, uma vez que introduz novos desafios e práticas. Iremos abordar desafios como o respeito pela privacidade ou a responsabilização em sistemas de “caixa negra”, integrando desafios mais éticos e jurídicos. 

Começando pelos desafios éticos e o Direito, esta é uma questão já há muito levantada, suscitando várias questões e instrumentos proclamatórios sobre ética e IA, nomeadamente, por parte de Organizações Internacionais. Entre outros, a Conferência Geral da UNESCO aprovou, em 23 de novembro de 2021, a “Recomendação sobre a Ética da Inteligência Artificial”. Aqui se salienta que as questões éticas “em relação aos sistemas de IA dizem respeito a todos os estágios do ciclo de vida de tais sistemas, (…) desde pesquisa, design e desenvolvimento…”. 9

 A maioria dos algoritmos de IA funciona como uma “caixa negra”, onde as decisões são tomadas de forma automática e muitas vezes sem uma explicação clara, esta falta de transparência pode dificultar a compreensão de como e por que uma decisão foi tomada, esta questão pode ser problemática no contexto da administração pública, no qual é crucial que as decisões sejam justificadas e auditáveis.

 O uso da IA na Administração Pública deve respeitar os princípios fundamentais do Direito Administrativo, como os princípios da legalidade, imparcialidade, proporcionalidade e boa-fé, tal como está previsto no art.266º CRP. 

 9 UNESCO, 2022

Outra grande questão é a proteção de dados pessoais, segurança e privacidade, o que poderá acarretar consequências da responsabilização da Administração Pública.

 Os benefícios e a eficiência que esta tecnologia representa são incontestáveis, todavia, a introdução desmesurada no quotidiano dos cidadãos pode significar um perigo para a sua esfera pessoal, entre outros, para o direito à proteção dos seus dados pessoais. Há um risco de utilização indevida ou vazamento de informações sensíveis, o que exige a implementação de medidas rigorosas para proteger os dados pessoais, conforme previsto no Regulamento Geral sobre a Proteção de Dados (RGPD)10 . Assim, as capacidades do sistema de IA devem contemplar o respeito pela minimização dos dados pessoais, limitação da conservação, transparência do processamento, exatidão dos dados e a proteção de dados pessoais desde a conceção e por defeito.

 Tal como foi visto, a IA comporta uma série de riscos potenciais, tais como a opacidade do processo de tomada de decisões, a discriminação com base no género ou outros tipos de discriminação, ou a intrusão na nossa vida privada. Posto isto, é necessária uma abordagem europeia sólida, com base na estratégia europeia para a IA apresentada em abril de 201811. Tendo em vista enfrentar as oportunidades e os desafios da IA, a União Europeia12 deve agir unida e definir o seu próprio caminho, baseado nos valores europeus, para promover o desenvolvimento e a implantação da IA. A Comissão está empenhada em facilitar os progressos científicos, preservar a liderança tecnológica da UE e assegurar que as novas tecnologias estão ao serviço de todos os cidadãos europeus, melhorando as suas vidas e respeitando simultaneamente os seus direitos. A presidente da Comissão, Ursula von der Leyen, anunciou nas suas orientações políticas13 uma abordagem europeia coordenada sobre as implicações humanas e éticas da inteligência artificial, bem como uma reflexão sobre a melhor utilização de grandes volumes de dados para a inovação. Assim, a Comissão apoia uma abordagem regulamentar e orientada para o investimento com o duplo objetivo de promover a adoção da IA e de abordar os riscos associados a determinadas utilizações desta nova tecnologia.

 10 O Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados, vulgo Regulamento Geral sobre a Proteção de Dados

 11 inteligência artificial para a Europa, COM/2018/237 final.

 12 Doravante, UE

13 https://ec.europa.eu/commission/sites/beta-political/files/political-guidelines-next-commission_pt.pdf 

3. A IA na tomada de decisões

Tal como já foi mencionado, o uso da IA na Administração tornou-se algo regular e importante para o seu funcionamento, visto que a IA é capaz de analisar dados complexos ou aprender padrões a partir de grandes volumes de informação, adaptando-se a novas situações e mudanças nos dados.

 Na tomada de decisões, os sistemas de IA têm uma grande capacidade de aprendizagem e análise preditiva, pois permite prever tendências e comportamentos, ajudando na tomada de decisões estratégicas.

 Assim como a automação da tomada de decisões, que vem, cada vez mais, a ser aplicada em várias áreas da Administração Pública, tal como: serviços socias, por exemplo, a Autoridade Tributária utiliza sistemas de IA para automatizar a deteção de fraudes e otimizar a cobrança de impostos; na justiça, com a utilização da IA para acelerar a tramitação de processos judiciais e melhorar a gestão dos tribunais; segurança social, a automação é utilizada para processar pedidos de subsídios e pensões, melhorando a eficiência no atendimento aos cidadãos. 

Em seguida, iremos explorar um exemplo prático da utilização da IA. 

3.1 O caso do Tribunal de Contas – IA na contratação pública 

 O Tribunal de Contas tem a função de, nos termos da Constituição e da Lei: Fiscalizar a legalidade e regularidade das receitas e das despesas públicas, julgar as Contas que a Lei manda submeter-lhe, dar parecer sobre a Conta Geral do Estado e sobre as Contas das Regiões Autónomas, apreciar a gestão financeira pública, efetivar as responsabilidades financeiras e exercer as demais competências que lhe forem atribuídas pela Lei, 14 incumbe ainda ao Tribunal certificar a Conta Geral do Estado15 . 

14 Artigo 214º da Constituição; Artigo 1º da LOPTC 

15 Artigo 66º, n.º 6 da Lei n.º 151/2015, de 11 de setembro, com as alterações introduzidas pela Lei n.º 37/2018, de 7 de agosto

Na realização da sua missão, o Tribunal de Contas contribui para o desenvolvimento sustentável das finanças públicas. 16

 Tal como afirmou o presidente do Tribunal de Contas, José Tavares, esta iniciativa trata-se de colocar a “ciência ao serviço da missão do Tribunal e com impactos positivos em todo o Setor Público”, numa conferência conjunta com a Organização para a Cooperação e Desenvolvimento Económico (OCDE) e a Comissão Europeia para o lançamento do projeto. 

O projeto conjunto do Tribunal de Contas com a OCDE e a Comissão Europeia, que abrange todos os contratos públicos nos planos nacional, regional e local e deverá produzir efeitos no longo prazo, visa aproveitar fundos internacionais para avançar no projeto de usar inteligência artificial (algoritmo) na fiscalização de atos e contratos da Administração Pública. A utilização de Inteligência Artificial vai permitir o tratamento do volume massivo de dados e em tempo real sobre contratos públicos existentes no Tribunal e noutras entidades da Administração Pública, aumentando a transparência na gestão pública e promovendo o planeamento das ações de controlo. Assim, de forma mais rápida e em tempo real, vai ser possível identificar e prevenir irregularidades e riscos na contratação pública, área que representa de 25% a 30% da despesa pública.

4. Conclusões 

 Em suma, a utilização da inteligência artificial, ou seja, a capacidade de uma máquina para reproduzir competências semelhantes às humanas, tornou-se imprescindível para a transformação digital da nossa sociedade, compreendendo um vasto conjunto de abordagens e tecnologias capazes de atuar em distintos níveis e contextos.

 A utilização da IA reflete um avanço significativo no cumprimento do princípio da eficiência, ao mesmo tempo que promove a transparência e confiança na gestão pública, visto que o uso de técnicas de IA na Administração promove uma transformação digital constante, com um vasto campo de aplicação. No Direito Administrativo, a utilização da IA oferece diversas vantagens, pois além de projetar melhores políticas, melhora a comunicação entre os cidadãos e é possível verificar um grande impacto no aumento da eficiência e qualidade dos bens e serviços públicos prestados, na melhoria das operações internas e organizações públicas em geral.

 16 https://www.tcontas.pt

Na investigação científica e tecnológica, a IA representa um potencial de avanços exponenciais em domínios como a saúde, a automação da produção e das cadeias logísticas, o comércio e a prestação de serviços em geral. No entanto, não obstante as evidentes vantagens e o progresso alcançado com o desenvolvimento tecnológico, são igualmente potenciados os perigos para a esfera pessoal e patrimonial dos cidadãos.

 Na Administração Pública, são várias as oportunidades que se pode realçar, como o aumento da eficiência ou melhoria no planeamento, neste âmbito, a IA pode (e deve) ser utilizada para a modernização e agilização dos serviços públicos, através da implementação, por exemplo, de projetos de simplificação e digitalização de processos. Não obstante, o uso desta tecnologia também traz alguns desafios éticos e jurídicos, pois a utilização da IA na Administração Pública deve sempre ter em consideração os princípios fundamentais do Direito Administrativo, como o princípio da legalidade, imparcialidade, proporcionalidade e boa-fé. 

 A resposta aos desafios, riscos e dilemas, reside no escrutínio permanente e numa abordagem regulamentar multilateral e multinível ao longo de todo o ciclo de investigação e de utilização da IA. Assim, a utilização da IA na tomada de decisões, apresenta uma grande capacidade de aprendizagem e análise preditiva, visto que permite prever tendência e ajuda na tomada de decisões estratégicas. Todavia, esta utilização deve ser sempre escrutinada de forma a que haja a maior transparência possível para uma tomada de decisão acertada, eficiente e adaptada.

 Para concluir, podemos refletir sobre a regulamentação aplicável à utilização de IA na Administração Pública que é, na sua maioria, indireta e dispersa, não existindo um quadro jurídico específico que aborde os desafios únicos colocados por estas tecnologias. A Carta dos Direitos Fundamentais da União Europeia e o Regulamento Geral sobre a Proteção de Dados (RGPD), por exemplo, oferecem algumas salvaguardas, especialmente no que respeita à proteção de dados pessoais e à privacidade, no entanto, não abordam exaustivamente questões como a responsabilidade civil e administrativa por decisões automatizadas, a transparência dos algoritmos ou o impacto no direito ao contraditório e à defesa. Perante isto, é essencial refletir se a regulação existente é suficiente ou se são necessárias novas abordagens para assegurar um uso ético e legal da IA no âmbito do Direito Administrativo. Como tal, deixo apenas algumas propostas de melhoria para uma melhor integração da IA na Administração Pública, como por exemplo, a elaboração de um Código de Ética para a IA na Administração Pública, ou seja, a criação de um código de conduta específico que defina princípios orientadores para o uso da IA no setor público, promovendo uma utilização responsável e ética. A criação de um órgão de supervisão da IA, portanto, uma agência reguladora independente com competência para supervisionar o uso da IA na administração pública, investigar queixas e emitir recomendações de boas práticas. Por último, o desenvolvimento de ferramentas de avaliação de impacto ético e jurídico antes da adoção de sistemas de IA em processos administrativos, de maneira a antecipar e prevenir eventuais riscos.

Bibliografia

 MARIA RAQUEL GUIMARÃES/RUTE TEIXEIRA PEDRO, Direito e Inteligência Artificial, Almedina, Coimbra, 2023; 

Graça Enes, “A investigação e a Inteligência Artificial. Desafios Éticos e Jurídicos”, Porto, CIJ, outubro de 2024, disponível para consulta em: https://cij.up.pt//client/files/cadernos-do-cij-nordm-7graca-enes_2832.pdf;

 INÊS DA SILVA COSTA, “A proteção da pessoa na era dos big data: a opacidade do algoritmo e as decisões automatizadas”, in Revista Eletrónica de Direito, Nº1 (vol.24), Porto, fevereiro 2021, disponível para consulta em: https://cij.up.pt//client/files/4-inescosta_1677.pdf; 

Surden, Harry, Inteligência Artificial e Direito: Uma Visão Geral (28 de junho de 2019). Revisão de Direito da Universidade Estadual da Geórgia, Vol. 35, 2019, Documento de Pesquisa de Estudos Jurídicos da U of Colorado Law No. 19-22, disponível em SSRN: https://ssrn.com/abstract=3411869

 Comissão Europeia. *White Paper on Artificial Intelligence: A European Approach to Excellence and Trust*. 2020. Disponível em: https://ec.europa.eu/info/sites/default/files/commission-white-paper-artificialintelligence-feb2020_en.pdf 

Organização para a Cooperação e Desenvolvimento Económico (OCDE). *AI in the Public Sector*. 2019. Disponível em: https://www.oecd.org/governance/innovativegovernment/AI-in-the-public-sector.pdf

 John McCarthy: Pioneiro na Inteligência Artificial – Jala University 

https://commission.europa.eu/ 

https://iaap.iscte-iul.pt/ia-na-ap/ 

PROJETO DE INTELIGÊNCIA ARTIFICIAL COM OCDE AVANÇA A PARTIR DE HOJE (tcontas.pt)

 INTELIGÊNCIA ARTIFICIAL NA CONTRATAÇÃO PÚBLICA JUNTA TRIBUNAL DE CONTAS E OCDE EM PROJETO PIONEIRO (tcontas.pt) 

Tribunal de Contas recorre à inteligência artificial para fiscalizar contratos públicos – ECO (sapo.pt)