Trabalho do Blog - Matilde Salgueiro

 Inteligência artificial nos atos administrativos. Uma modernização desnecessária?

1.0 Introdução 

Ao longo dos anos, a humanidade foi encarando novos desafios, sendo a tecnologia um dos mais importantes, mas também dos mais assustadores. A passagem do papel para um ecrã não foi fácil, e tanto a administração como todo o Direito tiverem não só tiveram de se adaptar, mas também de regular e legislar esta nova vertente, tendo já o CPA  legislações próprias para a tecnologia, colocando limites ao que se considerava “ilimitado”. Nos dias de hoje nada é diferente, apenas considero mais difícil. Com a chegada da inteligência artificial, a administração viu-se em uma necessidade de reflexão sobre a sociedade. Esta nova tecnologia torna-se num problema delicado pois, ao contrário do que víamos até agora, este é um tema que mexe com a própria ética humana. No meu trabalho não irei explorar os benefícios ou os riscos da IA em todo o ser da administração pública, focando apenas a minha reflexão nos atos administrativos. O meu objetivo no seguinte trabalho é perceber se a utilização da IA em todo o procedimento do ato administrativo ( desde a iniciativa, até à decisão final da administração) é algo que realmente vale a pena. Começarei então por dar um breve explicação sobre o que é a IA e o que é o procedimento de um ato administrativo, de seguida irei indicar o papel da inteligência artificial na administração, dizendo as suas vantagens e os seus riscos, de forma a chegar a uma conclusão: será esta modernização algo necessário, ou irrelevante para o progresso da administração?

1.1 Conceito de inteligência artificial

O conceito do que é IA já é um tema que vem sido debatido ao longo dos anos, porém, de modo a tentar tornar este conceito mais breve e fácil de entender, usaremos o conceito vindo do próprio site do Parlamento Europeu, assim “ A IA é a capacidade que uma máquina tem para reproduzir competências semelhantes às humanas” . Ou seja, quando perguntamos algo a uma inteligência artificial, por exemplo, o ChatGPT, este pega em toda a informação que encontra, e tenta formular a melhor resposta possível. Podemos dizer então que as máquinas, que trabalham em função de algoritmos, desempenham tarefas em substituição aos seres humanos. Vale a pena também referir que o sentido de “inteligência Artificial”, segundo o professor ARTUR FLAMÍNIO DA SILVA tem duas vertentes: em sentido forte, onde se encontra a ideia de um “supercomputador” que consegue replicar exatamente todos os pensamentos humanos, e um sentido mais fraco, onde assumimos que a IA pode concretizar tarefas concretas mas nunca consegue tomar decisões autónomas. 

1.2 Conceito de ato administrativo e o seu processo

 Antes de conseguirmos explicar brevemente o procedimento de um ato administrativo, é preciso ter noção do que é um ato administrativo. Conseguimos encontrar este conceito no Art.148º do CPA, dizendo que são decisões que visam produzir efeitos jurídicos externo de uma situação individual concreta. Ou seja, é um ato jurídico unilateral praticado por um órgão administrativo no seu respetivo poder, e que traduz em uma decisão tendente a produzir efeitos sobre uma situação individual . O procedimento do ato administrativo, segundo o próprio CPA tem cerca de 5 fases principais. Começando então pela iniciativa (dos artigos 102º até ao 109º), que inicia o procedimento ; a notificação (dos artigos110º até ao 114º), que como o nome indica, dá notificação sobre o inicio do procedimento; a instrução (dos artigos 115º até ao 120º), onde acontece a recolha de provas de modo a averiguar os factos que interessem à decisão final; a audiência dos interessados ( dos artigos 121º até ao 125º), que é uma audiência prévia onde os interessados podem acrescentar o que queiram antes da tomada de decisão definitiva; por fim, a decisão ( dos artigos 126º até ao 133º) onde é colocada a decisão. Claro que ainda existem vários outros pontos a acrescentar ao procedimentos, como recursos, reclamações etc., porém para a seguinte análise iremos só nos focar neste procedimento decisório de 1º grau, tendo em conta também todos os princípios da administração que estão vinculados.

2. O papel da inteligência artificial na administração pública

 Quando falamos da IA na administração pública atualmente, podemos falar de dois assuntos importantes, sendo o primeiro a própria legalidade de usar a inteligência artificial em algo ato administrativo, ou outro tipo ações administrativas e a forma como neste momento usamos essa mesma inteligência, e como A administração pública já está a utilizar esta “superinteligência”. O primeiro ponto versa sobretudo sobre a legalidade de utilizar neste momento a inteligência artificial na administração, pois, a Inteligência artificial não está nem perto de ser de alguma maneira regulada no CPA. Existe uma grande diferença entre a administração digitalizada e uma administração desumanizada, de tal modo que não acho que possamos aplicar as regras gerais do Art14º do CPA para os tipos de situações que envolvem a utilização de uma IA. O que é facto é que a administração já usa muitas vezes a inteligência artificial de modo a ajudar os particulares em coisas pequenas, tal como a utilização da IA para vários processos, que são, sobretudo, processos operacionais. Tomo como exemplo o site da segurança social, que, a partir de uma inteligência artificial auto intitulada de “Clarice” , conseguimos aceder ou requerer documentos, tratando se de um ato administrativo, valendo ressaltar que este não é o único site co estas habilidades, tornando-se comum este tipo de práticas. O real problema surge quando tentamos utilizar a IA para coisas mais importantes do que apenas fornecer informações ou documentos, falando assim de tomadas de decisões de um ato administrativo ou de todo o seu procedimento em si, pois são esses temas que envolvem mais os particulares a nível pessoal. Este é o principal tema que iremos debater, de seguida, dizendo as suas vantagens e os seus riscos.  

3.0 Vantagens e riscos da inteligência artificial no ato administrativo

 Como já vimos, a IA é cada vez mais utilizada pela administração pública, porém, para temas mais equinos e nada discricionários. Neste ponto vamos ver as vantagens e desvantagens quanto ao uso de IA no procedimento do ato administrativo, um processo que em muito casos é sim discricionário, ou seja, é necessário uma reflexão de todos os dados e provas antes de tomar uma decisão, e não algo que já está totalmente vinculado à lei. Começamos então pelas vantagens.

3.1 Vantagens 

Comecemos então por uma das primeiras fases do procedimento do ato administrativo, a fase da instrução. Nesta fase, onde o principal objetivo é recolher as provas e todos os factos necessários e relevantes para a tomada de decisão, algo que está bem explícito no art.115º do CPA, a intervenção de uma IA iria trazer uma melhor automatização desses mesmos documentos e constatações. Através do processo do algoritmo, esta inteligência ia conseguir distinguir todos os documentos e com base na informação que tem, compilar todos aqueles que são necessários a uma melhor tomada de decisão, deixando de fora aqueles que são considerados para “irrelevantes”. Está automatização do processo de tomada de decisão tem vantagens a nível de uniformidade fiabilidade e capacidade de controlo. Como até forma de consequência de uma melhor automatização dos dados, o processo do ato administrativo torna-se mais rápido. Neste momento, está regulado no CPA ( mais propriamente no seu Art128º, que os procedimentos devem ser decididos num prazo de 60 dias que se pode estender para até um prazo de 90 dias. Porém, com a implementação das IA no procedimento do ato administrativo, este tempo pode ser reduzido até, por exemplo, 1 semana ( não dizendo menos pois ainda existe a aparte obrigatória da intervenção dos particulares, como é o caso da audiência dos interessados). Estando ainda interligado às vantagens anteriores, o uso de uma inteligência artificial no procedimento administrativo, por ser mais automático e mais encurtado em questão e tempo, levaria anda à possibilidade da administração ter menos custos e precisar de menos pessoal, podendo concentrar essas pessoas e esses custos em atuações mais importantes ou até mais urgentes. Por fim, e na minha conceção um dos pontos mais importantes a favor da inteligência artificial, concentra-se na ultima fase do procedimento, a tomada de decisão. Quando um conjunto de pessoas estão prestes a tomar uma decisão, essa mesma decisão tem de estar conforme todas as provas, mas mais importante, tem de estar conforme todos os princípios da administração pública, sendo um deles o princípio da imparcialidade. O princípio da imparcialidade está consagrado no art.9º do CPA e as suas consequências no art.69º e SS do mesmo, e diz nos que nas tomadas de decisões as pessoas precisam de ser totalmente imparciais. O problema é que às vezes isso não acontece, e mesmo havendo processos e legislação para evitar isso , existem casso onde toda a gente envolvida está a ser parcial ou a pessoa que o está a ser não é exposta ou descoberta. Com a IA a fazer esse trabalho, a tomar esse tipo de decisões, esse problema não existiria, já que a decisão de uma máquina é totalmente imparcial, isso porque ela apenas limita-se a analisar os documentos e chegar a uma conclusão com base neles. O problema da imparcialidade iria ser totalmente erradicado, havendo cada vez menos corrupção e tornando os atos mais justos e coesos.

3.2 Riscos 

Mesmo parecendo que a IA tem bastantes pontos positivos para o procedimento dos atos administrativos, ainda existem bastantes pontos contra esta implementação. O primeiro que iremos falar é um dos maiores riscos para o ato administrativo, que se trata do problema com a transparência. Todo o exercício de uma administração tem de ser uma “casa de vidro”, ou seja, tem de ser totalmente transparente e as suas decisões precisam de ser justificadas, como está aliás, regulado no CPA, mais especificamente no seu Art152º que trata de o dever de fundamentação dos atos administrativos. O problema de implementar uma Inteligência artificial nestas mesmas decisões, é que essa mesma fundamentação já não vai ser possível, sendo que a IA apenas nos dá uma resposta, isso leva-nos ao problema que maior parte da doutrina tem chamado de “black boxes” e a “opacidade algorítmica”. Isto traduz-se no facto de não podermos explicar a lógica e os motivos da decisão algorítmica, porque mesmo que os dados que entram, na fase de instrução e a decisão que saia dali sejam de nosso conhecimento, O seu funcionamento interno específico não é decifrável muito menos entendível . Ainda falando neste tema, o professor ARTUR FLAMÍNIO DA SILVA ainda justifica que poderá existir uma variante deste problema da transparência, que seria uma maneira de resolver esse mesmo problema, com a expressão “sand boxes”, tratando se de um sistema tecnológico, mas que estará sempre a ser vigiado, de forma a percebermos melhor as derivantes da sua decisão. A minha pergunta sobre esta “solução” coloca-se no sentido da necessidade de termos uma máquina se esta já vai estar a ser vigiada e confirmada, porém irei abordar este tema mais para a frente. Outro problema que é colocado por maior parte da doutrina tem haver com a discriminação decorrendo do enviesamento. Como disse em cima, uma IA consegue ser sempre imparcial com os dados que tem, porém, quem nos diz que esses dados não só por si só fraudulentos e enviesados? Ou seja, se já dentro do algoritmo existe alguma vertente que leve a IA a tomar uma decisão injusta ou discriminatória, ou mesmo o padrão histórico que a inteligência se baseie seja ultrapassado pois todos sabemos que o que é considerado “normal” e o “correto” vai mudando ao longo do tempo, conseguindo ver cada vez mais essas mudanças repentinas, a decisões que vão sair de lá ou até logo na fase de instrução onde compila os documentos considerados “relevantes”, já serão em si erradas, levando a um ato administrativo viciado e por vezes totalmente errado. Chegamos então ao nosso próximo ponto negativo, que deriva um pouco do problema do nosso outro ponto. Supondo que realmente a IA toma uma decisão com base num padrão histórico desatualizado, e por algum motivo se note que essa decisão não é a correta, porém já foi decidida, de quem é a culpa ? Será das pessoas que permitiram este tipo de linguagem ser utilizado? Serão os programadores que não colocaram barreiras suficientes? Podemos responsabilizar uma máquina? Para conseguir atribuir uma culpa, precisamos de perceber se o problema foi de algum agente a colocar algo na máquina, ou culpa do próprio algoritmo da maquina, algo que é muito difícil de fazer, pois o próprio algoritmo chega a uma decisão com base no seu próprio deep learning, que não tem qualquer controlo humano, tornando difícil a atribuição de um dano . Em 2020 o Parlamento Europeu tentou colocar uma resposta colocando parte da responsabilidade nos operadores, porém essa decisão também não me parece justa. Como último ponto negativo, falemos um pouco mais sobre a doutrina sobre este tipo de decisões. Maior parte da doutrina afirma que a vontade humana em uma decisão é um pressuposto essencial para haver uma decisão administrativos válida. Vemos então o exemplo do Professor MIGUEL PRATA ROQUE, que nos diz exatamente “em regra, os comportamentos automatizados apenas constituem um meio tecnológico de expressão, ainda que diferida ou programada, da vontade do titular do órgão administrativo com competência para decidir ou para agir. Nesse sentido, a vontade do titular do órgão constitui sempre pressuposto da própria existência da atuação administrativa – qualquer que seja a sua modalidade – (…)”. Com esta reflexão, mais especificamente o ponto da inteligência artificial ter de refletir sempre a vontade do órgão, conseguimos chegar a uma conclusão, que irei refletir a seguir.

A modernização administrativa é necessária? 

 Após refletir sobre os pontos a favor e os pontos contra, consigo chegar a uma conclusão bastante óbvia, conseguindo traduzir todos os riscos em uma palavra, e basta essa única palavra para as vantagens também passarem a não fazer sentido. A desconfiança. A desconfiança está presente em absolutamente todos os pontos negativos que referi e também os que não referi. A falta de transparência nas chamadas “black boxes”, leva a uma falta de confiança dos particulares de como a decisão foi feita. O facto de haver uma possibilidade da decisão ou qualquer outra fase do procedimento será baseado em factos ultrapassados também em si gera uma desconfiança. A responsabilidade Civil e o seu problema traduz em uma falta de confiança dos particulares para com a própria administração caso algo corra mal. E por fim, a própria doutrina desconfia deste tipo de tecnologias. A partir daqui, existe uma discussão muito elevada sobre se este uso é benéfico ou não, porém o meu ponto é diferente. Se existe uma desconfiança grande perante a IA, a solução parece-nos fácil, bastava alguém ir confirmar se todo o procedimento feito por esta inteligência estava correta, mas para mim, o facto de um conjunto de pessoas ir certificarse que a IA funciona corretamente, tira o próprio propósito deste tipo de máquina, que é a autonomia. Por isso, a minha reflexão não se centra no facto de se a IA é melhor ou pior, mas sim totalmente relevante para a administração. Quando pensamento se este tipo de modernização é sequer relevante para o procedimento a reposta foge para o lado negativo. Não faz sentido que se o objetivo da inteligência artificial é a automatização, que leva a que o procedimento se torne mais rápido e eficaz, precisaremos de alguém para confirmar e vigiar todo o processo, daí que o processo das “sand boxes” não tem muito cabimento, sendo apenas preferível as próprias pessoas fazerem a decisão em vez de estar a vigiar de que modo é que a máquina o faz, e se a sua decisão faz sentido. O facto da própria legislação Europeia recente aplicar a regra do consentimento dos particulares para a utilização da inteligência artificial, também aponta no sentido negativo, já que a falta de confiança existente nestes programas levaria a que ninguém realmente o usasse, porque realmente tinham essa escolha, não sendo propriamente utilizado para nada e caída no esquecimento.

4.0 Conclusão 

Com base nestes pontos, a administração, mesmo com todas as evoluções que estejam a ocorrer, podia prosseguir o seu caminho sem necessitar da IA no seu procedimento administrativo? Com base em tudo o que vimos, a minha resposta é não. A inteligência artificial mesmo que não transmita confiança na sua resposta final ainda pode ser considerada uma mais valia para todos o seu procedimento como um todo, propondo, assim, uma solução lógica que poderia beneficiar em todos no decorrer do procedimento de atos administrativos. A inteligência artificial no âmbito de todo o procedimento não se trataria de uma solução mas sim de uma ajuda, ou até de um hipótese. No início do procedimento, na parte das notificações, como se trata de algo vinculativo, a inteligência artificial poderia poupar bastante tempo ( passando de um trabalho de algumas horas, a um trabalho de pequenos segundos). Quando chegamos às partes que são mais complicadas, ou seja, a que envolvam mais discricionariedade, poderíamos sim utilizar a IA mas como apenas uma hipótese, assim, fazendo uma interpretação mais moderna do que diz o Professor PEDRO GONÇALVES, a decisão de uma IA é uma “hipótese” que não vincula ninguém, nem os particulares, nem o órgão que serve o computador. Chegamos à conclusão que a inteligência artificial ainda não está pronta para conseguir tomar decisões nem ter todo o controlo quando falamos do procedimento de um ato administrativo. Ou até, nem é a IA que não está pronta, mas sim os próprios seres humanos ainda não estão prontos para confiar todo o seu processo em uma máquina, e verdadeiramente, não sei que alguma vez o estarão. Mas acredito que a confiança pode ser ganha aos poucos, por isso, concordo que a IA deva começar a ser utilizada de maneira lenta, mas de maneira eficaz demonstra do os seus bons resultados, fazendo primeiro os trabalhos vinculados e dando sempre ajuda e hipóteses quando se trata de problemas discricionários. Assim, finalmente, não acho que esta modernização seja irrelevante para a Administração, mas sim algo inovador e vantajoso para a mesma, desde que seja feita com os devidos cuidados e que não se torne uma dominação e sim uma cooperação entre o Homem e a Máquina.

Bibliografia

 - https://www.europarl.europa.eu/topics/pt/article/20200827STO85804/o-que-e-ainteligencia-artificial-e-como-funciona#o-que--a-inteligncia-artificial-3

- Flamínio da Silva, Artur “Inteligência Artificial e Direito Administrativo”, Direito Administrativo e Tecnologia,2023 

- https://www.trustinnews.pt/EXAME/474_Advogados_IDP/06/INDEX.html

 - https://www.seg-social.pt/inicio

 - book, mestrado da faculdade de direito, escola do porto Universidade Católica, VOL.6 Paulino Maia e Silva, Jaime: “Viabilidade da aplicação de sistemas de inteligência artificial aos atos administrativos discricionários” 2023

 - Freitas do Amaral, Diogo “Curso de Direito administrativo II”, 2001 

- House of Lords Select Committee on Artificial Intelligence. (2018). AI in the UK: ready, willing and able?. - Barbosa, Mafalda Miranda “Inteligência Artificial” , 2024

 - https://www.europarl.europa.eu/doceo/document/TA-9-2020-0276_PT.html

 - Prata Roque, Miguel “Administração eletrónica e automatização: contributos para uma reformulação da teoria geral das atuações administrativas”, 2015 

- Gonçalves, Pedro, O ato administrativo informático: O direito administrativo português face à aplicação da informática na decisão administrativa”, 1997, 

- Código do Procedimento Administrativo - Revista de Direito administrativo, #12, setembro a dezembro, 2021