“Inteligência Artificial e Direitos Fundamentais: O Papel do Provedor de Justiça na Era Digital”, foi o tema que o Juiz Conselheiro do Conselho Constitucional, Alberto Nkutumula, abordou na palestra que proferiu, recentemente, dirigida aos funcionários da Provedoria de Justiça, com o propósito de promover um debate em torno das competências deste órgão na defesa dos direitos e garantias fundamentais, num contexto em que o avanço da Inteligência Artificial (IA) apresenta novos desafios à dignidade humana.

A iniciativa insere-se num ciclo de palestras promovido pela Provedoria de Justiça, destinado a aprofundar o conhecimento dos seus colaboradores sobre temas actuais e relevantes, bem como reforçar o compromisso institucional com a prestação de serviços de qualidade e a salvaguarda dos direitos e liberdades fundamentais dos cidadãos.

Durante a sua intervenção, Alberto Nkutumula destacou que o avanço exponencial da IA está a transformar diversos sectores da sociedade, incluindo o sistema jurídico, mas alertou que tal progresso acarreta riscos significativos para os direitos fundamentais, pilares de qualquer sociedade democrática.

Entre os riscos mais preocupantes, Nkutumula apontou a violação do direito à privacidade, a autonomia e dignidade humana que podem ser comprometidas, sobretudo em sectores como a saúde, onde decisões baseadas exclusivamente em IA podem desumanizar o cuidado e negligenciar nuances individuais, bem como a ameaça à liberdade de expressão e de informação, resultante da disseminação de desinformação e “fake news” amplificadas por sistemas automatizados.

Nkutumula alertou ainda para o fenómeno dos “deepfakes” e da geração de conteúdos falsos por IA, que podem manipular a opinião pública e minar a confiança nas instituições democráticas. Mencionou também o perigo da inferência de dados sensíveis, em que sistemas inteligentes deduzem informações privadas, como crenças religiosas, estado de saúde ou convicções políticas, a partir de dados aparentemente inofensivos.

Para enfrentar esses desafios e mitigar tais riscos, o Juiz Conselheiro defendeu a necessidade de desenvolvimento de marcos regulatórios robustos, baseados em princípios de transparência, responsabilidade, equidade e auditabilidade, capazes de garantir o desenvolvimento ético e controlado da IA.

Entre as propostas apresentadas, destacou-se a importância de assegurar a transparência e explicabilidade das decisões automatizadas; definir responsabilidades e auditorias claras por danos causados por sistemas de IA; manter o controlo humano em processos críticos; desenvolver sistemas com privacidade desde a concepção; e combater a discriminação em dados e algorítmo, garantindo resultados justos e equitativos.

Para Nkutumula, a relação entre direitos fundamentais e inteligência artificial representa um dos maiores desafios jurídicos e éticos do nosso tempo.

“A protecção desses direitos é essencial para garantir que a IA seja uma ferramenta de progresso humano, e não de sua diminuição”, afirmou. (Nota Informativa)