Desde os anos 50 que a inteligência artificial é um tema presente na realidade tecnológica mundial. O ser humano tem estudado as máquinas, criando e aperfeiçoando as suas funcionalidades ao nível da programação.
O surgimento da Internet determinou um marco importante na democratização da inteligência artificial no nosso quotidiano. As atividades do dia a dia passaram então a ser desenvolvidas com base na programação de resultados mais rápidos em prol da velha máxima “tempo é dinheiro”, satisfazendo os nossos desejos e escolhas, de forma personalizada e subjetiva.
Não há um dia que passe em que não utilizemos sistemas programados através da IA. Falamos, por exemplo, dos transportes, smartphones, cibersegurança, pesquisas online, automóveis, entre outros.
Se por um lado, esta tecnologia tem o mérito de possibilitar uma maior capacidade de processamento de dados e acelerar a transformação digital da sociedade, garantindo uma maior personalização das nossas escolhas no ambiente virtual e tecnológico, por outro, existe uma crescente preocupação com os eventuais efeitos nocivos na esfera privada de cada um. A criação de perfis, e as consequentes decisões emitidas por parte das empresas que utilizam a IA, tem sido um dos pontos críticos, sobretudo, no impacto sobre os direitos e liberdades dos cidadãos.
“A existência de decisões automáticas baseadas em perfis e algoritmos pode impactar seriamente os direitos e liberdades dos titulares que, inocente e inesperadamente, veem o seu nome associado a algo negativo com danos na sua imagem e reputação” – a opinião de Elsa Veloso, advogada especialista em Privacidade e Proteção de dados, e fundadora e CEO da DPO Consulting.
Casos recentes vieram a público demonstram a face oculta da programação IA. Um cidadão norte-americano viu bloqueadas as suas contas de e-mail, contactos e acessos associados à Google, quando o sistema de IA da gigante tecnológica detetou o envio para um médico, por telemóvel, por parte de um pai, de uma foto da virilha do seu filho por ocasião de uma patologia.
O sistema de IA da Google detetou e sinalizou aquela fotografia como material abusivo relacionado com pornografia infantil, tendo inclusive participado criminalmente daquele cidadão. Pese embora este pai tenha contestado a decisão de bloqueio, a Google mostrou-se irredutível, mantendo todos os acessos e contas bloqueadas, mesmo após as autoridades policiais terem concluído não existir nenhum indício criminal. Este é um exemplo claro do lado nocivo e perigoso da programação.
A existência de decisões automáticas baseadas em perfis e algoritmos pode impactar seriamente os direitos e liberdades dos titulares que, inocente e inesperadamente, veem o seu nome associado a algo negativo com danos na sua imagem e reputação.
Por cá, embora ainda não exista legislação reguladora em concreto ao nível da União, a Comissão em conjunto com o Parlamento Europeu tem desenvolvido iniciativas tendentes a um futuro regulamento que permita estabelecer as regras e os princípios de implementação e execução do sistema de inteligência artificial. Contudo, o RGPD já prevê no art.º 22.º que o titular dos dados tenha o direito a não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado (ainda que preveja igualmente exceções), sendo-lhe reconhecido, inclusive, o direito de obter mão humana na decisão causa-efeito, dar o seu ponto de vista e apresentar contestação.
Desde então, o Parlamento Europeu aprovou já duas resoluções, a chamada resolução sobre o regime da responsabilidade civil aplicável à inteligência artificial (Resolução do Parlamento Europeu, de 20 de dezembro, que contém recomendações à Comissão sobre o regime de responsabilidade civil aplicável à inteligência artificial (2020/2014(INL9), determinando a responsabilidade indemnizatória das entidades, por danos causados por força do uso de tecnologias de inteligência artificial, e a Resolução do Parlamento Europeu, de 3 de maio de 2022 sobre a inteligência artificial na era digital (2022/2266(INI) chamando a atenção para a criação de normas éticas e jurídica, exortando a Comissão Europeia a legislar sobre esta matéria.
