Na audiência pública promovida pela comissao que avalia o anteprojeto de lei sobre o tema no Congresso Nacional, reallizada nesta quinta-feira, 09/06, diferentes especialistas destacaram que os sistemas de inteligência artificial não podem ultrapassar e violar os direitos dos cidadãos. Para os especialistas, transparência, equidade e participação do Estado e da população são necessárias na definição do arcabouço legal sobre o tema.

Professor de direito e inovação na Bucerius Law School, em Hamburgo, Wolfgang Hoffmann-Riem disse que é preciso se organizar para trabalhar com harmonia e transparência, no intuito de criar leis que possam alcançar todas as dimensões do tema, de forma a não se correr riscos desnecessários.

Deve haver, segundo o professor, uma legislação que se oriente não apenas nos riscos, mas na questão de proteção de dados e dos cidadãos. Para Hoffmann-Riem, a autorregulamentação não pode estar presente. "Os sistemas de inteligência artificial não podem ultrapassar os direitos dos cidadãos. O Estado tem de trabalhar no controle e na cooperação com o sistema de inteligência artificial."

A professora e pesquisadora na Vrije Universiteit Brussels (VUB),Mireille Hildebrandt, apresentou detalhamento para os sistemas de alto risco e tratou da importância de se regular o sistema de responsabilização."Temos de ter um sistema de gestão de risco, para garantir que não haja nenhum direito individual violado. Com documentação técnica detalhada e uma regulamentação do mercado", disse.

Os impactos que a inteligência artificial pode exercer sobre os direitos humanos e individuais, seus propósitos e quem são os beneficiários dessa tecnologia foram questões levantadas pela advogada e diretora-executiva da Derechos Digitales, Maria Paz Canales.

Como destacou, "é inalienável a obrigação que o Estado tem para a regulamentação desses sistemas. Precisamos observar uma proposta de lei que abranja todo os elementos que concretizem os princípios fundamentais. As escolhas envolvidas na IA não podem ser tomadas sem um exercício aberto com o público". 

Já o professor na Universidade da Califórnia, Stuart Russell, ex-vice-presidente do Conselho de IA e Robótica do Fórum Econômico Mundial e ex-consultor da ONU para o controle de armas, lembrou que o direito mais fundamental é o direito à vida e ressaltou, assim como outros palestrantes, que o algoritmo nunca pode superar os direitos humanos.

A chefe da Caneles Política Setorial de IA da Comissão Europeia, Irina Orssich, e a diretora do Centro de Pesquisas em Proteção de Dados na Universidade de Frankfurt, Indra Spiecker, trouxeram ao seminário as experiências de regulamentação na Europa e os riscos associados. Segundo Irina, em abril de 2018 a União Europeia implementou a primeira estratégia para as regras de regulamentação da IA no bloco.  

"Percebemos a IA como algo produtivo e, nesse espírito, desenvolvemos com quatro estados-membros um plano coordenado. Definimos as ações que poderíamos apoiar para contribuir para um ecossistema de inteligência artificial."

Em abril do ano passado, foi apresentado um pacote de IA, que oferece um rascunho de estrutura legal. A Comissão, o Conselho e o Parlamento Europeu elaboraram um texto final e espera-se que haja sua aprovação até o final do próximo ano.

"Queremos harmonizar as regras e as leis e, com essa abordagem de segurança, abordamos os temas de IA que estão no mercado, de forma que todos tenham de cumprir com as mesmas regras. Estamos fazendo uma abordagem baseada em risco. Não queremos regular toda a tecnologia. É um ato horizontal, aplica-se igualmente a todos os setores", disse. 

Para Indra Spiecker, a IA lida com coisas que o ser humano não conseguiria, mas é uma tecnologia que tem seus efeitos colaterais. Para a professora, não se deve apenas cuidar da regulamentação, sendo preciso se preocupar também em colocá-la em vigor. "De modo geral, o que precisamos é que tudo seja mais especifico para que possamos controlar o desenvolvimento da tecnologia', afirmou.

Membro do Conselho Futuro Global sobre Riscos de Fronteira do Fórum Econômico Mundial, o advogado e pesquisador, Jake Okechukwu Effoduh, destacou que o Brasil é o primeiro país na América Latina e no Caribe a elaborar uma legislação de IA e que pode vir a servir como exemplo para os países africanos. Para ele, a legislação brasileira deve reforçar os direitos fundamentais e oferecer informações sobre os impactos e danos que essa tecnologia pode causar.

Professor e chefe de departamento no Instituto Universitário Europeu (EUI), Hans Wolfgang Micklitz salientou a preocupação com o consumidor no Brasil, diferentemente do que ocorre na legislação da União Europeia. "Aqueles que estão usando a tecnologia devem mostrar que não estão exercendo uma influência sobre o consumidor", afirmou.

* Com informações da Agência Senado