Comissão já começou a aplicar as regras do Artificial Intelligence Act e os novos requisitos de transparência

A partir de ontem, o European Commission’s AI Office, assim como as autoridades nacionais de cada Estado-membro, começaram a aplicar o Artificial Intelligence (AI) Act.

Os robôs de conversação e outros sistemas de IA interativos terão de dizer aos utilizadores que estão a lidar com a IA, e não com um ser humano. As deepfakes (imagens, vídeos ou áudio que tenham sido editados ou gerados utilizando IA) terão de ser rotuladas. Os conteúdos gerados por IA ou alterados terão também de ostentar marcas legíveis por máquinas, para que possam ser detetados mais facilmente.

Estas são apenas algumas das novas regras contempladas no Artificial Intelligence (AI) Act (Regulamento de Inteligência Artificial) que começou a ser aplicado a partir de ontem, 2 de agosto. As medidas focam-se na transparência e destinam-se a reduzir o engano e a manipulação e ajudar as pessoas a fazer escolhas informadas. Simultaneamente, apresentam às empresas obrigações mais claras e uma forma prática de demonstrar o seu cumprimento.

O AI Office pode agora aplicar as regras do Regulamento Inteligência Artificial aos fornecedores de modelos de IA de finalidade geral (GPAI), modelos esses que podem desempenhar muitas tarefas diferentes e ser utilizados numa vasta gama de ferramentas e serviços, incluindo agentes de IA.

As regras abrangem igualmente os modelos GPAI mais avançados que podem representar riscos sistémicos. Os seus prestadores devem cumprir obrigações adicionais para fazer face aos riscos de danos em grande escala, como os riscos associados a incidentes químicos, biológicos, radiológicos e nucleares, à perda de controlo, à ciberinfração, à manipulação nociva e às ameaças aos direitos fundamentais. Abordam igualmente os riscos para  cibersegurança europeia e para a IA que atua fora do controlo humano.

Todos os fornecedores de modelos GPAI devem documentar determinadas informações e fornecê-las às autoridades competentes ou aos fornecedores envolvidos. Devem igualmente pôr em prática uma política de direitos de autor e publicar um resumo suficientemente pormenorizado dos conteúdos utilizados para formar os seus modelos.

Inicia-se igualmente a aplicação das obrigações de transparência e das práticas de IA proibidas. Proíbem sistemas particularmente nocivos, incluindo sistemas que manipulam as pessoas, exploram vulnerabilidades de formas prejudiciais ou classificam injustamente as pessoas de formas que ameaçam os seus direitos.

Refira-se que a responsabilidade pela aplicação das regras de transparência e das práticas proibidas é partilhada por três organismos. Assim, o AI Office aplica as regras aplicáveis aos sistemas de IA oferecidos pelo mesmo fornecedor que o modelo de IA de finalidade geral subjacente. Abrange igualmente sistemas integrados em plataformas em linha de muito grande dimensão ou motores de pesquisa em linha de muito grande dimensão designados ao abrigo do Regulamento dos Serviços Digitais. As autoridades nacionais competentes aplicam as regras a outros sistemas de IA.

Por sua vez, a Autoridade Europeia para a Proteção de Dados aplica as regras aplicáveis aos sistemas de IA utilizados pelas instituições, órgãos e organismos da União Europeia. Depois, a aplicação efetiva dependerá igualmente de os Estados-Membros assegurarem que as autoridades nacionais competentes são devidamente designadas e dotadas dos recursos adequados.

O AI Office e as autoridades nacionais competentes serão apoiados no seu trabalho de execução pelo Painel Científico, um órgão consultivo de peritos composto por 60 peritos independentes em IA. O painel realizou recentemente a sua primeira reunião.

O AI Office também nomeou o professor Alessandro Abate, do Departamento de Ciência da Computação da Universidade de Oxford, como consultor científico principal. Apoiará o trabalho científico do Gabinete sobre modelos de IA de finalidade geral, incluindo a inovação e a adoção, bem como o ensaio e a avaliação de modelos.

Ferramentas de controlo e monitorização

O AI Office lançou várias ferramentas para os cidadãos e para as empresas de forma a apoiar a execução das novas regras. As pessoas singulares e coletivas podem utilizar a ferramenta de apresentação de queixas para comunicar eventuais infrações ao Regulamento Inteligência Artificial.

As pessoas que trabalham com fornecedores de sistemas de IA ou modelos de IA de finalidade geral podem utilizar a ferramenta de denúncia de irregularidades para comunicar eventuais violações do ato legislativo de forma segura. Está igualmente disponível um canal específico para os fornecedores a jusante que criem sistemas de IA com base em modelos de finalidade geral e que pretendam comunicar alegadas infrações por parte dos fornecedores desses modelos. O AI Office tratará as informações recebidas através destas ferramentas de forma confidencial.