Opinião

Os novos desafios: regulamento da inteligência artificial

Ana Canavarro, coautora do livro ‘Metaverso no marketing, nas marcas e nos negócios’*

Efetivamente, a tecnologia só faz sentido quando está ao serviço do ser humano, pois o seu propósito principal deve ser melhorar a qualidade de vida das pessoas.

Sabia que há um novo regulamento da Inteligência Artificial (IA)? A União Europeia tem estado na vanguarda legislativa, nomeadamente no que toca ao mundo digital. A instituição pretende assegurar, em simultâneo, a liderança tecnológica (na qual se incluem os sistemas de inteligência artificial) e o respeito pelos valores, pelos direitos fundamentais e pelos princípios que a norteiam. Além das suas inúmeras utilizações benéficas, a IA, pode também ser utilizada indevidamente e, foi este pressuposto que esteve na base da criação deste normativo.

Este novo regulamento (Regulamento (UE) 2024/1689) foi assinado a 13 de junho e publicado a 12 de julho de 2024 no Jornal Oficial.  Entrará em vigor a 1 de agosto de 2024 e será aplicável a partir de 2 de agosto de 2026.

Como tal, é importante que a sua empresa se prepare para esta nova regulamentação, dado que a mesma estipula sanções, em caso de incumprimento.

Alguns destaques a considerar que integram este normativo:

  • O regulamento determina obrigações para a IA com base nos seus 𝐩𝐨𝐭𝐞𝐧𝐜𝐢𝐚𝐢𝐬 𝐫𝐢𝐬𝐜𝐨𝐬 𝐞 𝐧í𝐯𝐞𝐥 𝐝𝐞 𝐢𝐦𝐩𝐚𝐜𝐭𝐨.
  • As obrigações não se limitam aos fornecedores de sistemas de IA, mas a todos os 𝐢𝐧𝐭𝐞𝐫𝐯𝐞𝐧𝐢𝐞𝐧𝐭𝐞𝐬 𝐝𝐚 𝐜𝐚𝐝𝐞𝐢𝐚 𝐝𝐞 𝐯𝐚𝐥𝐨𝐫 𝐝𝐚 𝐈𝐀;
  • Deve ser criado, implantado, documentado e mantido um sistema de gestão de riscos em relação aos sistemas de IA de risco elevado.
  • Proíbe-se certas aplicações de IA suscetíveis de ameaçar os 𝐝𝐢𝐫𝐞𝐢𝐭𝐨𝐬 𝐝𝐨𝐬 𝐜𝐢𝐝𝐚𝐝ã𝐨𝐬.
  • Aqui inserem-se (entre outros) os sistemas de 𝐜𝐚𝐭𝐞𝐠𝐨𝐫𝐢𝐳𝐚çã𝐨 𝐛𝐢𝐨𝐦é𝐭𝐫𝐢𝐜𝐚 (reconhecimento automatizado de características humanas físicas, fisiológicas e comportamentais, tais como o rosto, o movimento dos olhos, a forma do corpo, a voz, a pronúncia, a marcha, a postura, a frequência cardíaca, a pressão arterial, o odor, as características da digitação) baseados em características sensíveis, bem como o 𝐫𝐞𝐜𝐨𝐧𝐡𝐞𝐜𝐢𝐦𝐞𝐧𝐭𝐨 𝐝𝐞 𝐞𝐦𝐨çõ𝐞𝐬 em determinados contextos.
  • Os sistemas de IA de uso geral devem cumprir 𝐫𝐞𝐪𝐮𝐢𝐬𝐢𝐭𝐨𝐬 𝐝𝐞 𝐭𝐫𝐚𝐧𝐬𝐩𝐚𝐫ê𝐧𝐜𝐢𝐚, incluindo o respeito pelos 𝐝𝐢𝐫𝐞𝐢𝐭𝐨𝐬 𝐝𝐞 𝐚𝐮𝐭𝐨𝐫.
  • São proibidos os sistemas de IA que possibilitam a classificação social de pessoas singulares por intervenientes públicos ou privados, suscetíveis de criar resultados discriminatórios e levar à exclusão de determinados grupos.
  • Os conteúdos de 𝐢𝐦𝐚𝐠𝐞𝐦, á𝐮𝐝𝐢𝐨 𝐨𝐮 𝐯í𝐝𝐞𝐨 𝐚𝐫𝐭𝐢𝐟𝐢𝐜𝐢𝐚𝐢𝐬 ou manipulados («falsificações profundas») devem ser rotulados como tal.

Uma legislação disruptiva que se entrelaça com o RGPD na proteção dos direitos dos cidadãos, com destaque para a transparência, a não discriminação e a responsabilização.

Efetivamente, a tecnologia só faz sentido quando está ao serviço do ser humano, pois o seu propósito principal deve ser melhorar a qualidade de vida das pessoas. Quando a tecnologia é utilizada para resolver problemas, facilitar tarefas diárias, promover a comunicação, e ampliar o acesso a informações e recursos, ela realmente cumpre o seu papel. Em última análise, a inovação tecnológica deve sempre ser direcionada para beneficiar a sociedade, tornando-a mais eficiente, segura e conectada.

*Professora universitária, investigadora e consultora

Comentários

Artigos Relacionados