A regulamentação da Inteligência Artificial na União Europeia: avanços e desafios
Com o objetivo de aprovar o regulamento final antes das eleições de 2024 e trabalhar em conjunto com parceiros para manter o desenvolvimento da Inteligência Artificial (IA) em caminhos democráticos, a Câmara dos Deputados da União Europeia aprovou (por esmagadora maioria) a tentativa mais ambiciosa até agora para enfrentar o risco associado às aplicações de IA, dando um forte impulso à vontade das instituições europeias de liderar o mundo na regulamentação da inteligência artificial.
De fato, após intenso debate, a grande maioria do Parlamento Europeu adotou a posição oficial sobre o AI Act, concluindo um debate de dois anos. O acontecimento abre a fase de negociação com o Conselho e a Comissão da UE, que levará à decisão definitiva sobre a elaboração da primeira lei abrangente sobre IA. Nas intenções dos legisladores, o processo deve ser concluído até o final do mandato – as eleições de 2024 – e, em seguida, entrar em vigor em dois anos.
Imediatamente após a votação, em entrevista coletiva, a presidente do Parlamento da UE, Roberta Metsola, falou sobre uma “abordagem equilibrada e centrada no ser humano” que “definirá, sem dúvida, o padrão global” da regulamentação da IA.
Aqui seguem alguns conteúdos:
Desenvolvimento democrático e vigilância
Os eurodeputados explicaram, em conferência de imprensa, que é preciso perceber que tipos de aplicações de IA devem ser totalmente banidas e quais são permitidas, sob um regime de vigilância estrito, que monitoriza o seu funcionamento. A abordagem delineada pelo AI Act é baseada no nível de risco de um aplicativo de IA e visa exercer um controle cada vez mais rígido sobre os aplicativos que podem causar danos aos seres humanos e à sociedade.
A última disputa no Parlamento Europeu envolveu a identificação biométrica remota, prática que, em alguns países, se traduz em tecno-vigilância em massa. Com uma emenda, o Partido Popular tentou permitir exceções à proibição de usá-la em tempo real, para circunstâncias excepcionais, como atos terroristas ou pessoas desaparecidas.
No final, prevaleceu a linha dos liberais e progressistas: o uso em tempo real fica proibido, mas permitido retroativamente para a investigação de crimes graves. Entre as práticas proibidas pela AI Act, foram incluídos vários setores de risco muito alto, como aplicações de categorização biométrica, controle preditivo, técnicas subliminares e reconhecimento de emoções, nas áreas de ordem pública, gerenciamento de fronteiras, local de trabalho e segurança. Foram introduzidos novos requisitos para a realização de avaliações de impacto sobre os direitos fundamentais e para o monitoramento do impacto ambiental.
Como
Caberá aos fornecedores realizar avaliações de risco antes de disponibilizar seus aplicativos de IA, fato semelhante ao processo de aprovação de medicamentos. Aqueles que oferecem aplicativos de alto risco estarão sujeitos a obrigações de gerenciamento de risco, governança de dados e documentação técnica.
A última grande revolução digital tornou-se inevitavelmente o foco dos últimos meses de debate no Parlamento Europeu. A versão final do texto especifica que aplicativos baseados em IA generativa, como chatbots, terão que atender a novos requisitos de transparência. Lembre-se de que um chatbot é um programa de computador que simula conversas humanas. Também é conhecido como assistente digital.
Os chatbots interpretam e processam as solicitações dos usuários e fornecem respostas oportunas e relevantes. Isso inclui a publicação de resumos de material protegido por direitos autorais usado para treinar modelos de linguagem, proposta apoiada pela indústria editorial, mas contestada por desenvolvedores de tecnologia. Os provedores também precisarão tomar medidas de segurança para impedir, por exemplo, que seus aplicativos gerem conteúdo ilegal. Existem ainda medidas como rotulagem de conteúdo gerado pela IA.
No que diz respeito a sistemas de IA genéricos, ou seja, estamos falando de sistemas de IA não vinculados a uma finalidade específica (como, por exemplo, geração de texto), mas capazes de desempenhar ampla gama de funções. De certo ponto de vista, podemos considerá-la como a verdadeira Inteligência Artificial geral. Os legisladores europeus introduziram uma abordagem de risco escalonado para essa IA genérica e um regime de controle mais rígido para os modelos principais, ou seja, aqueles nos quais outros sistemas de IA podem ser construídos. Atendendo aos efeitos disruptivos de aplicações como o ChatGPT – ou seja, o mais famoso chatbot baseado em inteligência artificial do momento –, o Parlamento Europeu está a ponderar a antecipação dos tempos de aplicação desta seção.
Edoardo Pacelli é é jornalista, ex-diretor de pesquisa do CNR (Itália), editor da revista Italiamiga e vice-presidente do Ideus.
Leia também:
