Meu caso de uso é um sistema de IA de alto risco? Entendendo as diretrizes da Comissão Europeia

A Comissão Europeia publicou em 19 de maio de 2026 as tão aguardadas diretrizes sobre sistemas de IA de alto risco no âmbito do AI Act da UE, oferecendo orientações práticas para organizações que precisam classificar seus sistemas. As diretrizes foram publicadas em três conjuntos: princípios gerais, sistemas de IA de alto risco do Anexo III (sistemas autônomos) e sistemas de IA de alto risco do Anexo I (sistemas integrados a produtos), com consulta pública aberta até 23 de junho de 2026. Organizações cujos sistemas de IA são classificados como alto risco enfrentam obrigações distintas conforme seu papel: provedores, que desenvolvem a tecnologia, devem implementar processos rigorosos de gestão de riscos e documentação técnica durante todo o ciclo de vida do produto. Um ponto crítico destacado pelas diretrizes é que não existe isenção para sistemas com supervisão humana: a participação humana no processo não altera a classificação do sistema como alto risco, pois não muda a finalidade para a qual o sistema foi projetado. O artigo 6(3) do AI Act prevê uma derrogação para sistemas que não representem risco significativo, mas a Comissão esclarece que essa exceção é um mecanismo de filtro com condições taxativas e deve ser interpretada de forma restritiva. As quatro condições da derrogação envolvem: tarefa processual restrita, melhoria de atividade humana já concluída, detecção de padrões decisórios sem substituir avaliação humana, e tarefa preparatória para avaliações relevantes listadas no Anexo III. No setor de emprego, as diretrizes fornecem exemplos concretos: ferramentas de correspondência e ranqueamento automatizado de candidatos, pontuação de respostas em processos seletivos e anúncios direcionados baseados em características dos usuários são considerados alto risco. Sistemas de IA para gestão de relações de trabalho, incluindo promoção, demissão e alocação de tarefas com base em características pessoais, também são classificados como alto risco, enquanto alocações baseadas em fatores neutros como disponibilidade ou localização estão fora desse escopo. As obrigações para sistemas de IA de alto risco passam a valer a partir de 2 de dezembro de 2027, prazo estendido pelo AI Omnibus, mas provedores devem iniciar imediatamente o trabalho de adequação, pois as exigências precisam ser incorporadas durante o desenvolvimento do produto. Deployadores devem implementar controles técnicos e de políticas para evitar assumir inadvertidamente o papel de provedor ao utilizar ferramentas de uso geral para finalidades de alto risco, além de garantir proteções contratuais adequadas para contratos que se estendam além de dezembro de 2027.