Mudança de Rumo na Califórnia: Entre a Regulação da IA e os Limites da Autonomia Privada
A recente revisão das propostas regulatórias da California Privacy Protection Agency (CPPA) sobre tecnologias de decisão automatizada marca não apenas uma resposta a pressões políticas e econômicas, mas ilustra – de forma mais profunda – o embate entre a racionalidade tecnológica e os fundamentos éticos do direito à privacidade. Ao recuar nas exigências previamente impostas ao uso de Inteligência Artificial, o Estado da Califórnia revela como o ideal de proteção de dados convive, tensionado, com os interesses empresariais e a própria arquitetura do poder regulatório.
Originalmente, a proposta da CPPA visava regular amplamente o uso de ADMTs (Automated Decisionmaking Technologies), dando especial atenção ao impacto potencial desses sistemas em decisões significativas sobre indivíduos – como acesso a crédito, emprego ou moradia. A reação adversa de setores econômicos, legisladores estaduais e até mesmo do governador Gavin Newsom, no entanto, resultou em uma versão suavizada da regulamentação, cuja nova redação limita o escopo às tecnologias que substituem, substancial ou integralmente, a decisão humana.
Trata-se de uma escolha normativa com implicações éticas significativas. Ao excluir da tutela legal os sistemas que apenas “auxiliam” o julgamento humano, a regulamentação parece ignorar o quanto esses apoios algorítmicos, ainda que formalmente subordinados ao humano, moldam comportamentos, enviesam resultados e, muitas vezes, operam dentro da zona cinzenta do poder invisível. A noção de “decisão significativa” – agora restrita a áreas como habitação e serviços essenciais – também levanta questões: quem define a significância de uma decisão? Podemos admitir que a personalização algorítmica em práticas comerciais, ainda que voltadas à publicidade, não produza efeitos dignos de escrutínio jurídico?
As flexibilizações relativas a auditorias de cibersegurança e avaliações de risco caminham no mesmo sentido de acomodação. Permitir que empresas se autoavaliem com margens de tempo amplas, utilizando auditorias pré-existentes, fortalece a lógica da conformidade simbólica – onde há procedimentos, mas pouca substância. Estar em conformidade não é, necessariamente, estar em justiça.
Diante dessa reconfiguração, o que se vê não é apenas um reposicionamento estratégico frente a uma pressão político-econômica, mas a materialização de um dilema clássico: como proteger a esfera pessoal do sujeito diante de tecnologias que operam no limiar entre a funcionalidade e a vigilância? Nesse espaço de disputa, o direito não é mero instrumento normativo, mas campo de enfrentamento entre diferentes visões de mundo – uma que ancora a dignidade no controle sobre a própria narrativa digital, e outra que transfere decisões à opacidade do cálculo algorítmico.
A reflexão que se impõe vai além do vocabulário técnico da regulamentação. Trata-se de revisitar, à luz da emergência tecnológica, a própria ideia de autonomia contemporânea: ainda há espaço para decisões humanas autênticas quando estas são mediadas, previstas e dirigidas por sistemas que se alimentam, precisamente, das escolhas passadas? O futuro da regulação da IA, na Califórnia e fora dela, dependerá não apenas da letra da norma, mas da ética que orienta seu espírito.
Deixe um comentário