A crescente utilização da inteligência artificial (IA) em processos decisórios tem levantado preocupações jurídicas e éticas, especialmente no que tange à discriminação algorítmica. Em resposta a esse desafio, o estado de Nova Jersey atualizou sua legislação antidiscriminatória para abordar o impacto das ferramentas de IA na esfera trabalhista. A recente publicação de diretrizes pelo Departamento de Justiça e a Divisão de Direitos Civis busca esclarecer as implicações da IA no âmbito do **New Jersey Law Against Discrimination (NJLAD)**, oferecendo um parâmetro para empregadores que utilizam algoritmos em recrutamento, promoções e demissões.
### **A IA Como Ferramenta de Decisão e o Risco de Discriminação**
A premissa de que tecnologias tomam decisões de maneira neutra e objetiva já se revelou uma falácia. Algoritmos são desenvolvidos a partir de dados históricos e processos de treinamento que, muitas vezes, carregam vieses estruturais. Um sistema de IA que analisa currículos, por exemplo, pode discriminar candidatos com base em gênero ou etnia caso seja treinado com um banco de dados enviesado.
As novas diretrizes de Nova Jersey destacam que a discriminação algorítmica ocorre quando um sistema automatizado gera resultados que impactam desproporcionalmente grupos protegidos. Importante notar que a legislação não diferencia a discriminação direta—quando há intenção explícita de prejudicar um grupo específico—da discriminação indireta, em que os critérios aparentemente neutros acabam produzindo desigualdades sistêmicas. Assim, um empregador que adota IA para avaliar o desempenho dos funcionários pode ser responsabilizado se o sistema penalizar desproporcionalmente pessoas com deficiências que necessitam de ajustes razoáveis.
### **A Responsabilidade dos Empregadores e Medidas de Mitigação**
Um dos aspectos mais relevantes da regulamentação é a atribuição de responsabilidade aos empregadores que utilizam ferramentas de IA, inclusive àqueles que não entendem plenamente o funcionamento dessas tecnologias. O desconhecimento técnico não isenta de culpa, reiterando a necessidade de um controle rigoroso dos impactos das decisões automatizadas.
Para evitar violações ao NJLAD, recomenda-se que empresas adotem auditorias frequentes, analisem periodicamente os efeitos de seus algoritmos e estabeleçam mecanismos para contestação de decisões automatizadas. Nova Jersey se alinha, assim, a um movimento crescente de regulamentação da IA nos Estados Unidos, acompanhando iniciativas semelhantes verificadas na Califórnia e Illinois.
### **Reflexões Sobre a Regulação da IA e Direitos Fundamentais**
O caso de Nova Jersey exemplifica a tensão entre inovação tecnológica e proteção de direitos fundamentais. A IA, concebida como instrumento de eficiência e otimização, precisa ser regulada para não aprofundar desigualdades históricas sob o pretexto de neutralidade algorítmica. Se o direito busca garantir a igualdade substantiva, torna-se essencial que o avanço tecnológico esteja subordinado à dignidade humana, e não o contrário.