Cathy O'Neil: "com algoritmos de recidivismo, por exemplo, me preocupo...

"com algoritmos de recidivismo, por exemplo, me preocupo com os resultados racistas. Com testes de personalidade [para contratar], me preocupo em filtrar pessoas com problemas de saúde mental de empregos. E com um algoritmo de modelo de valor agregado de professores [usado em Nova York para marcar professores], eu me preocupo literalmente que não é significativo. Que é quase um gerador de números aleatórios."

--- Cathy O'Neil

#Pessoas #Problema #Algoritmos #Valores #Desfechos #Cidades #Números #Empregos #Nova Iorque #Usado #Preocupação #Significativo #Personalidade #Professora #Gerador #Modelos #Cidade de Nova York #Saúde mental #Testes #Exemplo #Contratando #Problemas de saúde #Racista #Pontuação #Recidivismo

Versão em inglês

With recidivism algorithms, for example, I worry about racist outcomes. With personality tests [for hiring], I worry about filtering out people with mental health problems from jobs. And with a teacher value-added model algorithm [used in New York City to score teachers], I worry literally that it's not meaningful. That it's almost a random number generator.