Frases de "Cathy O'Neil" sobre "SABE"

"Argumentar que um dos principais problemas com nossa confiança cega em algoritmos é que podemos propagar padrões discriminatórios sem reconhecer qualquer tipo de intenção."

--- Cathy O'Neil

#Problema #Maiorais #Cego

"Há muitas maneiras diferentes que os algoritmos podem dar errado, e O que temos agora é um sistema no qual assumimos porque é uma nova tecnologia brilhante com uma aura matemática que é perfeita e não requer mais vetagem. Claro, nunca temos essa suposição com outros tipos de tecnologia."

--- Cathy O'Neil

#Caminho #Diferente #Perfeito

"Por causa da minha experiência em ocupação, em vez de fazer a pergunta: "Quem se beneficiará deste sistema que estou implementando com os dados?" Comecei a fazer a pergunta: "O que acontecerá com o mais vulnerável?" Ou "Quem vai perder sob este sistema? Como isso afetará a pior pessoa?" Qual é uma pergunta muito diferente de "Como isso melhora a vida das pessoas?""

--- Cathy O'Neil

#Pessoas #Doe #Pessoas

"Não podemos apenas jogar algo lá fora e assumir que funciona só porque tem matemática."

--- Cathy O'Neil

#Matemática #Assumindo

"Quando eu penso em saber se eu quero fazer um emprego, não apenas penso em Se é tecnicamente interessante, embora eu considere isso. Eu também considero a questão de saber se é bom para o mundo."

--- Cathy O'Neil

#Pensamento #Mundo #Quer

"Quando As pessoas não são dadas uma opção por algum sistema de pontuação secreto, é muito difícil reclamar, então eles muitas vezes nem sabem que eles foram vitimados."

--- Cathy O'Neil

#Pessoas #Sabe #Dado

"O treinamento que se recebe quando se torna um técnico, como um Cientista de Dados - Ficamos treinados em matemática ou ciência da computação ou estatística - é inteiramente separado de uma discussão de ética."

--- Cathy O'Neil

#ética #Ciência da Computação #Treinamento

"O público confia em grande quantidade de dados."

--- Cathy O'Neil

#Caminho #Confiança publica #Bigs

"Eu não acho que alguém nunca é notificado que eles foram condenados a Um extra de dois anos, porque sua pontuação de recidivismo tinha sido alta, ou notificada que este bateu policial estava em sua vizinhança, verificando os bolsos das pessoas por pote por causa de um algoritmo de policiamento preditivo. Isso não é como funciona."

--- Cathy O'Neil

#Pensamento #Pessoas #Dois

"O objetivo mais importante que tinha em mente era convencer as pessoas a parar de confiar cegamente os algoritmos e supondo que eles são inerentemente justo e objetivo."

--- Cathy O'Neil

#Mente #Pessoas #Importante

"O Facebook Os designers de algoritmo optaram por nos deixar ver o que nossos amigos estão falando. Eles escolheram nos mostrar, em algum sentido, mais do mesmo. E essa é a decisão de design que eles poderiam ter decidido de maneira diferente. Eles poderiam ter dito: "Nós vamos mostrar coisas que você provavelmente nunca viu antes." Eu provavelmente eles provavelmente otimizaram seu algoritmo para fazer a maior quantidade de dinheiro, e isso provavelmente significava mostrar coisas que eles já se acordam, ou eram mais propensos a concordar."

--- Cathy O'Neil

#Pensamento #Pessoas #Falando

"Acho que o que aconteceu é que o público em geral se tornou muito mais consciente do poder destrutivo de Wall Street."

--- Cathy O'Neil

#Pensamento #Ocorrido #Destrutivo

"Com algoritmos de recidivismo, por exemplo, me preocupo com os resultados racistas. Com testes de personalidade [para contratar], me preocupo em filtrar pessoas com problemas de saúde mental de empregos. E com um algoritmo de modelo de valor agregado de professores [usado em Nova York para marcar professores], eu me preocupo literalmente que não é significativo. Que é quase um gerador de números aleatórios."

--- Cathy O'Neil

#Pessoas #Problema #Empregos

"Você nunca será capaz de realmente medir qualquer coisa, certo? Incluindo professores."

--- Cathy O'Neil

#Capaz #Professora #Incluindo

"Por construção, o mundo dos grandes dados é silver e segmentado e segregado para que pessoas bem sucedidas, como eu - tecnólogos, pessoas brancas bem educadas, Na maior parte - beneficiar de grandes dados, e são as pessoas do outro lado do espectro econômico, especialmente pessoas de cor, que sofrem com isso. Eles sofrem com isso individualmente, em momentos diferentes, em momentos diferentes. Eles nunca recebem uma explicação clara do que realmente aconteceu com eles porque todas essas pontuações são secretas e às vezes elas nem sabem que estão sendo pontuadas."

--- Cathy O'Neil

#Mundo #Pessoas #Bem sucedido

"Nós aprendemos nossa lição com finanças porque eles fizeram uma enorme explosão de maldita que quase desligou o mundo . Mas a coisa que percebi é que nunca poderia haver uma explosão na escala da crise financeira acontecendo com grandes dados."

--- Cathy O'Neil

#Mundo #Fez #Imenso

"Ocupar me forneceu uma lente através do qual ver a discriminação sistêmica."

--- Cathy O'Neil

#Lentes #Discriminação

"As pessoas estão começando a ser muito céticas do algoritmo do Facebook e todos os tipos de vigilância de dados."

--- Cathy O'Neil

#Pessoas #Algoritmos #Iniciando

"Uma companhia de seguros pode dizer: "Diga-nos mais sobre você para que seus prêmios possam cair". Quando eles dizem que eles estão se dirigindo aos vencedores, não os perdedores."

--- Cathy O'Neil

#Companhia #Poder #Vencedora

"Especialmente da minha experiência como uma quantidade em um fundo de hedge - eu ingenuamente fui lá pensando que eu estaria fazendo o mercado mais eficiente e depois era, oh meu Deus, eu fico parte desse sistema terrível que Espera a economia do mundo, e eu não quero fazer parte disso."

--- Cathy O'Neil

#Pensamento #Mundo #Quer

"Acho que há inerentemente um problema que os modelos literalmente poderão ser capaz de lidar, que é que quando alguém vem junto com uma nova maneira de fazer algo que é realmente excelente, os modelos não o reconhecerão. Eles só sabem reconhecer a excelência quando podem medir de alguma forma."

--- Cathy O'Neil

#Pensamento #Caminho #Sabe

"Todo sistema usando dados separa a humanidade em vencedores e perdedores."

--- Cathy O'Neil

#Humanity #Vencedora #Fracassado

"Há menos uma conexão para muitas pessoas entre as decisões técnicas que Faça e as ramificações éticas que somos responsáveis por."

--- Cathy O'Neil

#Pessoas #Decisão #Conexões

"Nós não deixamos uma empresa de carro apenas jogar fora um carro e começar a direcioná-lo sem verificar se as rodas estão presas. Sabemos que isso resultaria na morte; Mas por algum motivo não hesitação de jogar alguns algoritmos não testados e não monitorados mesmo quando estão fazendo decisões muito importantes de vida e morte."

--- Cathy O'Neil

#Razão #Sabe #Resultados

"É uma coisa padrão que você ouve de pessoas de startup - que seu produto é de alguma forma melhorar o mundo. E se você seguir o raciocínio, você vai chegar a algum lugar, e eu vou te dizer onde você recebe: você chegará à descrição do que acontece com os vencedores sob o sistema que estão construindo."

--- Cathy O'Neil

#Mundo #IFS #Pessoas

"A conversa nacional em torno do direito branco, em torno do racismo institucionalizado, o movimento negro de matéria, penso, aconteceu em grande parte devido ao alargamento e ampliação da nossa compreensão da desigualdade. Essa conversa foi iniciada por ocupação."

--- Cathy O'Neil

#Pensamento #Racismo #Importam

"O NSA compra dados de empresas privadas, para que as empresas privadas são a fonte de todas essas coisas."

--- Cathy O'Neil

#Companhia #Material #Fonte

"As pessoas sentiam como se fossem amigas com o Google, e eles acreditavam no "não fazer mal" que o Google disse. Eles confiaram mais do que eles confiam no governo, e eu nunca entendi isso."

--- Cathy O'Neil

#Pessoas #Mal #Disse

"é o que fazemos quando Trabalhe em Silicon Valley Tech Startups: Nós pensamos em quem vai se beneficiar disso. Essa é quase a única coisa que pensamos."

--- Cathy O'Neil

#Pensamento #Benefícios #Vales

"Eu sei como os modelos são construídos, porque eu me construo, então eu sei que estou incorporando meus valores em cada algoritmo que eu crio e estou projetando minha agenda para esses algoritmos."

--- Cathy O'Neil

#Sabe #Algoritmos #Valores

"Eu queria impedir que as pessoas dêem muito poder. Eu vejo isso como um padrão. Eu queria que chegasse ao fim o mais rápido possível."

--- Cathy O'Neil

#Pessoas #Dando #Termina

"Eu acho que grandes empresas são apenas boas notícias. Então eu acho que eles estão apenas esperando que eles não sejam processados, essencialmente."

--- Cathy O'Neil

#Pensamento #Companhia #Bigs

"Micro-segmentação é a capacidade para uma campanha para perfil você, para saber muito mais sobre você do que você sabe sobre isso, e depois escolher exatamente o que mostrar a você."

--- Cathy O'Neil

#Sabe #Mostra #Habilidade

"A desconexão que eu estava experimentando foi que as pessoas odiavam Wall Street, mas eles adoraram tecnologia ."

--- Cathy O'Neil

#Pessoas #Muro #Ruas

"Muito da nossa sociedade como um todo está nos preparando para maximizar nosso salário ou bônus. Basicamente, apenas pensamos em termos de dinheiro. Ou, se não dinheiro, então, se você estiver na academia, é prestígio. É um tipo diferente de moeda. E há essa dimensão não medíocrea de todos os empregos, que é se está melhorando o mundo."

--- Cathy O'Neil

#Pensamento #Mundo #IFS

"Pode nunca haver esse momento em que todo mundo diz: "Oh meu Deus, grandes dados são horríveis."

--- Cathy O'Neil

#Momentos #Poder #Aquele momento

"A maioria das pessoas não T Tenha qualquer associação em suas mentes com o que eles fazem e com a ética. Eles acham que de alguma forma passavam pelas questões de moralidade ou valores ou ética, e isso é algo que eu nunca imaginava ser verdade."

--- Cathy O'Neil

#Pensamento #Mente #Pessoas

"Obviamente, mais transparência temos como auditores, mais podemos obter, mas O principal objetivo é entender características importantes sobre um algoritmo de caixa preta sem necessariamente ter que entender todos os detalhes granulares do algoritmo."

--- Cathy O'Neil

#Importante #Detalhes #Algoritmos

"Minha fantasia é que há um novo corpo regulador que é responsável pela auditoria algorítmica."

--- Cathy O'Neil

#Corpo #Fantasia

"Google é tão grande que você não tem idéia do que uma determinada pessoa faz."

--- Cathy O'Neil

#Doe #Ideias #Pessoas

"Configito uma empresa, uma empresa de auditoria algorítmica. Eu não tenho clientes."

--- Cathy O'Neil

#Companhia #Clients

"Evidência de dano é difícil de venha por."

--- Cathy O'Neil

#Duro #Ferir #Evidência

"Por qualquer motivo, eu nunca separei o técnico da ética."

--- Cathy O'Neil

#Razão #ético