Citas de Cathy O'Neil

• Yo diría que uno de los principales problemas de nuestra confianza ciega en los algoritmos es que podemos propagar patrones discriminatorios sin reconocer ningún tipo de intencionalidad.

  Cathy O'Neil

  Algoritmos, patrones, argumentación

  Fuente: www.salon.com

  4 Copiar cita

• Todo sistema que utiliza datos separa a la humanidad en ganadores y perdedores.

  Cathy O'Neil

  Datos, Humanidad, Perdedor

  Fuente: www.salon.com

  4 Copiar cita

• El objetivo más importante que tenía en mente era convencer a la gente de que dejara de confiar ciegamente en los algoritmos y de asumir que son inherentemente justos y objetivos.

  Cathy O'Neil

  Gente, Objetivo, Mente

  Fuente: www.salon.com

  4 Copiar cita

• Sé cómo se construyen los modelos, porque yo mismo los construyo, así que sé que estoy incrustando mis valores en cada uno de los algoritmos que creo y que estoy proyectando mi agenda en esos algoritmos.

  Cathy O'Neil

  Agendas, algoritmos, incrustación

  Fuente: www.salon.com

  5 Copiar cita

• No podemos simplemente lanzar algo y asumir que funciona sólo porque contiene matemáticas.

  Cathy O'Neil

  Matemáticas, Asumir

  Fuente: www.salon.com

  9 Copiar cita

• Los algoritmos pueden fallar de muchas formas distintas, y lo que tenemos ahora es un sistema en el que asumimos que, por tratarse de una tecnología nueva y brillante con un aura matemática, es perfecta y no requiere más investigación. Por supuesto, nunca tenemos esa suposición con otros tipos de tecnología.

  Cathy O'Neil

  Tecnología, Perfecto, Auras

  Fuente: www.salon.com

  9 Copiar cita

• Para mucha gente hay menos relación entre las decisiones técnicas que tomamos y las ramificaciones éticas de las que somos responsables.

  Cathy O'Neil

  Decisiones que tomamos, Personas, Conexiones

  Fuente: www.salon.com

  8 Copiar cita

• Gracias a mi experiencia en Occupy, en lugar de preguntarme: "¿A quién beneficiará este sistema que estoy implantando con los datos?". empecé a preguntarme: "¿Qué va a pasar con los más vulnerables?". O "¿Quién va a perder con este sistema? ¿Cómo afectará a la persona más desfavorecida?". Que es una pregunta muy distinta de "¿Cómo mejora esto la vida de ciertas personas?".

  Cathy O'Neil

  Datos, Personas, Doe

  Fuente: www.salon.com

  4 Copiar cita

• El público confía demasiado en los macrodatos.

  Cathy O'Neil

  Datos, Demasiados, Camino

  Fuente: www.salon.com

  4 Copiar cita

• Es algo habitual que se oye decir a la gente de las startups: que su producto está mejorando el mundo de alguna manera. Y si sigues el razonamiento, llegarás a alguna parte, y te diré dónde llegas: Llegarás a la descripción de lo que sucede a los ganadores bajo el sistema que están construyendo.

  Cathy O'Neil

  Gente, Mundo, Ganador

  Fuente: www.salon.com

  4 Copiar cita

• Obviamente, cuanta más transparencia tengamos como auditores, más podremos conseguir, pero el objetivo principal es comprender características importantes sobre un algoritmo de caja negra sin tener que entender necesariamente todos y cada uno de los detalles granulares del algoritmo.

  Cathy O'Neil

  Gol, Negro, Importante

  Fuente: www.salon.com

  34 Copiar cita

• No permitimos que una empresa automovilística lance un coche y empiece a conducirlo sin comprobar que las ruedas están bien sujetas. Sabemos que el resultado sería la muerte, pero por alguna razón no dudamos en lanzar algoritmos que no han sido probados ni controlados, incluso cuando toman decisiones muy importantes de vida o muerte.

  Cathy O'Neil

  Coche, Vida Y Muerte, Decisión

  Fuente: www.salon.com

  8 Copiar cita

• Por la razón que sea, nunca he separado lo técnico de lo ético.

  Cathy O'Neil

  Razón, ética

  Fuente: www.salon.com

  4 Copiar cita

• Gran parte de nuestra sociedad en su conjunto nos orienta a maximizar nuestro salario o bonificación. Básicamente, pensamos en términos de dinero. O, si no es dinero, si estás en el mundo académico, es prestigio. Es un tipo diferente de moneda. Y está esta dimensión no medida de todos los trabajos, que es si está mejorando el mundo.

  Cathy O'Neil

  Empleo, Pensamiento, Bonificación

  Fuente: www.salon.com

  4 Copiar cita

• Por construcción, el mundo de los macrodatos está dividido en silos, segmentado y segregado, de modo que las personas de éxito, como yo -tecnólogos, personas blancas bien educadas, en su mayor parte- se benefician de los macrodatos, y son las personas del otro lado del espectro económico, especialmente las personas de color, las que los sufren. Lo sufren individualmente, en diferentes momentos. Nunca reciben una explicación clara de lo que realmente les ha ocurrido porque todas estas puntuaciones son secretas y a veces ni siquiera saben que se les está puntuando.

  Cathy O'Neil

  Éxito, Datos, Blanco

  Fuente: www.salon.com

  4 Copiar cita

• Las pruebas del daño son difíciles de encontrar.

  Cathy O'Neil

  Daño, Evidencia, Duro

  Fuente: www.salon.com

  4 Copiar cita

• Mi fantasía es que haya un nuevo organismo regulador que se encargue de la auditoría algorítmica.

  Cathy O'Neil

  Cuerpo, Fantasía

  Fuente: www.salon.com

  4 Copiar cita

• Cuando a la gente no se le da opción por algún sistema secreto de puntuación, es muy difícil quejarse, por lo que a menudo ni siquiera saben que han sido víctimas.

  Cathy O'Neil

  Gente, Secreto, Quejarse

  Fuente: www.salon.com

  5 Copiar cita

• Cuando pienso si quiero aceptar un trabajo, no sólo pienso en si es técnicamente interesante, aunque lo tengo en cuenta. También pienso si es bueno para el mundo.

  Cathy O'Neil

  Trabajo, Pensamiento, Interesante

  Fuente: www.salon.com

  4 Copiar cita

• El micromarketing es la capacidad de una campaña de trazar un perfil del usuario, de saber mucho más de él de lo que él sabe de ella y, a partir de ahí, elegir exactamente qué mostrarle.

  Cathy O'Neil

  Campañas, Perfil, Capacidad

  Fuente: www.salon.com

  4 Copiar cita

• Con los algoritmos de reincidencia, por ejemplo, me preocupan los resultados racistas. Con los tests de personalidad [para la contratación], me preocupa que se filtre a las personas con problemas de salud mental de los puestos de trabajo. Y con un algoritmo de modelo de valor añadido del profesorado [utilizado en la ciudad de New York para puntuar a los profesores], me preocupa literalmente que no tenga sentido. Que sea casi un generador de números aleatorios.

  Cathy O'Neil

  Significativo, Profesor, New York

  Fuente: www.salon.com

  10 Copiar cita

• La formación que uno recibe cuando se convierte en técnico, como un científico de datos -nos formamos en matemáticas o informática o estadística- está totalmente separada de un debate sobre ética.

  Cathy O'Neil

  Datos, Formación, Estadísticas

  Fuente: www.salon.com

  4 Copiar cita

• Nunca podrás medir realmente nada, ¿verdad? Incluidos los profesores.

  Cathy O'Neil

  Profesor, Capaz, Incluido

  Fuente: www.salon.com

  4 Copiar cita

• La desconexión que experimentaba era que la gente odiaba Wall Street, pero amaba la tecnología.

  Cathy O'Neil

  Pared, Gente, Odiaba

  Fuente: www.salon.com

  4 Copiar cita

• Eso es lo que hacemos cuando trabajamos en empresas tecnológicas de Silicon Valley: Pensamos en quién se va a beneficiar de esto. Es casi lo único en lo que pensamos.

  Cathy O'Neil

  Pensamiento, valles, beneficios

  Fuente: www.salon.com

  4 Copiar cita

También te puede gustar:

Peter Woit

Jordan Ellenberg

Martin Lewis Perl

DJ Patil

Timothy Gowers

Serge Lang

Andrew Gelman

Terence Tao