3. PRIVACY DAMAGE
To disallow people to express themselves selectively
DISCRIMINATION DAMAGE
The unfair treatment of a category
DEHUMANIZATION DAMAGE
To treat people as data points
MANIPULATION DAMAGE
To deceive with data
Ethnic Second-City Strugglers
Biker Enthusiasts
Retirement on Empty: Singles
Rural and Barely Making It
State Trooper
Diabetes Interest
HIV Positive
Credit Crunched: City Families
Tough Start: Young Single Parent
Responsabilidad empieza por entender el daño que podemos hacer.
Donde hay superpoderes hay supervillanos
Lo normal es querer hacer el bien. El mayor riesgo no son los supervillanos, es la ignorancia.
La principal dimensión que explica el daño no intencional es la ignorancia.
Clueless: Boston
Clumsy: Target
Mischievous: Uber
Ambitious: Nordstrom
En el medio: el exceso de confianza. Común entre data scientists. Causa y diff con naked stats
Exceso de confianza Modelos para minorías. Buscando trabajo o pidiendo un crédito a que no te gusta pertenecer a la minoría.
Exceso de confianza en metodología. Priorización dos factores independientes: data science, actores. Estudio, voy a empresas o actores trabajando y concluyo que cuanto mas lindo, peor actor.
Exceso de confianza en el efecto: Uno creería que cuanto más información más objetiva nuestra opinion. Evidencia de efecto de filtro de recomendación.
Resumiendo: creo que el mayor riesgo en nuestro metier cagarla sin querer. Y si la ignorancia es una forma de cagarla común en empresas, el exceso de confianza en nuestras propias herramientas es común entre profesionales. El remedio es fácil, la palabra science en data science. El verdadero científico no es alguien que cree ciegamente en la tecnologia, sino casi lo contrario. Alguien que desconfia mucho de ella y que gracias a ese escepticismo la mejora a diario. Gracias.