Depende de lo que hagamos con él y de cómo lo construyamos.
Considere cuántos algoritmos creados y utilizados por los científicos y analistas de datos se dirigen a los pobres, las minorías, los veteranos y otros grupos oprimidos.
Cómo Big Data atrapa a las personas en la pobreza
Cómo la Universidad de Phoenix se beneficia de los estudiantes, los veteranos y ahora la NCAA – Progreso de la generación
- ¿Crees que, bajo el control humano, las mascotas más inteligentes antropomorfizan debido al contacto con la humanidad?
- ¿Los teléfonos celulares son seguros para los humanos?
- ¿Por qué los humanos necesitarían la IA?
- ¿Qué es lo que tienen todos los humanos pero no los animales?
- ¿Por qué las universidades estadounidenses prefieren a los estudiantes negros sobre los asiáticos?
Probablemente, el segundo libro más importante que he leído en mi vida, Armas de destrucción matemática, la autora Cathy O’Neil habla con mucho más detalle sobre algoritmos que están diseñados de forma brillante y poderosos para atacar a estos grupos marginados y explotarlos.
Este matemático dice que Big Data castiga a las personas pobres
Es sorprendente que un algoritmo pueda localizar y encontrar personas en situaciones socioeconómicas difíciles.
La parte desafortunada es que cuando encontramos a esas personas, lanzamos anuncios para prestamistas abusivos, universidades chárter con fines de lucro y enlaces engañosos que conducen a programas maliciosos.
Si utilizáramos estos algoritmos para rastrear a las personas para poder ofrecerles la asistencia que realmente necesitan para ser un miembro de la sociedad mejor, más feliz, más estable y productivo, eso sería mucho más asombroso.
Así que estamos en nosotros como ciudadanos y especialmente en nosotros en STEM para pensar realmente sobre la ética y la implicación de lo que hacen estos algoritmos poderosos.
Si quieres mi opinión honesta, la hemos estado jodiendo bastante mal hasta ahora.