El “big data” puede discriminar al consumidor

La Comisión Federal de Comercio (FTC) de Estados Unidos ha advertido a las empresas que extremen la prudencia en la aplicación comercial que hacen de la información de los consumidores para evitar casos de discriminación social. En un informe reciente, el regulador americano señala varios casos en los que la falta de precauciones en alguna de las fases de recogida y análisis propias de las técnicas de “big data” ha perjudicado a las personas.

En sus conclusiones, la FTC advierte a las empresas que correlación no es lo mismo que causalidad y las anima a que, antes de aplicar los resultados obtenidos sobre los perfiles de los consumidores y sus gustos, se pregunten por la exactitud de las predicciones o por el alcance real para los usuarios, según explica The Wall Street Journal.

Entre los ejemplos de desviación que incluye este documento, se encuentra la selección de candidatos a puestos de trabajo según el prestigio de la universidad o escuela en que se han graduado, un factor derivado de la aplicación de técnicas de datos masivos. Hacerlo así –advierte– supone heredar la posible desviación o discriminación que haya podido existir en el momento de la admisión de los estudiantes.

Las empresas que ofrecen servicios de “big data” parten de una recogida masiva de datos, que compilan y tratan los data brokers, y se analizan estadísticamente para obtener predicciones sobre los gustos de los consumidores. Es fácil que algunas de estas líneas de actuación no se ajusten a sus clientes o consumidores, y les perjudiquen.

Otro mal uso de los resultados derivados de los datos masivos tiene que ver con los algoritmos de los buscadores. Por ejemplo, Google Flu Trends, un programa de Alphabet, que usaba datos de las pesquisas sobre la gripe en su buscador Google para predecir el número de casos de la enfermedad con antelación en diversos países. El programa dejó de funcionar tras fallos clamorosos de predicción.

Aunque la Comisión Federal de Comercio también señala algunos usos positivos de estas aplicaciones tecnológicas, como en la prevención del abandono escolar o el acceso al crédito a personas que no pasarían un análisis convencional, apunta la necesidad de que haya “una supervisión humana de los datos y los algoritmos usados cuando se deriven decisiones importantes en aspectos como el empleo, la salud o el crédito”.

Para la FCT, es importante que los algoritmos de los buscadores protejan de posibles desviaciones. “Recuerden –dice a las empresas– que aunque las técnicas de ‘big data’ presenten una correlación, no significa que esa correlación sea significativa”, es decir, que haya detrás una causa.

Fuente: Aceprensa

Un comentario sobre “El “big data” puede discriminar al consumidor

  • el 24 Noviembre, 2016 a las 10:14 am
    Permalink

    El Big Data es una tecnología innovadora y brillante que se ha incrementado gracias a los avances tecnológicos. Al igual que ocurre con cualquier nueva tecnología o actividad, esta tiene algunos fallos.
    Sus principales fallos surgen de la seguridad. Al igual que en la economía colaborativa, la seguridad es indispensable. La gestión de los datos que se encuentran en los algoritmos son privados, al igual que las compañías tendrían que privatizar los datos de sus aclientes y no venderlos a la primera de cambio.
    En mi opinión deberíamos crear algoritmos y datos de entrada más transparentes y protegidos, conceder a investigadores independientes el acceso al código fuente, poner en orden aspectos legales y empezar a informar a la gente sobre todos los aspectos clave.

    Respuesta

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Time limit is exhausted. Please reload CAPTCHA.