Desafíos de Compliance en la era de los datos masivos-Parte 2

Aspectos éticos en la cadena de valor de los datos

Actualmente, el Council of Big Data, Ethics and Society, una organización estadounidense con un enfoque crítico a las iniciativas de Big Data, reconoce en su informe Perspectives on Big Data, Ethics and Society” que a medida que se hace más barato recolectar, almacenar y re-analizar grandes bases de datos, resulta evidente que el consentimiento informado inicial podría no ser suficiente para capturar tanto los posibles beneficios como los riesgos potencialmente desconocidos del uso de los datos.

El mismo documento concluye que Big Data supone un desafío para las categorías clásicas de daño ético, tales como el daño físico o psicológico, ya que desplaza los conceptos éticos clásicos hacia nuevas categorías como la vigilancia perenne, discriminación individual o colectiva y violaciones a la privacidad por predicción, es decir, cuando la invasión sucede por inferencia en vez de por recolección directa de datos personales. Asimismo, el uso masivo del análisis de datos podría desplazar nuestra atención sobre los seres humanos como seres individuales, hacia grupos o clasificaciones de personas distribuidas por categorías, constituyendo un nuevo tipo de daño ético.

Si bien tradicionalmente durante un largo tiempo, ciertas disciplinas asociadas a la ciencia de datos -computación, física, matemática, estadística- han sido consideradas elementos ajenos a las preocupaciones éticas del ser humano, teniendo en cuenta que sus contribuciones principales estaban relacionadas con sistemas y no con personas, se requiere integrar cada vez más los riesgos éticos a la práctica profesional en materia de datos masivos.

La clave es comprender cabalmente cuáles son los riesgos de ética y cumplimiento normativo propios de la cadena de valor de los datos: recolección, procesamiento, análisis y toma de decisiones.  Sin ir más lejos, el escenario se vuelve aún más complejo si se considera el enorme avance de las herramientas de aprendizaje automático y de inteligencia artificial, cuya supervisión humana no deja de ser imprescindible. Por esto mismo, la falta de una cultura de Compliance puede resultar un riesgo asociado al ejercicio de la profesión, especialmente crítico entre los profesionales de data science que participan en esta cadena de valor. Reforzando esta tesis, promover una cultura de compromiso normativo y responsabilidad sobre los datos, representa una gran oportunidad para desarrollar el modelo de negocio con integridad.

Respuestas posibles de reguladores y del mercado de servicios financieros

En el marco de diversas corporaciones que controlan y procesan grandes bases de datos, emerge un profundo trabajo multidisciplinar orientado al análisis de riesgos en Big Data. Este trabajo ya ha sido encarado por diferentes reguladores en la Unión Europea, tales como la European Securities and Markets Authority (ESMA), the European Banking Authority (EBA) and the European Insurance and Occupational Pension Authority (EIOPA); trabajo que se sintetiza en la publicación del documento conjunto de consulta titulado: Discussion Paper on the Use of Big Data by Financial Institutions.

Entre las categorías de riesgos potenciales en el uso de grandes volúmenes de datos por parte de instituciones financieras, el documento identifica: Segmentación de mercado y discriminación, Personalización y falta de transparencia, Customización y conflicto de intereses, Venta cruzada agresiva y protección al consumidor, Información errónea y prejuicios sobre el consumidor, Elaboración de perfiles (profiling), Vigilancia conductual y Daño reputacional.

Existen, al mismo tiempo, ciertos preceptos a la hora de seguir códigos éticos para el tratamiento de los datos. Por ejemplo, la Consultora Accenture posee una guía de 12 principios que busca crear un conjunto de valores compartidos para regular la conducta de las personas involucradas en procesos de Big Data. Entre las recomendaciones se incluye que las personas sean la más alta prioridad detrás de los datos, tener en cuenta que los datos pueden llevar asociados políticas de inclusión o exclusión, que el origen de los datos y sus herramientas definen las consecuencias del uso que se les dará como así también respecto al diseño de buenas prácticas de transparencia, gobernanza y revisión ética, entre otras.

Roles en la gobernanza de datos

Dentro de un plan de Gobernanza de Datos, entendido como un sistema de buenas prácticas para el manejo de procesos de datos dentro de la organización según modelos previamente acordados, existen 3 roles principales al interior de cada organización:

  • Administrador o Ministro de datos: tiene el contacto primario para todos los temas de datos; es el responsable por la calidad y el uso; define métricas, asegura el cumplimiento de regulaciones y, por último, conduce auditorías.
  • Arquitecto de datos: responsable por la definición, modelado y diseño de datos; responsable por el mantenimiento de los datos y se ocupa de resolver los requerimientos de datos.
  • Líder de calidad de datos: asegura que los datos satisfacen los requerimientos; realiza análisis de errores y monitorea la calidad.

¿Dos perfiles profesionales a integrar?

Para cerrar esta contribución, cabe preguntarnos sobre la necesidad de integrar cada vez más el perfil del científico de datos (Data Scientist) con el del oficial de cumplimiento (Compliance Officer) de modo que no exista una brecha entre ambos perfiles o bien de ir acercando al profesional de la ciencia de datos a la materia de Compliance, de manera que pueda aplicar con mayor rigor aspectos tanto éticos como regulatorios.

Aunque todavía no tenemos una respuesta concluyente, consideramos plausible poder distinguir un perfil del otro. Mientras que el Data Scientist se ocupa de agregar valor a los datos -a través de su procesamiento y análisis- y ser un soporte fundamental para la toma de decisiones, el Compliance Officer es el profesional  encargado de hacer valer el cumplimiento de normativas -tanto externas como internas- para asegurar el ejercicio vigente y regulado de las organizaciones.  Sin lugar a dudas, los procesos de cambio socioeconómico y de transformación digital que estamos atravesando, exigen un aprendizaje e interacción continua entre ambos perfiles, sobre todo en materia de Compliance.

Fuentes consultadas:

-Velázques Yanes, H. (2014) “Big Data en el universo compliance”: https://www.diariojuridico.com/big-data-en-el-universo-compliance/

-Iribarren, G. (2017) “Big Data ethics” https://www.linkedin.com/pulse/dilemas-de-compliance-en-big-data-y-science-un-guillermo-iribarren/

-El contrato de prestación de servicios en el tratamiento de datos personales: http://www.protecciondedatos.com.ar/doc10.htm

-Material sobre Gobernanza de Datos de la cátedra Soria-Kamienkowski “Data Mining aplicado a Ciencia y Tecnología”, Maestría en Explotación de Datos y Descubrimiento del Conocimiento, UBA.

Facebooktwitterlinkedin

Una respuesta a “Desafíos de Compliance en la era de los datos masivos-Parte 2”

  1. […] Desafíos de Compliance en la era de los datos masivos-Parte 1 y Parte 2 […]

Dejá un comentario

Tu dirección de correo electrónico no será publicada. Los campos necesarios están marcados *