{"id":1197,"date":"2020-06-16T15:57:41","date_gmt":"2020-06-16T18:57:41","guid":{"rendered":"http:\/\/datamining.dc.uba.ar\/predictivos\/?p=1197"},"modified":"2020-06-22T19:51:42","modified_gmt":"2020-06-22T22:51:42","slug":"big-data-en-los-tiempos-del-coronavirus-medicion-del-impacto-en-las-movilidades-segun-dispositivos-moviles","status":"publish","type":"post","link":"https:\/\/datamining.dc.uba.ar\/predictivos\/?p=1197","title":{"rendered":"Big Data en los tiempos del Coronavirus. Medici\u00f3n del impacto en las movilidades seg\u00fan dispositivos m\u00f3viles."},"content":{"rendered":"<p>Por<b> Leo Lucianna <\/b>(Especialista en Explotaci\u00f3n de Datos y Descubrimiento del Conocimiento &#8211; UBA y Docente de la materia Data Mining).<\/p>\n<p><span style=\"font-weight: 400;\">De m\u00e1s est\u00e1 decir que los tiempos que estamos viviendo est\u00e1n muy alejados de lo com\u00fan. All\u00e1 en la lejana \u00e9poca de apenas unos meses atr\u00e1s, nadie imaginar\u00eda estar inmersos en un confinamiento masivo, ni temerosos de una curva maligna. Quiz\u00e1 esta no sea ni la primera ni \u00faltima vez en la historia que se haya dado una alteraci\u00f3n repentina semejante en nuestros h\u00e1bitos. Pero lo interesante de esto, es que nunca se hab\u00eda dado en la reciente \u00e9poca del Big Data, es decir, nunca con este nivel de registro de datos. Y as\u00ed los datos, como un espejo virtual de nuestra realidad, est\u00e1n registrando cambios sin precedentes.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hace poco m\u00e1s de un a\u00f1o que formo parte del equipo de Data Science de <\/span><a href=\"https:\/\/retargetly.com\/\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Retargetly<\/span><\/a><span style=\"font-weight: 400;\">, y ahora que lo pienso digo \u00a1qu\u00e9 grande! S\u00ed, grande por el gran equipo con quienes tengo la suerte de trabajar, y grande por la cantidad de datos a analizar, con m\u00e1s de 40 TB de data proveniente del comportamiento online de m\u00e1s de 200 millones de dispositivos diarios.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Naturalmente, estamos en un momento de muchos interrogantes, por eso en Retargetly nos hicimos muchas preguntas que se pod\u00edan responder con datos. Por ejemplo, respecto a las movilidades urbanas: \u00bfcu\u00e1l es el nivel de impacto del coronavirus?, \u00bfc\u00f3mo se refleja a lo largo del tiempo?, \u00bfc\u00f3mo responden las sociedades a la pandemia y a las medidas tomadas por los gobiernos?, \u00bfen qu\u00e9 regiones se registran mayores o menores efectos?, o \u00bfcu\u00e1l es efecto en los distintos pa\u00edses y ciudades latinoamericanas?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\u00bfCon qu\u00e9 datos contamos para responder estas preguntas? Con se\u00f1ales anonimizadas de GPS que surgen de las apps de los tel\u00e9fonos celulares. Y adem\u00e1s contamos con un cluster de Spark con 45 servidores para poder procesar toda la informaci\u00f3n. Habitualmente utilizamos estos datos para generar y modelar segmentos de marketing que ayuden a direccionar publicidades o comunicaciones hacia los dispositivos correctos. Otro uso es la generaci\u00f3n de mapas de intereses por regiones geogr\u00e1ficas basados en el comportamiento de navegaci\u00f3n de dispositivos por zona, informaci\u00f3n muy relevante para las marcas a la hora de determinar la ubicaci\u00f3n de nuevo local, o publicitar en la v\u00eda p\u00fablica. Sin embargo, en este desaf\u00edo contamos con una dimensi\u00f3n adicional a considerar: el movimiento de los dispositivos. Por eso ensayamos varios enfoques hasta dar con una metodolog\u00eda que se ajuste tanto al dominio como al volumen de datos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Empecemos determinando c\u00f3mo mensurar el movimiento de un \u00fanico dispositivo seg\u00fan sus se\u00f1ales de GPS registradas a lo largo del tiempo, como se muestra en el ejemplo de la figura A. Un primer y natural enfoque ser\u00eda medir el movimiento tomando la suma de distancias entre puntos cronol\u00f3gicamente consecutivos (figura B). Ahora, como los puntos est\u00e1n definidos por latitudes y longitudes, expresados en \u00e1ngulos, el c\u00e1lculo de distancias se vuelve un poco m\u00e1s complejo que tomar distancias euclidianas, ya que hay que tener en consideraci\u00f3n la geometr\u00eda de la tierra. Para esto se podr\u00eda asumir un modelo de tierra esf\u00e9rico y aplicar la f\u00f3rmula de <\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/Haversine_formula\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">haversine<\/span><\/a><span style=\"font-weight: 400;\"> [1]. Si bien con este tratamiento lograr\u00edamos un alto nivel precisi\u00f3n, en relaci\u00f3n al costo del procesamiento, implica un complejidad innecesaria para el dominio de aplicaci\u00f3n. Asumiendo un mayor margen de error, se pueden simplificar los c\u00e1lculos proyectando primero los puntos en un plano (<\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/Equirectangular_projection\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">proyecci\u00f3n equirectangular<\/span><\/a><span style=\"font-weight: 400;\">), y luego s\u00ed calcular distancias euclidianas. Pero a\u00fan as\u00ed, se vuelve muy costoso si lo llevamos a la escala de todas las se\u00f1ales de millones de dispositivos.<\/span><\/p>\n<p><a href=\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla-1-1.png\"><img decoding=\"async\" loading=\"lazy\" class=\"alignleft size-full wp-image-1214\" src=\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla-1-1.png\" alt=\"\" width=\"909\" height=\"402\" srcset=\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla-1-1.png 909w, https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla-1-1-300x133.png 300w, https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla-1-1-768x340.png 768w\" sizes=\"(max-width: 909px) 100vw, 909px\" \/><\/a><\/p>\n<p><span style=\"font-weight: 400;\">Un nuevo enfoque, que es el que finalmente usamos en este trabajo, es utilizar el algoritmo de discretizaci\u00f3n espacial <\/span><a href=\"https:\/\/en.wikipedia.org\/wiki\/Geohash\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Geohash<\/span><\/a><span style=\"font-weight: 400;\">. Geohash divide al mundo en grillas de casilleros identificados por c\u00f3digos llamados Geohashes. La figura C muestra esquem\u00e1ticamente el trazado de una grilla, de esta manera cada localizaci\u00f3n queda codificada seg\u00fan su Geoghash de pertenencia. En este esquema, la tarea de medir movimiento se limita a contar la cantidad de Geohashes distintos registrados por cada dispositivo. Ahora en el ejemplo mostrado en D, la trayectoria queda cuantificada en 9 Geohashes. Claro, no se est\u00e1 calculando exactamente la distancia recorrida, pero s\u00ed tenemos una medida que refleja la cantidad de movimiento de los usuarios. Adem\u00e1s este algoritmo tiene otra ventaja: permite ajustar el tama\u00f1o de grilla seg\u00fan la cantidad de movimiento que nos interesa medir. Esto lo logra gracias a su estructura jer\u00e1rquica de codificaci\u00f3n, as\u00ed un Geoghash pertenece a otro Geoghash m\u00e1s grande y as\u00ed sucesivamente formando una gran matrioshka espacial planetaria. Un Geohash es un c\u00f3digo de hasta 12 caracteres con un alfabeto de 32 s\u00edmbolos [2]. Si se utilizan los 12 caracteres se consigue una granularidad de grilla de 37.2mm \u00d7 18.6mm, en el otro extremo con un \u00fanico caracter, cada Geohash cubre hasta 25 millones de km\u00b2. En este proyecto utilizamos 7 caracteres, teniendo una discretizaci\u00f3n de 153m \u00d7 153m, lo cual se ajusta muy bien a nuestro prop\u00f3sito de medir movilidades, es decir, s\u00f3lo tenemos en cuenta desplazamientos a nivel de cuadras, descartando todos los movimientos menores que se puede dar incluso dentro de un domicilio, al mismo tiempo de eliminar peque\u00f1as variaciones producidas por ruido en la se\u00f1ales de GPS.<\/span><\/p>\n<p><a href=\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla2.png\"><img decoding=\"async\" loading=\"lazy\" class=\"alignleft size-full wp-image-1215\" src=\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla2.png\" alt=\"\" width=\"931\" height=\"430\" srcset=\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla2.png 931w, https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla2-300x139.png 300w, https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2020\/06\/Tabla2-768x355.png 768w\" sizes=\"(max-width: 931px) 100vw, 931px\" \/><\/a><\/p>\n<p><span style=\"font-weight: 400;\">Utilizar Geohash fue un antes y un despu\u00e9s, este tipo de herramientas son las que se necesitan para resolver un problema de Big Data. Por un lado reduce considerablemente los tiempos y recursos necesarios para el procesamiento, y al mismo tiempo, la simplificaci\u00f3n nos aporta un mayor potencial de an\u00e1lisis. As\u00ed que con esta codificaci\u00f3n, generamos series temporales del movimiento medio de los dispositivos, agrup\u00e1ndolos por divisiones territoriales seg\u00fan los Geohashes que cubran estas regiones.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Hasta este punto la cosa se pone m\u00e1s f\u00e1cil, descargamos las series en una m\u00e1quina local y continuamos el an\u00e1lisis en Python. \u00a1Y ahora s\u00ed! graficando las mediciones vemos una marcada ca\u00edda del movimiento en todos los lugares analizados. En Argentina la ca\u00edda se detecta despu\u00e9s del 13 de marzo, una semana antes de la cuarentena obligatoria. Para ese entonces la curva de contagios empezaba a superar los 10 casos diarios, y empezamos a adoptar los primeras medidas de reducci\u00f3n de movilidad. En mi caso, como muchos otros, en esa semana dej\u00e9 de ir a la oficina y de hacer ejercicios al aire libre, tambi\u00e9n se anunciaba la postergaci\u00f3n de los inicios de las clases, y comenzaban las extra\u00f1as largas colas para comprar alimentos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Perfecto, estamos entusiasmados con las series temporales de Geoghashes, es clara la ca\u00edda de movimiento, pero el problema es que ahora las curvas quedan expresadas en unidades dif\u00edciles de interpretar. S\u00ed, podr\u00edamos aproximar la idea de tomar cuadras recorridas, aunque sabemos que no es exactamente eso. Entonces, para mejorar la interpretaci\u00f3n utilizamos una escala relativa, tomando como referencia al movimiento medio en las semanas previas al descenso de movilidad. As\u00ed podemos estar diciendo, basado en el comportamiento de los dispositivos celulares, que en Argentina llegamos a reducir los niveles de movilidad en m\u00e1s del 75% desde que se instal\u00f3 la amenaza del virus.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Todo este estudio est\u00e1 publicado de forma abierta y actualizada en formato de visualizaciones con mapas interactivos desagregados en distintos niveles de divisiones territoriales. Actualmente se cuenta con tableros para <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586297932_covid19-dashboard-argentina.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Argentina<\/span><\/a><span style=\"font-weight: 400;\">, <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586297635_covid19-dashboard-caba.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Ciudad de Buenos Aires<\/span><\/a><span style=\"font-weight: 400;\">, <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586297137_covid19-dashboard-chile.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Chile<\/span><\/a><span style=\"font-weight: 400;\">, <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586298047_covid19-dashboard-colombia.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Colombia<\/span><\/a><span style=\"font-weight: 400;\">, <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586297753_covid19-dashboard-mexico.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">M\u00e9xico<\/span><\/a><span style=\"font-weight: 400;\">, <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586297137_covid19-dashboard-peru.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Per\u00fa<\/span><\/a><span style=\"font-weight: 400;\">, y <\/span><a href=\"https:\/\/files.retargetly.com\/uploads\/1586298047_covid19-dashboard-uruguay.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">Uruguay<\/span><\/a><span style=\"font-weight: 400;\">. Conocemos muchas historias de empresas, organizaciones, universidades y gobiernos que utilizan estos mapas para el estudio y toma decisiones. En el \u00faltimo tiempo, con el inicio del descongelamiento en la movilidad, surgen nuevas preguntas que van desde el estudio de movimiento por grupos etarios o clases sociales, a la optimizaci\u00f3n en la distribuci\u00f3n de combustible en estaciones de servicios. As\u00ed que regresando al punto de partida, volvemos a m\u00e1s preguntas y desaf\u00edos para responder con ciencia de datos.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">[1] Calculate distance and bearing between two Latitude\/Longitude points using haversine formula in JavaScript. Movable Type Ltd. <\/span><a href=\"https:\/\/www.movable-type.co.uk\/scripts\/latlong.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">https:\/\/www.movable-type.co.uk\/scripts\/latlong.html<\/span><\/a><\/p>\n<p><span style=\"font-weight: 400;\">[2] Geohash encoding\/decoding. Movable Type Ltd. <\/span><a href=\"https:\/\/www.movable-type.co.uk\/scripts\/geohash.html\" target=\"_blank\" rel=\"noopener noreferrer\"><span style=\"font-weight: 400;\">https:\/\/www.movable-type.co.uk\/scripts\/geohash.html<\/span><\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Por Leo Lucianna (Especialista en Explotaci\u00f3n de Datos y Descubrimiento del Conocimiento &#8211; UBA y Docente de la materia Data Mining). De m\u00e1s est\u00e1 decir que los tiempos que estamos viviendo est\u00e1n muy alejados de lo com\u00fan. All\u00e1 en la lejana \u00e9poca de apenas unos meses atr\u00e1s, nadie imaginar\u00eda estar inmersos en un confinamiento masivo, ni temerosos de una curva maligna. Quiz\u00e1 esta no sea ni la primera ni \u00faltima vez en la historia que se haya dado una alteraci\u00f3n repentina semejante en nuestros h\u00e1bitos. Pero lo interesante de esto, es que nunca se hab\u00eda dado en la reciente \u00e9poca del Big Data, es decir, nunca con este nivel de registro de datos. Y as\u00ed los datos, como un espejo virtual de nuestra realidad, est\u00e1n registrando cambios sin precedentes.<\/p>\n","protected":false},"author":4,"featured_media":1201,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_mi_skip_tracking":false},"categories":[24,34,26],"tags":[21,35,33],"_links":{"self":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts\/1197"}],"collection":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1197"}],"version-history":[{"count":16,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts\/1197\/revisions"}],"predecessor-version":[{"id":1223,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts\/1197\/revisions\/1223"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/media\/1201"}],"wp:attachment":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1197"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1197"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1197"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}