Un tipo particular de contenido que apunta a desinformar es el de las <\/span>fake news<\/span><\/i>, noticias o informaci\u00f3n falsa que se presenta como si fuera verdadera, aunque en algunos casos no son completamente falsas ya que pueden estar basadas en algunos hechos reales pero manipulados para distorsionar la realidad e incluso generar emociones extremas que contribuyen a viralizar el contenido. En general, se difunden a trav\u00e9s de medios de comunicaci\u00f3n, redes sociales o plataformas digitales.<\/span><\/p>\n Cabe recalcar que en general las desinformaciones no son blanco o negro, sino que existen grises. A veces el dato es verdadero pero el contexto es falso o, al contrario, el contexto es verdadero pero el dato es falso. Las redes sociales se manejan con la l\u00f3gica de la inmediatez, lo que hace que la informaci\u00f3n se fragmente para poder llamar la atenci\u00f3n del usuario. Eso implica muchas veces que, en el af\u00e1n de explicar todo en un titular que sea corto, atractivo y llamativo, se termine desvirtuando la realidad. Se busca generar un <\/span>clickbait<\/span><\/i> para conseguir m\u00e1s visitas, pero no siempre la intencionalidad est\u00e1 puesta en la desinformaci\u00f3n, sino que esta termina siendo una consecuencia de la implementaci\u00f3n de una estrategia de comunicaci\u00f3n.\u00a0\u00a0<\/span><\/p>\n Al mismo tiempo, aparecen contenidos mucho m\u00e1s dif\u00edciles de crear, denominados <\/span>deep fakes<\/span><\/i>, que consisten en audio, video o imagen manipulados con IA y ciencia de datos para crear materiales enga\u00f1osos que parecen reales. El t\u00e9rmino es una combinaci\u00f3n de \u00abaprendizaje profundo\u00bb (<\/span>deep learning<\/span><\/i>) y \u00abfalso\u00bb <\/span>(fake<\/span><\/i>). Esta tecnolog\u00eda puede superponer el rostro de una persona en el cuerpo de otra, o alterar sonidos para que alguien diga algo que nunca dijo, haciendo el contenido hiperrealista (como se ha apreciado principalmente en videos, im\u00e1genes y audios distorsionados de figuras p\u00fablicas).\u00a0<\/span><\/p>\n Una de las imagenes alteradas m\u00e1s famosas fue la que public\u00f3 Kate Middleton, miembro de la corona brit\u00e1nica.<\/p><\/div>\n \u00bfC\u00f3mo se logra esta manipulaci\u00f3n? Se utilizan algoritmos de aprendizaje profundo y modelos de redes neuronales entrenados con grandes cantidades de datos (im\u00e1genes, videos, audios) para analizar, sintetizar y aprender las caracter\u00edsticas de una persona y poder recrearla. Lo sorprendente es que a trav\u00e9s de un proceso de iteraci\u00f3n, un modelo aprende a generar r\u00e9plicas falsas y otro detecta las falsificaciones, resultando en una capacidad cada vez mayor para crear resultados muy realistas.\u00a0<\/span><\/p>\n De este modo la necesidad de chequear la autenticidad del contenido, verificar las fuentes y los hechos (<\/span>fact-checking<\/span><\/i>), analizar m\u00e1s profundamente el material difundido y poder discernir lo verdadero de lo falso, se convirti\u00f3 en una tarea desafiante y compleja, donde la supervisi\u00f3n humana es irremplazable y la tecnolog\u00eda puede ser una gran aliada.<\/span><\/p>\n Chequeado: iniciativas que incluyen IA para una ciudadan\u00eda activa y cr\u00edtica<\/b><\/p>\n Desde el Blog Predictivos dialogamos con miembros de los programas de Medios, Innovaci\u00f3n y Comunicaci\u00f3n de Chequeado<\/a><\/span>, una organizaci\u00f3n sin fines de lucro, no partidaria, dedicada a ayudar a las personas a tomar decisiones informadas combinando periodismo de verificaci\u00f3n, educaci\u00f3n y tecnolog\u00eda c\u00edvica para elevar la calidad del debate p\u00fablico y contribuir a democracias s\u00f3lidas.\u00a0<\/span><\/p>\n En cuanto al modo en que la IA est\u00e1 transformando el proceso de chequeo de informaci\u00f3n, los especialistas de Chequeado se\u00f1alaron que la inteligencia artificial generativa est\u00e1 transformando muchos aspectos del trabajo period\u00edstico y, en el caso del <\/span>fact-checking<\/span><\/i>, abre oportunidades concretas para mejorar la velocidad y eficacia de sus procesos. \u201c<\/span>En Chequeado venimos trabajando desde hace tiempo para convertir esta tecnolog\u00eda en una aliada en la lucha contra la desinformaci\u00f3n y lo hacemos siempre con una premisa clara: la supervisi\u00f3n humana es irremplazable. Con nuestro equipo de Innovaci\u00f3n desarrollamos herramientas que ayudan a que la redacci\u00f3n trabaje de forma m\u00e1s \u00e1gil y efectiva: desde asistentes para redactar hilos o guiones de video, hasta soluciones para procesar bases de datos o actualizar art\u00edculos con nueva informaci\u00f3n<\/span><\/i>\u201d, puntualizan.<\/span><\/p>\n Estas herramientas son abiertas a colegas por el equipo, para que m\u00e1s medios y organizaciones puedan beneficiarse. Para desarrollar este tipo de herramientas, Chequeado atraviesa un proceso iterativo y colaborativo con expertos del dominio para mejorar los prompts y sobre todo para evaluar su rendimiento. \u201c<\/span>Nos apoyamos en los puntos fuertes de estos sistemas: conversi\u00f3n entre formatos, tareas de razonamiento sencillas, la posibilidad de escalar r\u00e1pidamente y nos enfocamos en la experimentaci\u00f3n con ejemplos concretos<\/span><\/i>\u201d, postulan los especialistas.<\/span><\/p>\n Teniendo en cuenta que en los \u00faltimos a\u00f1os el contenido informativo cambi\u00f3 radicalmente y gran parte de la ciudadan\u00eda se informa en las redes sociales, especialmente con contenidos audiovisuales, que suelen estar en formatos breves, fragmentados y virales, Chequeado adapta sus estrategias para responder a ese escenario: \u201c<\/span>Producimos hilos, placas, videos cortos, guiones para Reels o TikTok, y contenidos pensados espec\u00edficamente para estas plataformas que hagan din\u00e1mica, atractiva y accesible la evidencia. Y capacitamos a comunicadores, docentes y referentes comunitarios para que puedan detectar as\u00ed como frenar la desinformaci\u00f3n en sus propios entornos<\/span><\/i>\u201d.<\/span><\/p>\n En este contexto, la IA y la ciencia de datos se vuelven herramientas muy valiosas. Particularmente en Chequeado utilizan IA generativa para acelerar tareas repetitivas o estructuradas \u2014como redactar borradores de hilos o adaptar art\u00edculos para distintos formatos\u2014 y tambi\u00e9n para trabajar con bases de datos complejas. Estos avances, permiten al periodista o comunicador enfocarse en las partes cr\u00edticas del proceso.<\/span><\/p>\n Los primeros pasos de esta ONG con inteligencia artificial fueron en 2015, cuando utilizaron modelos de aprendizaje autom\u00e1tico para detectar frases chequeables en el discurso de l\u00edderes pol\u00edticos, lo que aceleraba el proceso de verificaci\u00f3n y posterior difusi\u00f3n de ese chequeo. Luego, en 2017 implementaron aprendizaje profundo para detectar la similaridad sem\u00e1ntica entre frases y a partir de 2018 recurrieron a modelos de atenci\u00f3n para la transcripci\u00f3n autom\u00e1tica de audios y videos.<\/span><\/p>\n Un claro ejemplo de ello es la <\/span>Gu\u00eda de inteligencia artificial generativa en redacciones de fact-checking<\/span><\/a>, que surgi\u00f3 como parte del trabajo del Laboratorio de Innovaci\u00f3n de Chequeado. \u201c<\/span>Durante nueve meses experimentamos de forma sistem\u00e1tica con herramientas de IA generativa aplicadas al trabajo cotidiano de nuestra redacci\u00f3n: desde la escritura de hilos y la actualizaci\u00f3n de notas, hasta el an\u00e1lisis de datos, la creaci\u00f3n de guiones para videos y la simplificaci\u00f3n de conceptos complejos<\/span><\/i>\u201d.<\/span><\/p>\n El objetivo principal del proyecto es entender c\u00f3mo esta tecnolog\u00eda puede ayudarnos a hacer m\u00e1s eficiente el trabajo sin comprometer la calidad ni el rigor period\u00edstico mediante un recurso pr\u00e1ctico con ejemplos y recomendaciones. \u201c<\/span>Quer\u00edamos evaluar qu\u00e9 tareas pueden automatizarse (y cu\u00e1les no), qu\u00e9 modelos funcionan mejor para cada caso de uso y qu\u00e9 estrategias de prompting dan buenos resultados. Tambi\u00e9n nos propusimos compartir esos aprendizajes con otros colegas del ecosistema period\u00edstico y de verificaci\u00f3n, en l\u00ednea con nuestra convicci\u00f3n de que la colaboraci\u00f3n y el acceso abierto fortalecen a todo el sector<\/span><\/i>\u201d, aclara el equipo de Innovaci\u00f3n. Y concluyen que en un contexto de cambio acelerado, es clave compartir lo que aprendemos para que m\u00e1s organizaciones puedan aprovechar estas herramientas de forma cr\u00edtica, responsable y efectiva.<\/span><\/p>\n Al mismo tiempo, desarrollan diversas herramientas y programas para acompa\u00f1ar a la ciudadan\u00eda en este proceso, tales como El Explorador (chatbot experimental entrenado para responder preguntas con el archivo de Chequeado), El Chequeador (una plataforma web pensada para periodistas, fact-checkers y educadores que enfrentan desinformaci\u00f3n viral) y desde el \u00e1rea de Educaci\u00f3n, impulsan AMI en acci\u00f3n, una plataforma abierta que promueve la alfabetizaci\u00f3n medi\u00e1tica e informacional dirigida a toda la comunidad educativa. A su vez, trabajan en proyectos colaborativos de formaci\u00f3n como por ejemplo la Red latinoamericana de formadores en fact-checking, la cual promueve la ense\u00f1anza del fact-checking en universidades como una herramienta clave para fortalecer el pensamiento cr\u00edtico.<\/span><\/p>\n \u201c<\/span>Desde nuestro Laboratorio de IA seguimos explorando el uso de tecnolog\u00edas emergentes para mejorar procesos internos de nuestra redacci\u00f3n y abrir nuevas formas de comunicar informaci\u00f3n verificada. Todos estos proyectos comparten el mismo prop\u00f3sito: promover el pensamiento cr\u00edtico y acercar herramientas concretas para que m\u00e1s personas puedan detectar desinformaci\u00f3n, acceder a datos confiables y tomar decisiones informadas<\/span><\/i>\u201d, concluyen los referentes de Chequeado.<\/span><\/p>\n Ciencia Anti Fake News: cient\u00edficos de CONICET contra la informaci\u00f3n no chequeada<\/b><\/p>\n Por su parte, <\/span>Ciencia Anti Fake News<\/span><\/a> es un grupo de j\u00f3venes cient\u00edficos y cient\u00edficas comprometidas con un proyecto autogestivo de chequeo de informaci\u00f3n. El proyecto comenz\u00f3 desmintiendo noticias falsas en la pandemia causada por COVID-19 y en ese entonces ofrecieron su trabajo voluntario a CONICET, logrando contribuir con contenido cient\u00edfico en la plataforma Confiar. Luego de la pandemia continuaron realizando este trabajo de manera 100% voluntario y a la par de su labor como investigadores.<\/span><\/p>\n Para conocer un poco m\u00e1s del proyecto y la opini\u00f3n sobre el impacto de la inteligencia artificial en aspectos de desinformaci\u00f3n e infodemia, conversamos con Esteban Grasso, uno de los integrantes de Ciencia Anti Fake News.<\/span><\/p>\n \u00c9l es bi\u00f3logo molecular, doctor en qu\u00edmica biol\u00f3gica e investigador en el \u00e1rea de la inmunolog\u00eda y la reproducci\u00f3n, particularmente aplicada a fertilidad, en el IQUIBICEN (Instituto de Qu\u00edmica Biol\u00f3gica de la Facultad de Ciencias Exactas y Naturales con dependencia UBA\/CONICET). Recientemente est\u00e1 utilizando herramientas de bioinform\u00e1tica y an\u00e1lisis de datos para sus investigaciones, por lo que su inmersi\u00f3n en la tecnolog\u00eda es considerable.<\/span><\/p>\n \u201c<\/span>La irrupci\u00f3n de la IA como herramienta para manipular contenido y volverlo realista es un problema muy grande. M\u00e1s all\u00e1 de haber visto contenido manipulado en las \u00faltimas elecciones de la ciudad de Buenos Aires, es un problema que se observa mucho m\u00e1s en Estados Unidos y en pa\u00edses de habla inglesa, m\u00e1s que ac\u00e1 en Argentina, llegando al punto de producir contenido audiovisual realista e inundar las redes sociales con estos deep fakes<\/span><\/i>\u201d, describe Grasso.<\/span><\/p>\n En cuanto al impacto que este problema tendr\u00eda en las noticias cient\u00edficas, el investigador resulta esclarecedor: \u201c<\/span>Sin dudas que ha circulado mucho contenido, pseudocient\u00edfico, sobre el tema de antivacunas o terraplanismo, pero a\u00fan no he visto tanto contenido donde se use IA para manipular este tipo de informaci\u00f3n<\/span><\/i>\u201d, explica el investigador. Y comenta que en el \u00e1mbito de la salud observa un riesgo considerable cuando el com\u00fan de las personas le consultan a los asistentes de IA sobre enfermedades, diagn\u00f3sticos y tratamientos, tomando la respuesta como verdadera.<\/span><\/p>\n \u201c<\/span>El problema es que la gente muestra una sobreconfianza en la respuesta de ChatGPT, como si fuera una persona real o incluso m\u00e1s que eso y no comprenden que esta tecnolog\u00eda es un gran predictor de texto pero no tiene un razonamiento detr\u00e1s de esas respuestas. A su vez, no veo un inter\u00e9s en que las grandes compa\u00f1\u00edas de tecnolog\u00eda o empresas de redes sociales adviertan sobre contenido falso, m\u00e1s a\u00fan si eso les genera muchos clicks. Es un tema que seguramente merece mayor regulaci\u00f3n<\/span><\/i>\u201d, afirma Grasso.<\/span><\/p>\n Ante ello, el especialista recomienda chequear fuentes oficiales, leer la informaci\u00f3n completa y verificar el contenido constatando qui\u00e9nes son los autores y si alg\u00fan otro profesional referente habla al respecto.<\/span><\/p>\n \u201c<\/span>Es clave mantenerse actualizado en herramientas de verificaci\u00f3n, publicaciones y fuentes de informaci\u00f3n. En nuestro grupo estamos ayudando a periodistas, medios de comunicaci\u00f3n y a la ciudadan\u00eda en general en el trabajo de chequeo de informaci\u00f3n cient\u00edfica, ya que tenemos investigadores en distintas \u00e1reas y especialidades, participando con contenido de actualidad. Al mismo tiempo, estamos presentes en eventos cient\u00edficos, charlas y actividades de capacitaci\u00f3n y de divulgaci\u00f3n cient\u00edfica, como por ejemplo el D\u00eda de la Inmunolog\u00eda en la Feria del Libro y <\/span><\/i>la asesor\u00eda que hicimos desde CONICET varios integrantes del equipo a una productora llamada Ponchosauer, que gener\u00f3 una serie digital de t\u00edteres llamada \u2018Feik \u00d1us\u2019 sobre alfabetizaci\u00f3n digital y chequeo de informaci\u00f3n para la cadena DirecTV (programa Escuela Plus). La serie fue muy distinguida en diferentes festivales y los <\/span><\/i>diez cap\u00edtulos<\/span><\/i><\/a> est\u00e1n en YouTube<\/span><\/i>\u201d, concluye Grasso.<\/span><\/p>\n Sin lugar a dudas, combatir la desinformaci\u00f3n no es s\u00f3lo una tarea de los medios o de los gobiernos. Requiere de la participaci\u00f3n activa de las plataformas tecnol\u00f3gicas, los funcionarios y tomadores de decisi\u00f3n, organizaciones de la sociedad civil y ciudadan\u00eda informada.\u00a0 Y la desinformaci\u00f3n en la era de la inteligencia artificial no es \u00fanicamente un problema tecnol\u00f3gico, sino un desaf\u00edo estructural y transversal a toda la sociedad.<\/span><\/p>\n Bonus track: recomendaciones de Factchequeado<\/b><\/p>\n La desinformaci\u00f3n generada por IA es particularmente peligrosa porque puede ser muy dif\u00edcil de detectar a simple vista, explican desde<\/span> Factchequeado<\/span><\/a>, una iniciativa colaborativa que lucha contra la desinformaci\u00f3n que afecta a las comunidades latinas e hispanas en los Estados Unidos y reduce la brecha de informaci\u00f3n verificada en espa\u00f1ol. Desde el portal se brindan <\/span>recomendaciones<\/span><\/a> para detectar desinformaci\u00f3n generada por IA en im\u00e1genes, audios y videos.<\/span><\/p>\n El proyecto desarrollado, con el apoyo de PEN Am\u00e9rica, brinda un recursero abierto para ayudar a las personas a identificar contenido creado o manipulado mediante herramientas de inteligencia artificial.\u00a0<\/span><\/p>\n En cuanto a lo que es TEXTO, Factchequeado recomienda verificar la informaci\u00f3n con sitios web confiables y desconfiar especialmente del contenido que genera emociones extremas.<\/span><\/p>\n Si tras la observaci\u00f3n y el uso de nuestros sentidos, no estamos seguro de la autenticidad de un contenido, Factchequeado recomienda utilizar herramientas de verificaci\u00f3n como <\/span>Hugging Face<\/span><\/a> para im\u00e1genes, <\/span>AI Voice Detector<\/span><\/a> para audio y <\/span>Deepware<\/span><\/a> para videos o <\/span>Hive Moderation<\/span><\/a>, que sirve para los tres formatos. Aunque debemos saber que ninguna herramienta es 100% fiable y cada una arroja un porcentaje de probabilidad de que un contenido haya sido generado con IA.<\/span><\/p>\n Se recomienda siempre buscar la fuente original del contenido. Y, si no encontramos una fuente confiable que respalde la imagen, audio, video o texto, la regla es simple: no compartir el contenido si es informativo.<\/strong><\/p>\n","protected":false},"excerpt":{"rendered":" En la era de la transformaci\u00f3n digital, las noticias falsas y los contenidos manipulados con inteligencia artificial para crear materiales enga\u00f1osos que parecen reales, se han convertido en una preocupaci\u00f3n global. En este post exploramos la problem\u00e1tica y conversamos con referentes de Chequeado y Ciencia Anti Fake News.<\/p>\n","protected":false},"author":4,"featured_media":1786,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_mi_skip_tracking":false},"categories":[24,39,25],"tags":[21,40,31],"_links":{"self":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts\/1780"}],"collection":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1780"}],"version-history":[{"count":5,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts\/1780\/revisions"}],"predecessor-version":[{"id":1791,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/posts\/1780\/revisions\/1791"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=\/wp\/v2\/media\/1786"}],"wp:attachment":[{"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1780"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1780"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/datamining.dc.uba.ar\/predictivos\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1780"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}![\"\"](\"https:\/\/datamining.dc.uba.ar\/predictivos\/wp-content\/uploads\/2025\/08\/Imagen-interior-fake-ia.png\")
<\/a><\/span><\/p>\n<\/a><\/a>IMAGEN: Observar detalles como dedos, ojos y sombras irregulares. Tambi\u00e9n se puede hacer una b\u00fasqueda inversa de la imagen que se quiere analizar, para ver si se encuentra la fuente original o im\u00e1genes similares que muestren otros contextos.<\/span><\/p>\n<\/a>AUDIO: Identificar cambios abruptos en el tono o emotividad poco natural. Prestar atenci\u00f3n si el audio tiene efectos especiales o m\u00fasica de fondo, porque ello hace que las herramientas que detectan IA fallen m\u00e1s.<\/span><\/p>\n<\/a>VIDEO: Estar especialmente atentos a la sincronizaci\u00f3n labial con el audio y textura de la piel de las personas, la IA suele mostrarnos pieles m\u00e1s tersas que las reales.<\/span><\/p>\n