¿No sería un golazo tener información segura sobre si una fotografía, un video o un audio son falsos o reales y, si son reales, saber quién los capturó, dónde y cuándo? Al mismo tiempo, ¿no sería súper útil para los regímenes autoritarios contar con este tipo de tecnología para identificar y censurar el origen de cualquier expresión crítica o evidencia de abusos o corrupción?
Es el clásico dilema de los sistemas de seguridad: cuanto mejores son, mayor es la posibilidad de que también se presten a violaciones de la privacidad y faciliten abusos por parte del poder y de malhechores. El ejemplo más claro hasta ahora son las cámaras de seguridad que proliferaron en las grandes ciudades del mundo.
En el mundo digital, ese dilema viene siendo señalado desde hace tiempo por organismos de defensa de los derechos humanos, pero con mayor énfasis ahora que están entrando en vigor las primeras regulaciones destinadas a atacar la desinformación y el fraude online mediante el uso de credenciales seguras de procedencia de contenidos.
Las credenciales de contenido son datos verificables que acompañan a un archivo digital para identificar su origen, autoría y las modificaciones que haya sufrido.
Jacobo Castellanos, experto en la intersección entre tecnología y derechos en la organización Witness, señaló en un informe de 21 páginas sobre el tema que el objetivo de restaurar la confianza en el sistema podría verse frustrado por un uso malicioso de la tecnología.
“La tecnología de procedencia es fundamental para restablecer la confianza en el entorno informativo”, señaló Castellanos. Pero agregó que esa infraestructura, al mismo tiempo, “puede convertirse en una herramienta para la divulgación de identidad, la elaboración de perfiles de comportamiento y el control de la libertad de expresión”.
Precisamente, los más expuestos son los periodistas, defensores de derechos humanos y documentalistas, que suelen incomodar al poder con sus informaciones. A la vez, son potencialmente los principales beneficiarios de esta infraestructura, ya que puede ayudar a restaurar la confianza en la veracidad de sus informes.
Asegurar que la tecnología de procedencia cumpla con el propósito de restaurar la confianza sin convertirse en una herramienta de control depende de “lograr un diseño regulatorio adecuado”, dijo Castellanos, gerente de Amenazas y Oportunidades de la Tecnología de Witness, una organización de derechos humanos. Castellanos también es colíder de la fuerza de tareas sobre amenazas y oportunidades de la Coalición por la Procedencia y Autenticidad de Contenido (C2PA), una organización multisectorial que, dentro de la Fundación Linux, desarrolló la tecnología de procedencia con mayor aceptación mundial, conocida como tecnología C2PA.
Aun sin C2PA, el periodismo ha denunciado su vulnerabilidad al seguimiento digital y la consecuente violación de la privacidad, imprescindible para el ejercicio de la profesión. El Comité para la Protección de los Periodistas (CPJ, por sus siglas en inglés) dio a conocer esta semana un informe sobre la utilización de herramientas presentes en la publicidad online y de información acumulada por los data brokers, entre otras fuentes, que, potenciadas por la inteligencia artificial, permiten mapear en detalle las actividades de periodistas y fuentes de información en busca de coincidencias comprometedoras.
«La arquitectura de vigilancia masiva que rastrea gran parte de nuestra actividad en línea puede haberse desarrollado para respaldar la publicidad digital, pero se está utilizando con otros fines y expone a los periodistas al riesgo de ser blanco de ataques en relación con su labor informativa», declaró Jonathan Rozen, subdirector de investigación y análisis del CPJ y autor del informe.
«Potenciada por la capacidad de la IA para revisar y organizar información, y en conjunto con otras formas de vigilancia digital, la extracción y mercantilización desenfrenadas de datos personales amenazan directamente la privacidad necesaria para que la prensa pueda trabajar con libertad y seguridad».
El informe de Castellanos muestra múltiples escenarios en los que el mal uso de la tecnología podría subvertir aún más la confianza del público en el sistema y ser aprovechado por gobiernos u otros poderes para ejercer control sobre la difusión y el consumo de información.
Hasta principios de la década actual, la falta de confianza del público en los contenidos digitales y las interacciones online venía aumentando sostenidamente. A partir de 2022, con la introducción de los primeros sistemas de uso masivo de inteligencia artificial (IA) generativa, los índices de confianza se desplomaron, lo que representa una seria amenaza para el funcionamiento online.
Desde 2019, e incluso antes, la industria ya anticipaba lo que iba a ocurrir y lanzó un esfuerzo colaborativo para dar mayor transparencia al origen de los contenidos digitales. Ese esfuerzo se denomina The Content Authenticity Initiative (CAI), integrada por más de 6.000 miembros, incluidos los principales actores del ecosistema digital, organizaciones de la sociedad civil como Witness y medios de comunicación como The New York Times, Clarín, Infobae, The Times of India, Nikkei y Convercom, entre centenares de otros. C2PA es el brazo tecnológico del esfuerzo, lanzado inicialmente por Adobe, The New York Times y Twitter.
La tecnología C2PA de procedencia propone incorporar información sobre el origen de los contenidos dentro de cada archivo o vinculada a él. Para alcanzar ubicuidad y efectividad, utiliza encriptación, se basa en una propuesta de interoperabilidad y funciona con múltiples formatos: metadatos, huellas digitales y marcas de agua. Permite establecer si un contenido fue generado por IA, cuándo y mediante qué sistema. Además, en el caso de imágenes, videos o audios capturados de la realidad, propone marcarlos desde el origen con información sobre dónde ocurrió cada captura, cuándo, cómo y por quién.
El primer smartphone en incluir esta tecnología, el Pixel 10 de Google, está diseñado de tal manera que brinda tanta protección a la privacidad del usuario que casi pierde valor para el uso profesional. Elimina los datos secuenciales que podrían utilizarse para identificar y crear un historial del comportamiento del fotógrafo. Al mismo tiempo, no permite utilizar la función de geolocalización, algo fundamental para validar la veracidad del fotoperiodismo, ni ofrece la opción de activar esas funciones.
“Optamos por un acercamiento que maximiza la privacidad, ya que C2PA está activo por default y no puede ser apagado por el usuario”, dijo a Convercom Sherif Hanna, líder de productos C2PA de Google, en el momento del lanzamiento del smartphone.
A partir del 2 de agosto, en Europa y California entraron en vigor regulaciones que obligan a la IA a marcar sus contenidos con información de procedencia. Hasta ahora, la mayor parte de las regulaciones o propuestas legislativas en el mundo, incluidas leyes de varios estados de EE.UU., apuntan a lograr ese propósito: que los contenidos generados por IA estén identificados como tales. Solo California ha previsto hasta ahora que, para 2028, las empresas fabricantes de dispositivos de captura -cámaras y grabadores- ofrezcan esta tecnología como una opción en sus productos.
Para Paul Melcher, experto en tecnología de imágenes, la implementación inicial de la tecnología de procedencia únicamente sobre imágenes de IA podría producir, debido a una falla cognitiva, un resultado contrario al buscado.
“El mecanismo radica en la pereza humana”, escribió en un posteo en LinkedIn. “Una vez que las personas aprenden que el contenido de IA lleva una etiqueta, interpretan la ausencia de esta como prueba de su autenticidad. Los psicólogos midieron este fenómeno hace años y lo denominaron efecto de verdad implícita; ahora, los investigadores lo han reproducido específicamente en imágenes de IA. Si se etiquetan algunas imágenes, el público confía más en las que no están etiquetadas, incluidas las falsas”.
Aunque el comentario es aceptado por muchos como una consecuencia inevitable en el corto plazo, a largo plazo el esfuerzo busca alcanzar un grado de ubicuidad que permita revertir ese efecto de verdad implícita e introducir dudas sobre el origen de aquellos contenidos que no cuenten con información de procedencia, desde datos concretos sobre la captura hasta la afirmación de autoría, por ejemplo mediante el sello certificado de una empresa periodística.
Por eso, organismos de derechos humanos como Witness estudian el potencial impacto sobre la libertad de expresión y la privacidad de un ecosistema digital poblado por contenidos reales y sintéticos marcados con información de procedencia, así como la posibilidad de que ese ecosistema sea manipulado por gobiernos o poderes enfrentados con las libertades individuales.
En ese sentido, este autor fue una de las decenas de personas consultadas por Witness para aportar una visión sobre cómo la tecnología de procedencia podría utilizarse para vulnerar la libertad de expresión, particularmente en relación con el periodismo. Señalé dos antecedentes vinculados con la historia del periodismo en América Latina.
El primero es la colegiación obligatoria de los periodistas, una propuesta que surge recurrentemente en la región con distintos matices. Fue planteada como idea en 2024 por el gobierno argentino de Javier Milei, fue tema de una propuesta legislativa en Perú en 2023 y formó parte de una iniciativa en Florida, EE.UU., ese mismo año, para obligar a los blogueros que informaran sobre temas políticos a registrarse. China exige el registro de todos los periodistas mediante un certificado que es otorgado o denegado a discreción de las autoridades.
Exigir a los periodistas que incluyan en la información de procedencia un certificado profesional emitido por el gobierno como requisito para publicar en sitios de noticias sería equivalente a la colegiación, especialmente si ese certificado fuera obligatorio para publicar información en esos sitios, algo similar a lo que ocurre actualmente, en los hechos, en China.
Mientras este tipo de obligación es resistido por el periodismo del mundo occidental, muchos sitios de noticias online quieren contar con la posibilidad de incluir un certificado sobre la responsabilidad del medio respecto de la información producida. Proponen que ese certificado, registrado ante una entidad comercial similar a las que validan operaciones comerciales o financieras, permita brindar al público la confianza de que la información efectivamente pertenece al medio mencionado, que no es una imitación y que no ha sufrido modificaciones. Finalmente, el certificado serviría para defender los derechos de propiedad sobre la información al permitir rastrear su utilización.
En 1985, frente a una ley de colegiación del periodismo de Costa Rica, la Corte Interamericana de Derechos Humanos determinó que ese régimen violaba la Convención Americana sobre Derechos Humanos al crear un sistema que restringía la libre circulación de información e ideas. El artículo 13.3 de la Convención establece: “El derecho a la libertad de expresión no podrá ser restringido por métodos o medios indirectos, como el abuso del control público o privado sobre la prensa escrita, las frecuencias de radiodifusión o los equipos utilizados para la difusión de información, ni por ningún otro medio que tienda a impedir la comunicación y circulación de ideas y opiniones”.
En principio, la incorporación del certificado en el mundo occidental sería voluntaria y no una obligación legal, aunque legislación aprobada en Europa lo requiere como elemento necesario para la defensa del copyright sobre contenidos.
La distinción respecto del uso voluntario, dentro de un sistema de autorregulación, es crucial. Si fuera otorgado por autoridades gubernamentales, podría utilizarse como elemento de presión, como ocurrió con las licencias de radio y televisión, necesarias en un mundo con disponibilidad limitada de frecuencias. Al mismo tiempo, estas licencias siempre estuvieron sujetas a abusos, una realidad o preocupación todavía presente en muchos países. El ejemplo más reciente fue la demanda presentada en estos días por la cadena ABC de los Estados Unidos contra la Comisión Federal de Comunicaciones (FCC), a la que acusó de vincular la renovación de licencias con cuestiones relacionadas con la libertad de expresión.
De manera similar, el uso de un certificado oficial podría ser declarado obligatorio para el otorgamiento de publicidad oficial, una fuente crucial de financiamiento para muchos medios de comunicación de toda la región. En ese escenario, un medio que no obtuviera un certificado oficial podría quedar excluido del reparto de publicidad oficial.
El uso de la publicidad oficial como herramienta de presión sobre los medios de comunicación ha sido denunciado reiteradamente en toda la región durante décadas.
En 2007, la Corte Suprema de Justicia de Argentina falló de manera contundente contra la distribución arbitraria de publicidad oficial en un caso que involucró a Editorial Río Negro, que argumentó que el Estado provincial de Neuquén había cortado su pauta oficial para castigarlo por informar sobre un caso de corrupción.
La Corte sostuvo que no existe un derecho absoluto a recibir pauta oficial ni a recibir una determinada cantidad, pero que el Estado sí tiene la obligación de establecer criterios concretos para regir su distribución y evitar así políticas arbitrarias o discriminatorias.
La misma situación se aplica a las credenciales de contenido. Castellanos señaló que la confianza en el sistema de credenciales “depende de que la infraestructura se utilice para el propósito para el que fue diseñada y de que existan mecanismos creíbles y visibles para identificar y responder cuando no se utilice correctamente”.
Estos elementos tienen poca presencia en las legislaciones y propuestas legislativas impulsadas hasta ahora.
Ayudanos a seguir pensando, buscando y elaborando información para conectar a la sociedad. Si valoras lo que hacemos....
Hacé tu comentario