Inteligencia Artificial: el gobierno de EE.UU. busca certificar la autenticidad de sus comunicaciones

El gobierno de Estados Unidos decidió que, en el contexto de un mundo revolucionado por el poder de la Inteligencia Artificial, es necesario certificar la autenticidad y procedencia de sus comunicaciones digitales.

En una orden ejecutiva firmada el lunes 30/10, el presidente Joe Biden instruyó a su gobierno a identificar y/o desarrollar las tecnologías necesarias para etiquetar de manera segura los contenidos digitales producidos por los distintos brazos del gobierno.

“Esta orden busca asegurar que los sistemas de IA puedan ganar la confianza del pueblo de Estados Unidos, y la confianza de las personas de todo el mundo”, dijo Biden sobre la orden ejecutiva, que abarca una amplia gama de desafíos planteados por la IA.

Uno de los desafíos es el uso de la IA para “engañar” a la gente, dijo en la ceremonia de firma del extenso documento, que entre otras cosas establece el Consejo sobre la Inteligencia Artificial de la Casa Blanca, una oficina especial para coordinar las acciones previstas en la orden.

“Los deepfakes utilizan audio y video generados por inteligencia artificial para difamar reputaciones, difundir noticias falsas y cometer fraudes», afirmó Biden. Agregó, en broma, que había visto un video falso de él mismo que parecía tan real que se preguntó, “¿Cuándo carajo dije eso?»

Representantes de distintos sectores de la sociedad, incluyendo a empresas, sindicatos y asociaciones civiles, dieron la bienvenida a la orden ejecutiva. Muchos señalaron que la única forma de sacar el máximo provecho de la IA es asegurar su desarrollo en forma responsable y ético.

Riley McCormack, presidente y director ejecutivo de Digimarc, dijo: «Digimarc Corporation apoya plenamente las audaces medidas adoptadas hoy por la Administración Biden en su esfuerzo por encontrar un equilibrio entre la protección de los derechos de los estadounidenses y el aprovechamiento del enorme potencial innovador de la Inteligencia Artificial. Nos alienta ver que las directrices de la administración incluyen una dirección clara con respecto al papel que debe desempeñar la marca de agua en este esfuerzo crítico».

TruePic CEO Jeffrey McGregor dijo que la orden ejecutiva tiende a establecer incentivos no financieros a las empresas de IA, alrededor de cuestiones de salud y seguridad. «Lo que hace la orden ejecutiva es empezar a alinear las estructuras de incentivos para que las empresas del big tech adopten tecnologías que creen este tipo de visibilidad para los consumidores en torno al origen del contenido, la historia del contenido, y les permita tomar decisiones sobre si deben confiar en el contenido que están consumiendo», dijo en entrevista con Yahoo News.

Con relación a la comunicación, muchos sectores de la sociedad comparten la preocupación de Biden sobre el poder que tiene la IA para engañar al público con contenidos digitales que aparenten ser reales, pero que son falsificaciones generados por la IA.

Empresas de marketing y comunicación, otras que representan a artistas, medios de comunicación y hasta aquellas organizaciones que son los creadores de servicios de IA, han dicho que es necesario tomar medidas para lograr implementaciones seguras y responsables de la nueva tecnología.

El presidente de Microsoft, en un discurso en mayo en Washington DC, señalo que su mayor preocupación con IA era el tema de deepfakes. «Vamos a tener que atender los temas inherentes a los deepfakes”, dijo, agregando que en particular le preocupaba las operaciones ciber-influencia llevadas acabo por los gobiernos de Rusia, China e Irán. “Debemos tomar medidas contra la alteración de contenido legitimo con la intención de engañar o defraudar a la gente mediante el uso de IA», agregó.

También en mayo, Publicis Groupe de Francia, la segunda empresa de marketing y comunicación del mundo, se unió al comité de liderazgo de la Coalición por la Procedencia y Autenticidad del Contenido (C2PA), un esfuerzo multisectorial para desarrollar estándares para lograr más transparencia sobre los orígenes y historiales de los contenidos.

Al unirse, señaló que lo hacía porque «la coalición busca construir y estandarizar un marco futuro de verificación de contenido, y a la vez proteger la autenticidad y procedencia de los activos IA para los creadores, las marcas y los consumidores».

C2PA funciona efectivamente como el brazo tecnológico de la Iniciativa de Autenticidad de Contenido (CAI), un esfuerzo colaborativo para promover la adopción del estándar C2PA que goza del apoyo de casi 2000 miembros en el mundo.

El estándar C2PA adjunta credenciales a los contenidos, en el momento de su creación, que certifican donde, como, cuando y por quién fueron creados. Luego, registran todos los cambios realizados al contenido (fotografía, video, grabación de sonido o documento), a lo largo del tiempo. La información se hace disponible al público, como si fuera una “etiqueta de nutrición”, a la hora de publicar el contenido.

El tema de la autenticidad y procedencia de los contenidos oficiales es uno de tres áreas fundamentales de derechos tratados en la orden ejecutiva sobre IA firmado por Biden. Los otros dos fueron discriminación algorítmico y privacidad de datos, aunque también pidió una serie de importantes acciones para asegurar la seguridad nacional.

En sus consideraciones específicas, el presidente ordenó al Departamento de Comercio a, en un período de 240 días, investigar, identificar y/o desarrollar las herramientas necesarias para: autenticar contenido y dar seguimiento a su procedencia; etiquetar a contenido sintético; para detectar contenido sintético y finalmente, para impedir la producción de materiales relacionados con el abuso de niños o la creación de imágenes intimas de personas reconocibles.

A continuación, el secretario de Comercio trabajando con la Oficina de Gerenciamiento y Presupuesto (OMB) debe en el espacio de un total de 360 días, desarrollar lineamientos para implementar las herramientas señaladas, y luego distribuir esos lineamientos a los distintos brazos del gobierno federal.

«Todos tienen el derecho de saber cuando el audio que están escuchando, o el video que están viendo, fue generado o alterado por IA», dijo Biden. «Gracias a esta orden, el Departamento de Comercio va a desarrollar estándares para aplicar marcas de agua y claramente etiquetar contenido generado por IA».

Funcionarios dijeron que los nuevos estándares no solamente contemplan identificar a los contenidos generados por IA, sino también certificar los contenidos que son reproducciones de la realidad creados por humanos, dándole al público certitud sobre el origen de todo contenido.