Por John Reichertz

Cada vez que circulan fotografías, videos o audios impactantes surge la misma pregunta: ¿son reales o fueron creados con inteligencia artificial (IA)? Para los habitantes de Europa y California, una parte de esa respuesta estará mucho más cerca a partir del 2 de agosto.

Ese día entrarán en vigor las primeras regulaciones que obligarán a informar al público sobre el papel que desempeñó la IA en la generación o manipulación de contenidos digitales. Además, ya existen indicios de que estas normas podrían influir en otras jurisdicciones del mundo.

Sin embargo, saber que un contenido fue generado o modificado mediante IA no resuelve, por sí solo, los problemas de la desinformación ni la pérdida de confianza del público en la información que consume. Sigue existiendo una gran cantidad de contenidos capturados y manipulados de forma artesanal por personas.

De hecho, algunos especialistas advierten que etiquetar únicamente los contenidos generados con IA -una suerte de «etiqueta de nutrición digital»- podría distorsionar la percepción del público sobre el resto de los contenidos que circulan. 

De cualquier forma, a partir de agosto las principales empresas desarrolladoras de IA deberán ofrecer al público herramientas que permitan responder a una pregunta cada vez más frecuente: ¿este contenido fue generado por IA? Muchas compañías, entre ellas Google, OpenAI, Microsoft y Meta, ya comenzaron a avanzar en esa dirección.

En California, la obligación surge de la Ley de Transparencia de IA del estado, mientras que en Europa se establece en el artículo 50 de la Ley de Inteligencia Artificial.

Aumento de confianza

En la antesala de esta fecha clave, coordinada entre ambas jurisdicciones, investigadores del norte de Europa publicaron un estudio que mostró que la confianza del público en las marcas periodísticas aumentó cuando estas incorporaban etiquetas digitales de procedencia en las imágenes informativas.

«Mostramos que enfatizar la veracidad del contenido mediático mediante etiquetas de procedencia mejora la credibilidad del contenido, lo que, a su vez, fortalece la confiabilidad de la fuente», señalaron los autores del estudio, pertenecientes a MediaFutures, el Centro de Investigación para Tecnología e Innovación de Medios Responsables de la Universidad de Bergen (Noruega), y a la Escuela de Investigación en Comunicación de la Universidad de Ámsterdam.

«En particular, comprobamos que la información de procedencia tiene un mayor impacto en la confianza hacia aquellas fuentes periodísticas que inicialmente eran percibidas como menos confiables. Probablemente esto se deba a que existe un mayor margen para fortalecer esa confianza en comparación con medios altamente reputados, como BBC News», agregaron los investigadores en el resumen del trabajo.

California más allá

Gran parte de la legislación que hoy avanza en otros países se limita, por ahora, a exigir transparencia sobre el origen de los contenidos sintéticos generados mediante inteligencia artificial. Sin embargo, California fue más allá: la norma prevé que los creadores de contenidos reales también puedan incorporar, de manera voluntaria, etiquetas de procedencia, como etapa final de una transición hacia un ecosistema digital más transparente.

Christoph Trattner, profesor de la Universidad de Bergen y uno de los autores del estudio sobre confianza del público, explicó que etiquetar únicamente los contenidos generados por IA, y no también los auténticos, podría generar consecuencias no deseadas.

«Uno de los riesgos durante este período de transición es que el público comience a interpretar la ausencia de una etiqueta como una prueba de que el contenido es auténtico», señaló en respuestas enviadas por correo electrónico.

«El valor de largo plazo de estas etiquetas de procedencia radica en comunicar todo lo que se conoce sobre el origen y el historial de edición de un contenido, independientemente de si fue generado sintéticamente o capturado en el mundo real», afirmó Trattner. «De lo contrario, el sistema podría crear inadvertidamente una falsa dicotomía entre una ‘IA etiquetada’ y una ‘realidad sin etiquetar’.»

Según el académico noruego, para que el sistema funcione correctamente, las etiquetas deberían estar presentes en todo tipo de contenidos. De ese modo, los usuarios podrían evaluar el grado de confianza que les merece cada pieza informativa en función de la calidad y la cantidad de datos disponibles sobre su procedencia.

Hacia un estándar global

Más allá de la entrada en vigor de estas regulaciones, ya existe un conjunto de iniciativas que anticipan un ecosistema digital con cada vez más información sobre el origen y la naturaleza de los contenidos.

La mayoría de los avances convergen en el estándar impulsado por la Coalición para la Procedencia y Autenticidad de los Contenidos (C2PA), con el respaldo de la Iniciativa para la Autenticidad de los Contenidos (CAI), una alianza integrada por más de 6000 organizaciones de distintos sectores de la actividad económica.

El estándar C2PA cumple con los requisitos establecidos por las regulaciones de Europa y California, ya que es interoperable, confiable, robusto y ampliamente adoptado por los distintos actores del ecosistema digital. Aunque no es mencionado de manera explícita en los textos legales, durante el proceso de elaboración de las normas fue reconocido como el único estándar que actualmente satisface esos requisitos.

Durante el primer semestre de este año, tanto Google como OpenAI anunciaron herramientas para que sus usuarios puedan detectar la información de procedencia incorporada a los contenidos generados por sus sistemas. En el caso de Google, esa función estará disponible a través de Gemini y, próximamente, también mediante Chrome y su motor de búsqueda. OpenAI, en tanto, incorporó un hipervínculo específico para acceder a esa información.

Google también informó que Meta -con la que comparte responsabilidades en el comité directivo de C2PA- comenzará a mostrar en Instagram la información de procedencia generada por cámaras compatibles con ese estándar, como el Pixel 10, el primer teléfono de la compañía que lo incorpora de forma nativa.

Al anunciar estas medidas, Laurie Richardson, vicepresidenta de Confianza y Seguridad de Google, reafirmó el compromiso de la empresa con la adopción de C2PA como estándar global.

«Cada vez utilizamos Credenciales de Contenido C2PA en más herramientas de medios generativos. Se trata del estándar de la industria que permite conocer cómo fue creado y modificado un contenido, con o sin inteligencia artificial», afirmó Richardson. 

Otras propuestas de ley

Los avances anunciados por Google y OpenAI están alineados con las regulaciones que comenzarán a regir en California y Europa, aunque ya se encuentran disponibles para usuarios de numerosos países que aún no cuentan con ese tipo de legislación.

Durante el primer semestre de 2026, la Coalición por la Transparencia -una organización que monitorea la evolución de la legislación vinculada con la inteligencia artificial en Estados Unidos- presentó cuatro modelos de proyectos de ley para abordar distintos aspectos regulatorios. Uno de ellos propone la obligatoriedad de marcar y etiquetar los contenidos generados mediante IA, en términos muy similares a las normas ya aprobadas en los estados de Arizona y Washington.

«Exigir que las imágenes y los videos generados mediante IA sean identificados constituye una medida de sentido común que puede implementarse con la tecnología disponible en la actualidad», concluyó la Coalición por la Transparencia al fundamentar la necesidad de este modelo legislativo.

Fechas regulatorias clave

 2 de agosto de 2026: entran en vigor la Ley de Transparencia de IA de California y las disposiciones de la Ley de Inteligencia Artificial de la Unión Europea, en particular su artículo 50.

La entrada en vigor de la norma californiana, prevista originalmente para el 1.º de enero de 2026, fue postergada hasta el 2 de agosto para coincidir con la aplicación de la regulación europea.

A partir de esa fecha, los sistemas de inteligencia artificial que generen contenidos digitales deberán incorporar información de procedencia y ofrecer a los usuarios herramientas que permitan verificar si un contenido fue creado mediante IA.

 1.º de enero de 2027: la Ley de Transparencia de IA de California obligará a plataformas digitales y redes sociales a mostrar o facilitar el acceso a la información de procedencia cuando esta acompañe a un contenido digital.

2 de febrero de 2027: la Ley 1786 del Senado del estado de Arizona, ya aprobada y promulgada por el gobernador, obliga a los servicios de inteligencia artificial generativa con domicilio en ese estado a incorporar información de procedencia en los contenidos de imagen, video y audio que produzcan.

Ese mismo día también entrará en vigor la Ley 1170 del estado de Washington, aprobada y promulgada por el gobernador, que exige a los servicios de IA generativa identificar los contenidos de audio, video e imágenes cuando ello sea técnica y comercialmente viable, además de poner a disposición del público herramientas para verificar esa información de procedencia.

1.º de enero de 2028: la Ley de Transparencia de IA de California obligará a los fabricantes de dispositivos de captura —cámaras fotográficas, cámaras de video y grabadores de audio— radicados en ese estado a incorporar la tecnología necesaria para identificar los contenidos mediante metadatos, marcas de agua u otros mecanismos de información de procedencia.

Herramientas para verificar credenciales de contenido C2PA

Estas plataformas permiten comprobar la presencia de credenciales de contenido C2PA para determinar el origen de imágenes, ya sea que hayan sido generadas mediante inteligencia artificial o capturadas con cámaras compatibles con el estándar C2PA.

  C2PA Viewer (SSL.com): permite generar una imagen con OpenAI y visualizar las credenciales de contenido incorporadas para verificar su procedencia.

Content Authenticity Initiative (CAI): herramienta de la Iniciativa para la Autenticidad de los Contenidos que permite inspeccionar las credenciales de procedencia de imágenes y otros contenidos digitales.

 OpenAI Verify: servicio de OpenAI para verificar la información de procedencia incorporada a los contenidos generados por sus modelos.

 Adobe Content Authenticity: permite inspeccionar las credenciales de contenido de imágenes digitales. Además, desde aquí los autores pueden firmar digitalmente sus fotografías para acreditar su autoría e indicar que esas obras no sean utilizadas para el entrenamiento de modelos de inteligencia artificial.

Culminando un período de rápido avance, la legislatura de California impulsa la creación de un ecosistema digital poblado de contenidos marcados con el equivalente de “etiquetas de nutrición” con el propósito de frenar la proliferación de desinformación y restaurar la confianza del público en los contenidos que consumen Online. 

 Por John Reichertz

La legislatura de California, estado sede de 32 de las 50 empresas más importantes de Inteligencia Artificial (IA) del mundo, la semana pasada aprobó una  legislación que concretiza el esfuerzo de hacer disponible al público la información de procedencia de los contenidos digitales, dándole así una respuesta sistémica a la plaga de la desinformación y fraude online.

Por razones tecnológicas y financieras, es probable que las medidas de California, la cuarta economía del mundo, tengan impacto mundial entre aquellas plataformas, herramientas de IA y dispositivos de captura, fabricados y utilizados en el mundo occidental. Llevarían a la implementación a escala del estándar de procedencia C2PA promovido por la Iniciativa de Autenticidad de Contenido (CAI).

La votación de la legislatura corona un período de rápido avance del movimiento sobre la trazabilidad del contenido, que incluye el lanzamiento del teléfono Pixel 10 de Google con tecnología C2PA;  una implementación innovadora de C2PA por parte de France TV; una decisión de la asociación de proveedores de cámaras de seguridad de unirse a C2PA y la implementación de una política de procedencia en China.

El Senado de California votó 30-6 para aprobar la legislación que obligaría a las plataformas y redes a mostrar información de procedencia cuando está presente en los contenidos que circulen, y a los fabricantes de cámaras de fotografía y de video, como también grabadores de audio, a incluir la tecnología de procedencia como opción de uso en sus productos.

La cámara baja el viernes convalidó los cambios hechos en el Senado, enviando la ley al Gobernador Gavin Newsom para su firma.

“No se puede hacer la vuelta olímpica aún, pero tengo mucha fe”, dijo David Evan Harris, representante del Iniciativa de California para la Tecnología y la Democracia (CITED), que ayudó a redactar la legislación, presentada por Buffy Wicks, integrante de la cámara baja.

John Bennett, investigador del comité de privacidad y protección al consumidor, hizo un informe meses atrás para resumir para los legisladores la naturaleza de la legislación. En ese informe, dijo:

“La propagación descontrolada de contenido sintético amenaza con perjudicar a los californianos de diversas maneras, como la proliferación de pornografía DeepFake no consensuada, estafas, daños a la reputación y la distribución de desinformación electoral dirigida. Una estrategia para combatir esto es integrar datos de procedencia (origen) en el contenido generado por IA y capturado en tiempo real que permitan a los espectadores verificar el contenido”.

El año pasado la legislatura estatal aprobó el Acta AI de Transparencia, SB 942, que obliga a los proveedores de IA Generativa, a partir del 1 de enero de 2026, a incluir en los contenidos generados información sobre el origen de los mismos, incluyendo su creación mediante la IA, el nombre del sistema generador y la fecha de la producción.

Pero los autores y proponentes de esa legislación sabían que ese primer paso era incompleto sin las medidas contempladas en la legislación aprobada ahora, ya que:

·       No tenía sentido práctico marcar las obras de IA como tales si esa información de origen no estaba visible en las plataformas/redes.

·       Visto que la IA puede crear imágenes, videos y audios esencialmente indistinguibles de capturas reales, era imprescindible que fuera posible, y a la vez, opcional, marcar capturas reales para darle al público las herramientas de conocer afirmativamente la naturaleza de cada contenido.

“Estos requisitos, junto con la SB 942, crearían un marco integral de divulgación y detección que permitiría la clasificación a gran escala del contenido como auténtico o artificial”, dijo Bennett, en su análisis, que contempla la utilización del estándar de procedencia C2PA impulsado por CAI, un esfuerzo colaborativo de más de 5.000 miembros de la cual la Sociedad Interamericana de Prensa forma parte.

La obligatoriedad de las plataformas y redes de mostrar la información de procedencia incluido en los contenidos entraría en vigor el 1 de enero de 2027 mientras que los dispositivos de captura deberían incluir tecnología de procedencia desde el 1 de enero de 2028.

El estándar C2PA es de fuente abierta y fue desarrollado dentro de la Fundación Linux, por un grupo de empresas incluyendo a Adobe, BBC, Publicis Groupe, Google, Microsoft, OpenAI, Sony, Intel, Meta, Amazon y TruePic. C2PA es el acrónimo por el nombre de este grupo técnico, la Coalición por la Procedencia y Autenticidad del Contenido. CAI es el grupo que públicamente promueve la adopción del estándar.

Actualmente, es el único esfuerzo tecnológicamente avanzado de procedencia, que además cuenta con apoyo amplio de todos los sectores del sistema de información y economía digital.

Con el estándar, el público tiene acceso a algo como una “etiqueta de nutrición” de los contenidos digitales. En el caso de capturas reales, la etiqueta dice donde, como, cuando y eventualmente, por quién fue logrado el registro (la fotografía, el video o el audio), y si fue cambiado después de su captura, y como. Para capturas reales, el uso de la tecnología es opcional, incluyendo la posibilidad de definir qué información de procedencia uno quiere compartir.

El estándar C2PA ya está siendo utilizado por ChatGPT, Dall-e, Sora, Bing y Adobe Firefly, y está visible en LinkedIn, con un icono CR visible en imágenes, que es un vínculo que lleva a la información de procedencia. Google y Facebook anunciaron sus planes para implementar el estándar, aunque no se sabe aun cuando.

La aprobación de esta legislación es solamente la más reciente de los avances logrados por quienes proponen que las credenciales de contenido, las etiquetas, sean ubicuos como parte de un esfuerzo de restablecer la confianza del público en los contenidos que usan para informarse, y para evitar ser víctima de fraudes y estafas, entre otras cosas.

A fines de agosto Google presentó su teléfono Pixel 10, siendo el primer Smartphone en incorporar de forma nativa la tecnología C2PA, dándole a los usuarios la opción de activar las credenciales de contenido sobre las fotografías sacadas con el Android. Leica, Nikon y Sony ya lanzaron cámaras C2PA, y Sony promete incluir la tecnología en una cámara de video antes de fin de año.

Andy Parsons, director general de CAI, dijo sobre el lanzamiento, “Este es un momento muy emocionante para la transparencia de los medios, para los fotógrafos y para las Credenciales de Contenido de C2PA. El nuevo Pixel 10 de Google es el primer teléfono que integra Credenciales de Contenido en el núcleo de su proceso de captura de fotos, y ha alcanzado el nivel más alto ofrecido por el Programa de Conformidad de C2PA”.

En otro avance, France Televisión gano el premio de Tecnología e Innovación de la European Broadcasting Union (EBU) por su implementación del estándar C2PA en dos de sus programas.

“En un contexto donde la desinformación y los DeepFakes erosionan gravemente la confianza pública y desestabilizan las democracias, France Televisión ha dado un paso decisivo al convertirse en la primera emisora ​​en adoptar sistemáticamente el protocolo C2PA a diario”, escribió Romuald Rat, director del Tech Lab de France Televisión, en la revista Tech-I del EBU. “Esta iniciativa marca un punto de inflexión en la participación de los medios públicos en la transparencia informativa y la lucha contra la manipulación de contenidos digitales”.

Mostrando la amplitud del esfuerzo, ONVIF, la asociación que nuclea a los proveedores de cámaras de seguridad para promover estándares abiertos comunes, se unió como miembro de C2PA.

“Preservar la autenticidad del video nunca ha sido tan importante, ya que las amenazas de la IA generativa y otros métodos de manipulación de contenido siguen aumentando exponencialmente, independientemente del sector y el caso de uso”, afirmó Leo Levit, presidente del Comité Directivo de ONVIF. “La labor de ONVIF para preservar la integridad del video y el reconocimiento de la C2PA contribuirán a generar confianza en los usuarios de que el video grabado puede verificarse como genuino y sin manipulaciones”.

ONVIF dijo que preservar la integridad de los videos de seguridad es fundamental ya que los mismos son utilizados en procedimientos judiciales, investigaciones policiales e incidentes de seguridad corporativa, donde cualquier duda sobre la validez de la evidencia en video puede socavar los resultados y erosionar la confianza institucional.

Finalmente, el 1 de septiembre China se constituyó como el primer país en el mundo en imponer un sistema obligatorio de procedencia de los contenidos generados con IA. Los contenidos IA deben llevar dos sistemas de identificación, uno visible al público, y otro con meta datos adjuntos a cada fotografía, audio, video, documento producido por la IA.

Los críticos dicen que mientras la campaña de China oficialmente está diseñada para el combate a la desinformación, al ser obligatorio podría ser utilizada como herramienta de censura.

“China ha puesto en práctica lo que otros aún debaten: un estándar nacional de autenticidad de la IA”, dijo en un posteo en LinkedIn Barbara Cresti, un experto en IA que da asesoramiento a las juntas directivas de empresas. “La infraestructura técnica demuestra que es posible. Las implicaciones políticas nos recuerdan sus riesgos”.