Publicado el 2 de enero de 2025

Adobe establece su enfoque del arte y los derechos de autor de la IA para 2025

Adobe ha sido una de las marcas creativas más grandes en aprovechar el potencial de la IA generativa con Adobe Firefly, y al hacerlo ha dividido a la comunidad de creadores.

Pero el enfoque de Adobe para incluir funciones de IA en Photoshop y otro software ha sido matizado, y se ha hecho junto con iniciativas claras diseñadas para proteger a los artistas y los derechos de autor. La idea es agregar herramientas de IA para creadores a su software, así como desarrollar nuevas herramientas de IA, como Adobe Project Concept AI, mientras se configuran herramientas para proteger la propiedad.

Lo que está claro es que la IA generativa está aquí para quedarse, y muchos artistas la están utilizando en sus flujos de trabajo, como el artista digital Guillermo Flores Pacheco, que crea collages detallados y coloridos utilizando Firefly con sus métodos habituales. Pero como se detalla en nuestro artículo de tendencias de las artes digitales de 2025, hay nuevas leyes y casos legales en el horizonte que podrían reducir la forma en que se usa la IA y agregar protecciones de derechos de autor para los artistas.

Para ser justos con Adobe, está por delante del resto en lo que respecta a su enfoque para proteger a los artistas, y aunque no siempre es perfecto, la dirección del viaje es bienvenida. Con iniciativas como Adobe Content Credentials y Project Know How que rastrean la propiedad y dejan en claro qué es y qué no es generado por la IA, Adobe ya tiene más protecciones que otros desarrolladores de aplicaciones creativas.

A continuación, Alexandru Costin, vicepresidente de IA generativa y Sensei de Adobe, explica en detalle los desafíos que enfrentan los artistas, cómo se puede usar la IA de manera segura, cuáles pueden ser los beneficios y cómo Adobe está colocando las herramientas para proteger los derechos de autor en la era de la IA.

imagen sin titulo

CB: ¿Cómo será el futuro de la IA, el arte y los derechos de autor?

AC: La IA generativa ya está transformando el proceso creativo, brindando a los creadores herramientas para superar los límites, trabajar de manera más eficiente y realizar sus visiones más rápido que nunca. En Adobe, creemos que la IA está aquí para apoyar y mejorar la creatividad humana, no para reemplazarla, al permitir que los artistas creen su mejor trabajo y al mismo tiempo garantizar que obtengan todo el crédito por ello.

La IA tiene el potencial de democratizar la creatividad, poniendo herramientas poderosas en manos de todos, desde profesionales hasta propietarios de pequeñas empresas, las empresas más grandes del mundo y estudiantes. Tome Adobe Express: sus funciones impulsadas por IA facilitan la adaptación del contenido a diferentes canales, la aplicación perfecta de la marca e incluso la reescritura o traducción de copias en segundos.

Sin embargo, a medida que la IA evoluciona, también lo hacen sus desafíos, especialmente en torno a la regulación, la transparencia y la propiedad intelectual. Las salvaguardas son fundamentales para garantizar que las personas confíen en la IA y que los creadores sientan que su trabajo está protegido. De cara al futuro, se comprometieron a trabajar con los responsables políticos, los creadores y la comunidad en general para garantizar que la IA acelere la creatividad al tiempo que protege la propiedad intelectual y fomenta la confianza.

imagen sin titulo

CB: ¿Cómo decide Adobe las funciones de Gen AI Firefly que integra en sus productos? ¿Es necesario que una nueva innovación ofrezca un caso de uso en el mundo real?

Alexandru Costin: Nuestros productos llegan a miles de millones de personas, lo que significa que las decisiones sobre qué características integramos en nuestros productos y cómo lo hacemos nos importan. Nuestra misión principal siempre ha girado en torno a empoderar a las personas y las empresas para que liberen su potencial creativo. La clave para esto es centrarse en las funciones generativas de IA que les permiten ser más creativos y productivos.

Nuestra familia de modelos Adobe Firefly tiene el poder de aumentar y amplificar el ingenio humano al brindar a las personas nuevos patios de recreo para la ideación y la exploración. Firefly permite a las personas realizar sus visiones creativas, incluso las más fantásticas o surrealistas, con mayor velocidad, agilidad y precisión.

Al mismo tiempo, las funciones innovadoras integradas en los productos de Adobe también están reduciendo el trabajo ocupado, liberando a los creativos de tareas tediosas o que requieren mucho tiempo, como cambiar el tamaño de las imágenes y localizar los resultados. Un ejemplo de ello es la reciente campaña de marca Lets Create de IBM, en la que se utilizó Firefly para generar 200 activos y más de 1000 variaciones de marketing para la campaña en cuestión de minutos.

Es igualmente importante que también consideremos cómo innovamos. La innovación responsable es nuestra principal prioridad cada vez que lanzamos una nueva función de IA. Nuestros principios éticos de IA basados en la rendición de cuentas, la responsabilidad y la transparencia nos guían en la evaluación cuidadosa de cada función antes de que llegue a nuestros usuarios.

Por ejemplo, las evaluaciones de impacto de múltiples capas son clave para detectar características que podrían perpetuar involuntariamente sesgos o estereotipos dañinos. Dicho esto, sabemos que el trabajo no termina una vez que una función está activa, por lo que hemos establecido formas para que los usuarios compartan comentarios, especialmente si notan resultados que se sienten fuera de lugar o sesgados. Esta colaboración nos ayuda a solucionar los problemas rápidamente y a seguir mejorando Firefly para nuestra comunidad.

imagen sin titulo

CB: ¿Qué importancia tendrán algunas cosas como el rastreo de credenciales y la transparencia?

AC: El rastreo de credenciales y la transparencia se están volviendo esenciales en el panorama digital actual. A medida que las líneas entre el contenido real y el sintético o generado por IA se difuminan, las herramientas de procedencia, como las credenciales de contenido, desempeñan un papel fundamental para ayudar a restaurar la confianza en línea.

Las credenciales de contenido son similares a una "etiqueta nutricional" para el contenido digital que cualquiera puede adjuntar a su trabajo para compartir información sobre sí mismo y proporcionar contexto sobre cómo se creó y editó. Con esta información al alcance de los consumidores, tienen la capacidad de decidir si pueden confiar en el contenido que ven en línea.

En un mundo donde la desinformación y las falsificaciones profundas pueden causar un daño real, funciones como poder rastrear la procedencia de un contenido se vuelven esenciales. Imaginamos un mundo en el que comprobar las credenciales de contenido es tan habitual como leer una etiqueta nutricional en los envases de los alimentos. Este cambio representa algo más que el progreso tecnológico, es una reinvención de cómo establecemos y mantenemos la confianza en el ecosistema digital.

CB: Dado que muchos artistas todavía están preocupados por la IA de la generación, ¿qué medidas está tomando para garantizar que quienes usan las aplicaciones de Adobe se sientan seguros y cómodos en su uso?

AC: Entendemos que algunos creadores están preocupados por la IA generativa y nos comprometimos a abordar estas inquietudes, al tiempo que fomentamos la confianza en las herramientas que creamos.

Creamos Firefly para la comunidad creativa para darles más potencia, precisión y control directamente en los flujos de trabajo en los que confían todos los días. Adobe siempre ha apoyado a la comunidad creativa y continuó con esa tradición al garantizar que nuestra familia de modelos Firefly se desarrolle teniendo en cuenta la responsabilidad y la transparencia. Hasta la fecha, Firefly se ha utilizado para generar más de 16 mil millones de imágenes en todo el mundo y, lo que es más importante, se ha capacitado exclusivamente en contenido con licencia, incluido Adobe Stock o contenido donde los derechos de autor han expirado, para que los creadores puedan confiar en la base de la tecnología.

También entendemos que algunas personas prefieren no utilizar la IA en sus flujos de trabajo. Adobe también ofrece aplicaciones que no funcionan con IA para ofrecer a los creadores opciones y respetar sus preferencias.

Nuestra última oferta para nuestra comunidad creativa incluye la aplicación web Adobe Content Authenticity, que tiene una configuración Gen AI Training and Usage Preference, que permite a los artistas aplicar credenciales de contenido a su trabajo para indicar si no quieren que su trabajo se utilice para capacitar a otros modelos de IA generativa en el mercado. La aplicación web también permite a los creadores obtener atribución por su trabajo. Creemos que todos los modelos deben respetar los derechos y preferencias de los creadores, y nuestro enfoque refleja un profundo respeto por la comunidad creativa.

imagen sin titulo

CB: ¿Qué medidas existen para evitar que las herramientas de IA de Adobe infrinjan involuntariamente obras protegidas por derechos de autor o imiten los estilos de artistas específicos sin permiso?

AC: Resolver con éxito la cuestión de los derechos de autor requiere una cuidadosa consideración y colaboración del sector público y privado para garantizar que, en última instancia, sea el creador quien gane. También es importante considerar dos cuestiones distintas que incluyen la entrada (qué modelos están utilizando los desarrolladores para entrenar a la IA) y la salida (qué tipos de imágenes están siendo producidas por un modelo de IA).

La IA es tan buena como los datos con los que está capacitada. La capacitación sobre más datos ayuda a garantizar que el modelo sea más preciso y menos sesgado. Algunos desarrolladores de modelos rastrean la web para obtener sus datos de capacitación, incluidos los materiales con derechos de autor. Desde una perspectiva legal, esta es una cuestión que actualmente se está considerando en países como el Reino Unido y por el Congreso en los Estados Unidos. En Adobe, elegimos capacitarnos solo en contenido con licencia y contenido de dominio público donde los derechos de autor han expirado. Nuestro modelo está diseñado para ser comercialmente seguro incluso en un panorama legal en evolución.

At Adobe, we chose to train only on licensed content and public domain content where copyright has expired

Alexandru Costin, Vice President of Generative AI and Sensei at Adobe

En Adobe, elegimos capacitar solo en contenido con licencia y contenido de dominio público donde los derechos de autor han expirado

Cuando se trata de abordar las preocupaciones de los creadores, creemos que es más efectivo centrarse en la producción porque esto es lo que los consumidores finalmente ven en el mercado. La razón es que tienes algunas celebridades preocupadas por la IA desde una perspectiva de nombre, imagen y semejanza y hemos escuchado preocupaciones de una amplia gama de creadores (músicos, artistas gráficos, fotógrafos, diseñadores) sobre alguien que hace un mal uso de una IA que ha sido entrenada en su trabajo para hacerse pasar por su estilo y luego usar esa salida para competir con ellos en el mercado. Eso no parece justo. Es por eso que hemos abogado por un derecho federal contra la suplantación en los EE. UU. que pueda brindar protección a los creadores contra este tipo de malos actores en la era de la IA.

CB: ¿Cómo se relaciona Adobe con los artistas y la comunidad para obtener comentarios y reaccionar ante los desarrollos e inquietudes de la IA?

AC: Los creadores son el núcleo de lo que somos como empresa y construir un legado de confianza apoyándolos en cada evolución de la creatividad es una responsabilidad que nos tomamos en serio. Es por eso que nos relacionamos constantemente con nuestra comunidad para comprender sus preocupaciones. Estas conversaciones no solo guían nuestras innovaciones; aseguran la creación de herramientas que protegen, empoderan y mejoran el viaje creativo.

Un ejemplo de esto se puede tomar de la aplicación web Adobe Content Authenticity, que fue diseñada para creadores por creadores. Trabajamos en estrecha colaboración con nuestra comunidad creativa en cada etapa del desarrollo: realizamos sesiones de escucha individuales y grupales para comprender sus puntos débiles, recopilamos comentarios sobre las características clave y perfeccionamos la experiencia del usuario para garantizar que esta aplicación web mejore sus esfuerzos creativos.

CB: ¿Cómo está protegiendo Adobe a sus usuarios, y necesita que otras empresas adopten los mismos procesos, y tal vez las credenciales de contenido como estándar de la industria, para garantizar que funcione?

AC: Cofundamos la Content Authenticity Initiative (Cai) en 2019, una iniciativa destinada a aumentar la confianza y la transparencia en línea. Hoy en día, el Cai cuenta con más de 4.000 miembros que consisten en los principales actores de la industria, incluidas plataformas globales de redes sociales, proveedores de IA generativa, organizaciones de medios, empresas de tecnología, fabricantes de cámaras, sociedades civiles y más. Adobe también es miembro fundador de la Coalition for Content Provenance and Authenticity (C2PA), un grupo de estándares globales que desarrolla las especificaciones técnicas para las credenciales de contenido.

Hemos visto una mayor adopción e implementación general de las credenciales de contenido tanto del sector público como del privado, incluidos Google, TikTok, OpenAI, Meta, LinkedIn y BBC News. Creemos que cuantos más lugares aparezca la tecnología de las credenciales de contenido, más valiosas serán como herramienta para fomentar un ecosistema digital confiable.

Content Credentials también es compatible con una amplia gama de productos y propiedades de Adobe, incluidos Photoshop, Lightroom, Express, Stock y Premiere Pro. Es importante destacar que aplicamos automáticamente las credenciales de contenido a los activos generados con Adobe Firefly como parte de nuestro compromiso de apoyar la transparencia en torno al uso de la IA generativa.

A medida que navegamos por una nueva frontera digital donde la IA generativa ofrece nuevas posibilidades, pero también trae incertidumbre y desafíos con deepfakes y contenido engañoso, veremos un impulso sin precedentes para la transparencia en el contenido digital, ya que los sectores público y privado reconocen la necesidad crítica de un estándar de procedencia de contenido en toda la industria. Las credenciales de contenido desempeñarán un papel fundamental en este cambio.

Para proteger verdaderamente a los creadores y abordar sus inquietudes, la colaboración entre la industria y el gobierno en el trabajo hacia un estándar de procedencia de contenido en toda la industria será aún más imperativa. Si bien las credenciales de contenido pueden no ser una "bala de plata", son una herramienta fundamental para restaurar la confianza en línea. La unión en torno a esta herramienta puede garantizar que las credenciales de contenido se conviertan en el estándar de oro para la transparencia, la autenticidad y la confianza en la era digital.

imagen sin titulo

CB: ¿Ves valor añadido al arte con las credenciales de contenido adjuntas (de manera similar al certificado de autenticidad del arte comercial)?

AC: Las credenciales de contenido redefinen la forma en que se crea y comparte el valor en el ecosistema del arte digital, ofreciendo profundos beneficios tanto para los artistas como para el público. Para los creadores, el valor radica en una mayor protección, reconocimiento y visibilidad. Para los consumidores, las credenciales de contenido sirven como una ventana a los orígenes de las artes y la historia. El público puede obtener información más profunda sobre la identidad de los creadores, el proceso creativo y las herramientas o técnicas utilizadas para dar vida a la pieza.

Al conectar a creadores y espectadores a través de una cadena de custodia digital autenticada, las credenciales de contenido ofrecen una propuesta de valor dual. Protege y empodera a los artistas a la vez que educa e involucra al público, estableciendo un nuevo estándar de integridad y confianza en la era digital.

CB: ¿Se pueden editar o manipular las credenciales de contenido?

AC: Las credenciales de contenido están diseñadas para ser una forma sólida y segura de etiquetar el contenido digital mediante la combinación de tres tecnologías clave: metadatos seguros, marcas de agua y huellas dactilares. Si bien cada una de estas técnicas por sí sola puede no ser completamente duradera, juntas crean un sistema confiable y a prueba de manipulaciones.

Los metadatos seguros firman digitalmente información como cuándo y dónde se creó el contenido, quién lo creó y cualquier edición realizada en el camino. La marca de agua añade un sello invisible al contenido que no es detectable por el ojo o el oído humano. La huella digital asigna un identificador único al contenido en función de sus características, lo que permite que coincida con la información de procedencia original si es necesario.

La combinación única de estas tres técnicas bajo una única solución, Content Credentials, presenta la solución más completa hoy en día para la procedencia de contenido digital para imágenes, audio y vídeo.

Recibe el boletín de Creative Bloq

Noticias diarias de diseño, reseñas, instrucciones y más, según lo elijan los editores.