La IA ya tiene que decirte que es IA: Europa quiere que sepamos cuándo nos están engañando

No sé tú, pero yo cada vez me encuentro más veces mirando una foto o un vídeo sin saber muy bien si es real o han sido generados con inteligencia artificial. Como, por ejemplo, la foto que ilustra este artículo. ¿Te has dado cuenta de que era IA? Hay veces que cuesta saber qué es real y qué no Europa quiere evitar que suceda eso y, desde el pasado 2 de agosto, se aplican las nuevas obligaciones de transparencia del artículo 50 de la ley europea de Inteligencia Artificial. La Comisión explica que la IA está creando nuevos riesgos de "desinformación y manipulación a escala, fraude, suplantación de identidad y engaño del consumidor". Si te habla una máquina, debe decirlo Para empezar, la Comisión explica que los proveedores deben diseñar sus sistemas para que las personas sean "informadas cuando interactúan directamente con una IA". Parece obvio cuando abres ChatGPT, pero cuando la IA está escondida detrás del chat de atención al cliente de una compañía o de un asistente que intenta parecer humano, la cosa se empieza a complicar y casi necesitas un test Voight-Kampff. Por eso, Europa quiere que sepamos, antes de seguir hablando, si al otro lado hay una persona o una máquina. Ese vídeo, también En las redes sociales, las imágenes, vídeos o audios generados o manipulados con tecnología que puedan parecer auténticos deberán identificarse como tales. La Comisión señala expresamente que los usuarios deben ser informados cuando estén expuestos a deepfakes y a determinados contenidos generados por IA. Por una parte, los proveedores de sistemas generativos tendrán que incorporar marcas legibles por máquinas que permitan detectar que el contenido fue generado o manipulado mediante IA. Por otra, cuando se publique un deepfake en un contexto profesional, la persona que lo ve deberá poder saberlo. No basta con esconder toda la información en un rincón técnico del archivo. La filosofía de Bruselas es que "las personas deberían saber cuándo están interactuando con IA o expuestas a contenido generado por IA". Pero claro, a ver cómo conseguimos que esa información no se pierda en una captura de pantalla, una edición o un reenvío por WhatsApp. Una marca de agua que no ves Hay dos palabras de las que te vas a aburrir: C2PA y SynthID. C2PA es un estándar abierto que permite añadir al contenido información sobre su procedencia: qué herramienta lo creó, cuándo y qué transformaciones puede haber sufrido. SynthID introduce una marca digital dentro del propio contenido, invisible para nosotros pero detectable mediante herramientas compatibles. OpenAI explica que utiliza estas señales "para ayudar a las personas a saber si el contenido se generó con herramientas de OpenAI". Sus imágenes compatibles incorporan metadatos C2PA y marcas SynthID; el audio compatible incluye también una marca inaudible. La compañía advierte, sin embargo, de que estas señales "no garantizan que el contenido sea preciso" ni que no se haya editado o aparezca en el contexto correcto. Saber quién fabricó una imagen no convierte automáticamente en verdad lo que representa. Google...