el Nuevo Samsung Galaxy S24 Todo está basado en IA, hasta el punto de que el fabricante de teléfonos ha dado mucha importancia a cómo su nueva marca de agua de IA pretende disuadir a los usuarios de publicar en línea fotos editadas con IA o completamente falsas. El problema es ese S24 Cuenta con tantas capacidades de inteligencia artificial que una simple herramienta similar a Magic Eraser puede eliminar la misma marca de agua sin ningún problema.
Entonces la galaxia esta abierta En un evento el miércoles pasado, Samsung anunció que cualquier imagen que utilizara las capacidades de producción de la compañía iba acompañada de una marca de agua. Esto aparece en la parte inferior izquierda de cada imagen como el logotipo «Sparkle» de Samsung.
Gizmodo ha confirmado que la herramienta de escaneo de objetos basada en IA de Samsung, una característica anunciada que puede eliminar y reemplazar partes no deseadas de una imagen, puede eliminar la marca de agua que se supone determina si una imagen fue creada por IA. Esto funcionó en Galaxia S24 Ultra El modelo de prueba y algunos otros también han notado la importante censura destinada a impedir que las imágenes falsas hagan que Internet sea aún más cruel de lo que ya es.
Pero se vuelve aún más confuso. En las pruebas de Gizmodo, algunas imágenes en las que usamos la herramienta de borrado de objetos no aparecieron con una marca de agua, mientras que otras sí, incluido un fondo de pantalla ajustado por IA. En Samsung Reedición de la grabación de la conferencia Unpacked, la marca de agua aparece una vez que el Sr. Bestia usa el borrador de objetos para sacar su grúa de la barra de chocolate gigante (de mal sabor). En el texto al final del mismo clip, Samsung dejó en claro que no se responsabiliza por ningún deepfake inexacto.
«La edición general requiere una conexión de red e iniciar sesión en una cuenta Samsung. La edición con Geneative Edit da como resultado una imagen redimensionada de hasta 12 MP. Se coloca una marca de agua visible en la salida de la imagen al guardarla para indicar que la imagen fue generada por IA. La precisión de La confiabilidad del resultado resultante no está garantizada.
Samsung no respondió de inmediato a la solicitud de comentarios de Gizmodo si estaba al tanto de estos problemas y si estaba trabajando para solucionarlos. La herramienta Borrador de objetos, al igual que el Borrador mágico de Google, reemplaza los píxeles de los objetos no deseados en la imagen para mezclarlos con el fondo. Aún no está claro por qué el sistema no reemplaza la misma marca de agua en la nueva imagen.
A las grandes empresas de IA les encanta Adobe Y Incluso la Casa Blanca Las marcas de agua se han promovido como una forma de hacer frente a la afluencia de deepfakes de IA en Internet. Estas marcas de agua, incluidas las de Samsung, proporcionan metadatos en cada foto, lo que le permite saber que la foto ha sido modificada. Sin embargo, editar metadatos de imágenes con un poco de conocimiento es muy fácil. Las fotos cargadas en aplicaciones como Instagram no mostrarán ningún metadato a los usuarios que hojeen inconscientemente sus cuentas.
luego otra vez, La inteligencia artificial ha demostrado durante mucho tiempo su capacidad para eliminar marcas de agua. Si Samsung soluciona el problema y hace que las marcas de agua sean más resistentes al agua, no impedirá que los usuarios tomen la misma foto en otras aplicaciones similares para eliminarlas. DeepMind de Google anunció previamente que tiene una manera de hacer esto Instale una marca de agua más permanente dentro de los propios píxeles De una imagen. DeepMind no ofreció ninguna idea sobre cómo funcionaría esto o qué herramientas podrían usar las personas para identificar estas imágenes alteradas, pero la compañía afirmó que la función solo funcionará en imágenes modificadas con las propias herramientas de Google.
Para el resto de nosotros, tendremos que conformarnos con medidas a medias.
«Gurú del alcohol. Analista. Defensor de la comida. Aficionado extremo al tocino. Experto total en Internet. Adicto a la cultura pop. Pionero de viajes sutilmente encantador».