En un esfuerzo por combatir la propagación de la desinformación, Meta, el gigante tecnológico estadounidense detrás de plataformas como Facebook e Instagram, anunció el viernes que implementará medidas para identificar cualquier contenido generado por inteligencia artificial (IA).
Monika Bickert, vicepresidenta de contenido de Meta, reveló que a partir de mayo de 2024, la compañía comenzará a etiquetar el contenido generado por IA. Esta medida se aplicará no solo a imágenes fotorrealistas, sino también a una variedad más amplia de contenido, incluyendo video y audio. Las etiquetas, como «Made with AI», serán visibles para los usuarios y se aplicarán a contenido que cumpla con los estándares de la industria de la IA o si los propios usuarios indican que están compartiendo contenido generado por IA.
Además de las etiquetas visibles, Meta también implementará una «marca de agua» digital invisible en estos contenidos, proporcionando una capa adicional de identificación.
Nicolas Gaudemet, director de IA del gabinete de análisis francés Onepoint, reconoció que aunque esta medida es un paso positivo, aún existen posibles brechas en la detección de contenido generado por IA.
Meta, después de consultar con su junta de supervisión, modificará su enfoque hacia el contenido creado con IA, optando por agregar etiquetas y contexto en lugar de eliminarlo. Sin embargo, cualquier contenido, sea generado por humano o IA, que viole las políticas de la plataforma será eliminado.
La empresa confía en su red de aproximadamente 100 verificadores de datos independientes para detectar y abordar contenido generado por IA falso o engañoso.
El anuncio de Meta sigue a compromisos similares asumidos por competidores como Google, Microsoft y OpenAI, en un contexto donde el uso de la IA plantea preocupaciones sobre la propagación de desinformación y la manipulación de contenidos.
Este paso se da en un momento crucial, con importantes eventos electorales este año y el riesgo potencial de uso de IA para sembrar el caos político a través de la desinformación.
Más allá de las elecciones, el desarrollo de programas de IA generativa también ha generado preocupaciones sobre la producción de contenido degradante, como los «deepfakes» pornográficos y otros tipos de contenido manipulado.
Meta espera que estas medidas contribuyan a mitigar los riesgos asociados con el uso indebido de la IA en la difusión de información engañosa y falsa en sus plataformas.
