TikTok anunció el jueves que comenzará a utilizar tecnología para etiquetar imágenes y videos generados por inteligencia artificial subidos al servicio para compartir videos.
TikTok dijo que adoptaría “Credenciales de contenido”, una marca de agua digital que indica cómo se crearon y editaron las imágenes. Adobe fue pionero en la tecnología Content Credential, pero está abierta para su uso por otras empresas y ya ha sido adoptada por empresas como OpenAI, el creador de ChatGPT.
Los investigadores han expresado su preocupación de que el contenido generado por IA pueda usarse como información errónea para intentar interferir con las elecciones estadounidenses de este otoño. TikTok ya formaba parte de un grupo de 20 empresas tecnológicas que, a principios de año, firmaron un acuerdo en el que se comprometían a combatir este fenómeno.
YouTube, propiedad de Google (Alphabet), así como Meta Platforms, propietaria de Instagram y Facebook, también han dicho que planean utilizar certificados de contenido.
Para que el sistema funcione, el fabricante de la herramienta de IA generativa utilizada para crear contenido y la plataforma utilizada para distribuir el contenido deben aceptar utilizar el estándar de la industria.
Si alguien usa la herramienta Dall-E de OpenAI para generar una imagen, por ejemplo, OpenAI adjunta una marca de agua a la imagen resultante. Si esta imagen marcada se carga posteriormente en TikTok, se etiquetará automáticamente como generada por IA.
TikTok, propiedad de la empresa china ByteDance, tiene 170 millones de usuarios en Estados Unidos, que recientemente aprobó una ley que obliga a ByteDance a deshacerse de TikTok o enfrentar una prohibición. TikTok y ByteDance demandaron para bloquear la ley, argumentando que viola la Primera Enmienda.
TikTok ya pone una etiqueta al contenido generado por IA utilizando herramientas internas de la aplicación, pero esta nueva medida pondría una etiqueta al contenido generado fuera del servicio.
“También tenemos políticas que prohíben la IA realista que no esté etiquetada, por lo que si aparece IA (contenido generado) realista en la plataforma, la eliminaremos porque viola nuestras pautas comunitarias”, dijo Adam Presser, jefe de operaciones, confianza y seguridad. en TikTok, durante una entrevista. (Reporte de Stephen Nellis en San Francisco; escrito por Diane Craft)
