La Iniciativa Digital Suiza está revisando el catálogo de criterios para su etiqueta de confianza digital, ahora adaptado a los desafíos de la IA generativa.
La fundación Swiss Digital Initiative (SDI) anuncia la publicación de una nueva versión del catálogo de criterios del Digital Trust Label, su sello de confianza digital.
Con esta actualización del catálogo de criterios, el sello ya está listo para la IA, explica Doris Leuthard, presidenta del Patronato de la Fundación SDI, y añade que esta revisión “cierra la brecha actual entre la creciente demanda de IA y la evolución de las regulaciones. El objetivo también es fortalecer la confianza de los usuarios, en particular cuando se implementa la IA generativa (GenAI), precisa el anuncio de SDI.
Basándose en los criterios probados de DTL, los nuevos estándares apuntan a los desafíos específicos que plantean la IA y la GenAI. Revisados y modificados por el comité de expertos del sello, los criterios incluyen transparencia, gestión de riesgos, mitigación del sesgo algorítmico y consideraciones éticas relacionadas con los datos de aprendizaje que alimentan los modelos de IA.
Más específicamente, el catálogo de criterios establece que “el proveedor de servicios debe comunicar claramente las limitaciones de los sistemas de IA, garantizando que los usuarios sean conscientes de los contextos en los que la IA podría no ser confiable”. Además, las interfaces de servicio deben excluir las técnicas de manipulación (“patrones oscuros”) y cualquier tendencia al antropomorfismo. Además, “en caso de uso de algoritmos basados en IA y, en particular, algoritmos automatizados de toma de decisiones o de generación de contenidos, el servicio debe proporcionar mecanismos específicos para evaluar su robustez, su resiliencia y su precisión. La web de la IDE publica el catálogo completo de criterios.
Las organizaciones que ya han recibido DTL para servicios digitales incluyen Cisco, Credit Exchange, Julius Baer, Kudelski IoT, OneLog, PeopleWeek, Swisscom, Swiss Post, Swiss Re, Tresorit UNICEF y Wefox.
