Slack está en el punto de mira después de que los usuarios se enteraran de que la empresa utiliza sus datos para entrenar sus modelos de inteligencia artificial. Resulta que el servicio elimina discretamente los mensajes de los clientes e incluso el contenido de los archivos para entrenar modelos de IA y aprendizaje automático (ML). Slack no notificó a los clientes con anticipación sobre esta práctica ni solicitó su consentimiento explícito y, según se informa, la función ha estado habilitada de forma predeterminada para todos los usuarios desde al menos el pasado mes de octubre. La mayoría de los usuarios acaban de enterarse de esto y para darse de baja deben enviar un correo electrónico a la empresa.
Slack es una plataforma de comunicación colaborativa perteneciente al editor de software Salesforce. Más específicamente, es una aplicación de mensajería basada en la nube que permite al personal de una organización conectarse y colaborar. Slack permite a los usuarios enviar mensajes a cualquier persona, dentro o fuera de la organización, y aprovechar espacios dedicados, llamados canales, para organizar sus proyectos, trabajar de forma asincrónica, acceder a información y compartir actualizaciones. Microsoft lanzó en particular su herramienta Teams para contrarrestar la creciente popularidad de Slack.
Hoy en día, con el auge de la IA, Slack no pretende quedarse atrás y está integrando nuevas funciones basadas en IA en su aplicación. Slack utiliza el aprendizaje automático para potenciar funciones integradas como recomendaciones de canales, resultados de búsqueda, autocompletado y sugerencias de emoji. Sin embargo, lo que Slack no ha revelado públicamente es que la empresa está aprovechando los mensajes, datos y archivos de los usuarios para mejorar estas funciones. Pero aún así, todos los clientes de Slack han dado su consentimiento a esto de forma predeterminada, todos sin excepción.
Además, Slack ha implementado una función de exclusión voluntaria para recopilar y utilizar información personal en su servicio de mensajería. Los usuarios descubrieron esto recientemente, lo que provocó una ola de duras críticas hacia Slack. Lo siento, Slack, ¿QUÉ estás haciendo con los mensajes directos, los mensajes, los archivos, etc. de los usuarios? Estoy seguro de que lo estoy leyendo incorrectamente, escribió Corey Quinn, ejecutivo de DuckBill Group, una empresa de facturación de computación en la nube, en un mensaje en X (anteriormente Twitter). Si bien la práctica se lleva a cabo desde hace algún tiempo, muchos usuarios dicen que están frustrados.
Hacer que los usuarios realicen por defecto una actividad como entrenar modelos de IA podría resultar frustrante para aquellos que hubieran preferido saberlo de antemano. Cuando Slack comenzó a utilizar los datos de sus clientes, muchos usuarios no estaban al tanto de este cambio y es posible que quisieran que se les informara directamente y se les diera la oportunidad de optar por no participar antes de que comenzara la recopilación y el uso de datos. Según los críticos, Slack hizo esto porque la empresa probablemente era consciente de que la mayoría de los usuarios no habrían permitido esta recopilación.
La revelación de esta práctica provocó indignación en la web y los críticos afirman que la mayoría de los clientes no recibieron bien la información, a pesar de las garantías reclamadas por Slack. La compañía respondió a la publicación de Quinn en X reiterando sus políticas de privacidad y recopilación de datos. Dijo que utiliza contenido de los usuarios de Slack para entrenar algunas de sus herramientas de aplicaciones basadas en inteligencia artificial. También confirmó que inscribe a todos los usuarios y empresas de forma predeterminada y no utiliza datos de clientes para entrenar su herramienta de IA generativa paga.
Para cualquier modelo que será utilizado ampliamente por todos nuestros clientes, no construimos ni entrenamos estos modelos de tal manera que puedan aprender, memorizar o reproducir cualquier parte de los datos de los clientes. […]. Slack agrega y desglosa los datos de los clientes de tal manera que el uso que hace Slack de los datos de los clientes para actualizar los Servicios nunca identificará a ninguno de nuestros clientes o individuos como la fuente de esas mejoras de un tercero, que no sean afiliados o subcontratistas de Slack”, afirmamos. Puede leer en el sitio web de la empresa.
Slack también agregó que las empresas o los administradores de espacios de trabajo (no usuarios individuales) pueden solicitar por correo electrónico que sus mensajes y contenidos se excluyan del conjunto de datos de capacitación. Pero esta última aclaración parece haber alimentado aún más la ira de los clientes. De hecho, no entienden por qué Slack no ha proporcionado un botón simple en la configuración de la aplicación que les permita optar fácilmente por no participar en esta recopilación de datos. Un usuario X se burla de esto: ¿un correo electrónico? Bueno, ¿por qué no hacerlo con paloma mensajera?
Contáctanos para darte de baja. Si desea excluir los datos de sus clientes de los modelos globales de Slack, puede optar por no hacerlo. Para hacer esto, solicite a su organización, propietarios del espacio de trabajo o propietario principal que se comuniquen con nuestro equipo de Experiencia del Cliente en “[email protected]” con la URL de su espacio de trabajo/organización y escribiendo en la línea de asunto “Solicitud de exclusión del modelo global de Slack”. ”. Procesaremos su solicitud y le responderemos una vez que se complete el retiro.
Acabo de enviar los correos electrónicos a todos los empleados que administro. Es horrible ! , escribió otro crítico. Un segundo escribió: Si este es el caso, eliminaré nuestra empresa de Slack. Los usuarios dicen que Slack debería haber excluido a los usuarios de forma predeterminada y, en su lugar, haber adoptado un enfoque de participación voluntaria. Elizabeth Wharton, abogada y fundadora de Silver Key Strategies, calificó la decisión de Slack como un “error de privacidad” y criticó a la compañía por no brindar a los usuarios individuales una forma mucho más fácil de darse de baja. Pero esto parece haber sido hecho a propósito.
Este comportamiento confunde a los clientes, quienes lo culpan por mentirles. Una página web de Slack sobre IA dice: Trabaje sin preocuparse. Tus datos son tus datos. No los usamos para entrenar la IA de Slack. Aunque Slack dice que sus herramientas de IA generativa pagas no están entrenadas con datos de usuarios de Slack, entrena algunos de sus otros modelos de aprendizaje automático con datos de usuarios. Por lo tanto, la implicación de que los datos de los usuarios son propiedad exclusiva de los usuarios (y no utilizados por Slack) es en gran medida falsa.
Para algunos críticos, Slack ha creado un dolor de cabeza jurisdiccional para cualquier equipo que lo utilice. Sin embargo, Slack no es la única plataforma tecnológica que no excluye de forma predeterminada a los usuarios de sus prácticas de recopilación de datos para entrenar herramientas de IA. El año pasado, la plataforma de diseño y alojamiento web Squarespace lanzó silenciosamente una función que permite a sus usuarios optar por no utilizar ciertas herramientas de inteligencia artificial de minería de datos, pero la minería de datos está permitida de forma predeterminada. La decisión generó preocupaciones sobre la privacidad.
El servicio de videoconferencia Zoom también actualizó sus condiciones de uso en agosto pasado para otorgarse el derecho a utilizar los datos personales de los usuarios para entrenar y mejorar sus algoritmos y modelos de IA. La decisión ha provocado críticas y preocupación por parte de defensores de la privacidad y expertos legales, quienes dicen que constituye un ataque a los derechos y el consentimiento de los usuarios. Los críticos dicen que la necesidad de datos para entrenar modelos de IA está empujando a las empresas a explorar nuevas fuentes, e incluso a la deriva.
Fuente: holgura
Y usted ?
¿Cuál es tu opinión sobre el tema?
¿Por qué las empresas están empezando a utilizar silenciosamente los datos de los clientes para entrenar sus modelos de IA?
¿Slack violó las leyes de protección de datos al comportarse de esta manera? ¿Cuáles podrían ser los impactos en el negocio?
¿Qué opinas del proceso implementado por Slack para permitir a los usuarios optar por no participar en esta recopilación de datos?
¿Por qué Slack no quiso pedir a los usuarios su consentimiento explícito antes de utilizar sus datos para entrenar sus modelos de IA?
¿Es posible que las empresas utilicen los datos de los clientes para entrenar sus modelos de IA y al mismo tiempo proteger su privacidad?
¿Cómo pueden protegerse los clientes cuando los proveedores de servicios se conceden el derecho de utilizar sus datos para entrenar sus modelos de IA?
Ver también
Zoom cambia sus condiciones de uso y se otorga el derecho de utilizar los datos de los usuarios para entrenar su IA sin su consentimiento ni posibilidad de oponerse.
¿Se están quedando las empresas de inteligencia artificial sin datos para entrenar sus modelos después de tragarse todo Internet? Un informe advierte sobre una posible escasez de datos
Las empresas de inteligencia artificial deberían revelar los datos de capacitación protegidos por derechos de autor que utilizaron según el nuevo proyecto de ley
