Recientemente, un gigante tecnológico introdujo una función de IA que toma capturas de pantalla y las almacena localmente en sus próximas PC con IA para su posterior recuperación. A pesar de las garantías de la empresa con respecto al cifrado, la Oficina del Comisionado de Información del Reino Unido (ICO) está buscando más información sobre el cumplimiento y la seguridad del producto. Los defensores de la privacidad han llamado a esta característica “pesadilla de privacidad”lo que llevó a la empresa a retrasar su lanzamiento.
Por Ivan Lebowski, líder del equipo de ventas en Synology
Recientemente, un gigante tecnológico introdujo una función de IA que toma capturas de pantalla y las almacena localmente en sus próximas PC con IA para su posterior recuperación. A pesar de las garantías de la empresa con respecto al cifrado, la Oficina del Comisionado de Información del Reino Unido (ICO) está buscando más información sobre el cumplimiento y la seguridad del producto. Los defensores de la privacidad han llamado a esta característica “pesadilla de privacidad”lo que llevó a la empresa a retrasar su lanzamiento.
Este incidente pone de relieve preocupaciones más amplias sobre la privacidad de las tecnologías impulsadas por la IA. Por lo tanto, los servicios de gestión de fotografías en la nube pública a menudo utilizan el reconocimiento facial para organizar las fotografías, lo que brinda comodidad pero plantea preocupaciones sobre la privacidad. Sin embargo, mientras las empresas enfatizan el cifrado y el control del usuario, los defensores de la privacidad expresan preocupaciones sobre la recopilación de datos, el posible uso indebido y la creación de bases de datos de reconocimiento facial. El uso de un NAS garantiza una seguridad óptima.
Para los proveedores de soluciones de nube privada, la seguridad y la privacidad de los datos son las principales prioridades. Ya sea para un NAS (Network Attached Storage) o una nube privada, la propiedad de los datos es un aspecto fundamental. Los clientes deben tener la seguridad de que sus datos permanecen bajo su control y no son explotados con fines no autorizados. Aunque las capacidades de IA se están integrando en los ecosistemas, es esencial garantizar que los derechos de privacidad se integren en los principios de diseño, teniendo prioridad sobre la eficiencia funcional. La transparencia también es crucial, ya que permite a los clientes saber dónde se almacenan sus datos, cómo están protegidos y quién tiene acceso a ellos. Al integrar estos principios desde el diseño, los proveedores no sólo pueden proteger los datos de sus clientes, sino también aumentar su confianza y satisfacción.
Artículo de la semana
Garantizar la privacidad de los datos con modelos de IA previamente entrenados y arquitectura de nube privada
Se pueden integrar técnicas de reconocimiento facial y de objetos en las aplicaciones de gestión de fotografías para mejorar la experiencia de gestión y búsqueda. Estos modelos de reconocimiento de IA utilizados en estas aplicaciones se entrenan previamente con conjuntos de datos disponibles públicamente durante el desarrollo, antes de cualquier interacción del usuario con la aplicación.
A diferencia de los servicios de gestión de fotografías SaaS que almacenan datos de los usuarios en los centros de datos del proveedor de soluciones, todos los datos de los usuarios residen en sus dispositivos privados, lo que garantiza la propiedad total de los datos. Esto significa que los datos del usuario no se pueden utilizar ni se utilizarán nunca para entrenar modelos de IA.
Asimismo, las soluciones de vigilancia pueden integrar funciones avanzadas de IA como detección de personas y vehículos, reconocimiento facial y seguimiento de objetos, mejorando la seguridad al reducir las falsas alarmas. Estos modelos de IA previamente entrenados funcionan de manera eficiente dentro de la red del usuario. Este enfoque, combinado con el cifrado de datos y la configuración de control de acceso, proporciona poderosas herramientas de monitoreo al tiempo que garantiza la privacidad y seguridad de los datos del usuario, eliminando el riesgo de dependencia de servicios en la nube de terceros.
Aborde la IA fantasma y las fugas de datos con una consola de administración dedicada
Los modelos de lenguaje grande (LLM) se pueden integrar en suites ofimáticas, lo que permite a los usuarios incorporar IA generativa como asistente de escritura para correos electrónicos, diapositivas, documentos y hojas de cálculo.
Para ayudar a las organizaciones a mantener la privacidad y mitigar el riesgo de la IA en la sombra mientras utilizan herramientas de IA generativa, se puede introducir una consola de administración de IA para los administradores de sistemas. Esta herramienta proporciona control granular sobre qué modelos y versiones de IA se pueden implementar dentro de la organización, permisos para modelos permitidos en organizaciones, grupos o individuos, y configuraciones de desidentificación que incluyen información específica de la región, como el número de seguro social (SSN). Esto permite a las empresas utilizar herramientas de inteligencia artificial de forma segura sin comprometer datos confidenciales.
Sólida atención al cliente mediante IA a través de procesos de desidentificación que cumplen con el RGPD
La IA también se puede utilizar para mejorar las experiencias de servicio al cliente. Se puede crear un sistema de soporte de IA para extraer datos de una base de conocimientos que consta de datos de soporte técnico anteriores anonimizados.
Para garantizar que se proteja la privacidad del cliente, los datos de soporte anteriores utilizados para crear la base de datos se someten a un proceso de desidentificación completo. Esto incluye metodologías como Regex, Named Entity Recognition (NER), validación de suma de comprobación y análisis contextual para detectar y anonimizar información confidencial. Además, utiliza barreras de consulta para evitar compartir información confidencial o indicar involuntariamente a los usuarios que eliminen datos críticos.
Compromiso continuo con la privacidad de los datos
En medio de estos acontecimientos, es fundamental seguir comprometidos a priorizar la privacidad. Con principios de diseño que priorizan la privacidad y pautas de seguridad de datos, los usuarios pueden confiar en que sus datos están seguros y protegidos, lo que les permite beneficiarse de los avances en IA sin comprometer su privacidad.
