¿Inteligencia artificial (IA)? Masas de datos, muy a menudo personales o privados, que son absorbidos, analizados, combinados y regurgitados en nuevas formas con agregaciones y propósitos generalmente oscuros.
Publicado a las 5:00 a.m.
Tres adjetivos aquí: personal, nuevo y oscuro.
Y tres preocupaciones.
¿Están protegidos los datos personales?
¿Las nuevas formas violan la protección intelectual o se benefician de ella?
¿Quién es responsable cuando una solución de IA toma una decisión perjudicial?
Éstas son sólo algunas de las cuestiones.
La IA conlleva “riesgos comerciales, riesgos reputacionales, riesgos legales”, enumera Mmi Paul Gagnon, uno de los dos colíderes de tecnología e inteligencia artificial de BCF Business Lawyers.
“Un gran ejemplo que demuestra cómo pueden ocurrir las tres cosas al mismo tiempo: los chatbots internos, que son muy populares”, añade su colega Misha Benjamin.
Lo que algunos llaman en francés agente conversacional o dialogador.
Tomamos ChatGPT, lo colocamos internamente y lo exponemos a nuestros datos. Si trabajo en una consultora de ingeniería y quiero saber cómo solucionar un problema, en lugar de hablar con tres compañeros, puedo preguntarle al chatbot.
Misha Benjamin, colíder de tecnología e inteligencia artificial en BCF Business Lawyers
El agente conversacional producirá un resumen de la información que ya posee la empresa, hará enlaces a documentos relevantes para el tema y tal vez nombrará a personas con experiencia en el campo.
” Muy util. Pero si no hemos definido claramente la gestión del asunto y no hemos planificado nuestro proyecto en consecuencia, también podría preguntarle cuál es el salario de mi colega de enfrente o quién fue reprendido por RRHH. A nivel legal, en términos de protección de la privacidad, podemos ver los problemas. »
Ley actual
Porque la inteligencia artificial no apareció en una sociedad sin salvaguardas.
“Hay muchas leyes existentes que proporcionan un marco legal para la inteligencia artificial incluso antes de que adoptemos las leyes que serán específicas para la IA”, recuerda M.mi Éric Lavallée, jefe del laboratorio jurídico Lavery sobre inteligencia artificial.
“Ya teníamos en Quebec la Ley sobre el marco jurídico de las tecnologías de la información, que regula en cierta medida la inteligencia artificial o su uso por parte de las empresas. »
También se cuestiona el derecho laboral.
“Si utilizamos una herramienta de IA para decisiones de contratación o decisiones disciplinarias, entonces nos damos cuenta de que hay un sesgo allí, son las leyes existentes las que se aplicarán a eso y no lo hacemos. “No necesitamos una nueva ley que nos diga que vamos a ser responsables”, dice Misha Benjamin.
Además, el explosivo surgimiento de la inteligencia artificial generativa –capaz de crear texto o imágenes, por ejemplo– plantea nuevos problemas con respecto a la propiedad intelectual.
Podemos utilizar la IA como herramienta de acuerdo con las leyes actuales y crear algo que todavía poseemos. Pero podría ser que usemos la IA para inventar cosas de las que no seremos propietarios al 100%, dependiendo del acuerdo con la persona que pone la IA a su disposición.
Misha Benjamín
Nuevos marcos legales
Para enfrentar estos desafíos sin precedentes, se están construyendo nuevos marcos legales.
El pasado mes de marzo, el Parlamento Europeo adoptó la que pretende ser la primera ley sobre inteligencia artificial del mundo, cuyo objetivo es garantizar la seguridad y el respeto de los derechos fundamentales fomentando al mismo tiempo la innovación.
“En determinados contextos y dependiendo de los riesgos involucrados, se crean obligaciones, por ejemplo, la divulgación pública o el análisis de riesgos”, describe Paul Gagnon. En Canadá, el proyecto de ley C-27, actualmente en estudio, presenta sustancialmente el mismo tipo de análisis de riesgos en relación con el desarrollo de sistemas de inteligencia artificial. »
Estos marcos legales, existentes y nuevos, describen estándares de práctica y precauciones que las empresas deberían introducir ahora en el uso de la IA.
“Estamos aquí precisamente para ayudar a la gente a empezar a desarrollar este músculo (cómo gestionar adecuadamente los proyectos, cómo gestionar la IA en la empresa) para que esté bien desarrollado cuando las leyes sean aplicables”, explica Misha Benjamin.
Las empresas ya pueden empezar a practicar.
