Mientras la IA avanza, la gestión sigue retrasándose

El 16 de junio de 2022, el gobierno canadiense siguió los pasos de la Unión Europea y se convirtió, al presentar el proyecto de ley C-27, en uno de los primeros estados del mundo en proponer un marco legislativo para la inteligencia artificial (IA). Dos años después, su adopción sigue pendiente.

A los ojos de muchos observadores, la inauguración, Unos meses después de que se presentara el proyecto de ley, la primera versión del chatbot ChatGPT impulsó la industria. Por primera vez, el público en general vio el potencial de esta enigmática tecnología.

Desde entonces, hemos observado una carrera frenética por el desarrollo deAImarcada a veces por avances notables, a veces por desvíos preocupantes.

Si Ottawa espera que su Ley de Datos e Inteligencia Artificial (LIAD) infunda un viento de confianza enAIel proyecto de ley en el que está incluido está luchando por completar los pasos necesarios para su adopción.

Dos años después, ¿dónde estamos?

El proyecto de ley C-23 tiene tres partes. Los dos primeros apuntan a proteger la privacidad y la información personal, mientras que el tercero propone la creación del LIAD.

Desde la primavera de 2023, la pieza legislativa se encuentra suspendida para su examen en comisión.

Después de una treintena de reuniones, la Comisión Permanente de Industria y Tecnología sólo está estudiando el segundo de los 225 artículos del proyecto de ley.

No se está moviendo lo suficientemente rápido, lanza de manera inequívoca el Ministro de Innovación, Ciencia e Industria, François-Philippe Champagne. Según él, los partidos de oposición están intentando ralentizar el proceso parlamentario.

El diputado del NDP Brian Masse, que forma parte del comité, tiene una opinión completamente diferente. Él cree que el proyecto de ley es un completo fiasco desde el principio.

Hay cientos de enmiendas [à étudier]. Creo que hay más enmiendas que páginas en el proyecto de ley porque estaba muy mal redactado.alega en una entrevista con Radio-Canadá.

La historia es la misma por parte del vicepresidente de la comisión, el conservador Rick Perkins, quien sostiene por escrito que la factura es roto y deficiente.

Si todo el mundo parece estar de acuerdo en la necesidad de una ley sobreAIla estructura de tres partes del proyecto de ley ha molestado a la oposición desde su presentación.

Muchas veces, los parlamentarios han propuesto dividir el proyecto de ley en dos para aislar a los LIADlo que el gobierno se negó a hacer.

Aún lejos de haber completado el estudio de las dos primeras secciones de la C-27, el comité tendrá que esperar al menos hasta la reanudación de su trabajo en otoño para examinar el LIAD.

Masse no espera que el proceso se acelere una vez que llegue a la parteAI. Todavía se han presentado todo tipo de enmiendas y no sé cuántas más [modifications] Los liberales nos lanzarán en el último momento.se lamenta.

Nunca había visto algo así en mis 22 años en el Parlamento.

Un proyecto de ley que se va aclarando a lo largo del camino

En la primera versión del proyecto de ley, el gobierno dejó varias disposiciones del LIAD deliberadamente vaga para permitir que la legislación se adapte a futuras innovaciones, lo que le ha dado la etiqueta de “cáscara vacía” entre muchos expertos.

Todo se delegó en las próximas regulaciones gubernamentales, lo que representa un riesgo tanto para la industria como para los canadienses.explica Florian Martin-Bariteau, profesor de Derecho en la Universidad de Ottawa y titular de la Cátedra de Investigación en Tecnología y Sociedad de la Universidad.

Ante las críticas, el Ministro Champagne presentó, el otoño pasado, modificaciones a la LIADcon el fin de definir ciertas categorías deAI tiene alta incidenciala piedra angular de la ley.

Son estos sistemas considerados de alto riesgo los que el gobierno federal desea principalmente regular. Si la LIAD Si se adopta, las empresas que desarrollen y operen tales sistemas estarían obligadas, entre otras cosas, a evaluar y mitigar los peligros de sus AI, además de garantizar la vigilancia humana.

Los infractores estarían sujetos a una multa de hasta 25 millones de dólares, o el 5% de los ingresos totales de la empresa, lo que sea mayor.

Por el momento, el gobierno canadiense ha identificado siete sectores que se consideran de mayor riesgo, lista que se espera que crezca con el tiempo.

Lejos de ser hipotéticos, los excesos deAI en estos sectores ya son motivo de mucha controversia, aseguran los expertos.

Por ejemplo, el software de contratación inteligente de Amazon discriminó durante meses las candidaturas presentadas por mujeres, mientras que el uso de la IA en la gestión del portal de noticias de Microsoft ayudó a la difusión de varias noticias falsas.

Ha habido una serie de escándalos o problemas que pueden haber despertado a la población sobre los riesgos. [de l’IA] y la necesidad de supervisarlo.

Consciente de los crecientes temores de su población, la Unión Europea ha trabajado duro en los últimos meses para adoptar la primera legislación del mundo sobre IA. Sus disposiciones entrarán en pleno vigor en 2026.

François-Philippe Champagne está ansioso por hacer lo mismo.

Hay un momento para charlar. Hay un momento de debatir, pero también hay un momento de actuar, y entonces creo que ha llegado el momento de actuar.insistió en una entrevista, al margen de una conferencia de la industria del automóvil que se estaba celebrando en Vaughan, Ontario.

Agujeros en el proyecto de ley canadiense, afirma un experto

A los ojos del Ministro Champagne, la LIAD no tiene nada que envidiar a la legislación europea.

Tomamos una forma diferente de regular la inteligencia artificial […]pero nuestro enfoque es totalmente válidosostiene.

Al igual que su homóloga canadiense, la legislación de la UE se centra principalmente en los sistemas deAI en alto riesgo. Sin embargo, por el momento ofrece una definición mucho más exhaustiva que la LIAD.

Además, la legislación europea prohíbe completamente el uso deAI en ciertos contextos, en particular para la vigilancia masiva y la calificación ciudadana.

Hasta el momento, el proyecto de ley canadiense, cuyas disposiciones sólo se aplicarían a las empresas privadas, no incluye tales directrices.

Desde hace varios meses, varios grupos denuncian, entre otras cosas, la ausencia de salvaguardias en materia de reconocimiento facial en el proyecto de ley.

Creo que a Canadá tal vez le falta ambición en este aspecto.jueza Céline Castets-Renard.

El titular de la Cátedra de Investigación en Inteligencia Artificial Responsable a Escala Global de la Universidad de Ottawa también teme que LIAD no proporciona una supervisión suficientemente estricta de determinados sistemas deAI aparentemente inofensivo, pero que puede dar lugar a desviaciones importantes.

El profesor cita como ejemplo los robots conversacionales, que, más allá de los usos cotidianos, pueden ser llamados para responder a solicitudes ambiguas, como las de una persona que busca soluciones a problemas de salud mental.

Las herramientas de hiperfalsificación también pueden causar un daño enorme, observa, especialmente cuandoAI se utiliza para producir imágenes pornográficas falsas o para facilitar campañas de desinformación.

En este tema, el gobierno federal ha propuesto modificaciones a la LIAD de modo que garantice a los canadienses la capacidad de identificar el contenido generado por elAIun objetivo que sigue siendo ambicioso, advierten algunos expertos.

Sin el LIAD¿estamos protegidos?

Si considera necesario imponer un marco legislativo aAIMartin-Bariteau recuerda que, mientras tanto, numerosas leyes siguen protegiendo a los canadienses de los excesos de la tecnología.

En mi opinión, no hay urgencia.

Las empresas que desarrollan y operan sistemas de IA deben, entre otras cosas, cumplir con las normas vigentes en materia de protección de la privacidad y discriminación, subraya el profesor.

Sin embargo, es apropiado que la adopción del LIAD prevenir riesgos, en lugar de simplemente responder al daño.

Qué está faltando […]es tener obligaciones en términos de transparencia para poder entender estos sistemas y evaluar sus riesgosopina Martin-Bariteau.

Si queremos pasar del miedo a la oportunidad, tenemos que generar confianza en la gente. La mejor manera de hacerlo es regulando esta industria.afirma por su parte el ministro François-Philippe Champagne.

Él mismo admite que el código de conducta voluntario presentado el pasado mes de septiembre y que hasta la fecha cuenta con una treintena de empresas firmantes no será suficiente para responder a las preocupaciones de los canadienses. Siempre hay un límite a lo que las empresas pueden hacer voluntariamenteél admite.

Los partidos de la oposición, sin embargo, se niegan a aprobar apresuradamente un proyecto de ley que, según ellos, todavía requiere mucho trabajo.

Imagínese el daño que podríamos causar a nuestra democracia y nuestra economía.argumenta el diputado del NDP Brian Masse.

Al mismo tiempo, sugiere al Ministro Champagne que revise su enfoque durante el verano si quiere que su proyecto de ley tenga posibilidades de ser adoptado antes de las próximas elecciones.