Seguridad de la Inteligencia Artificial | “Canadá está tomando la iniciativa”, afirma el Ministro Champagne

Canadá intentará construir un muro de seguridad en torno a la inteligencia artificial (IA), cuya tecnología continúa perfeccionándose a gran velocidad, ampliando así no sólo su potencial beneficioso, sino también los riesgos y peligros que presenta para la sociedad.

El ministro federal de Innovación, Ciencia e Industria, François-Philippe Champagne, inauguró el Instituto Canadiense para la Seguridad de la Inteligencia Artificial (ICSIA), prometido en el último presupuesto de su gobierno.

“Es raro en la vida que tengamos la oportunidad de ser testigos, de contribuir al progreso para proteger a la humanidad”, afirmó en las oficinas de Mila, el Instituto de Inteligencia Artificial de Quebec, junto a su fundador, el profesor Yoshua Bengio.

“Ya me fui a algún lugar preocupante”

El Instituto se beneficiará de un presupuesto de 50 millones de euros a lo largo de cinco años y reunirá a investigadores de alto nivel que estudiarán cómo poner salvaguardias en torno a esta tecnología que ya presenta problemas, explicó el profesor Bengio. “Ya hay desinformación. El desafío es que la inteligencia artificial podría ampliar las herramientas de influencia y persuasión. Ya lo vemos con los hiperfakes [deep fakes]. »

Los experimentos con herramientas de inteligencia artificial, afirmó, han demostrado “que la máquina es capaz de influir mejor que el humano”. Ya estamos en un lugar preocupante y tenemos que afrontarlo”. Además, argumentó, “queremos asegurarnos de que los regímenes autoritarios no utilicen la IA de manera peligrosa y que no nos explote en la cara”.

El Instituto Canadiense se suma a otras dos organizaciones de su tipo, una en Estados Unidos y otra en Reino Unido, y el anuncio de su creación se produce en vísperas de una cumbre internacional sobre seguridad de la inteligencia artificial, que se celebrará en noviembre. 20 y 21 en San Francisco, Estados Unidos.

Miedos en la empresa

“Canadá está tomando la iniciativa para garantizar que tengamos tecnología que sirva a la humanidad, que tenga una buena cantidad de reglas y marcos”, dijo el Sr. Champagne.

Canadá está un poco retrasado en la integración de la inteligencia artificial en diversos sectores económicos y los temores que despierta no son ajenos a este retraso, argumentó el presidente y director general del Instituto Canadiense de Investigación Avanzada (CIFAR), Stephen Toope. “Varios líderes empresariales nos han dicho que, para sentirse seguros al adoptar la IA, necesitan garantías en materia de seguridad y un entorno regulatorio sólido. » CIFAR será responsable del componente de investigación del Instituto.

“Si queremos pasar del miedo a la oportunidad, debemos generar confianza”, afirmó el Ministro Champagne. Y las repercusiones de esta confianza se sentirán cada vez en más aspectos de la vida cotidiana de los canadienses, como ilustró: “No nos importa si la inteligencia artificial te ayuda a elegir la mejor pizza que quieres un jueves por la noche con tu familia, pero nos preocupa la inteligencia artificial que decidirá si tienes un préstamo o si por ejemplo vas a tener una póliza de seguro o en caso de apuro si te vamos a ofrecer un trabajo, porque ahí es donde puede haber abusos y eso es lo que queremos prevenir. »

Trabajar aguas arriba

Yoshua Bengio reconoce que la tarea será difícil. “Debemos trabajar con empresas (de IA) para evaluar estos riesgos y mitigarlos. Estoy pensando en los problemas de alineación –cómo aseguramos que la IA se comporte de una manera que corresponda a nuestras intenciones, nuestras leyes– y de control, para que actúe en la dirección de lo que queremos, por ejemplo. en el contexto de la ciberseguridad y la desinformación. »

El experto cree que existen posibilidades de intervenir, en primer lugar, directamente en la fase de fabricación de los sistemas de inteligencia artificial. “Si el sistema de IA se construye con salvaguardias que le impidan producir contenido que sea peligroso para la democracia, tóxico [il donne l’exemple de la pornographie juvénile]hay cosas que podemos hacer técnicamente en sentido ascendente. » Por lo tanto, los diseñadores de estos sistemas deberían dificultar su uso “para los países que quieran usarlos contra nosotros”. Es una cuestión de seguridad importante, es una cuestión de diseño para estos sistemas”, afirma.

Plataformas sin poder

Otra parte del problema no está en manos de los diseñadores de estos sistemas, sino de los gigantes de la red que lo dejan pasar todo, lamenta Bengio. “Las plataformas deberían tener una responsabilidad. Hoy se encuentran en una zona un poco gris. […] Es muy fácil crear una cuenta en una de estas plataformas y hacerlo de forma anónima. Está claro que se trata de una puerta abierta a grupos que quieran desestabilizar nuestras democracias. »

Parte de la solución, sugiere, bien podría estar en la propia IA. “En el lado tecnológico, hay investigadores que están intentando ver cómo podríamos utilizar la IA para detectar que el contenido es falso o engañoso o viola ciertos estándares. »

Otro de los problemas que presenta la IA es su uso de contenidos protegidos por derechos de autor. Las herramientas de inteligencia artificial como ChatGPT están entrenadas, por ejemplo, para leer periódicos y libros de todo tipo. Esta pregunta está en boca de todos a nivel internacional, reconoce Yoshua Bengio. “Hay juicios en marcha. Esta no es una pregunta fácil. Esperamos que converja lo más rápido posible de una manera que permita la innovación y proteja a quienes crean contenido. »

¿Y en Canadá? El Ministro Champagne avanza con la mayor cautela en esta cuestión. “Muchas veces, en estos modelos, se utiliza propiedad intelectual y, en ese punto, la pregunta es: ¿cómo remuneramos a quienes tienen los derechos sobre esa propiedad intelectual? La inteligencia artificial está sujeta a derechos de autor. Es una tecnología nueva, pero no elimina los principios básicos que siempre han existido. Actualmente estamos celebrando una consulta pública en Canadá precisamente para abordar esta cuestión”, explica Champagne.