¿Hacia la propagación de herramientas sesgadas y dañinas?

Donald Trump, ahora presidente número 47 de los Estados Unidos tras su victoria contra Kamala Harris, planea implementar reformas radicales para el país. En particular, prometió durante su campaña presidencial abolir las regulaciones sobre la IA impuestas por Joe Biden, que, según él, constituyen un freno a la innovación e imponen ideas radicales de izquierda. Los observadores temen, en respuesta, la difusión de herramientas de IA sesgadas (o incluso dañinas) que son muy propensas a errores.

Establecida en octubre de 2023, la orden ejecutiva de Biden sobre la regulación de la IA se basa en una ley de defensa nacional que data de 1950, lo que permite al gobierno controlar las actividades del sector privado para garantizar un suministro confiable de bienes y servicios. Cubre casi todos los aspectos de las aplicaciones de la tecnología, como el establecimiento de salvaguardas para su uso en atención médica y descubrimiento de fármacos.

La orden ejecutiva ha enfrentado fervientes críticas por parte de los republicanos debido a dos disposiciones principales relacionadas con la seguridad y la confiabilidad. El primero exige que las empresas de desarrollo de IA proporcionen informes gubernamentales sobre cómo se entrenan y protegen sus modelos. Esto insta a las empresas a ser transparentes y compartir los resultados de las pruebas del “equipo rojo”, que simulan ciberataques para evaluar las limitaciones del modelo e identificar posibles fallas en el sistema. El segundo aspecto del decreto exige que el Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio elabore directrices que alienten a las empresas a desarrollar modelos menos vulnerables a la piratería y a limitar los sesgos.

En los meses transcurridos desde la adopción de la orden ejecutiva, el gobierno ha exigido informes trimestrales a las empresas de desarrollo de IA, mientras que el NIST ha emitido documentos de orientación sobre gestión de riesgos, herramientas seguras para el desarrollo de IA, prevención de sesgos en los modelos, etc. Estos esfuerzos se produjeron en medio de una creciente preocupación entre algunos de los nombres más importantes de la industria sobre la negligencia corporativa en materia de seguridad.

Sin embargo, Trump y sus partidarios dicen que estas disposiciones son innecesarias e inapropiadas y un obstáculo para la innovación tecnológica. Afirman además que se trata de una política radical de izquierda que promueve el “wokismo”. Ahora elegido para un segundo mandato, al ex empresario le bastaría con adoptar un contradecreto para anular todos los esfuerzos del gobierno anterior.

« Derogaremos la peligrosa orden ejecutiva de Joe Biden que obstaculiza la innovación en IA e impone ideas radicales de izquierda al desarrollo de esta tecnología “, declaró en su programa de campaña electoral. “ En cambio, los republicanos apoyan el desarrollo de la IA basado en la libertad de expresión y el florecimiento humano. ».

¿Un decreto derogado a favor de la innovación?

Los partidarios de Trump creen que la orden ejecutiva impuesta por Biden es demasiado restrictiva y constituye una injerencia excesiva en el sector. Obligar a compartir datos expondría los secretos comerciales de los desarrolladores y pondría en riesgo la propiedad intelectual. Por otro lado, podría intimidar a los innovadores potenciales. Estos requisitos sólo beneficiarían a las grandes empresas, mientras que las nuevas empresas tendrían dificultades para desarrollarse frente a demasiadas restricciones regulatorias.

Muchos conservadores creen que estos obstáculos a la innovación podrían tener importantes repercusiones en la competitividad tecnológica del país frente a China, donde el sector está experimentando un crecimiento exponencial. También podrían constituir un obstáculo para la carrera armamentista digital de Estados Unidos.

La promesa de campaña de Trump sobre la IA cuenta con el apoyo de muchos miembros republicanos del Congreso de Estados Unidos, así como de grandes nombres de la industria tecnológica, como Elon Musk, director ejecutivo de Tesla y SpaceX (entre otros). La política de relajar las regulaciones sobre IA proporcionaría una ventaja significativa a Musk, ya que sus empresas podrían competir más fácilmente con sus competidores.

Ahora parte del círculo íntimo del presidente entrante, el multimillonario ha demostrado en varias ocasiones que no duda en poner obstáculos a sus competidores para promover sus propias herramientas de inteligencia artificial. Por ejemplo, criticó los grandes modelos de IA de OpenAI, calificándolos de “wokistas”. También presentó una demanda contra la startup por supuestamente desviarse de su propósito original como empresa sin fines de lucro.

¿Una política “anti-wokismo”?

Los republicanos también creen que las directrices del NIST constituyen una forma de censura gubernamental y las llaman normas de seguridad wokistas. Dicen que es un plan de la administración Biden para controlar el discurso conservador, lo que, según dicen, sería un impedimento para la libertad de expresión.

Los informes han demostrado que algunos grandes modelos de IA exhiben un sesgo de discriminación, por ejemplo en el reclutamiento y la atención médica. Sin embargo, muchos conservadores rechazan categóricamente la idea de que la IA pueda provocar daños sociales. Sin embargo, les preocupa el exceso de control que podría perjudicar la eficacia de los modelos. Según Jacob Helberg, un actor tecnológico cercano a Trump, “existe una correlación inversa directa entre el grado de funcionalidad de una IA y su utilidad”.

Por su parte, los responsables del decreto afirman que está lejos de ser restrictivo respecto a los actualmente vigentes en la Unión Europea y China. Rechazan las acusaciones de que podría perjudicar la innovación tecnológica y creen, por el contrario, que podría promover el crecimiento de las empresas emergentes animándolas a desarrollar modelos fiables, eficientes y que consuman menos energía. La mayoría de las industrias del sector también estarían a favor del decreto.

Sin embargo, aún no está claro cómo planea Trump reemplazar o reformar la orden ejecutiva. Su programa electoral no menciona detalles, salvo regulaciones más flexibles. No obstante, los expertos en ciberseguridad dicen que rescindir la orden ejecutiva de Biden socavará gravemente la confiabilidad e imparcialidad de los modelos.