En los últimos años, los avances en inteligencia artificial han supuesto una auténtica revolución en los usos que se desarrollan a partir de estas tecnologías.
El avance futuro más significativo en inteligencia artificial es la transición de herramientas de inteligencia artificial a agentes autónomos.
En concreto, las herramientas de inteligencia artificial incluyen aplicaciones de software que utilizan algoritmos de inteligencia artificial para realizar tareas generalmente realizadas por humanos. Estas herramientas pueden ser, por ejemplo, procesamiento de lenguaje natural, visión por computadora, aprendizaje automático o incluso herramientas de automatización de procesos robóticos. La característica de las herramientas de inteligencia artificial es que utilizan datos para realizar tareas predefinidas de forma optimizada.
Estas herramientas de inteligencia artificial serán, en los próximos meses y años, sustituidas por lo que llamamos agentes autónomos. Un agente autónomo es una combinación de herramientas de inteligencia artificial que recopilará datos para operar de manera optimizada y autónoma. La integración de diferentes herramientas de IA en el mismo modelo permite utilizarlas para tareas más complejas. Cuando una herramienta de IA optimiza una tarea específica para la que está entrenada, los agentes autónomos descomponen problemas complejos en varias etapas, de forma autónoma, para poder proponer las acciones necesarias para resolver este problema. Con capacidad de modificar su enfoque si fuera necesario, en base a los resultados intermedios obtenidos al “diseccionar” el problema.
Vemos, por tanto, que la próxima llegada de agentes autónomos multiplicará el potencial de la inteligencia artificial para sus usuarios: la capacidad de los agentes autónomos de tomar decisiones por sí mismos respecto a la resolución de un problema cambia por completo la forma de entender cómo la inteligencia artificial puede intervenir en la vida diaria. y en el funcionamiento de las empresas.
Estas nuevas capacidades también generan problemas de seguridad. De hecho, los agentes autónomos pueden navegar por Internet, tomar el control de computadoras, también tienen su propia memoria y acceso a grandes modelos de lenguaje, lo que les permite analizar y sintetizar grandes cantidades de texto.
Una de las preocupaciones relacionadas con el desarrollo de agentes autónomos de IA es la motivación detrás de la toma de decisiones, y la capacidad de la IA de alinearse con lo que solicita el operador. Esta cuestión de alineación, o más bien de no alineación, cuando abordamos la seguridad de la IA, está cada vez más presente a medida que los modelos de inteligencia artificial funcionan de forma autónoma.
Los miedos a ver modelos de IA, a conseguir los objetivos solicitados, a utilizar métodos poco éticos o a practicar el engaño ya se han materializado en determinados modelos desarrollados. La imprevisibilidad de su comportamiento también es motivo de preocupación, especialmente cuando hablamos de aplicaciones de IA a las que se les permite funcionar de forma autónoma.
Entonces, el riesgos de ciberataques son mucho más importantes con agentes autónomos de inteligencia artificial, precisamente por su automatización y su conexión a internet. Están mucho más expuestos a intentos de intrusión, que pueden resultar en una modificación de su comportamiento, el robo de datos privados o sensibles o su utilización para cometer actos maliciosos. Para la industria, por ejemplo, es fácil imaginar hasta qué punto estos riesgos son incompatibles con la criticidad de determinadas aplicaciones.
Estos riesgos, cuya lista no termina ahí, requieren que los reguladores analicen de manera amplia los estándares de seguridad que deben implementarse en torno a estas aplicaciones de IA cada vez más autónomas, para garantizar que estas últimas no crucen una línea roja, ya sea en términos de ética, pérdida de control o comportamiento.
