USENIX Conference on Secure Agentic-AI Systems se centra en la seguridad y la privacidad de los sistemas informáticos que incorporan agentes de inteligencia artificial capaces de razonar, planificar y actuar con un grado creciente de autonomía. El encuentro aborda la transición desde modelos utilizados principalmente para producir respuestas hacia sistemas que intervienen en procesos informáticos y ejecutan acciones. Su propósito científico consiste en estudiar principios y métodos para diseñar, verificar y desplegar agentes de inteligencia artificial seguros y respetuosos con la privacidad en sistemas reales. La convocatoria completa todavía no se encuentra publicada, por lo que el ámbito científico verificable se limita a estas líneas expresamente anunciadas por la organización y no permite atribuir al programa categorías temáticas adicionales que aún no han sido confirmadas oficialmente.
El objetivo científico de USENIX Conference on Secure Agentic-AI Systems parte de una transformación relevante de la informática basada en inteligencia artificial. El modelo deja de funcionar únicamente como mecanismo que interpreta una entrada y genera una salida y pasa a formar parte de una arquitectura con capacidad para razonar sobre una tarea, elaborar un plan y ejecutar acciones. Esta autonomía modifica el problema de seguridad porque una respuesta incorrecta ya no representa necesariamente el resultado final de la interacción. Una decisión del agente puede desencadenar una operación posterior dentro del sistema informático en el que funciona. La investigación que promueve el encuentro estudia por ello cómo incorporar seguridad desde el diseño de esta nueva clase de sistema autónomo.
El diseño seguro constituye una de las líneas científicas que la organización identifica expresamente. La investigación analiza cómo construir agentes cuya autonomía se integre con mecanismos de protección adecuados. El problema adquiere importancia porque el agente combina capacidad de razonamiento con capacidad de actuación. La arquitectura necesita determinar qué operación puede realizar, bajo qué condiciones puede ejecutarla y qué garantía acompaña a esa decisión. El interés científico se sitúa en desarrollar principios que permitan mantener utilidad y autonomía sin convertir la capacidad de acción en una fuente incontrolada de riesgo.
La verificación constituye otro eje anunciado oficialmente. USENIX Conference on Secure Agentic-AI Systems sitúa esta actividad junto al diseño y el despliegue como una de las aproximaciones fundamentales para estudiar sistemas agentivos seguros. La verificación intenta proporcionar evidencia sobre el comportamiento de un sistema y adquiere una dificultad particular cuando parte de ese comportamiento depende de un modelo que razona sobre información contextual. La investigación necesita estudiar cómo comprobar propiedades relevantes antes de confiar al agente una acción dentro de un entorno operativo y cómo determinar si la arquitectura conserva las garantías previstas cuando el sistema afronta situaciones diferentes de las utilizadas durante su construcción.
El despliegue seguro en sistemas reales forma la tercera línea explícitamente identificada por la organización. El interés no se limita al funcionamiento experimental de un modelo, sino que alcanza su incorporación a entornos donde la acción automatizada produce consecuencias sobre recursos informáticos. Esta orientación conecta la investigación fundamental con la ingeniería de sistemas. El despliegue obliga a considerar la relación entre el componente inteligente y la infraestructura que permite ejecutar una acción y convierte la seguridad en una propiedad del sistema completo, no exclusivamente del modelo utilizado para tomar una decisión.
La privacidad aparece también como propiedad científica central. La organización define expresamente su interés por agentes de inteligencia artificial que preservan la privacidad. Un agente que razona y actúa necesita procesar información para interpretar la tarea y decidir una actuación. La investigación sobre privacidad estudia cómo esa capacidad puede coexistir con mecanismos que protegen la información utilizada por el sistema. El reto científico se vincula así con la construcción de autonomía que mantiene garantías sobre los datos y con el desarrollo de procedimientos que permiten incorporar protección durante diseño, verificación y despliegue.
La autonomía basada en inteligencia artificial proporciona el contexto que conecta estas líneas. La organización describe una evolución en la que el modelo razona, planifica y actúa. Cada una de estas capacidades introduce una dimensión distinta del problema científico. El razonamiento interviene en la interpretación de una situación, la planificación establece una secuencia de decisiones y la actuación conecta esa planificación con operaciones efectivas. La seguridad necesita abarcar el proceso completo porque una arquitectura puede ofrecer protección en una fase y mantener una debilidad en otra. El encuentro plantea así una visión sistémica de la seguridad de agentes, vinculada con el comportamiento integral de la plataforma autónoma.
USENIX Conference on Secure Agentic-AI Systems mantiene por ahora una delimitación deliberadamente general de sus temas de publicación. La organización anuncia un plazo específico para la presentación de artículos, pero indica que el Call for Papers detallado se publicará próximamente. Por esa razón, no resulta verificable atribuir todavía al congreso una taxonomía concreta de ataques, defensas, arquitecturas, herramientas o metodologías. El alcance confirmado comprende ideas avanzadas y aproximaciones fundamentadas para diseño, verificación y despliegue de agentes seguros y respetuosos con la privacidad. Esta delimitación permite identificar el núcleo científico sin anticipar contenidos que la futura convocatoria puede concretar de otra manera.
El perfil investigador al que se dirige el encuentro es amplio dentro de la informática. La organización convoca expresamente a investigación, práctica profesional, desarrollo y uso de estas tecnologías y plantea una participación internacional. Esta combinación favorece el estudio de problemas que necesitan tanto fundamentos científicos como conocimiento sobre implementación. La seguridad de un sistema autónomo requiere comprender el comportamiento del modelo, pero también la infraestructura que transforma una decisión en una acción y las garantías que necesita el entorno donde se produce esa actuación.
USENIX Conference on Secure Agentic-AI Systems contribuye al avance de la disciplina al establecer un espacio específicamente orientado a la seguridad de la computación agentiva. Su planteamiento científico reconoce que el aumento de autonomía transforma los requisitos tradicionales de protección y exige investigar conjuntamente diseño, verificación, despliegue y privacidad. USENIX Conference on Secure Agentic-AI Systems sitúa así la seguridad como una condición estructural para incorporar agentes capaces de razonar, planificar y actuar en sistemas informáticos reales y promueve conocimiento que permita desarrollar esa autonomía sobre fundamentos verificables y mecanismos de protección integrados.
Palabras clave: inteligencia artificial, IA agentiva, agentes de inteligencia artificial, sistemas autónomos, seguridad informática, ciberseguridad, privacidad, agentes seguros, agentes autónomos, autonomía computacional, razonamiento, planificación, actuación autónoma, diseño seguro, verificación, despliegue seguro, privacidad de datos, sistemas informáticos, seguridad de sistemas, inteligencia artificial segura, IA segura, agentes inteligentes, computación autónoma, ingeniería de seguridad, sistemas reales, verificación de sistemas, diseño de agentes, despliegue de agentes, protección de datos, confianza, sistemas agentivos, seguridad de IA, privacidad de IA, autonomía segura, investigación en seguridad, ingeniería informática, sistemas de inteligencia artificial
