ACM Conference on Trustworthy and Responsible AI and Computing Systems aborda el diseño, la evaluación, la verificación y el despliegue responsable de sistemas de inteligencia artificial y tecnologías informáticas de alta repercusión. El congreso examina cómo construir soluciones seguras, resistentes, explicables, justas y auditables, capaces de operar bajo condiciones reales sin comprometer la privacidad, la fiabilidad o los derechos de las personas. Su convocatoria científica integra fundamentos algorítmicos, arquitecturas, sistemas, marcos de evaluación, mecanismos de certificación y estudios orientados al despliegue, con una atención especial a los riesgos que surgen cuando los modelos automatizados intervienen en servicios e infraestructuras relevantes.
El objetivo científico consiste en desarrollar métodos que permitan comprobar y justificar la confianza depositada en un sistema inteligente. ACM Conference on Trustworthy and Responsible AI and Computing Systems recibe investigaciones originales sobre teorías, algoritmos, arquitecturas, bancos de pruebas, marcos de aseguramiento y prácticas de gobernanza. Cada contribución debe formular un problema preciso, explicar su relevancia, utilizar una metodología sólida y presentar evidencia suficiente para respaldar sus conclusiones. La convocatoria también exige describir supuestos, limitaciones, riesgos e impactos sociales, porque una mejora técnica aislada no garantiza que una solución resulte segura o responsable durante su utilización.
Los fundamentos de la inteligencia artificial confiable constituyen una línea principal. Este ámbito comprende la verificación formal de modelos y sistemas, la robustez, la capacidad de generalización y la resistencia frente a manipulaciones. También incluye interpretabilidad, explicabilidad, cuantificación de incertidumbre, métricas de fiabilidad, razonamiento causal y aproximaciones que combinan métodos neuronales y simbólicos. Estas investigaciones buscan establecer qué propiedades puede garantizar un sistema, bajo qué condiciones se mantienen y cómo se comunican sus límites a desarrolladores, evaluadores y usuarios.
La seguridad y la resiliencia forman otro eje central. Los trabajos pueden analizar aprendizaje automático adversario, envenenamiento de datos, puertas traseras, ataques contra modelos y defensas durante el entrenamiento o la inferencia. La convocatoria incorpora canalizaciones seguras de despliegue, protección de la cadena de suministro, monitorización en tiempo de ejecución y detección de anomalías. También contempla inteligencia artificial con preservación de la privacidad y aprendizaje federado. La investigación debe definir el adversario, justificar el escenario de amenaza y demostrar que la defensa conserva su eficacia frente a estrategias adaptativas.
La integración de inteligencia artificial en sistemas e infraestructuras constituye otra línea verificada. Los artículos pueden estudiar plataformas ciberfísicas, dispositivos conectados, procesamiento en el borde, servicios distribuidos, entornos de nube y sistemas autónomos. También pueden abordar la gestión del ciclo de vida y el aseguramiento de operaciones de aprendizaje automático. Estas contribuciones analizan cómo afectan al comportamiento global aspectos como la disponibilidad de datos, la coordinación entre componentes, los fallos parciales y los cambios posteriores al despliegue.
La responsabilidad, la gobernanza y el cumplimiento normativo ocupan un espacio propio. ACM Conference on Trustworthy and Responsible AI and Computing Systems recibe trabajos sobre equidad, mitigación de sesgos, rendición de cuentas, transparencia y capacidad de auditoría. También admite marcos para gestionar riesgos, estándares, certificación y metodologías de diseño ético. El interés científico reside en transformar principios generales en procesos, métricas y mecanismos que puedan aplicarse y comprobarse. Una propuesta debe explicar quién evalúa el sistema, qué evidencia utiliza y qué medidas se adoptan cuando aparecen resultados perjudiciales.
La evaluación y el aseguramiento representan otro bloque temático. La convocatoria incluye bancos de pruebas de confianza, pruebas de estrés, reproducibilidad, integridad de conjuntos de datos, gobernanza de la información y validación a nivel de sistema. Estos trabajos ayudan a determinar si una mejora observada permanece estable al cambiar las muestras, las condiciones o los grupos afectados. También permiten identificar filtraciones, sesgos de selección y métricas insuficientes. La evaluación debe reflejar el contexto de uso y no limitarse a resultados promedio que pueden ocultar fallos relevantes.
Las aplicaciones específicas amplían el alcance hacia ámbitos en los que la seguridad y la responsabilidad resultan críticas. La convocatoria contempla inteligencia artificial aplicada a salud, infraestructuras esenciales, industria, energía, servicios financieros, administraciones y sostenibilidad. La investigación debe relacionar las propiedades técnicas con las consecuencias del dominio y analizar qué ocurre cuando el modelo se equivoca, recibe información incompleta o se utiliza fuera de las condiciones previstas. Este enfoque favorece trabajos que combinan conocimiento informático con experiencia especializada.
El congreso se dirige a investigadores en inteligencia artificial, aprendizaje automático, ciberseguridad, sistemas, interacción, verificación y ciencia de datos. También resulta relevante para profesionales responsables de productos, infraestructuras, estándares, cumplimiento y políticas tecnológicas. Su estructura interdisciplinar facilita que los problemas se estudien desde perspectivas técnicas, organizativas y sociales, evitando que la confianza se reduzca a una única métrica.
ACM Conference on Trustworthy and Responsible AI and Computing Systems contribuye al avance de la disciplina al establecer criterios científicos para diseñar y evaluar tecnologías que influyen en decisiones y servicios relevantes. El encuentro promueve soluciones que pueden ser probadas, verificadas, explicadas y auditadas. Su aportación ayuda a convertir la responsabilidad en una propiedad integrada durante todo el ciclo de vida de los sistemas, desde los datos y el entrenamiento hasta el despliegue, la monitorización y la retirada.
Inteligencia artificial confiable, inteligencia artificial responsable, seguridad de modelos, robustez, explicabilidad, interpretabilidad, verificación formal, incertidumbre, fiabilidad, razonamiento causal, inteligencia neurosimbólica, aprendizaje adversario, envenenamiento de datos, puertas traseras, privacidad, aprendizaje federado, cadena de suministro, monitorización, sistemas ciberfísicos, inteligencia artificial en el borde, Internet de las cosas, sistemas distribuidos, sistemas autónomos, gobernanza algorítmica, equidad, sesgos, rendición de cuentas, transparencia, auditoría, gestión de riesgos, certificación, evaluación, pruebas de estrés, reproducibilidad, integridad de datos, MLOps, seguridad sanitaria, infraestructuras críticas, sostenibilidad
