Para entender las implicancias del reciente anuncio de AI Defense de Cisco es necesario antes conocer el escenario que Cisco imagina para el desarrollo de las futuras IAs. sobre todo en la medida en que éstas se vuelven más genéricas. Estos puntos fueron aclarados recientemente en una conferencia de prensa virtual que dieron Ghassan Dreibi, Director de Ciberseguridad para Latinoamérica, y Ramón Viñals, Director de Ingeniería para Latinoamérica de Cisco.
En dicha conferencia Viñals señaló que el dominio de este anuncio se relaciona con uno de los pilares que hoy sustentan la misión de Cisco: Seguridad para la IA e IA para la Seguridad. Mientras que anuncios como los de Hypershield se ocupan de la segunda parte de esta propuesta, AI Defense apunta a la primera. Esto es: asegurar la IA.
“Cuando hablamos del mundo de la Inteligencia Artificial, no solamente hablamos de humanos. Empieza a haber otro tipo de usuarios habilitados por Inteligencia Artificial, como son los agentes de IA, aplicaciones de IA, robots y hasta humanoides”, destacó Viñals. En este sentido, y en la medida en que la IA pasa de un contexto estrecho de aplicabilidad a uno cada vez más ancho, y que empieza a generalizarse (en el sentido de que será menos específica y más transversal), también aumentará la dependencia de las personas y los negocios de estos nuevos colaboradores. De hecho, las operaciones y hasta las vidas de las personas dependerán en buena medida de los resultados a los que lleguen estos nuevos jugadores potenciados por IAs. “La inserción de todos estos elementos, de estos nuevos modelos de Inteligencia Artificial y aplicaciones de Inteligencia Artificial, va a generar nuevos riesgos, que son totalmente diferentes a los que estamos acostumbrados. Con el agravante de que estas vulnerabilidades van a darse en una escala que no tiene precedentes con respecto a lo que se da en una aplicación tradicional”, enfatizó el ejecutivo.
Uno de los principales nuevos riesgos está, precisamente, en la interferencia con el entrenamiento de esas IAs. Una suerte de hackeo cognitivo (por ejemplo, alterar subrepticiamente los datos que una IA está ingestando en su etapa de entrenamiento) que podría desatar alucinaciones, o bien respuestas sutilmente incorrectas, desviadas, sesgadas o que favorecen a determinados objetivos que no son los de la organización que está usando la IA. Es en este contexto que se inscribe el anuncio de Defense AI. Esta tecnología busca, a partir de marzo (que es cuando estará disponible en origen), asegurar y proteger todo el entorno de Inteligencia Artificial, de una manera escalable y rápida.
Viñals dio varios ejemplos de esto. “Hay modelos de Inteligencia Artificial que aprenden de las preguntas que recibe. Puede haber personas que quieran desviar el resultado de la IA al introducir cierto tipo de preguntas o también al inyectar datos o archivos que alteren los resultados. Todos estos ejemplos que estoy dando son diferentes vulnerabilidades que antes no teníamos en una aplicación tradicional”. En este contexto, el Director de Ingeniería cuantificó en más de un trillón las posibilidades de romper un modelo de IA.
Lo que Cisco propone es (paradójicamente, con la asistencia de la IA, no sería posible de otro modo) es limitar tanto lo que entra a la IA como los resultados que una IA provee, como si a esta le pusieran anteojeras o guardrails para que no se desvíe. Para ello, Cisco acude a la tecnología de Robust Intelligence —una compañía que adquirió en octubre pasado— que ayuda a validar el modelo, los datos y los archivos que se meten en la olla donde se está cocinando la nueva IA.
A su turno, Dreibi describió lo que dio en llamar Shadow AI (comparándolo con la Shadow IT y el uso no visible para la organización de recursos informáticos no autorizados). “El usuario tiene un poder de procesamiento y de uso muy fuerte, y consume aplicaciones de IA todo el tiempo. Esta solución que estamos trayendo va a ayudar a visibilizar todo esto, haciendo un inventario de este uso, analíticas de este uso, un enforcement para la corporación”. La idea es evitar la pérdida o alteración de los datos, o el surgimiento de usuarios tóxicos que con su input pudieran subvertir el objetivo de la IA.
¿Qué es AI Defense?
Esta solución integral de Cisco protege tanto el desarrollo como el uso de aplicaciones de IA, permitiendo que las empresas avancen en sus iniciativas de IA con confianza. En este orden, AI Defense protege contra el mal uso de las herramientas de IA, la fuga de datos y amenazas cada vez más sofisticadas, a las cuales las soluciones de seguridad existentes no están preparadas para enfrentar.
«Los líderes empresariales y tecnológicos no pueden permitirse sacrificar la seguridad por la velocidad al adoptar la IA», dijo en ocasión del lanzamiento Jeetu Patel, Vicepresidente Ejecutivo y Director de Producto de Cisco. «En un panorama dinámico donde la competencia es feroz, la velocidad decide a los ganadores. Integrado en la estructura de la red, Cisco AI Defense combina la capacidad única de detectar y proteger contra amenazas al desarrollar y acceder a aplicaciones de IA sin compromisos».
AI Defense permite las transformaciones de IA de las empresas abordando dos riesgos urgentes:
- Desarrollar e implementar aplicaciones de IA seguras: A medida que la IA se vuelve ubicua, las empresas utilizarán y desarrollarán cientos, si no miles, de aplicaciones de IA. Los desarrolladores necesitan un conjunto de barreras de seguridad y protección de IA que funcionen para cada aplicación. AI Defense ayuda a los desarrolladores a moverse rápidamente y desbloquear un mayor valor protegiendo los sistemas de IA de los ataques y asegurando el comportamiento del modelo, en todas las plataformas. Las capacidades de AI Defense incluyen:
- Descubrimiento de IA: Los equipos de seguridad necesitan entender quién está construyendo aplicaciones y las fuentes de entrenamiento que utilizan. AI Defense detecta aplicaciones de IA sombreadas y sancionadas en nubes públicas y privadas.
- Validación de modelos: La afinación de modelos puede llevar a resultados tóxicos e inesperados. Las pruebas automatizadas verifican los modelos de IA en busca de cientos de posibles problemas de seguridad y seguridad. Este equipo rojo algorítmico impulsado por IA identifica posibles vulnerabilidades y recomienda barreras de seguridad en AI Defense para que los equipos de seguridad las utilicen.
- Seguridad en tiempo de ejecución: La validación continua protege contra posibles amenazas de seguridad y seguridad, como la inyección de indicaciones, la denegación de servicio y la fuga de datos sensibles de manera continua.
- Asegurar el acceso a aplicaciones de IA: A medida que los usuarios finales se apresuran a adoptar aplicaciones de IA, como herramientas de resumen para mejorar su productividad, los equipos de seguridad necesitan prevenir la fuga de datos y el envenenamiento de datos propietarios. AI Defense permite a los equipos de seguridad con:
- Visibilidad: Proporciona una visión completa de las aplicaciones habilitadas para IA sombreadas y sancionadas utilizadas por los empleados.
- Control de acceso: Implementa políticas que restringen el acceso de los empleados a herramientas de IA no sancionadas.
- Protección de datos y amenazas: Protege continuamente contra amenazas y pérdida de datos confidenciales mientras garantiza el cumplimiento.
A diferencia de las barreras de seguridad integradas en modelos individuales de IA, Cisco ofrece controles consistentes para un mundo multimodelo. AI Defense es autooptimizante, aprovechando los modelos de aprendizaje automático propietarios de Cisco para detectar preocupaciones de seguridad y seguridad de IA en constante evolución basadas en datos de inteligencia de amenazas de Cisco Talos. Los clientes de Splunk que están utilizando AI Defense recibirán alertas enriquecidas con contexto adicional de todo el ecosistema.
AI Defense se integra con los flujos de datos existentes para una visibilidad y control sin igual y está integrado en Security Cloud, la plataforma de seguridad unificada, impulsada por IA y multi-dominio de Cisco. Aprovecha la extensa malla de puntos de aplicación de Cisco para realizar la seguridad de la IA a nivel de red de una manera que solo Cisco está optimizada para ofrecer. La precisión y confiabilidad son esenciales para proteger las aplicaciones empresariales de IA, y Cisco ha estado activamente involucrado en el desarrollo de estándares de seguridad de IA de la industria, incluidos los de MITRE, OWASP y NIST.
Estas soluciones (incluido Cisco Hypershield y Cisco AI Defense) estarán disponibles en marzo (de manera limitada) para que las empresas protejan sus transformaciones de IA. Para obtener más información, visite cisco.com/go/ai-defense.
