Nos guste o no, los modelos de lenguaje grandes (LLM) como ChatGPT y otras herramientas de inteligencia artificial están transformando el lugar de trabajo moderno. A medida que la IA se convierte en una parte fundamental del trabajo diario, es fundamental establecer límites e implementar herramientas de monitoreo para estas herramientas.
Ahí es donde entra en juego Harmony SASE de Check Point. Ya hemos hablado sobre la seguridad del navegador y la función de control del portapapeles para ayudar a definir qué tipos de información no se pueden compartir con los LLM.
Para monitorear estos servicios, nuestro servicio Gen AI Security muestra exactamente qué herramientas de inteligencia artificial está utilizando su equipo, quién las está utilizando, qué tipo de información están compartiendo con las herramientas, así como el riesgo que supone para la empresa compartir información.
Esta es una información fundamental que debe tener una organización. Por ejemplo, es muy fácil cargar una hoja de cálculo en un LLM y pedirle que analice los datos. Ya sean resultados de encuestas o informes de gastos del trimestre anterior, estas herramientas pueden analizar y proporcionar información rápidamente.
Sin embargo, una vez que los datos se comparten con un LLM, pueden almacenarse como datos de entrenamiento o compartirse inadvertidamente con otro usuario como parte de una respuesta. Incluso sin un uso indebido directo, cargar datos de encuestas sin procesar a un servicio externo podría violar las políticas de manejo de datos de la empresa o incluso incumplir las regulaciones de cumplimiento como GDPR (Reglamento General de Protección de Datos), CCPA (Ley de Privacidad del Consumidor de California) o HIPAA (Ley de Portabilidad y Responsabilidad de Seguros Médicos), todas las cuales rigen estrictamente el uso de información de identificación personal (PII).
Por estos motivos, es fundamental tener visibilidad de la información que su fuerza laboral comparte con las herramientas de IA generativa.
El panel de seguridad Gen AI
Gen IA Security le muestra toda la información esencial que necesita saber sobre cómo se utiliza la IA en su organización. Check Point puede monitorear las acciones de su fuerza laboral en más de 300 servicios para brindar esta información.
La parte superior del panel presenta tres paneles de resumen que desglosan el uso de IA por aplicación (p. ej., ChatGPT, Claude, Google Gemini, Microsoft Copilot), casos de uso (p. ej., generación de código, análisis de datos) y tipos de información confidencial compartida.
Debajo de esa sección hay un conjunto de mosaicos más pequeños que muestran la cantidad total de sesiones de usuario de Gen AI en toda la empresa, la cantidad de aplicaciones que usa su equipo y un resumen de mensajes confidenciales agrupados por el tipo de información que comparten.
El núcleo del panel de seguridad de Gen IA es el resumen por interacción. Puede filtrar estas interacciones en función de los elementos en los que se puede hacer clic en los mosaicos de arriba o utilizando las herramientas de filtrado que se encuentran justo encima de los resúmenes detallados.