Nota importante: Disponible en Preview solo para clientes seleccionados. Si está interesado en configurar las AI Guardrails mientras está en Preview, póngase en contacto con su equipo de cuentas.
Índice
Resumen
Los AI Guardrails generativos son garantías esenciales diseñadas para asegurar el uso responsable y ético de las tecnologías de AI dentro de la plataforma. Actúan como método de regulación, incluyendo Measures de privacidad de datos, moderación de contenido y verificación de la exactitud, para prevenir la generación o difusión de información dañina, inapropiada o inexacta. Con la implantación de estas barreras, pretendemos equilibrar la innovación con la responsabilidad, asegurándonos de que los resultados de la AI se ajustan a las normas éticas y a la seguridad de los usuarios.
Cómo funciona
Los AI Guardrails funcionan aplicando tipos específicos de comprobaciones a las interacciones de AI:
- Jailbreak Prevention: Mantiene la AI funcionando dentro de los límites de seguridad previstos e impide que los usuarios se salten las restricciones de seguridad, éticas o legales incorporadas.
- Toxicity Prevention: Filtra el lenguaje dañino, abusivo u ofensivo (por ejemplo, racista, sexista) para mantener un entorno de comunicación respetuoso y seguro.
Actualmente, Talkdesk AI Platform es compatible con las barreras Jailbreak Prevention y Toxicity Prevention.
Comprobar si las AI Guardrails están habilitadas
Puede verificar si las AI Guardrails están activas para su cuenta en Talkdesk CXA Operations Center (anteriormente AI Trainer). Para ello, siga estos pasos:
- Vaya a la sección Generative AI [1].
- Haga clic en Guardrails [2].
- Si está opción está habilitada, verá una pantalla confirmando "You are protected" [3]. Cuando se habilita para una cuenta, todos los tipos de barreras de protección actualmente admitidos (prevención de jailbreak y toxicidad) se activan a la vez.
- Si está deshabilitada, aparecerá el mensaje "Guardrails protection is currently paused" [4]. Solo afecta a Toxicity
Nota: El filtro Jailbreak siempre está activo, independientemente del filtro Toxicity.
Productos compatibles
Actualmente, AI Guardrails es compatible con:
Nota: Las AI Agent Platform Guardrails se gestionan en AI Agent Platform. Para obtener más información, consulte AI Agent Platform: Settings - Guardrail Customization en este artículo.