Nota importante: Disponible en vista previa para determinados clientes. Para configurar los AI Guardrails para su cuenta, deberá hacer una petición a través de Talkdesk Support o consultarlo con su representante de Talkdesk.
Índice
Resumen
Los AI Guardrails generativos son garantías esenciales diseñadas para asegurar el uso responsable y ético de las tecnologías de AI dentro de la plataforma. Actúan como método regulador, incluyendo medidas de privacidad de datos, moderación de contenidos y verificación de exactitud, para evitar la generación o difusión de información dañina, inapropiada o inexacta. Con la implantación de estas barreras, pretendemos equilibrar la innovación con la responsabilidad, asegurándonos de que los resultados de la AI se ajustan a las normas éticas y a la seguridad de los usuarios.
Cómo Funciona
Los AI Guardrails funcionan aplicando tipos específicos de comprobaciones a las interacciones de AI:
- Jailbreak Prevention: Mantiene la AI funcionando dentro de los límites de seguridad previstos e impide que los usuarios se salten las restricciones de seguridad, éticas o legales incorporadas.
- Toxicity Prevention: Filtra el lenguaje dañino, abusivo u ofensivo (por ejemplo, racista, sexista) para mantener un entorno de comunicación respetuoso y seguro.
Actualmente, Talkdesk AI Platform es compatible con los controles Jailbreak Prevention y Toxicity Prevention.
Comprobar si los AI Guardrails están Activados
Puede comprobar si los AI Guardrails están activos para una cuenta dentro de CXA Operations Center (anteriormente AI Trainer). Para ello, siga estos pasos:
- Vaya a la sección Generative AI[1].
- Haga clic en Guardrails [2].
- Si está habilitado, verá una pantalla confirmando "You are protected" [3]. Cuando se habilita para una cuenta, todos los tipos de barreras de protección actualmente admitidos (prevención de jailbreak y toxicidad) se activan a la vez.
- Si está desactivado, se mostrará un mensaje que indica "Guardrails protection is currently paused" [4].
Productos Compatibles
Actualmente, AI Guardrails es compatible con:
Nota: La compatibilidad con productos y funciones adicionales se añadirá en versiones futuras.