Nota importante: Disponible en vista previa para determinados clientes.
Índice
- Resumen
- Cómo Funciona
- Comprobar si los AI Guardrails están Activados
- Configuración de los AI Guardrails
- Productos Compatibles
Resumen
Los AI Guardrails generativos son garantías esenciales diseñadas para asegurar el uso responsable y ético de las tecnologías de AI dentro de la plataforma. Actúan como método regulador, incluyendo medidas de privacidad de datos, moderación de contenidos y verificación de exactitud, para evitar la generación o difusión de información dañina, inapropiada o inexacta. Con la implantación de estas barreras, pretendemos equilibrar la innovación con la responsabilidad, asegurándonos de que los resultados de la AI se ajustan a las normas éticas y a la seguridad de los usuarios.
Cómo Funciona
Los AI Guardrails funcionan aplicando tipos específicos de comprobaciones a las interacciones de AI:
- Jailbreak Prevention: Mantiene la AI funcionando dentro de los límites de seguridad previstos e impide que los usuarios se salten las restricciones de seguridad, éticas o legales incorporadas.
- Toxicity Prevention: Filtra el lenguaje dañino, abusivo u ofensivo (por ejemplo, racista, sexista) para mantener un entorno de comunicación respetuoso y seguro.
Actualmente, Talkdesk AI Platform es compatible con los controles Jailbreak Prevention y Toxicity Prevention.
Comprobar si los AI Guardrails están Activados
Puede comprobar si los AI Guardrails están activos para una cuenta dentro de AI Trainer. Para ello, siga estos pasos:
- Vaya a la sección Generative AI [1].
- Haga clic en Guardrails [2].
- Si está habilitado, verá una pantalla confirmando "You are protected" [3]. Cuando se habilita para una cuenta, todos los tipos de barreras de protección actualmente admitidos (prevención de jailbreak y toxicidad) se activan a la vez.
- Si está desactivado, se mostrará un mensaje que indica "Guardrails protection is currently paused" [4].
Configuración de los AI Guardrails
Para configurar los AI Guardrails para su cuenta, deberá hacer una petición a través de Talkdesk Support o consultarlo con su representante de Talkdesk.
Productos Compatibles
Actualmente, AI Guardrails es compatible con:
Nota: La compatibilidad con productos y funciones adicionales se añadirá en versiones futuras.