Este artículo fue escrito en colaboración con Nathan Coppinger de Varonis y Mike Smith, arquitecto de seguridad distinguido de Salesforce. Explica cómo funciona el modelo de seguridad de Salesforce Einstein Copilot y los riesgos que debe mitigar para garantizar una implementación segura.
Salesforce es Lanzamiento oficial de Einstein Copilot a los clientes que esperan impacientemente. Este nuevo asistente conversacional de IA revolucionará la forma en que los agentes de ventas, marketing y servicio al cliente interactúan con los clientes y acceden a la documentación interna dentro de la herramienta CRM.
Einstein Copilot puede comprender consultas en lenguaje natural para responder preguntas, proporcionar información y completar tareas en Salesforce para optimizar los procesos diarios y aumentar la productividad.
La nueva IA traerá grandes avances en la productividad y agilizará los procesos, pero también traerá riesgos que será necesario tomar medidas para mitigar.
En este blog discutiremos:
Casos de uso del copiloto de Salesforce Einstein
Algunos de los principales casos de uso de Einstein Copilot son:
- Ayude a los vendedores a encontrar clientes potenciales, crear oportunidades, actualizar archivos, programar y resumir reuniones.
- Permita que los agentes de servicio resuelvan casos más rápido, accedan rápidamente a artículos de conocimiento y escale problemas
- Ayude a los especialistas en marketing a crear campañas, escribir correos electrónicos, segmentar audiencias y analizar resultados.
- Ayude a los comerciantes a optimizar sus tiendas en línea, crear nuevos sitios de Salesforce, administrar inventario, procesar pedidos y más.
- Brinde a los usuarios la capacidad de analizar sus datos, crear informes y paneles, y descubrir tendencias y patrones.
Y todo esto se puede hacer con una simple indicación del usuario en un lenguaje sencillo.
Cómo funciona el copiloto de Salesforce Einstein
A continuación se muestra una descripción general sencilla de cómo Einstein Copilot maneja las indicaciones:
- Un usuario ingresa un mensaje en Salesforce Marketing, Sales o Service Cloud
- Einstein Copilot ingiere el mensaje, realiza una búsqueda de similitud e identifica el contexto relevante en comparación con las fuentes de datos conectadas.
- La solicitud y la respuesta del modelo de lenguaje grande (LLM) se procesan a través de la capa de confianza de Einstein
- Einstein Copilot genera una respuesta en Salesforce
La capa de confianza de Einstein
Salesforce se compromete a proteger los datos que los clientes procesan a través de Einstein Copilot. Para ello, desarrollaron el Capa de confianza de Einstein.
Los datos del cliente que pasan a través de Einstein Copilot se cifran dentro de la capa de confianza y ninguno de estos datos se retiene en el backend. Todos los datos confidenciales, como la información de identificación personal (PII), la información de la tarjeta de crédito (PCI) y la información de salud protegida (PHI), también están enmascarados.
Einstein Trust Layer también intentará reducir la cantidad de respuestas sesgadas, tóxicas y poco éticas a través de sus capacidades de detección de lenguaje tóxico, reduciendo así la carga para el usuario final.
Salesforce dijo que no utilizaría datos de clientes para capacitar a los LLM detrás de Einstein Copilot, ni los vendería a terceros.
Proteger sus datos de Salesforce: una responsabilidad compartida
Uno de los elementos clave de la seguridad de Salesforce es su modelo de responsabilidad compartida. modo de responsabilidad compartidaDefine las funciones y responsabilidades de Salesforce y sus clientes con respecto al uso seguro de los datos, la IA y la plataforma en general.
En este modelo, Salesforce es responsable de proteger la infraestructura, la plataforma y los servicios que permiten la IA (como lo demuestra Einstein Trust Layer) y el procesamiento seguro de los datos de los clientes a través de Einstein Copilot.
Al mismo tiempo, los clientes son responsables de proteger las aplicaciones y configuraciones que se conectan a la IA, incluidas:
- Permisos: Einstein Copilot mostrará todos los datos de la organización a los que un usuario individual puede acceder
- Datos: Einstein Copilot se basa en datos actualizados para ofrecer resultados precisos y de alta calidad
- Uso: los clientes deben asegurarse de que Einstein Copilot se utilice de forma correcta y responsable
Esto garantiza que ambas partes trabajen juntas para lograr el más alto nivel de seguridad y confianza.
Mejores prácticas para preparar sus organizaciones de Salesforce para Einstein Copilot
Bloquee los permisos sobre datos confidenciales.
Einstein Copilot hereda el acceso y los permisos del usuario de Salesforce. Por lo tanto, es imperativo mitigar el riesgo bloqueando los datos críticos, garantizando que cada usuario (y por lo tanto Einstein Copilot) solo pueda acceder a lo que necesita para hacer su trabajo.
Para comprender los permisos de cada usuario, deberá analizar su:
- Perfil
- Conjuntos de permisos
- Grupos de conjuntos de permisos
- Rol/jerarquía
- Permisos deshabilitados
Sin embargo, los permisos de Salesforce son extremadamente complejos y requieren un esfuerzo considerable para analizarlos y comprenderlos, especialmente considerando que una gran empresa puede tener hasta 1000 conjuntos de permisos que contienen docenas de permisos cada uno.
Además, los equipos de seguridad deben confiar en los equipos de Salesforce para ayudarlos a completar este proceso, y porque Administradores de Salesforce Tenemos mucho que hacer para garantizar la continuidad del negocio y completar este proceso puede ser desalentador.
Actualizar y eliminar documentación y datos internos antiguos.
Einstein Copilot aprovecha su documentación y datos internos para basar las indicaciones generativas de IA en un contexto útil y proporcionar información precisa y relevante.
Como dice Salesforce: “La buena IA comienza con buenos datos. »
Einstein Copilot extrae datos de Salesforce Data Cloud, que unifica múltiples fuentes de datos, incluido su entorno de Salesforce y el almacenamiento en la nube (como AWS y Snowflake).
Los datos son la fuente de verdad para la IA generativa y, para garantizar la mejor experiencia de Einstein Copilot y reducir el riesgo de alucinaciones, sus datos deben ser:
- Seguro
- Disponible
- hacer las tareas del hogar
- Oportuno
Además de asegurarse de que sus permisos estén bloqueados y sean correctos, también debe realizar una revisión inicial de los registros y la documentación en los almacenes de datos de los que Einstein Copilot extrae y actualiza o elimina información obsoleta, obsoleta e inexacta.
Luego, puede configurar un proceso de revisión regular para mantener su documentación interna limpia y actualizada.
Identifique datos confidenciales a los que la IA no debería acceder.
Es probable que haya datos en su entorno sobre los cuales no desea que Einstein Copilot se entrene ni genere respuestas. Con Salesforce, puede crear zonas que separen los datos a los que Einstein Copilot no desea acceder. Sin embargo, corresponde al cliente determinar qué son estos datos y dónde se encuentran.
Garantizar un uso correcto.
Muchos departamentos, desde soporte hasta marketing, utilizan Einstein Copilot para generar contenido para clientes y audiencias. Sin embargo, como mencionamos anteriormente, la calidad y precisión de los resultados de la IA a menudo dependen de la calidad de los datos ingresados.
Salesforce Prompt Builder garantiza que sus usuarios generen respuestas adecuadas desde la IA. Esta característica permite a los administradores configurar barreras de seguridad para procesos específicos dentro del flujo de trabajo (por ejemplo, respuestas de atención al cliente) para garantizar una salida de IA adecuada, relevante y de calidad.
El creador de mensajes proporcionará al usuario una plantilla para alimentar Einstein Copilot, anclando dinámicamente el mensaje con información como nombres de clientes, cuentas, contexto y artículos relevantes que pueden ayudar aún más a la respuesta de la IA.
Esto también ayudará a proteger contra ataques de inyección rápida, en los que un actor malicioso intenta proporcionar instrucciones que engañan al modelo para que dé una respuesta que no debería.
Prepare sus organizaciones de Salesforce para Einstein Copilot con Varonis
Antes de comenzar su viaje de IA con Einstein Copilot, es esencial que comprenda su postura de seguridad de Salesforce y asegúrese de que sus datos estén preparados para una implementación segura y sin problemas.
La plataforma de seguridad de datos Varonis ayuda a las organizaciones a obtener información sobre su postura de seguridad de Salesforce al:
- Análisis de permisos significativamente simplificado
- Descubrimiento y clasificación automáticos de datos confidenciales.
- Destacando datos obsoletos
- Identificar errores de configuración críticos
- Gestión de riesgos de aplicaciones de terceros
- Monitoreo continuo de la actividad de datos sensibles y detección de comportamientos riesgosos.
- Integración y mejora Escudo de Salesforce
Prueba Varonis gratis.
Varonis puede ayudar a su organización a prepararse para una implementación segura y fluida de Einstein Copilot.
Solicitar una demostración hoy y comience a beneficiarse de una evaluación de riesgos complementaria de Salesforce. Comenzar es gratis y fácil, y usted conserva los resultados.
Patrocinado y escrito por varonis.