¿POR QUÉ en los Sistemas “de datos privados controlados” como los de la relación profesional entre clientes y proveedores escasean los AI chatbots?​​

• La escasez de chatbots de IA en sistemas de datos privados controlados, especialmente en contextos confidenciales como las relaciones profesionales entre clientes y proveedores, se debe a varias razones clave:​
• 1. Seguridad y Privacidad: Los chatbots de IA pueden ser vulnerables a ataques cibernéticos y brechas de seguridad. La protección de datos sensibles requiere medidas de seguridad robustas, como cifrado de extremo a extremo y autenticación fuerte, que no siempre están garantizadas en los chatbots.​
• 2. Cumplimiento Normativo: Las regulaciones como el GDPR y la CCPA imponen estrictos requisitos sobre cómo se deben manejar y proteger los datos personales. Integrar chatbots en estos sistemas puede complicar el cumplimiento de estas normativas debido a la necesidad de asegurar que los datos no se utilicen de manera indebida.​
• 3. Fiabilidad y Precisión: Los chatbots de IA pueden generar respuestas incorrectas o "alucinaciones", lo que es inaceptable en contextos donde la precisión es crítica. Esto puede llevar a errores costosos y pérdida de confianza por parte de los usuarios.​
• 4. Control de Acceso: Asegurar que solo las personas autorizadas interactúen con el chatbot y acceder a la información confidencial es un desafío. La implementación de controles de acceso adecuados y la verificación de identidad son esenciales pero complejas.​
• 5. Costes y Complejidad: Desarrollar e implementar chatbots que cumplan con todos los requisitos de seguridad y privacidad puede ser costoso y técnicamente complejo. Las empresas pueden optar por soluciones más tradicionales y probadas para manejar datos sensibles.​
• Estas razones hacen que las organizaciones sean cautelosas al integrar chatbots de IA en sistemas que manejan datos privados y confidenciales.

Sistema IA EKN-Q&A

• El sistema IA EKN-Q&A se orienta a los “expertos en Q&A” que son los autores responsables de responder a múltiples preguntas desconocidas de antemano en un entorno controlado de respuestas “de autor”.​
• El sistema IA EKN-Q&A no permite la generación automática de respuestas basadas en LLM, debido a los riesgos de alucinaciones que sean inaceptables en dichos entornos controlados (por ejemplo, en medicina o entornos de estricta privacidad cliente-proveedor).​
• Lo que se conoce por los “expertos en Q&A” son sus respuestas… y lo que el sistema IA EKN-Q&A trata es:​
• identificar cientos o miles de preguntas que se aproximen semánticamente a las respuestas preestablecidas ​
• y descartar responder con respuestas “de autor” a las preguntas que no alcancen el umbral mínimo de similitud requerido.​
• El sistema IA EKN-Q&A utiliza los LLM para generar “múltiples posibles preguntas” que tengan suficiente similitud semántica para identificar una o varias respuestas “de autor”.​
• Los autores primarios pueden delegar en autores secundarios la creación de nuevas respuestas o variaciones de las anteriores preexistentes.​
• El grado de similitud semántica mínima lo establece y ajusta de modo recurrente el autor principal y sus delegados, si éstos disponen de los permisos pertinentes.

Características de los Q&A en Sistemas de Datos Controlados ​

• 1. Control de Acceso: Solo las personas autorizadas pueden acceder a los datos. Esto se logra mediante autenticación (como contraseñas, biometría) y autorización (permisos específicos para cada usuario) ​
• 2. Cifrado de Datos: Los datos se cifran tanto en tránsito como en reposo para evitar que sean leídos por personas no autorizadas. Esto incluye el uso de tecnologías como SSL/TLS para la transmisión segura de datos y cifrado AES para el almacenamiento ​
• 3. Auditoría y Monitoreo: Se implementan registros de auditoría y monitoreo continuo para detectar y responder a accesos no autorizados o actividades sospechosas. Esto ayuda a mantener la integridad del sistema y a identificar posibles brechas de seguridad ​
• 4. Políticas de Privacidad y Cumplimiento: Las organizaciones deben seguir políticas estrictas de privacidad y cumplir con regulaciones como el GDPR (Reglamento General de Protección de Datos), que establecen cómo se deben manejar y proteger los datos personales ​
• 5. Gestión de Identidades y Accesos (IAM): Sistemas que gestionan las identidades digitales y los derechos de acceso de los usuarios, asegurando que solo las personas adecuadas tengan acceso a la información correcta ​
• 6. Respaldo y Recuperación: Implementación de estrategias de respaldo y recuperación de datos para asegurar que la información pueda ser restaurada en caso de pérdida o corrupción.

Próximos desarrollos ​

1. Realimentación (Feedback): El sistema IA EKN-Q&A , como sistema controlado, utilizará la realimentación para ajustar sus operaciones. Esto significa que el sistema medirá la salida y la comparará con un valor deseado, realizando ajustes según sea necesario.​
2. Estabilidad: El sistema IA EKN-Q&A será más estable frente a perturbaciones y variaciones internas, pudiendo corregir desviaciones automáticamente .​
3. Adaptabilidad: Dado que es un sistema nativo y propio tenemos control total sobre su desarrollo, así que podemos crear y definir nuevas herramientas que solucionen futuros problemas específicos que requieran los clientes.