¡Hola! Somos Cashea 👋 y nuestra misión es devolverle a los venezolanos la oportunidad de acceder al crédito a través de un modelo de negocio BNPL (buy now, pay later).
Desde nuestro lanzamiento en 2022, nos hemos dedicado a promover la inclusión financiera. Hoy contamos con más de 9 millones de usuarios activos, tanto consumidores como comercios, y nos hemos convertido en una marca de confianza en Venezuela, ganándonos el corazón y la mente de las personas.
# Resumen del rol
Buscamos un/a LLM Ops Engineer que construya y opere la capa de plataforma de IA de la empresa: una gateway de LLMs y una gateway de MCP que se sitúan entre nuestras aplicaciones y los proveedores externos de modelos (OpenAI, Anthropic, Google, etc.) y las herramientas/servidores MCP.
No buscamos hostear ni entrenar modelos propios. El foco es integrar proveedores externos y gobernarlos: enrutamiento, control de costos, límites de uso, seguridad, cumplimiento, trazabilidad y confiabilidad. Eres la persona que hace que el resto de los equipos consuman IA de forma segura, observable y rentable, a través de una interfaz unificada y gobernada.
Trabajarás en la intersección entre ingeniería de plataforma, seguridad y FinOps aplicado a IA.
# Responsabilidades
# LLM Gateway
- Diseñar, construir y operar una gateway de LLMs que ofrezca una interfaz unificada sobre múltiples proveedores.
- Implementar enrutamiento de modelos, fallbacks, reintentos, balanceo y selección dinámica de proveedor/modelo por caso de uso.
- Gestionar credenciales y claves de proveedores de forma segura (rotación, secrets management).
- Implementar caching (incluido semantic caching) para reducir costos y latencia.
# MCP Gateway
- Construir y operar una gateway de MCP para exponer, descubrir y gobernar el acceso a servidores y herramientas MCP.
- Definir controles de acceso por herramienta/servidor (qué app o equipo puede invocar qué).
- Auditar y registrar el uso de herramientas MCP, con trazabilidad de extremo a extremo.
# Gobernanza, seguridad y cumplimiento
- Implementar guardrails, filtrado de contenido y defensas contra prompt injection y fuga de datos.
- Implementar redacción/enmascaramiento de datos sensibles (PII) en prompts, respuestas y logs.
- Definir y aplicar políticas de acceso (RBAC), cuotas y límites de uso por equipo, app o usuario.
- Mantener registros de auditoría y apoyar requisitos de cumplimiento y privacidad.
# Costos y observabilidad (FinOps de IA)
- Implementar atribución de costos por equipo/app/feature y presupuestos con alertas.
- Construir observabilidad para IA: tracing, métricas de latencia, costo, uso y calidad.
- Establecer dashboards y alertas sobre consumo, errores y degradación de proveedores.
# Confiabilidad
- Definir SLAs/SLOs para la plataforma de IA y planes de respuesta ante incidentes (incluida la caída de un proveedor).
- Apoyar a los equipos de producto e ingeniería en la integración con la gateway.
