Lo que he construido

Una implementación de referencia que puedes leer, y el trabajo en producción que hay detrás.

Las cifras vienen de sistemas en producción en los que he trabajado. Se omiten los nombres de cliente.

Trabajo seleccionado

Un repositorio abierto, tres sistemas en producción.

invoice-assistant

Una implementación de referencia de las cuatro piezas, en abierto.

  • Tool calling con identidad propagada: las herramientas llegan al dominio por la propia API REST de la app con el token del usuario, así que el asistente nunca puede hacer más que quien lo usa
  • Las escrituras se proponen, no se ejecutan: política estructurada en policies.json, confirmación humana y límites por turno que impiden encadenar llamadas por prompt injection
  • Los evals corren en CI contra un modelo real; una regresión de una línea en el prompt pone el pipeline en rojo
  • Tokens, euros y latencia medidos por llamada al modelo, detrás de un kill switch de gasto diario
Ver el código
Casos de eval
36 en CI
Write gate
En servidor
Gasto
Tope diario

Rearquitectura de plataforma

Llevar un monolito legacy a cloud-native.

  • Partí el monolito en dominios que despliegan por separado
  • Llevé la comunicación entre ellos a Kafka, para que un servicio caído deje de tumbar la petición
  • Bajé el tiempo de pruebas de regresión de días a minutos
Despliegues
Diarios
SLA
>99,95%
Pipelines
30+

Optimización de coste y rendimiento

Más throughput con una factura más pequeña.

  • Reescribí las queries y los índices que se llevaban la carga
  • Puse Redis delante de las lecturas que más se repetían
  • Ajusté los requests de Kubernetes a lo que los pods usaban de verdad, y dejé los picos al autoscaling
Throughput
15k+ msg/min
Regiones
Multi-región

Fiabilidad y guardias

De apagar fuegos a fiabilidad predecible.

  • Definí SLOs y medí los servicios contra ellos
  • Monté los dashboards alrededor de esos SLOs
  • Automaticé los pasos rutinarios de respuesta a incidentes
MTTR
<30m
Monitorización
New Relic

¿Te suena algo de esto?

Cuéntame en qué está bloqueado tu asistente.

Lo que he construido | Alex Martínez