Una plataforma de bienestar con IA, y el harness que demuestra que es segura

Una API en Django y una aplicación React que sostienen suscripciones de consumidor, un portal para empresas y un marketplace de telemedicina - con un motor de recomendación anclado en treinta mil soluciones extraídas y un harness Monte Carlo que ejecutó ciento veinte mil sesiones sintéticas antes del lanzamiento.

120k sesiones sintéticas en el harness de seguridad
30k soluciones indexadas para retrieval
10 integraciones con wearables
0 casos de crisis mal gestionados en el lanzamiento
MI PAPEL
Backend, front end, los motores de recomendación y de retrieval, el harness de evaluación, los pagos y el back office de admin.
STACK
Django y DRF, React 18, PostgreSQL, Redis, Celery, Stripe, Zoom Video SDK, dos proveedores de IA detrás de una sola abstracción.
LO MÁS DIFÍCIL
Demostrar una propiedad de seguridad en lugar de afirmarla. Cualquiera puede añadir un guardrail; demostrar que aguanta en cien mil recorridos distintos es el trabajo de verdad.

La situación

Un producto de wellness mental con tres negocios dentro: una suscripción para consumidores, un portal para empleadores vendido a empresas para su gente y un marketplace donde los usuarios reservan sesiones de vídeo con profesionales. Por encima de todo eso, un motor de recomendación que sugiere qué debería hacer una persona a continuación, partiendo de cómo dice que se siente.

El tercero es lo que hace que merezca la pena escribir sobre este proyecto. Un motor de recomendación que sugiere un ejercicio de respiración a alguien ligeramente estresado es una funcionalidad agradable. El mismo motor sugiriendo un ejercicio de respiración a alguien en crisis es un error grave. La pregunta de ingeniería no es cómo lo construyes - es cómo sabes que no va a hacer eso.

Lo que construí

Un backend Django y DRF con una aplicación React 18 delante, entregados como un solo sistema: suscripciones y facturación, el portal para empleadores con su propia gestión de plazas, el marketplace de telemedicina sobre el Zoom Video SDK, las funciones de comunidad, gamification y un back office administrativo completo para el equipo editorial.

El motor de recomendación

Un híbrido, no un modelo puro. De un check-in estructurado resulta una evaluación por niveles del estado del sistema nervioso, y esa nota dirige un muestreo ponderado de un catálogo, en lugar de una lista estática ordenada - así que el contexto le gana a la popularidad, y dos personas en estados distintos nunca reciben la misma respuesta solo porque un elemento esté en general bien valorado. Los slots de descubrimiento, con un cooldown, impiden que el catálogo se colapse sobre los mismos veinte elementos, y el hot path evita por completo el ORM, porque se ejecuta en cada pantalla.

Dos proveedores de IA están detrás de una sola abstracción, conmutables desde el admin, con caché de respuestas para mantener predecible el coste por usuario. La elección de proveedor es una decisión de configuración, no de arquitectura - lo cual importó ese mismo año, cuando cambiaron los precios.

Retrieval que se mantiene anclado

Aproximadamente treinta mil soluciones distintas se extrajeron de unos noventa y cinco libros y se indexaron para retrieval. El anclaje es la clave de todo: el sistema responde desde ese corpus, no desde la impresión general de un modelo sobre los consejos de wellness. La ponderación según la adecuación en situaciones de crisis mantiene las sugerencias inapropiadas lejos de los estados graves, los topes de diversidad impiden que una sola fuente domine, y un índice de nutrición en lista blanca impide que el modelo se desvíe hacia consejos médicos que no le corresponde dar.

El coach conversacional de encima tiene memoria persistente entre sesiones, un controlador de cadencia que empuja la conversación hacia una acción concreta en lugar de dejarla vagar agradablemente, y una máquina de estados de moderación con tres avisos para el contenido que debería poner fin al intercambio y derivarlo a otra parte.

La parte de la que estoy más orgullosa

Nada de lo anterior vale nada como simple afirmación. Así que construí un harness Monte Carlo que genera usuarios sintéticos con estados variados y adversariales y los pasa por el motor real.

Ciento veinte mil sesiones en dos ejecuciones, comprobando dos propiedades: que ninguna sesión en estado de crisis recibe nunca una recomendación inapropiada y que ningún elemento del catálogo es inalcanzable - una tarjeta muerta es contenido que escribió alguien y que no verá nadie. Las dos se cumplieron.

El harness está expuesto como una acción de un solo clic en el admin, así que el equipo editorial lo vuelve a ejecutar después de cada cambio de contenido, en lugar de esperar a un ingeniero. Esa es la parte que lo convierte en una propiedad de seguridad y no en una captura de pantalla del día del lanzamiento: lo comprueban las personas que lo pueden romper, justo en el momento en el que lo podrían romper.

Una funcionalidad de IA que no ha medido nadie no es una funcionalidad. Es un riesgo sin presupuestar que queda muy bien en una demo.

Comercio y cumplimiento

Suscripciones Stripe con un motor bilingüe de planes y descuentos editable desde el admin, facturación electrónica con emisión automática y suspensión por impago, un motor de comisiones para embajadores de varios niveles, diez integraciones con wearables por OAuth y scoring de leads que combina reglas, un modelo y una pasada por IA.

Lo que haría de otra manera

Escribiría el harness de evaluación antes del motor, no poco después. Construí el recomendador y después construí lo que lo demuestra - y perdí una semana modificando el recomendador para poder probarlo. Si hubiera partido de "¿qué voy a tener que demostrar sobre esto?", el diseño habría salido mejor y una semana antes.