Da Docusaurus a WordPress: tre modi per costruire una chat AI

Ho costruito tre diverse architetture di chat AI. Ognuna risolve un problema differente.

L'obiettivo non è trovare la tecnologia migliore. L'obiettivo è abbinare la tecnologia al tuo utente target.

1. L'indice statico (Docusaurus + Vercel) Questo approccio utilizza un file JSON all'interno di un sito statico. Una fase di build trasforma i tuoi file markdown in un unico indice. La ricerca viene eseguita in memoria utilizzando una funzione serverless.

• Ideale per: Siti di documentazione di tua proprietà. • Pro: Nessuna infrastruttura extra. È veloce ed economico. • Contro: Non è scalabile. Funziona solo per piccole quantità di testo.

2. Il servizio scalabile (Neon + pgvector) Questo utilizza un database Postgres con supporto vettoriale. Utilizza una vera ricerca semantica per trovare i dati rapidamente.

• Ideale per: Prodotti SaaS con molti utenti. • Pro: Gestisce enormi quantità di dati. Supporta account multi-utente e cronologia. • Contro: Richiede un'infrastruttura gestita e maggiore lavoro operativo.

3. Il plugin "drop-in" (WordPress) Questa versione inserisce i vettori direttamente nel database di WordPress. Utilizza PHP per eseguire una ricerca brute-force sui frammenti di testo.

• Ideale per: Client che desiderano un semplice plugin WordPress. • Pro: Nessuna configurazione extra. Funziona su qualsiasi host WordPress. Rimane all'interno del database del sito. • Contro: È più lento per dataset molto grandi.

Punti chiave:

  • Abbina l'architettura al deployment. Un plugin WordPress che richiede un database separato non è un plugin utile.
  • Inizia in piccolo. Un indice JSON statico dimostra che la tua esperienza utente funziona prima di costruire database complessi.
  • La ricerca brute-force va bene per i piccoli siti. Per qualche migliaio di passaggi, è abbastanza veloce. Non utilizzare motori vettoriali complessi finché non è strettamente necessario.
  • Mantieni il codice flessibile. Usa un'interfaccia per il tuo vector store. Questo ti permette di passare da JSON a Postgres senza riscrivere la tua applicazione.
  • La sicurezza è importante. Crittografa le chiavi API a ogni livello. Utilizza un modello "bring-your-own-key" in modo da non gestire dati sensibili degli utenti.

Fonte: https://dev.to/kaidanov/from-docusaurus-mai-to-a-wordpress-ai-chat-with-vectors-41ba