Créez un cerveau IA privé sur votre ordinateur portable

Créez un cerveau IA privé sur votre ordinateur portable

Vous n'avez pas besoin d'un abonnement mensuel de 20 $ pour posséder une IA puissante. Vous pouvez construire un cerveau privé sur votre propre matériel.

J'ai construit cela sur un vieil ordinateur portable Windows sans GPU. Cela n'a coûté que 0 $ en logiciels. Tout est open source.

Votre IA privée fait quatre choses :

• S'exécute localement sans que vos données ne quittent votre machine.
• Recherche dans vos propres fichiers comme des PDF et des notes.
• Répond à des questions basées sur vos documents.
• Fonctionne via un bot Telegram sur votre téléphone.

Le système comporte cinq couches :

1. Fondation : Ollama exécute les modèles. Docker exécute les services.
2. Mémoire : Qdrant stocke vos données. PostgreSQL les suit.
3. Intelligence : le RAG parcourt votre mémoire pour répondre aux questions.
4. Automatisation : un dossier de surveillance (watcher) apprend automatiquement les nouveaux fichiers.
5. Agents : des travailleurs autonomes qui effectuent des recherches et écrivent pour vous.

Comment commencer :

Étape 1 : Installez Ollama. Allez sur ollama.com. Exécutez ces commandes dans votre terminal :

• ollama pull llama3.2:3b (départ rapide)
• ollama pull mistral:7b (mise à niveau plus intelligente)
• ollama pull nomic-embed-text (pour la mémoire)

Étape 2 : Configurez Docker. Téléchargez Docker Desktop sur docker.com. Utilisez un fichier docker-compose pour exécuter Open WebUI, Qdrant et Postgres. Cela vous donne une interface de chat sur localhost:8080.

Étape 3 : Construisez la mémoire. Utilisez Python pour analyser vos fichiers. Lorsque vous déposez un PDF dans un dossier, le système :

• Extrait le texte.
• Le divise en segments (chunks).
• Convertit le texte en nombres (embeddings).
• Le stocke dans Qdrant.

Maintenant, vous pouvez demander : « Que disait mon contrat concernant les paiements ? » L'IA trouve la note spécifique et répond.

Conseils réels tirés de mes échecs :

• Utilisateurs Windows : si Docker plante, exécutez wsl --shutdown dans PowerShell.
• Utilisateurs Windows : n'utilisez pas network_mode: host. Utilisez le mappage de ports.
• Évitez les plantages : si votre script utilise des emojis, ajoutez sys.stdout.reconfigure(encoding="utf-8") à votre code.
• Fiabilité : ajoutez toujours un connect_timeout à vos connexions de base de données.

Construisez-le par étapes.

• Semaine 1 : Configurez la fondation et la mémoire.
• Semaine 2 : Ajoutez l'automatisation et Telegram.
• Semaine 3 : Déployez des agents de recherche.

Votre système devient plus intelligent chaque fois que vous ajoutez un fichier. Il travaille pendant que vous dormez.

Source: https://dev.to/theonaiao/build-a-private-ai-brain-on-your-laptop-458f

Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi