J'ai remplacé 1 000 lignes de Python par un prompt de 500 mots

Mon wiki de documentation était un désordre total. Les pages n'avaient pas de tags. Les livres étaient sur les mauvaises étagères. Les métadonnées étaient obsolètes. J'ai essayé d'écrire des règles, mais je n'avais pas le temps de les appliquer.

J'ai essayé de construire un agent IA pour régler cela.

La version 1 était un service Python. J'ai écrit 1 000 lignes de code. J'ai construit un moteur de règles, un wrapper d'API et une logique de retry. Cela a échoué. Cela coûtait de l'argent à chaque exécution. Cela cachait même des bugs dans mon propre code.

Je me suis rendu compte que je reconstruisais les outils que j'avais déjà payés.

La version 2 est différente. J'utilise un simple Kubernetes CronJob. Le conteneur exécute un outil IA en ligne de commande. La logique réside dans un prompt de 500 mots.

Cette configuration fonctionne mieux parce que :

• Elle ne coûte rien par exécution. Elle utilise mon abonnement existant au lieu de clés API coûteuses. • Elle fait preuve d'un meilleur jugement. Elle signale les problèmes potentiels au lieu d'effectuer des modifications désordonnées. • Elle est plus facile à gérer. Mon code est passé de 1 000 lignes à 50 lignes de script shell.

Comment donner un accès en écriture à une IA en toute sécurité :

  • Utilisez deux niveaux d'action. Le niveau 1 est destiné aux corrections évidentes, comme les fautes de frappe. Le niveau 2 est destiné aux décisions nécessitant du jugement. Pour le niveau 2, l'agent suggère seulement une modification. Il ne touche jamais aux données.
  • Forcez une auto-révision. Le prompt demande à l'agent : « Un humain s'opposerait-il à cette modification ? ». Si la réponse est oui, l'agent s'arrête.
  • Appuyez-vous sur les boutons d'annulation. N'utilisez ce modèle que sur des systèmes disposant d'un historique de versions. Si l'agent commet une erreur, un seul clic suffit pour la corriger. La réversibilité est plus importante que des permissions strictes.

Leçons apprises :

  1. Les prompts sont du code. Traitez votre prompt comme un module logiciel. Gardez-le dans Git et révisez-le régulièrement.
  2. Oubliez l'orchestration complexe. Si votre code ne gère que les tentatives et le routage, vous construisez un simple harnais. Livrez plutôt un prompt et un calendrier d'exécution.
  3. L'économie modifie votre conception. Lorsque les exécutions sont gratuites, vous n'avez pas besoin de code complexe pour suivre les petites modifications. Vous pouvez simplement tout rescanner.

Le wiki est désormais propre. Le bibliothécaire ne dort jamais et ne m'envoie jamais de facture.

Source: https://dev.to/saltxd/i-replaced-1000-lines-of-python-with-a-500-word-prompt-29ao

Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi