Ваш ШІ здається повільним? Можливо, він не тупий.

ШІ часто здається повільним, тому що він виконує лише одне завдання за раз. Він стоїть у черзі. Ви чекаєте, поки завершиться один модуль, перш ніж почнеться наступний.

Ви можете виправити це, використовуючи паралельних агентів.

Багато модулів не залежать один від одного. Якщо їх розділити, кілька агентів зможуть працювати одночасно. Ви виконаєте той самий обсяг роботи набагато швидше.

Ось як побудувати паралельний робочий процес ШІ:

  1. Спочатку виправте архітектуру Паралелізм потребує чистого дизайну. Ваші модулі мають бути слабо пов'язаними (loosely coupled). Вони повинні взаємодіяти через чіткі інтерфейси. Якщо ви нав'яжете паралелізм заплутаному коду, ви створите вузол помилок. Використовуйте ШІ на етапі проектування, щоб спланувати ці інтерфейси.

  2. Призначайте конкретні ролі Використовуйте різні моделі для різних завдань, щоб заощадити час і гроші:

  • Lead (Opus): керує загальною картиною, розподіляє роботу та проводить фінальні перевірки.
  • Planner (Sonnet): займається розробкою через тестування (TDD) та планами впровадження.
  • Worker (Haiku): пише безпосередньо код і запускає тести.

  1. Встановіть межі Більше агентів — не завжди краще. Я пробував запустити 10 агентів одночасно, але моєму комп'ютеру забракло пам'яті. Я зменшив кількість до 5 агентів. Це дало мені 10-кратне прискорення у поєднанні з іншими завданнями. Підбирайте рівень паралелізму відповідно до можливостей вашого обладнання та ваших квот.

  2. Використовуйте Lead для перевірки Не наймайте окремого агента для перевірки роботи. Цьому агенту доведеться вивчати все завдання з нуля, що марнує токени. Нехай перевірку робить агент Lead. Він уже знає, що саме він призначив, тому може перевірити роботу швидше та точніше.

  3. Уникайте непотрібного розділення Деякі завдання мають виконуватися послідовно. Якщо ви примусово розділите тісно пов'язані модулі, якість впаде. Скажіть своєму ШІ: "Ці модулі пов'язані, не намагайся їх розділити".

Як почати вже сьогодні:

  • Додайте "Parallelize when you can" до ваших глобальних інструкцій.
  • Збільште максимальну кількість одночасних суб-агентів у ваших налаштуваннях.
  • Нагадуйте ШІ про паралелізацію щоразу, коли даєте завдання.

Джерело: https://dev.to/kanfu-panda/your-ai-feels-slow-maybe-its-not-dumb-youre-making-it-work-one-thing-at-a-time-3ipl

Додаткова спільнота для навчання: https://t.me/GyaanSetuAi