શું તમારું AI ધીમું લાગે છે? કદાચ તે મૂર્ખ નથી.
AI ઘણીવાર ધીમું લાગે છે કારણ કે તે એક સમયે એક જ કાર્ય પર કામ કરે છે. તે કતાર (queue) માં રહે છે. એક મોડ્યુલ પૂરું થાય તેની રાહ જોવી પડે છે અને પછી જ બીજું શરૂ થાય છે.
તમે પેરેલલ એજન્ટ્સ (parallel agents) નો ઉપયોગ કરીને આ સુધારી શકો છો.
ઘણા મોડ્યુલ્સ એકબીજા પર નિર્ભર હોતા નથી. જો તમે તેમને વિભાજિત કરો છો, તો એકસાથે અનેક એજન્ટ્સ કામ કરી શકે છે. તમે તે જ કામ ઘણો ઓછો સમય માં પૂરું કરી શકો છો.
પેરેલલ AI વર્કફ્લો (parallel AI workflow) કેવી રીતે બનાવવો તે અહીં છે:
સૌ પ્રથમ તમારી આર્કિટેક્ચર (architecture) નક્કી કરો પેરેલેલિઝમ (Parallelism) માટે સ્વચ્છ ડિઝાઈનની જરૂર છે. તમારા મોડ્યુલ્સ 'લૂઝલી કપલ્ડ' (loosely coupled) હોવા જોઈએ. તેઓ સ્પષ્ટ ઇન્ટરફેસ (interfaces) દ્વારા વાતચીત કરવા જોઈએ. જો તમે અસ્તવ્યસ્ત કોડ પર પેરેલેલિઝમ થોપશો, તો તમે ભૂલોનું જાળું બનાવી દેશો. આ ઇન્ટરફેસનું આયોજન કરવા માટે ડિઝાઇન ફેઝ દરમિયાન AI નો ઉપયોગ કરો.
ચોક્કસ ભૂમિકાઓ સોંપો સમય અને પૈસા બચાવવા માટે વિવિધ કાર્યો માટે વિવિધ મોડલ્સનો ઉપયોગ કરો:
- ધ લીડ (The Lead - Opus): મુખ્ય ચિત્રનું સંચાલન કરે છે, કામ સોંપે છે અને અંતિમ તપાસ કરે છે.
- ધ પ્લાનર (The Planner - Sonnet): ટેસ્ટ-ડ્રિવન ડેવલપમેન્ટ (TDD) અને અમલીકરણ યોજનાઓ સંભાળે છે.
- ધ વર્કર (The Worker - Haiku): વાસ્તવિક કોડ લખે છે અને ટેસ્ટ ચલાવે છે.
તમારી મર્યાદાઓ નક્કી કરો વધુ એજન્ટ્સ હંમેશા સારા હોતા નથી. મેં એકસાથે 10 એજન્ટ્સ સેટ કરવાનો પ્રયાસ કર્યો, પરંતુ મારી મશીનની મેમરી ખૂટી ગઈ. હું 5 એજન્ટ્સ પર આવી ગયો. અન્ય કાર્યો સાથે જોડતા આનાથી મને 10x ઝડપ મળી. તમારી કન્કરન્સી (concurrency) ને તમારા મશીન અને તમારા ક્વોટા (quota) મુજબ સેટ કરો.
રિવ્યુ માટે લીડ (Lead) નો ઉપયોગ કરો કામનું રિવ્યુ કરવા માટે અલગ એજન્ટ રાખશો નહીં. તે એજન્ટને આખું કાર્ય શરૂઆતથી શીખવું પડે છે, જેનાથી ટોકન્સ (tokens) વેડફાય છે. લીડ એજન્ટને જ રિવ્યુ કરવા દો. તે પહેલેથી જ જાણે છે કે તેણે શું સોંપ્યું છે, તેથી તે કામ ઝડપથી અને વધુ સચોટ રીતે તપાસી શકે છે.
બિનજરૂરી વિભાજન ટાળો કેટલાક કાર્યો ક્રમમાં જ રહેવા જોઈએ. જો તમે 'ટાઈટલી કપલ્ડ' (tightly coupled) મોડ્યુલ્સ પર વિભાજન કરવા માટે દબાણ કરશો, તો ગુણવત્તા ઘટી જશે. તમારા AI ને કહો: "These modules are coupled, do not force a split."
આજે કેવી રીતે શરૂ કરવું:
- તમારા ગ્લોબલ ઇન્સ્ટ્રક્શન્સમાં "Parallelize when you can" ઉમેરો.
- તમારી સેટિંગ્સમાં તમારા મેક્સ કન્કરન્ટ સબ-એજન્ટ્સ (max concurrent subagents) વધારો.
- જ્યારે પણ તમે કોઈ કાર્ય આપો ત્યારે AI ને પેરેલલાઈઝ કરવા માટે યાદ અપાવો.
વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi