ஒரு AI கட்டமைப்பை உருவாக்குவதற்கான சரியான வழி

எனது AI உதவியாளரை (AI assistant) புத்திசாலியாக மாற்றுவது என்பது ஒரே லூப்பிற்குள் (loop) அதிக கருவிகளைச் சேர்ப்பது என்று நான் முன்பு நினைத்தேன். அது ஒரு குறிப்பிட்ட காலம் வரை வேலை செய்தது. ஆனால், பிறகு எனது உதவியாளர் சாட்டிலிருந்து ஒரு பணியைத் தொடர்வது, ஒரு நிலை (status) குறித்த கேள்விக்கு பதிலளிப்பது அல்லது ஒரு பணிப்பாய்வை (workflow) நினைவில் கொள்வது போன்ற சாதாரண பயனர் பணிகளைச் செய்ய வேண்டியிருந்தது.

பிரச்சனை எனது உதவியாளர் எத்தனை கருவிகளைப் பயன்படுத்த முடியும் என்பதில் இல்லை, மாறாக அதன் கட்டமைப்பில் (architecture) இருந்தது. பழைய கட்டமைப்பு எளிமையாக இருந்தது: பயனர் செய்தி -> உதவியாளர் லூப் -> கருவிகள் -> பதில். இது ஒரு டெமோவிற்கு (demo) போதுமானது, ஆனால் ஒரு ரெசிடென்ட் உதவியாளருக்கு (resident assistant) ஏற்றதல்ல.

ஒரு ரெசிடென்ட் உதவியாளர், ஒரு செய்தி புதிய பணியா, தொடர்ச்சியான ஒன்றா அல்லது ரத்து செய்யப்பட்ட ஒன்றா என்பதைத் தெரிந்து கொள்ள வேண்டும். அது மற்றொரு பணியிலிருந்து டெஸ்க்டாப்பை (desktop) ஆக்கிரமிப்பதைத் தவிர்க்க வேண்டும் மற்றும் பழைய உரையாடல் பதிவுகளைப் (transcripts) பயன்படுத்தாமல் நடைமுறைகளை நினைவில் கொள்ள வேண்டும்.

எனவே, எனது உதவியாளரை ஒரு ஏஜென்ட் (agent) என்று நினைப்பதை நிறுத்திவிட்டு, அதை ஒரு லோக்கல் கண்ட்ரோல் பிளேன் (local control plane) போலக் கருதத் தொடங்கினேன். இப்போது எனது கட்டமைப்பு இவ்வாறு உள்ளது:

என்னிடமும் ஒரு Observation Plane மற்றும் ஒரு Memory / Policy Plane ஆகியவையும் உள்ளன. இந்த பிளேன் (planes) எனது உதவியாளர் குழப்பமடையாமல் அதன் பணிகளில் கவனம் செலுத்த உதவுகின்றன.

எனது உதவியாளர் மூலத் தரவுகளை (raw logs) பயன்படுத்துவதற்குப் பதிலாக, அவதானிப்புகளை (observations) பயன்படுத்துமாறு மாற்றியதே மிகப்பெரிய முன்னேற்றத்தைத் தந்தது. இது ஒரு பெரிய உரையாடல் பதிவைப் படிப்பதற்குப் பதிலாக, "பணி X ஒப்புதலுக்காகக் காத்திருக்கிறது" போன்ற சுருக்கமான உண்மைகளைக் காண எனது உதவியாளருக்கு உதவுகிறது.

"நினைவில் கொள்வது" என்பது ஒரு பிராம்ப்ட்டிற்குள் (prompt) அதிக சாட் வரலாற்றை திணிப்பது போன்றது அல்ல என்பதை நான் கற்றுக்கொண்டேன். எனது உதவியாளரைப் பொறுத்தவரை, நினைவகம் (memory) கோப்பு அடிப்படையிலானது (file-based) மற்றும் குறிப்பிட்ட எல்லைக்குட்பட்டது (scoped). இது ஒரு பணிப்பாய்வு (workflow), ஒரு உண்மை அல்லது ஒரு குறிப்பினைச் சேமித்து வைத்துத் தேவைப்படும்போது அதை மீட்டெடுக்க முடியும்.

நீங்கள் ஏற்கனவே உள்ள கருவிகளைச் சுற்றி ஏஜென்ட்களை உருவாக்கி வருகிறீர்கள் என்றால், அனைத்தையும் ஒரே லூப்பிற்குள் வைக்கிறீர்களா அல்லது கட்டுப்பாடு (control), செயல்பாடு (execution), அவதானிப்பு (observation) மற்றும் நினைவகம் (memory) ஆகியவற்றையும் பிரிக்கத் தொடங்கியுள்ளீர்களா?

Source: https://dev.to/codekingai/my-ai-assistant-needed-a-control-plane-not-a-bigger-loop-15aa Optional learning community: https://t.me/GyaanSetuAi