ஹார்னஸ் இன்ஜினியரிங்கிற்கு நிலையான முகவரி என்று எதுவும் இல்லை
ஹார்னஸ் இன்ஜினியரிங் (Harness engineering) என்பது உங்கள் மென்பொருள் அடுக்குகளில் (software stack) இருக்கும் ஒரு இடம் அல்ல. அது உங்கள் குறியீட்டின் (code) ஒரு பண்பு.
ஹார்னஸ் என்பது ஒரு AI மாடலைச் சுற்றியுள்ள ஒரு உறை (wrapper) மட்டுமே என்று பலர் நினைக்கிறார்கள். இது தவறு. ஒரு மாடலை உண்மையான வணிகத்திற்குப் பயனுள்ளதாக மாற்றுவதுதான் அந்த ஹார்னஸ்.
நான் ஒரு எளிய சூத்திரத்தைப் பயன்படுத்துகிறேன்: Agent = Model × Harness.
மாடல் என்பது இயந்திரம் (engine). ஹார்னஸ் என்பது ஸ்டீயரிங், பிரேக்குகள் மற்றும் பாதுகாப்புத் தடுப்புகள் (safety rails).
ஆனால் இங்கேதான் பிரச்சனை உள்ளது. மாடல் தொடர்ந்து வளர்ந்து கொண்டே இருக்கிறது. ஒவ்வொரு புதிய மாடல் பதிப்பும் ஹார்னஸின் சில பகுதிகளைத் தன்னுடன் இணைத்துக் கொள்கிறது.
- ரீசனிங் மாடல்கள் (Reasoning models) இப்போது chain-of-thought தர்க்கங்களைக் கையாளுகின்றன.
- சிறந்த மாடல்கள் கருவிகளைப் பயன்படுத்துவதை (tool use) இயல்பாகவே (natively) கையாளுகின்றன.
- நீண்ட கான்டெக்ஸ்ட் விண்டோக்கள் (Long context windows) பழைய நினைவக அமைப்புகளை (memory systems) மாற்றியமைக்கின்றன.
மாடல் ஹார்னஸையே விழுங்கிவிட்டால், நீங்கள் உருவாக்குவதற்கு என்ன மிஞ்சும்?
கரைந்து போகும் பகுதிகள் மெக்கானிக்ஸ் (mechanics) சார்ந்தவை. லூப்கள் (loops), மறுமுயற்சிகள் (retries) மற்றும் மெமரி ஸ்டிச்சிங் (memory stitching) போன்றவை பொதுவானப் பொருட்களாக (commodities) மாறிவிடும். குழாய் அமைப்புகளை (plumbing) உருவாக்குவதில் உங்கள் வாழ்க்கையைத் பந்தயம் கட்டாதீர்கள்.
நிலைத்திருக்கும் பகுதிகள் விவரக்குறிப்பு (specification) மற்றும் சரிபார்ப்பு (verification) ஆகும்.
- Specification (விவரக்குறிப்பு): ஒரு ஏஜென்ட் எதைச் செய்ய அனுமதிக்கப்படுகிறது என்பதை நீங்கள் வரையறுக்க வேண்டும். உங்கள் குறிப்பிட்ட ரீஃபண்ட் கொள்கை (refund policy) அல்லது உங்கள் இடர் தாங்கும் திறன் (risk tolerance) பற்றி ஒரு மாடலால் தெரிய முடியாது. அது உங்கள் குறியீட்டில் (code) இருக்கும்.
- Verification (சரிபார்ப்பு): ஏஜென்ட் உங்கள் விதிகளுக்குள் இருந்தது என்பதை நீங்கள் நிரூபிக்க வேண்டும். ஒரு மாடலால் தன்னைத்தானே நம்பகமான முறையில் மதிப்பிட முடியாது. வேலையைச் சரிபார்க்க உங்களுக்கு ஒரு வெளிப்புற அடுக்கு (external layer) தேவை.
ஒரு ரீஃபண்ட் ஏஜென்ட்டைப் பற்றி யோசியுங்கள்.
நீங்கள் ரீஃபண்ட் வரம்பை ஒரு பிராம்ப்ட்டில் (prompt) வைத்தால், ஒரு பயனர் மாடலை ஏமாற்ற முடியும். அந்த வரம்பை உங்கள் குறியீட்டில் உள்ள ஒரு if-statement-இல் வைத்தால், மாடலால் அதை எதிர்க்க முடியாது.
அந்த if-statement தான் ஹார்னஸ் இன்ஜினியரிங்.
ஹார்னஸ் இன்ஜினியரிங் என்பது இரண்டு விஷயங்களைப் பற்றியது:
- அனுமதிக்கப்பட்ட நடத்தையின் எல்லையை (envelope of allowed behavior) வரையறுத்தல்.
- ஏஜென்ட் அதன் உள்ளேயே இருந்தது என்பதை நிரூபித்தல்.
மாடல் என்பது நீங்கள் கட்டுப்படுத்தும் தாவரம் (plant). விவரக்குறிப்பு (specification) என்பது உங்கள் இலக்கு. ஹார்னஸ் என்பது கட்டுப்படுத்தி (controller). மதிப்பீடுகள் (evaluations) என்பது பின்னூட்டம் (feedback).
கருவிகளும் மெக்கானிக்ஸும் ஒவ்வொரு மாதமும் மாறும். விவரக்குறிப்பு மற்றும் சரிபார்ப்பு சார்ந்த ஒழுக்கம் மாறாது.
குழாய் அமைப்புகளை உருவாக்குவதை நிறுத்துங்கள். கட்டுப்பாடுகள் (constraints) மற்றும் நிரூபணங்களை (proofs) உருவாக்கத் தொடங்குங்கள்.
Source: https://dev.to/saurav_bhattacharya/harness-engineering-has-no-fixed-address-2m7a
விருப்பமான கற்றல் சமூகம்: https://t.me/GyaanSetuAi