Open Interpreter ਡਿਵੈਲਪਰਾਂ ਨੂੰ large language models ਨੂੰ local agents ਵਿੱਚ ਬਦਲਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ ਜੋ ਡਿਵੈਲਪਰ ਦੀ ਮਸ਼ੀਨ 'ਤੇ ਕੋਡ ਚਲਾਉਂਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਇੱਕ text-only chatbot ਇੱਕ ਅਜਿਹੇ autonomous tool ਵਿੱਚ ਬਦਲ ਜਾਂਦਾ ਹੈ ਜੋ ਅਸਲ ਵਿੱਚ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਤਬਦੀਲੀ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਇਹ ਮਹਿੰਗੀ ਅਤੇ privacy-sensitive processing ਨੂੰ cloud ਤੋਂ ਉੱਠਾ ਕੇ ਯੂਜ਼ਰ ਦੇ ਕੰਪਿਊਟਰ 'ਤੇ ਲੈ ਆਉਂਦੀ ਹੈ, ਜਿਸ ਨਾਲ SaaS ਬਿਲਡਰਾਂ ਨੂੰ ਰਿਮੋਟ ਸਰਵਰਾਂ 'ਤੇ ਡਾਟਾ ਐਕਸਪੋਜ਼ ਕੀਤੇ ਬਿਨਾਂ ਅਸਲ-ਦੁਨੀਆ ਦੀ execution ਜੋੜਨ ਦਾ ਤਰੀਕਾ ਮਿਲਦਾ ਹੈ।

Local execution ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਅੱਜਕੱਲ੍ਹ ਜ਼ਿਆਦਾਤਰ AI products ਸਿਰਫ਼ text generate ਕਰਨ ਤੱਕ ਹੀ ਸੀਮਤ ਹਨ। ਇੱਕ model ਇੱਕ function ਸੁਝਾ ਸਕਦਾ ਹੈ, ਪਰ ਕੋਡ ਕਦੇ ਵੀ prompt ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਜਾਂਦਾ। ਇਹ ਉਹਨਾਂ ਚੀਜ਼ਾਂ ਲਈ ਉਪਯੋਗਤਾ ਨੂੰ ਸੀਮਤ ਕਰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ files ਨੂੰ ਛੂਹਣ, tests ਚਲਾਉਣ, ਜਾਂ repository ਨੂੰ ਮੋਡੀਫਾਈ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। Open Interpreter ਇੱਕ LLM ਨੂੰ shell commands ਜਾਰੀ ਕਰਨ, scripts ਲਿਖਣ ਅਤੇ ਉਹਨਾਂ ਨੂੰ host system 'ਤੇ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦੇ ਕੇ ਉਸ ਖਾਲੀਪਨ ਨੂੰ ਭਰਦਾ ਹੈ। Next.js ਜਾਂ TypeScript services ਬਣਾਉਣ ਵਾਲੇ ਡਿਵੈਲਪਰਾਂ ਲਈ, local environment ਨੂੰ ਕਾਲ ਕਰਨ ਦੀ ਸਮਰੱਥਾ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਇੱਕ “assistant” cloud API ਤੱਕ round-trip ਕੀਤੇ ਬਿਨਾਂ components ਨੂੰ scaffold ਕਰ ਸਕਦਾ ਹੈ ਜਾਂ tests ਚਲਾ ਸਕਦਾ ਹੈ।

ਇਸ tool ਦੀ ਵਰਤੋਂ ਕਰਨ ਦੇ ਵਿਹਾਰਕ ਤਰੀਕੇ

  • Local data processing – ਇੱਕ agent ਯੂਜ਼ਰ ਦੇ ਕੰਪਿਊਟਰ 'ਤੇ CSV ਖੋਲ੍ਹ ਸਕਦਾ ਹੈ, ਸੁਧਾਰ (fixes) ਲਾਗੂ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਨਤੀਜਾ ਸੇਵ ਕਰ ਸਕਦਾ ਹੈ। ਕਿਉਂਕਿ ਫਾਈਲ ਕਦੇ ਵੀ device ਤੋਂ ਬਾਹਰ ਨਹੀਂ ਜਾਂਦੀ, ਇਸ ਲਈ server costs ਘਟ ਜਾਂਦੀਆਂ ਹਨ ਅਤੇ privacy ਬਣੀ ਰਹਿੰਦੀ ਹੈ।
  • Developer tooling – ਇੱਕ local Git repository ਨਾਲ interface ਕਰਕੇ, agent command 'ਤੇ ਨਵੇਂ components ਬਣਾ ਸਕਦਾ ਹੈ, unit tests ਚਲਾ ਸਕਦਾ ਹੈ, ਜਾਂ ਬਦਲਾਅ commit ਕਰ ਸਕਦਾ ਹੈ। Workflow ਡਿਵੈਲਪਰ ਦੇ IDE ਦੇ ਅੰਦਰ ਰਹਿੰਦਾ ਹੈ, ਨਾ ਕਿ ਕਿਸੇ remote sandbox ਵਿੱਚ।
  • User support – ਜਦੋਂ ਕੋਈ ਗਾਹਕ setup ਦੀ ਸਮੱਸਿਆ ਦੀ ਰਿਪੋਰਟ ਕਰਦਾ ਹੈ, ਤਾਂ assistant diagnostic scripts ਲਾਂਚ ਕਰ ਸਕਦਾ ਹੈ, logs ਕੈਪਚਰ ਕਰ ਸਕਦਾ ਹੈ, ਅਤੇ ਸਿੱਧੇ ਯੂਜ਼ਰ ਦੀ ਮਸ਼ੀਨ 'ਤੇ ਸੁਧਾਰ ਸੁਝਾ ਸਕਦਾ ਹੈ।

ਉਹ ਰੁਕਾਵਟਾਂ ਜਿਨ੍ਹਾਂ 'ਤੇ ਅਜੇ ਕੰਮ ਕਰਨ ਦੀ ਲੋੜ ਹੈ

  • Security – ਇੱਕ LLM ਨੂੰ ਕੋਡ ਚਲਾਉਣ ਦੀ ਇਜਾਜ਼ਤ ਦੇਣਾ ਇੱਕ privileged operation ਹੈ। Implementers ਨੂੰ interpreter ਨੂੰ sandbox ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਯੂਜ਼ਰ ਦੀ ਸਪੱਸ਼ਟ ਸਹਿਮਤੀ ਦੀ ਲੋੜ ਹੋਣੀ ਚਾਹੀਦੀ ਹੈ, ਅਤੇ ਕਿਸੇ ਵੀ ਅਜਿਹੇ command ਨੂੰ ਰੋਕਣਾ ਚਾਹੀਦਾ ਹੈ ਜੋ ਇਜਾਜ਼ਤ ਤੋਂ ਬਿਨਾਂ system ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੋਵੇ।
  • User experience – ਯੂਜ਼ਰਾਂ ਨੂੰ agent ਦੁਆਰਾ ਚਲਾਏ ਜਾਣ ਦੀ ਯੋਜਨਾ ਬਣਾਏ ਗਏ ਹਰ command ਨੂੰ ਦੇਖਣ ਦੀ ਲੋੜ ਹੈ ਅਤੇ ਉਹਨਾਂ ਕੋਲ ਮਨਜ਼ੂਰੀ ਦੇਣ ਜਾਂ ਰੱਦ ਕਰਨ ਦਾ ਇੱਕ ਸੌਖਾ ਤਰੀਕਾ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਸ ਤੋਂ ਬਿਨਾਂ, ਭਰੋਸਾ ਜਲਦੀ ਖਤਮ ਹੋ ਜਾਂਦਾ ਹੈ।
  • State management – Web app ਨੂੰ local agent ਨਾਲ ਇੱਕ ਭਰੋਸੇਯੋਗ ਚੈਨਲ ਬਣਾਈ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ, ਜੋ asynchronous responses, errors, ਅਤੇ retries ਨੂੰ ਸੰਭਾਲ ਸਕੇ। ਇੱਕ ਟੁੱਟਿਆ ਹੋਇਆ state loop ਯੂਜ਼ਰ ਨੂੰ ਇੱਕ hung process ਦੇ ਨਾਲ ਛੱਡ ਸਕਦਾ ਹੈ।
  • Deployment logistics – Browser-based front end ਨੂੰ OS ਨਾਲ ਜੋੜਨ ਦਾ ਮਤਲਬ ਆਮ ਤੌਰ 'ਤੇ Electron ਜਾਂ ਕਿਸੇ ਸਮਾਨ runtime ਨਾਲ app ਨੂੰ package ਕਰਨਾ ਹੁੰਦਾ ਹੈ। ਇਹ size ਅਤੇ maintenance overhead ਵਧਾਉਂਦਾ ਹੈ, ਪਰ ਇਹ ਇੱਕ native bridge ਲਈ ਸਭ ਤੋਂ ਸਿੱਧਾ ਰਸਤਾ ਹੈ।

ਉਹ trade-off ਜਿਸ ਨੂੰ ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਤੋਲਣ ਦੀ ਲੋੜ ਹੈ

Open Interpreter ਇੱਕ SaaS product ਕੀ ਕਰ ਸਕਦਾ ਹੈ, ਇਸ ਦਾ ਦਾਇਰਾ ਵਧਾਉਂਦਾ ਹੈ।

ਅੱਗੇ ਕੀ ਦੇਖਣਾ ਹੈ

Takeaway: Open Interpreter ਇੱਕ language model ਨੂੰ ਇੱਕ ਵਰਤੋਂ ਯੋਗ, on-device worker ਵਿੱਚ ਬਦਲ ਦਿੰਦਾ ਹੈ, ਜੋ privacy-preserving automation ਲਈ ਠੋਸ ਰਸਤੇ ਖੋਲ੍ਹਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਸਖ਼ਤ security ਅਤੇ UI design ਦੀ ਮੰਗ ਕਰਦਾ ਹੈ। ਇਸ ਨੂੰ ਅਪਣਾਉਣ ਦਾ ਫੈਸਲਾ ਇਸ ਗੱਲ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਕਿ ਕੀ ਵਧੀ ਹੋਈ ਸਮਰੱਥਾ engineering overhead ਨੂੰ ਜਾਇਜ਼ ਠਹਿਰਾਉਂਦੀ ਹੈ ਜਾਂ ਨਹੀਂ।