LLM Wiki માટે ચાર-પ્રકારનું માળખું (Framework)
માત્ર જ્ઞાનથી નિર્ણયશક્તિ (judgment) પેદા થતી નથી.
મેં 100 થી વધુ પેજ ધરાવતી એક LLM wiki બનાવી હતી. જ્યાં સુધી મેં તેનો ઉપયોગ પ્રોગ્રામિંગ ટ્યુટર તરીકે કરવાનો પ્રયાસ ન કર્યો ત્યાં સુધી તે સારી રીતે કામ કરતી હતી.
AI દરેક વ્યાખ્યા જાણતું હતું. જ્યારે કોઈ વિદ્યાર્થી કહે કે, "મને Promises સમજાતા નથી," ત્યારે AI એ પાઠ્યપુસ્તકની વ્યાખ્યા આપી દીધી. આ એક ખરાબ પ્રતિસાદ હતો.
એક સાચો ટ્યુટર પૂછશે: "શું તમે પહેલા callbacks સમજો છો?" અથવા "તમે શું પ્રયત્ન કર્યો છે?"
AI પાસે તથ્યો (facts) હતા પરંતુ નિર્ણયશક્તિ શૂન્ય હતી. મને સમજાયું કે મારી wiki માં માત્ર એક પ્રકારનું જ્ઞાન સંગ્રહિત હતું.
મોટાભાગની LLM wikis declarative knowledge સંગ્રહિત કરે છે. આ તથ્યો, વ્યાખ્યાઓ અને સારાંશ છે. તેઓ "આ શું છે?" ના જવાબ આપે છે.
નિપુણતા માટે તેનાથી વધુની જરૂર છે. તમારે ચાર પ્રકારના જ્ઞાનની જરૂર છે:
• Declarative: તથ્યો અને વ્યાખ્યાઓ. • Procedural: તર્ક કેવી રીતે કરવો. આ એ નિર્ણયોનો ક્રમ છે જે એક નિષ્ણાત લે છે. • Experiential: વાસ્તવિક જીવનમાં તે કેવી રીતે કામ કરે છે. આમાં ભૂલો જોવી અને નિષ્ણાતો તેને કેવી રીતે સંભાળે છે તેનો સમાવેશ થાય છે. • Interaction: અન્યને કેવી રીતે માર્ગદર્શન આપવું. આ ક્યારે પ્રશ્ન પૂછવો અને ક્યારે શાંત રહેવું તે જાણવા વિશે છે.
સંશોધન દર્શાવે છે કે જાણવા અને અમલમાં મૂકવા વચ્ચે મોટો તફાવત છે. ટીચિંગ આસિસ્ટન્ટ્સના એક અભ્યાસમાં, 75% લોકોએ સોક્રેટિક ક્વેશ્ચનિંગ (Socratic questioning) વાપરવાને બદલે સીધા જવાબો આપ્યા. તેઓ નિયમો જાણતા હતા, પરંતુ દબાણ હેઠળ તેઓ તેનો અમલ કરી શક્યા નહીં.
આને સુધારવા માટે, તમારે તમારી સિસ્ટમમાં બે કામગીરી (operations) ની જરૂર છે:
- Ingest: આ declarative knowledge બનાવવા માટે તથ્યો શોધે છે.
- Mine: આ procedural, experiential, અને interaction જ્ઞાન બનાવવા માટે નિર્ણયો શોધે છે.
તમે માત્ર તથ્યો શોધીને તર્કનો માર્ગ (reasoning path) શોધી શકતા નથી. તમારે નિર્ણયો શોધવા પડશે. તમારે પૂછવું પડશે: નિષ્ણાતે શું પસંદ કર્યું? તેમણે તે ક્યારે પસંદ કર્યું? પછી શું થયું?
AI ની આગામી પેઢી વધુ તથ્યો હોવાથી નહીં જીતે. તે વધુ સારી નિર્ણયશક્તિ હોવાથી જીતશે. નિર્ણયશક્તિ એ જ્ઞાનની સમસ્યા નથી. તે જ્ઞાનના પ્રકારની સમસ્યા છે.
જો તમે એવું AI બનાવો છો જે માત્ર તથ્યો સંગ્રહિત કરે છે, તો તમે માત્ર એક પાઠ્યપુસ્તક બનાવી રહ્યા છો. જો તમે નિષ્ણાત બનાવવા માંગતા હોવ, તો તમારે નિર્ણયો શોધવા (mine) પડશે.
Source: https://dev.to/rongrong/a-four-type-framework-for-llm-wiki-by-karpathy-5f1n
Optional learning community: https://t.me/GyaanSetuAi