നോളജും RAG-ഉം
ഊഹിക്കുന്നതിന് പകരം നിങ്ങളുടെ സ്വന്തം ഡോക്യുമെന്റുകളിൽ നിന്ന് ഉത്തരം നൽകാൻ LLM (Model) ടാബിലെ Add Knowledge Base വിഭാഗം നിങ്ങളുടെ ഏജന്റിനെ അനുവദിക്കുന്നു (പ്രത്യേക Knowledge ടാബ് ഇല്ല). ഇത് ഏജന്റിനെ ഒരു നോളജ് ബേസുമായി ബന്ധിപ്പിക്കുകയും റിട്രീവൽ-ഓഗ്മെന്റഡ് ജനറേഷൻ (RAG) ഉപയോഗിക്കുകയും ചെയ്യുന്നു: ഒരു വിളിക്കുന്നയാൾ എന്തെങ്കിലും ചോദിക്കുമ്പോൾ, ഏജന്റ് ഏറ്റവും പ്രസക്തമായ ഭാഗങ്ങൾ തിരയുകയും അവയിൽ നിന്ന് ഉത്തരം നൽകുകയും ചെയ്യുന്നു. /agent/setup-ലെ ഏജന്റ് ബിൽഡറിൽ ഇത് സജ്ജമാക്കുക.
ഇവിടെ RAG എങ്ങനെ പ്രവർത്തിക്കുന്നു
ഒരു നോളജ് ബേസ്: ഡോക്യുമെന്റുകൾ ചങ്കുകളാക്കി ഇൻഡെക്സ് ചെയ്ത് കോൾ സമയത്ത് വീണ്ടെടുക്കുന്നു, ഗുണനിലവാര, കവറേജ് വിശകലനത്തോടെ.
RAG ഉത്തരങ്ങളെ ഉറപ്പിച്ച് നിർത്തുന്നു. മോഡലിന് ഇതിനകം അറിയാവുന്നതിനെ മാത്രം ആശ്രയിക്കുന്നതിന് പകരം, ഏജന്റ് നിങ്ങളുടെ ഡോക്യുമെന്റുകളിൽ നിന്ന് പൊരുത്തപ്പെടുന്ന ഉള്ളടക്കം വീണ്ടെടുക്കുകയും അത് പ്രതികരിക്കാൻ ഉപയോഗിക്കുകയും ചെയ്യുന്നു. അതായത് നിങ്ങളുടെ ഉൽപ്പന്നങ്ങൾ, നയങ്ങൾ, പ്രക്രിയകൾ എന്നിവയെക്കുറിച്ച് കൃത്യവും കാലികവുമായ ഉത്തരങ്ങൾ — കൂടാതെ വളരെ കുറവ് കെട്ടിച്ചമച്ച മറുപടികളും.
ഒരു നോളജ് ബേസ് ലിങ്ക് ചെയ്യുന്നതിന് മുമ്പ്, നിങ്ങൾക്ക് ഒന്ന് ആവശ്യമാണ്. നിങ്ങളുടെ ഡോക്യുമെന്റുകൾ (PDF, DOCX അല്ലെങ്കിൽ TXT) അപ്ലോഡ് ചെയ്ത് Knowledge base-ൽ കൈകാര്യം ചെയ്യുക.
ലിങ്ക് ചെയ്യുന്നതിന് മുമ്പ്
ഈ ടാബ് എന്തെങ്കിലും ചെയ്യുന്നതിന് മുമ്പ് ഉള്ളടക്കമുള്ള ഒരു നോളജ് ബേസ് നിങ്ങൾക്ക് ആവശ്യമാണ്. ക്രമം ഇതാണ്:
- Knowledge base-ൽ നിങ്ങളുടെ ഡോക്യുമെന്റുകൾ അപ്ലോഡ് ചെയ്ത് ഇൻഡക്സ് ചെയ്യുക.
- ഈ ടാബിലേക്ക് മടങ്ങിവന്ന് ആ നോളജ് ബേസ് ഏജന്റിലേക്ക് link ചെയ്യുക.
- താഴെയുള്ള സിമിലാരിറ്റി ത്രെഷോൾഡും top-k-യും ട്യൂൺ ചെയ്യുക.
- യഥാർത്ഥ ചോദ്യങ്ങൾ ഉപയോഗിച്ച് പരിശോധിച്ച് ക്രമീകരിക്കുക.
ഒരു നോളജ് ബേസ് ലിങ്ക് ചെയ്യുക
Knowledge ടാബിൽ, ഈ ഏജന്റ് ഉപയോഗിക്കാൻ ആഗ്രഹിക്കുന്ന നോളജ് ബേസ് link ചെയ്യുക. ഒരിക്കൽ ലിങ്ക് ചെയ്താൽ, ഏജന്റ് കോളുകൾക്കിടെ അത് സ്വയമേവ തിരയുകയും ഉത്തരം നൽകാൻ കണ്ടെത്തുന്നത് ഉപയോഗിക്കുകയും ചെയ്യുന്നു.
സിമിലാരിറ്റി ത്രെഷോൾഡ്
ഒരു ഭാഗം ഉപയോഗിക്കുന്നതിന് മുമ്പ് അത് വിളിക്കുന്നയാളുടെ ചോദ്യവുമായി എത്രത്തോളം അടുത്ത് പൊരുത്തപ്പെടണമെന്ന് similarity threshold സജ്ജമാക്കുന്നു.
- ഉയർന്ന ത്രെഷോൾഡ് ശക്തമായ പൊരുത്തങ്ങൾ മാത്രം നൽകുന്നു — കൂടുതൽ കൃത്യം, പക്ഷേ അയഞ്ഞ വാക്കുകളിലുള്ള ചോദ്യങ്ങൾക്ക് ഏജന്റ് ഒന്നും കണ്ടെത്തിയില്ലെന്നു വരാം.
- കുറഞ്ഞ ത്രെഷോൾഡ് കൂടുതൽ വിട്ടുവീഴ്ചയുള്ളതാണ്, കൂടുതൽ ഭാഗങ്ങൾ പുറത്തുകൊണ്ടുവരുന്നു, പ്രസക്തി കുറഞ്ഞവ ഉൾപ്പെടുത്തുന്നതിന്റെ അപകടസാധ്യതയോടെ.
ശബ്ദം വലിച്ചിഴയ്ക്കാതെ ഏജന്റ് നിങ്ങളുടെ ഉള്ളടക്കം വിശ്വസനീയമായി കണ്ടെത്തുന്ന തരത്തിൽ ഇത് ട്യൂൺ ചെയ്യുക.
Top-k
ഓരോ ചോദ്യത്തിനും ഏജന്റ് വീണ്ടെടുക്കുന്ന ഏറ്റവും നന്നായി പൊരുത്തപ്പെടുന്ന ഭാഗങ്ങൾ എത്രയെണ്ണമെന്ന് Top-k സജ്ജമാക്കുന്നു.
- ചെറിയ top-k ഉത്തരങ്ങളെ ഇറുകിയതും ഏറ്റവും അടുത്ത പൊരുത്തങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിച്ചതുമായി നിലനിർത്തുന്നു.
- വലിയ top-k ഏജന്റിന് കൂടുതൽ സന്ദർഭം നൽകുന്നു, ഇത് വിശാലമായ ചോദ്യങ്ങൾക്ക് സഹായിക്കുന്നു, പക്ഷേ ഉത്തരം നേർപ്പിക്കാം.
യാഥാസ്ഥിതിക മൂല്യങ്ങളിൽ ആരംഭിക്കുക, തുടർന്ന് /agent/chat-ലെ chat test-ൽ യഥാർത്ഥ ചോദ്യങ്ങൾ ഉപയോഗിച്ച് പരിശോധിക്കുക. നിങ്ങളുടെ ഡോക്യുമെന്റുകളിൽ വ്യക്തമായി ഉള്ള ഉത്തരങ്ങൾ ഏജന്റ് നഷ്ടപ്പെടുത്തുകയാണെങ്കിൽ, ത്രെഷോൾഡ് കുറയ്ക്കുക അല്ലെങ്കിൽ top-k അൽപ്പം ഉയർത്തുക; അത് വിഷയത്തിന് പുറത്തുള്ള ഉള്ളടക്കം ഉൾപ്പെടുത്തുകയാണെങ്കിൽ, വിപരീതം ചെയ്യുക.
ട്യൂണിംഗ് ഒറ്റനോട്ടത്തിൽ
ഏജന്റ് നിങ്ങൾ ആഗ്രഹിക്കുന്ന രീതിയിൽ ഉത്തരം നൽകാത്തപ്പോൾ, ഈ രണ്ട് ലക്ഷണങ്ങൾ മിക്ക സന്ദർഭങ്ങളും ഉൾക്കൊള്ളുന്നു:
| ലക്ഷണം | സാധ്യമായ കാരണം | ഇത് പരീക്ഷിക്കുക |
|---|---|---|
| ഉത്തരം നിങ്ങളുടെ ഡോക്യുമെന്റുകളിലുണ്ടെങ്കിലും ഏജന്റ് അറിയില്ലെന്ന് പറയുന്നു | ത്രെഷോൾഡ് വളരെ കർശനം, അല്ലെങ്കിൽ top-k വളരെ ചെറുത് | സിമിലാരിറ്റി ത്രെഷോൾഡ് കുറയ്ക്കുക, അല്ലെങ്കിൽ top-k അൽപ്പം ഉയർത്തുക |
| ഏജന്റ് വിഷയത്തിന് പുറത്തുള്ള അല്ലെങ്കിൽ തെറ്റായ വസ്തുക്കൾ ഉൾപ്പെടുത്തുന്നു | ത്രെഷോൾഡ് വളരെ അയഞ്ഞത്, അല്ലെങ്കിൽ top-k വളരെ വലുത് | സിമിലാരിറ്റി ത്രെഷോൾഡ് ഉയർത്തുക, അല്ലെങ്കിൽ top-k കുറയ്ക്കുക |
ഒരു സമയം ഒരു ക്രമീകരണം മാറ്റി വീണ്ടും പരിശോധിക്കുക, അങ്ങനെ ഫലത്തെ യഥാർത്ഥത്തിൽ എന്താണ് മാറ്റിയതെന്ന് നിങ്ങൾക്ക് മനസ്സിലാക്കാം.