# નોલેજ અને RAG


# નોલેજ અને RAG

રિટ્રિવલ-ઓગમેન્ટેડ જનરેશન (RAG) તમારા એજન્ટને અંદાજ લગાવવાને બદલે તમારા પોતાના દસ્તાવેજોમાંથી જવાબ આપવા દે છે: જ્યારે કોઈ કોલર કંઈક પૂછે છે, ત્યારે એજન્ટ સૌથી સંબંધિત ફકરાઓ શોધે છે અને તેમાંથી જવાબ આપે છે. RAG ને **/agent/setup** પરના એજન્ટ બિલ્ડરમાં **[LLM](./llm)** ટૅબના **Add Knowledge Base** વિભાગમાં કોન્ફિગર કરવામાં આવે છે — અલગ કોઈ Knowledge ટૅબ નથી.

## અહીં RAG કેવી રીતે કામ કરે છે

![RAG સાથેનો નોલેજ બેઝ](/img/screenshots/portal/knowledge-base.png)
*નોલેજ બેઝ: દસ્તાવેજોને ચંક્સમાં વિભાજિત, ઇન્ડેક્સ અને કોલ સમયે રિટ્રીવ કરવામાં આવે છે, ગુણવત્તા અને કવરેજ વિશ્લેષણ સાથે.*

RAG જવાબોને આધારભૂત રાખે છે. મોડેલ પહેલેથી જે જાણે છે તેના પર જ આધાર રાખવાને બદલે, એજન્ટ તમારા દસ્તાવેજોમાંથી મેળ ખાતી સામગ્રી રિટ્રીવ કરે છે અને જવાબ આપવા માટે તેનો ઉપયોગ કરે છે. એનો અર્થ છે કે તમારા ઉત્પાદનો, નીતિઓ અને પ્રક્રિયાઓ વિશે સચોટ, અદ્યતન જવાબો — અને ઘણા ઓછા ઘડી કાઢેલા જવાબો.

તમે નોલેજ બેઝ લિંક કરી શકો તે પહેલાં, તમારે એક હોવો જરૂરી છે. તમારા દસ્તાવેજો (PDF, DOCX અથવા TXT) અપલોડ કરો અને તેમને [નોલેજ બેઝ](../knowledge-base) માં મેનેજ કરો.

## લિંક કરતા પહેલાં

RAG કંઈ પણ કરે તે પહેલાં તમારી પાસે તેમાં સામગ્રી સાથેનો નોલેજ બેઝ હોવો જરૂરી છે. ક્રમ આ પ્રમાણે છે:

1. [નોલેજ બેઝ](../knowledge-base) માં તમારા દસ્તાવેજો અપલોડ અને ઇન્ડેક્સ કરો.
2. **Model** (LLM) ટૅબ પર, **RAG Enabled** ચાલુ કરો અને એ નોલેજ બેઝને એજન્ટ સાથે **link** કરો.
3. નીચે સમાનતા થ્રેશોલ્ડ અને top-k ટ્યુન કરો.
4. વાસ્તવિક પ્રશ્નો સાથે ટેસ્ટ કરો અને સમાયોજિત કરો.

## નોલેજ બેઝ લિંક કરો

**Model** (LLM) ટૅબ પર, **RAG Enabled** ચાલુ કરો અને આ એજન્ટે જેમાંથી દોરવણ લેવી છે તે નોલેજ બેઝ (અથવા અનેક) **select** કરો. એક વાર લિંક થઈ ગયા પછી, એજન્ટ કોલ દરમિયાન આપમેળે તેને શોધે છે અને જે મળે છે તેનો ઉપયોગ જવાબ આપવા માટે કરે છે.

## સમાનતા થ્રેશોલ્ડ

**સમાનતા થ્રેશોલ્ડ** એ નક્કી કરે છે કે ફકરાનો ઉપયોગ થાય તે પહેલાં તે કોલરના પ્રશ્ન સાથે કેટલો નજીકથી મેળ ખાવો જોઈએ.

- **વધારે** થ્રેશોલ્ડ માત્ર મજબૂત મેળ જ પાછા આપે છે — વધુ ચોક્કસ, પણ ઢીલા શબ્દોવાળા પ્રશ્નો માટે એજન્ટને કંઈ ન મળે એવું બને.
- **ઓછી** થ્રેશોલ્ડ વધુ ઉદાર છે અને વધુ ફકરાઓ સામે લાવે છે, ઓછા સંબંધિત ફકરાઓ ખેંચાઈ આવવાના જોખમે.

તેને એવી રીતે ટ્યુન કરો કે એજન્ટ ઘોંઘાટ ખેંચ્યા વગર વિશ્વસનીય રીતે તમારી સામગ્રી શોધી શકે.

## Top-k

**Top-k** એ નક્કી કરે છે કે દરેક પ્રશ્ન માટે એજન્ટ સૌથી સારી રીતે મેળ ખાતા ફકરાઓમાંથી કેટલા રિટ્રીવ કરે છે.

- **નાનું** top-k જવાબોને ચુસ્ત રાખે છે અને સૌથી નજીકના મેળ પર કેન્દ્રિત રાખે છે.
- **મોટું** top-k એજન્ટને કામ કરવા માટે વધુ સંદર્ભ આપે છે, જે વ્યાપક પ્રશ્નો માટે મદદરૂપ થાય છે પણ જવાબને પાતળો કરી શકે છે.

:::tip

સંયમિત મૂલ્યોથી શરૂ કરો, પછી **/agent/chat** પરના **chat test** માં વાસ્તવિક પ્રશ્નો સાથે ટેસ્ટ કરો. જો એજન્ટ સ્પષ્ટપણે તમારા દસ્તાવેજોમાં હોય તેવા જવાબો ચૂકી જાય, તો થ્રેશોલ્ડ ઘટાડો અથવા top-k થોડું વધારો; જો તે વિષય બહારની સામગ્રી ખેંચે, તો તેનાથી ઊલટું કરો.

:::

## એક નજરમાં ટ્યુનિંગ

જ્યારે એજન્ટ તમે ઇચ્છો તે રીતે જવાબ ન આપતો હોય, ત્યારે આ બે લક્ષણો મોટાભાગના કેસોને આવરી લે છે:

| લક્ષણ | સંભવિત કારણ | પ્રયાસ કરો |
| --- | --- | --- |
| એજન્ટ કહે છે કે તેને ખબર નથી, પણ જવાબ તમારા દસ્તાવેજોમાં છે | થ્રેશોલ્ડ ખૂબ કડક, અથવા top-k ખૂબ નાનું | સમાનતા થ્રેશોલ્ડ ઘટાડો, અથવા top-k થોડું વધારો |
| એજન્ટ વિષય બહારની કે ખોટી સામગ્રી ખેંચે છે | થ્રેશોલ્ડ ખૂબ ઢીલી, અથવા top-k ખૂબ મોટું | સમાનતા થ્રેશોલ્ડ વધારો, અથવા top-k ઘટાડો |

એક સમયે એક સેટિંગ બદલો અને ફરી ટેસ્ટ કરો, જેથી તમે કહી શકો કે ખરેખર શાનાથી પરિણામ બદલાયું.

## આગળનાં પગલાં

- [નોલેજ બેઝમાં દસ્તાવેજો અપલોડ અને મેનેજ કરો](../knowledge-base)
- [એજન્ટને ટૂલ્સ અને MCP ક્રિયાઓ આપો](./tools-mcp)
- [LLM અને પાઇપલાઇન મોડ કોન્ફિગર કરો](./llm)
- [એજન્ટ્સ ઓવરવ્યૂ પર પાછા જાઓ](./overview)