Knowledge ಮತ್ತು RAG
ಮರುಪಡೆಯುವಿಕೆ-ವರ್ಧಿತ ಉತ್ಪಾದನೆ (RAG) ನಿಮ್ಮ ಏಜೆಂಟ್ಗೆ ಊಹಿಸುವ ಬದಲು ನಿಮ್ಮ ಸ್ವಂತ ದಾಖಲೆಗಳಿಂದ ಉತ್ತರಿಸಲು ಅವಕಾಶ ನೀಡುತ್ತದೆ: ಕರೆ ಮಾಡುವವರು ಏನನ್ನಾದರೂ ಕೇಳಿದಾಗ, ಏಜೆಂಟ್ ಅತ್ಯಂತ ಸಂಬಂಧಿತ ಭಾಗಗಳನ್ನು ಹುಡುಕಿ ಅವುಗಳಿಂದ ಉತ್ತರಿಸುತ್ತದೆ. RAG ಅನ್ನು ಏಜೆಂಟ್ ಬಿಲ್ಡರ್ನಲ್ಲಿ /agent/setup ನಲ್ಲಿ LLM ಟ್ಯಾಬ್ನ Add Knowledge Base ವಿಭಾಗದಲ್ಲಿ ಕಾನ್ಫಿಗರ್ ಮಾಡಲಾಗಿದೆ — ಪ್ರತ್ಯೇಕ Knowledge ಟ್ಯಾಬ್ ಇಲ್ಲ.
ಇಲ್ಲಿ RAG ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ
ಜ್ಞಾನ ಸಂಗ್ರಹ: ದಾಖಲೆಗಳನ್ನು ತುಣುಕುಗಳಾಗಿ ವಿಭಜಿಸಿ, ಸೂಚಿಕರಿಸಿ ಮತ್ತು ಕರೆಯ ಸಮಯದಲ್ಲಿ ಮರುಪಡೆಯಲಾಗುತ್ತದೆ, ಗುಣಮಟ್ಟ ಮತ್ತು ವ್ಯಾಪ್ತಿ ವಿಶ್ಲೇಷಣೆಯೊಂದಿಗೆ.
RAG ಉತ್ತರಗಳನ್ನು ನೆಲೆಗೊಳಿಸಿ ಇರಿಸುತ್ತದೆ. ಮಾದರಿಗೆ ಈಗಾಗಲೇ ತಿಳಿದಿರುವುದರ ಮೇಲೆ ಮಾತ್ರ ಅವಲಂಬಿಸುವ ಬದಲು, ಏಜೆಂಟ್ ನಿಮ್ಮ ದಾಖಲೆಗಳಿಂದ ಹೊಂದಾಣಿಕೆಯಾಗುವ ವಿಷಯವನ್ನು ಮರುಪಡೆಯುತ್ತದೆ ಮತ್ತು ಪ್ರತಿಕ್ರಿಯಿಸಲು ಅದನ್ನು ಬಳಸುತ್ತದೆ. ಅಂದರೆ ನಿಮ್ಮ ಉತ್ಪನ್ನಗಳು, ನೀತಿಗಳು ಮತ್ತು ಪ್ರಕ್ರಿಯೆಗಳ ಬಗ್ಗೆ ನಿಖರವಾದ, ನವೀಕೃತ ಉತ್ತರಗಳು — ಮತ್ತು ಬಹಳ ಕಡಿಮೆ ಕಲ್ಪಿತ ಪ್ರತ್ಯುತ್ತರಗಳು.
ನೀವು ನಾಲೆಡ್ಜ್ ಬೇಸ್ ಅನ್ನು ಲಿಂಕ್ ಮಾಡುವ ಮೊದಲು, ನಿಮಗೆ ಒಂದು ಬೇಕು. ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು (PDF, DOCX ಅಥವಾ TXT) ಅಪ್ಲೋಡ್ ಮಾಡಿ ಮತ್ತು Knowledge base ನಲ್ಲಿ ಅವುಗಳನ್ನು ನಿರ್ವಹಿಸಿ.
ನೀವು ಲಿಂಕ್ ಮಾಡುವ ಮೊದಲು
RAG ಏನನ್ನಾದರೂ ಮಾಡುವ ಮೊದಲು ನಿಮಗೆ ಅದರಲ್ಲಿ ವಿಷಯ ಇರುವ ನಾಲೆಡ್ಜ್ ಬೇಸ್ ಬೇಕು. ಕ್ರಮ ಇದು:
- Knowledge base ನಲ್ಲಿ ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಅಪ್ಲೋಡ್ ಮಾಡಿ ಮತ್ತು ಇಂಡೆಕ್ಸ್ ಮಾಡಿ.
- LLM ಟ್ಯಾಬ್ನಲ್ಲಿ, RAG Enabled ಅನ್ನು ಆನ್ ಮಾಡಿ ಮತ್ತು ಆ ನಾಲೆಡ್ಜ್ ಬೇಸ್ ಅನ್ನು ಏಜೆಂಟ್ಗೆ link ಮಾಡಿ.
- ಕೆಳಗಿನ ಸಾಮ್ಯ ಮಿತಿ ಮತ್ತು top-k ಅನ್ನು ಹೊಂದಿಸಿ.
- ನಿಜವಾದ ಪ್ರಶ್ನೆಗಳೊಂದಿಗೆ ಪರೀಕ್ಷಿಸಿ ಮತ್ತು ಸರಿಹೊಂದಿಸಿ.
ನಾಲೆಡ್ಜ್ ಬೇಸ್ ಅನ್ನು ಲಿಂಕ್ ಮಾಡಿ
LLM ಟ್ಯಾಬ್ನಲ್ಲಿ, RAG Enabled ಅನ್ನು ಆನ್ ಮಾಡಿ ಮತ್ತು ಈ ಏಜೆಂಟ್ ಸೆಳೆಯಬೇಕೆಂದು ನೀವು ಬಯಸುವ ನಾಲೆಡ್ಜ್ ಬೇಸ್ (ಅಥವಾ ಹಲವಾರು) ಅನ್ನು select ಮಾಡಿ. ಲಿಂಕ್ ಆದ ಮೇಲೆ, ಏಜೆಂಟ್ ಕರೆಗಳ ಸಮಯದಲ್ಲಿ ಅದನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಹುಡುಕುತ್ತದೆ ಮತ್ತು ಉತ್ತರಿಸಲು ಅದು ಕಂಡುಕೊಂಡದ್ದನ್ನು ಬಳಸುತ್ತದೆ.
ಸಾಮ್ಯ ಮಿತಿ
similarity threshold ಒಂದು ಭಾಗವನ್ನು ಬಳಸುವ ಮೊದಲು ಅದು ಕರೆ ಮಾಡುವವರ ಪ್ರಶ್ನೆಗೆ ಎಷ್ಟು ನಿಕಟವಾಗಿ ಹೊಂದಾಣಿಕೆಯಾಗಬೇಕು ಎಂಬುದನ್ನು ಹೊಂದಿಸುತ್ತದೆ.
- ಹೆಚ್ಚಿನ ಮಿತಿ ಬಲವಾದ ಹೊಂದಾಣಿಕೆಗಳನ್ನು ಮಾತ್ರ ಹಿಂತಿರುಗಿಸುತ್ತದೆ — ಹೆಚ್ಚು ನಿಖರ, ಆದರೆ ಸಡಿಲವಾಗಿ ಪದಗಳಲ್ಲಿ ಬರೆದ ಪ್ರಶ್ನೆಗಳಿಗೆ ಏಜೆಂಟ್ ಏನನ್ನೂ ಕಂಡುಕೊಳ್ಳದಿರಬಹುದು.
- ಕಡಿಮೆ ಮಿತಿ ಹೆಚ್ಚು ಕ್ಷಮಾಶೀಲ ಮತ್ತು ಹೆಚ್ಚು ಭಾಗಗಳನ್ನು ಮೇಲ್ಮೈಗೆ ತರುತ್ತದೆ, ಕಡಿಮೆ ಸಂಬಂಧಿತವಾದವುಗಳನ್ನು ಎಳೆಯುವ ಅಪಾಯದೊಂದಿಗೆ.
ಏಜೆಂಟ್ ಶಬ್ದವನ್ನು ಎಳೆಯದೆ ನಿಮ್ಮ ವಿಷಯವನ್ನು ವಿಶ್ವಾಸಾರ್ಹವಾಗಿ ಕಂಡುಕೊಳ್ಳುವಂತೆ ಅದನ್ನು ಹೊಂದಿಸಿ.
Top-k
Top-k ಏಜೆಂಟ್ ಪ್ರತಿ ಪ್ರಶ್ನೆಗೆ ಎಷ್ಟು ಅತ್ಯುತ್ತಮ-ಹೊಂದಾಣಿಕೆಯ ಭಾಗಗಳನ್ನು ಮರುಪಡೆಯುತ್ತದೆ ಎಂಬುದನ್ನು ಹೊಂದಿಸುತ್ತದೆ.
- ಚಿಕ್ಕ top-k ಉತ್ತರಗಳನ್ನು ಬಿಗಿಯಾಗಿ ಮತ್ತು ಹತ್ತಿರದ ಹೊಂದಾಣಿಕೆಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿ ಇರಿಸುತ್ತದೆ.
- ದೊಡ್ಡ top-k ಏಜೆಂಟ್ಗೆ ಕೆಲಸ ಮಾಡಲು ಹೆಚ್ಚು ಸಂದರ್ಭವನ್ನು ನೀಡುತ್ತದೆ, ಇದು ವಿಶಾಲ ಪ್ರಶ್ನೆಗಳಿಗೆ ಸಹಾಯ ಮಾಡುತ್ತದೆ ಆದರೆ ಉತ್ತರವನ್ನು ತೆಳುಗೊಳಿಸಬಹುದು.
ಸಂಪ್ರದಾಯಬದ್ಧ ಮೌಲ್ಯಗಳೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸಿ, ನಂತರ /agent/chat ನಲ್ಲಿ chat test ನಲ್ಲಿ ನಿಜವಾದ ಪ್ರಶ್ನೆಗಳೊಂದಿಗೆ ಪರೀಕ್ಷಿಸಿ. ನಿಮ್ಮ ದಾಖಲೆಗಳಲ್ಲಿ ಸ್ಪಷ್ಟವಾಗಿ ಇರುವ ಉತ್ತರಗಳನ್ನು ಏಜೆಂಟ್ ತಪ್ಪಿಸಿಕೊಂಡರೆ, ಮಿತಿಯನ್ನು ಕಡಿಮೆ ಮಾಡಿ ಅಥವಾ top-k ಅನ್ನು ಸ್ವಲ್ಪ ಹೆಚ್ಚಿಸಿ; ಅದು ವಿಷಯೇತರ ವಿಷಯವನ್ನು ಎಳೆದರೆ, ವಿರುದ್ಧ ಮಾಡಿ.
ಒಂದು ನೋಟದಲ್ಲಿ ಹೊಂದಾಣಿಕೆ
ಏಜೆಂಟ್ ನೀವು ಬಯಸುವ ರೀತಿಯಲ್ಲಿ ಉತ್ತರಿಸದಿದ್ದಾಗ, ಈ ಎರಡು ಲಕ್ಷಣಗಳು ಹೆಚ್ಚಿನ ಪ್ರಕರಣಗಳನ್ನು ಒಳಗೊಳ್ಳುತ್ತವೆ:
| ಲಕ್ಷಣ | ಸಂಭಾವ್ಯ ಕಾರಣ | ಪ್ರಯತ್ನಿಸಿ |
|---|---|---|
| ಉತ್ತರ ನಿಮ್ಮ ದಾಖಲೆಗಳಲ್ಲಿ ಇದ್ದರೂ ಏಜೆಂಟ್ ತನಗೆ ಗೊತ್ತಿಲ್ಲ ಎನ್ನುತ್ತದೆ | ಮಿತಿ ತುಂಬಾ ಕಠಿಣ, ಅಥವಾ top-k ತುಂಬಾ ಚಿಕ್ಕದು | ಸಾಮ್ಯ ಮಿತಿಯನ್ನು ಕಡಿಮೆ ಮಾಡಿ, ಅಥವಾ top-k ಅನ್ನು ಸ್ವಲ್ಪ ಹೆಚ್ಚಿಸಿ |
| ಏಜೆಂಟ್ ವಿಷಯೇತರ ಅಥವಾ ತಪ್ಪು ವಿಷಯವನ್ನು ಎಳೆಯುತ್ತದೆ | ಮಿತಿ ತುಂಬಾ ಸಡಿಲ, ಅಥವಾ top-k ತುಂಬಾ ದೊಡ್ಡದು | ಸಾಮ್ಯ ಮಿತಿಯನ್ನು ಹೆಚ್ಚಿಸಿ, ಅಥವಾ top-k ಅನ್ನು ಕಡಿಮೆ ಮಾಡಿ |
ಒಂದು ಸಮಯದಲ್ಲಿ ಒಂದು ಸೆಟ್ಟಿಂಗ್ ಅನ್ನು ಬದಲಾಯಿಸಿ ಮತ್ತು ಮರು-ಪರೀಕ್ಷಿಸಿ, ಇದರಿಂದ ಫಲಿತಾಂಶವನ್ನು ನಿಜವಾಗಿ ಯಾವುದು ಬದಲಾಯಿಸಿತು ಎಂದು ನೀವು ಹೇಳಬಹುದು.