முக்கிய விவாதம் அடுத்த சிறந்த மாடல் எப்போது குறைகிறது என்பதைப் பற்றியது அல்ல, ஆனால் அவர்களைச் சுற்றி சரியான சேனலை யார் உருவாக்குவார்கள் என்பதுதான். ஒரு சேணம் என்பது மாதிரியைச் சுற்றியுள்ள சாரக்கட்டு: ஏஜென்ட் லூப், கருவி வரையறைகள், சூழல் மேலாண்மை, நினைவகம், கோரிக்கைகள் மற்றும் பணிப்பாய்வுகள் ஒரு மூல LLM ஐ பயனுள்ள தயாரிப்பாக மாற்றும். மாடல் எஞ்சின், சேணம் தான் அதை உண்மையில் ஓட்ட வைக்கிறது. கர்சர், கிளாட் டெஸ்க்டாப் மற்றும் பிற சாதனங்களின் எடுத்துக்காட்டுகள்.
AI குறியீட்டு கருவிகள் இடத்தில் ஒரு விவாதம் நடந்து கொண்டிருக்கிறது: ஒரு குறிப்பிட்ட சேனலில் ஈடுபடுவது விற்பனையாளர் லாக்-இன் என்று அர்த்தமா? நினைவாற்றல் இதன் கூர்மையான முனை. உங்கள் ஏஜென்ட்டின் நினைவகம் மூடிய வயரிங் அல்லது தனியுரிம APIக்குப் பின்னால் இருந்தால், அது உங்களுக்குச் சொந்தமில்லை, மேலும் மாறுதல் செலவுகள் விரைவாகச் சேரும். ஆனால் அது அப்படி இருக்க வேண்டியதில்லை.
இந்த வலைப்பதிவு இடுகையின் கருத்து எளிதானது: நினைவக அடுக்கை வயரிங் வெளியே வைத்து, எந்த வயரிங் அதனுடன் இணைக்கவும்.
இந்த இடுகையில், நீங்கள் எவ்வாறு ஒன்றை உருவாக்குவது என்பதைக் காண்பிப்பேன் ஒற்றை பகிரப்பட்ட நினைவக அடுக்கு இது மூன்று வெவ்வேறு குறியீட்டு முகவர்களில் வேலை செய்கிறது – கிளாட் கோட், ஓபன்ஏஐயின் கோடெக்ஸ் மற்றும் கர்சர் – பயன்படுத்தி கொக்கிகள் ஒரு ஒருங்கிணைப்பு பொறிமுறையாக மற்றும் நியோ4ஜே ஒரு நிலையான கடையாக.
ஹூக்கை ஒருங்கிணைப்பதற்கான குறியீடு கிட்ஹப்பில் கிடைக்கிறது.
MCP கருவிகள் நினைவகத்துடன் மட்டுமே உங்களை இவ்வளவு தூரம் அழைத்துச் செல்லும்
மாடல் கான்டெக்ஸ்ட் புரோட்டோகால் (எம்சிபி) சேவையகங்கள் வெளிப்புற அமைப்புகளுக்கு முகவர்களுக்கு அணுகலை வழங்குவதற்கான அடிப்படை பதில். மேலும் அவர்கள் வேலை செய்கிறார்கள். நீங்கள் ஒரு Neo4j தரவுத்தளத்தை MCP கருவியாக வெளிப்படுத்தலாம் மற்றும் முகவர் முடிவு செய்யும் போது அதை வினவலாம்.
ஆனால் MCP கருவிகள் முகவரால் தொடங்கப்பட்டது. கருவியை அழைக்க மாதிரி முடிவு செய்ய வேண்டும் மற்றும் எப்போது, ஏன் அவ்வாறு செய்ய வேண்டும் என்பதை அறிந்திருக்க வேண்டும். இதன் பொருள்:
- முகவர் “நினைவில் வைத்துக் கொள்ள வேண்டும்”, பின்னர் நினைவில் கொள்ளத் தகுந்த ஒன்றைச் சேமித்து வைப்பதை முன்கூட்டியே தீர்மானிக்க வேண்டும்.
- நிலைத்தன்மைக்கு எந்த உத்தரவாதமும் இல்லை, ஒரு அமர்வு எல்லாவற்றையும் பதிவு செய்யலாம், அடுத்தது எதையும் பதிவு செய்யாது.
- நிகழ்நேரத்தில், வேறு எதையாவது செய்வதில் மும்முரமாக இருக்கும்போது, நினைவாற்றலுக்கு எது முக்கியம் என்பது குறித்த மாதிரியின் தீர்ப்பை நீங்கள் நம்பியிருக்கிறீர்கள்.
நீங்கள் உண்மையில் விரும்புவது செயலற்ற, உறுதியான பதிவுமாடல் என்ன செய்து கொண்டிருந்தாலும், அதன் சூழல் அல்லது கவனத்தைப் பயன்படுத்தாமல், ஒவ்வொரு அமர்வு நிகழ்வையும் படம்பிடிக்கும் ஒன்று.
கொக்கிகள் உங்களுக்கு வழங்குவது இதுதான்.
கொக்கிகளை உள்ளிடவும்
ஹூக்ஸ் என்பது ஷெல் கட்டளைகளாகும், அவை வாழ்க்கைச் சுழற்சி நிகழ்வுகளில் தானாகவே செயல்படும்: அமர்வு தொடங்கும் போது, பயனர் கோரிக்கையை அனுப்பும் போது, கருவியின் ஒவ்வொரு பயன்பாட்டிற்கும் முன்னும் பின்னும், மற்றும் அமர்வு முடிவடையும் போது. முகவர் அவர்களை அழைக்க முடிவு செய்யவில்லை, அவை நிரல் முறையில் இயங்குகின்றன.
முக்கிய நுண்ணறிவு அது கொக்கிகள் விற்பனையாளர்களிடையே குறிப்பிடத்தக்க வகையில் தரப்படுத்தப்பட்டுள்ளன. கிளாட் குறியீடு, கோடெக்ஸ், கர்சர் மற்றும் பிற அனைத்தும் அடிப்படையில் ஒரே வாழ்க்கைச் சுழற்சி நிகழ்வுகளை ஆதரிக்கின்றன:
- அமர்வு தொடக்கம் முகவர் அமர்வு தொடங்கும் போது
- UserPromptSubmit (அல்லது
beforeSubmitPromptகர்சரில்) பயனர் ஒரு செய்தியை அனுப்பும்போது - PreToolUse / PostToolUse ஒவ்வொரு கருவி அழைப்பிற்கும் முன்னும் பின்னும்
- நிறுத்து அமர்வு முடியும் போது
அமர்வு ஐடி, நிகழ்வின் பெயர், கருவி விவரங்கள் மற்றும் பயனர் ப்ராம்ட் ஆகியவற்றுடன் ஹூக் stdin இல் JSON பேலோடைப் பெறுகிறது. மேலும் உரையாடலில் கூடுதல் சூழலை உட்செலுத்த, ஹூக் JSON ஐ stdout க்கு வெளியிடலாம். ஒரே ஒப்பந்தம், மூன்று சேனைகள்/வாடிக்கையாளர்கள்.
பிற ஹூக்குகள், அறிவிப்பு நிகழ்வுகள், சப்ஜெண்ட் நிறுத்தம் அல்லது ப்ரீ-காம்பாக்ட் ஹூக்குகள் போன்றவை உள்ளன, ஆனால் அவற்றை நாங்கள் இங்கு பயன்படுத்த மாட்டோம்.
பகிரப்பட்ட நினைவக அடுக்கு
இப்போது நினைவகத்தை நிலைநிறுத்த நமக்கு எங்காவது தேவை. விரைவான மறுப்பு: நான் Neo4j இல் வேலை செய்கிறேன், எனவே இந்த எடுத்துக்காட்டில் அதைப் பயன்படுத்துவோம்.
மாதிரி எளிமையானது. ஒவ்வொரு முகவர் அமர்வும் ஒரு முனை ஆகும், இது நிகழ்வு முனைகளின் இணைக்கப்பட்ட பட்டியலுடன் இணைக்கப்பட்டுள்ளது, ஒவ்வொரு ஹூக் அழைப்பிற்கும் ஒன்று. நிகழ்வுகள் அவற்றைத் தூண்டிய வாழ்க்கைச் சுழற்சி நிகழ்வால் தட்டச்சு செய்யப்படுகின்றன: SessionStart, UserPromptSubmit, PreToolUse, PostToolUse, Stop. அந்த ஓட்டத்தின் போது நடந்த எல்லாவற்றின் வரிசைப்படுத்தப்பட்ட காலவரிசையாக ஒரு அமர்வு முடிவடைகிறது.
அனைத்து ஐந்து நிகழ்வு வகைகளும் கடையில் எழுதப்பட்டு, ஒவ்வொரு சேனலிலும் ஒவ்வொரு அமர்வின் முழு தணிக்கைத் தடத்தை உங்களுக்கு வழங்குகிறது. அவற்றில் இரண்டு ஊசி புள்ளிகள். SessionStart ஏஜென்ட் அதன் சிஸ்டம் ப்ராம்ட்டைப் படிக்கும் முன் சுடுகிறது, அதனால் ஹூக் சிக்கல்கள் எதுவாக இருந்தாலும் சிஸ்டம் ப்ராம்ட்டில் இணைக்கப்படும். தொடர்ந்து முகவர்-நிலை நினைவகம் சூழலுக்குள் செல்லும் விதம் இதுதான். UserPromptSubmit பயனரின் செய்தி அனுப்பப்படுவதற்கு சற்று முன் எரிகிறது, மேலும் அங்கு வெளியிடப்படும் எதுவும் பயனரின் அறிவுறுத்தலில் சேர்க்கப்படும். பயனர் தட்டச்சு செய்தவற்றுடன் தொடர்புடைய நினைவுகளை இழுப்பது போன்ற வரிசை-நிலை சூழலுக்கான ஹூக் இதுவாகும்.
செயலில் உள்ள ஹூக்குகள், எடுத்துக்காட்டாக கர்சர் போன்றவற்றில் ஏதேனும் ஒரு புதிய அமர்வை தொடங்கினால் என்ன ஆகும்?
Neo4j உலாவியில் முடிவுகளை ஆய்வு செய்தால்.
ஒரு முக்கியமான கட்டுப்பாடு: ஹூக்குகள் சேணம் மாதிரி அமர்வுக்கு வெளியே இயங்கும். முகவர் பேசும் LLM ஐ நீங்கள் மீண்டும் பயன்படுத்த முடியாது. நீங்கள் ஒரு கொக்கிக்குள் LLM அடிப்படையில் வேலை செய்ய விரும்பினால், உங்கள் சொந்த மாதிரி அழைப்பை நீங்கள் செய்ய வேண்டும், இது முகவரால் சுடப்படும் ஒவ்வொரு நிகழ்விற்கும் தாமதத்தை சேர்க்கிறது. எனவே, இங்குள்ள கொக்கிகள் இரண்டு விஷயங்களை மட்டுமே செய்கின்றன: நிகழ்வுகளைப் பதிவுசெய்தல் மற்றும் முன்கணிக்கப்பட்ட நினைவுகளை உட்செலுத்துதல். அவை வேகமாகவும் உறுதியாகவும் இருக்கின்றன.
கனவு கட்டம்
உண்மையான நினைவக வேலை ஒரு தனி கனவு கட்டத்தில் நடக்கிறது: அமர்வுகளில் இருந்து உண்மைகளை பிரித்தெடுத்தல், என்ன நடந்தது என்பதை சுருக்கமாகக் கூறுதல், விளக்கப்படத்தைப் புதுப்பித்தல். இது ஒரு சில மணிநேரங்களுக்கு ஒருமுறை இயங்கும் ஒரு தொகுதிப் பணியாகும், கடைசி ஓட்டத்திலிருந்து திரட்டப்பட்ட நிகழ்வுகளைப் படித்து, நினைவகக் கடையில் மீண்டும் எழுதுகிறது. கொள்கையளவில், ஒவ்வொரு முறையும் ஒரு அமர்வு நிறுத்தப்படும்போது, நீங்கள் நினைவக புதுப்பிப்பை ஒத்திசைவற்ற முறையில் தொடங்கலாம், ஆனால் அது சற்று அதிகமாகவே தெரிகிறது; ஒரு குறிப்பிட்ட கால தொகுதி எளிமையானது மற்றும் இந்த ஆர்ப்பாட்டத்திற்கு நன்றாக வேலை செய்கிறது.
ட்ரீம் ஜாப் ஒவ்வொரு நிகழ்வையும் அமர்வின் கடைசி வாட்டர்மார்க்கிலிருந்து பெற்று, தற்போதைய மெமரி ஸ்டாக்குடன் கிளாடுவிடம் ஒப்படைக்கிறது, மேலும் நீடித்த குறிப்புகளின் சிறிய தொகுப்பை மீண்டும் எழுதச் சொல்கிறது. குறிப்புகள் ஒரு குறைப்பு விக்கியைப் பிரதிபலிக்கின்றன, அதே வடிவம் கர்பதியும் மற்றவர்களும் எல்எல்எம் தனிப்பட்ட நினைவகத்தை நோக்கி ஈர்த்துக்கொண்டனர், மற்றும் மானுடவியல் திறன்கள் ஏற்கனவே பயன்படுத்தும் அதே வடிவம்: ஒவ்வொரு நினைவகமும் ஒரு சொற்பொருள் பாதையில் உள்ள கோப்பு. profile/role.md, tools/bash/common-flags.mdஅல்லது project/neo4j-skills.mdமேலே YAML பிரண்ட்மேட்டர் மற்றும் கீழே உரைநடை. கிளாட் இணைப்பதற்குப் பதிலாக ஒன்றிணைக்கச் சொல்லப்படுகிறது, எனவே ஒரு பாதை ஒரு உயிருள்ள ஆவணம், ஒரு பதிவு அல்ல; புதிய நிகழ்வுகள் பழைய நோட்டுக்கு முரணாக இருந்தால், பழைய நோட்டு மீண்டும் எழுதப்படும். இதன் விளைவாக, சிறிய, தன்னிறைவான கோப்புகளின் மரமாகும், இது எதிர்கால அமர்வை குளிர்ச்சியாக படிக்க முடியும், திறமையின் ஒரு வடிவமாக பிரித்தறிய முடியாதது, கனவு கட்டத்தால் மட்டுமே உருவாக்கப்பட்டது, கையால் அல்ல.
நமது எடுத்துக்காட்டில் அதை இயக்கினால், பின்வரும் நினைவுகள் உருவாக்கப்படும்.
இப்போது நான் மற்றொரு சேனலைத் திறந்தால், இந்த முறை கொக்கிகள் இயக்கப்பட்ட கிளாட் கோட் டெஸ்க்டாப்பை, நான் பின்வரும் பதிலைப் பெறுவேன்.
நினைவகத்தை அணுகுகிறது
புதிரின் கடைசி பகுதி முகவரை நினைவக அடுக்கை அணுக அனுமதிக்கிறது. குறிப்பிட்டுள்ளபடி, முகவருக்குள் தகவலைச் செலுத்த இரண்டு வழிகள் உள்ளன: கொக்கிகள் மற்றும் MCP கருவிகள்.
ஹூக்குகள் உறுதியானவை மற்றும் ஒவ்வொரு அமர்வின் தொடக்கத்திலும் சிஸ்டம் ப்ராம்ட்டை விரிவுபடுத்தும். திறமையான நினைவகப் பயன்பாடு பற்றிய சுயவிவரத் தகவல்களும் வழிமுறைகளும் இங்குதான் செல்ல வேண்டும். ஒரு பயனர் ப்ராம்ட் நிகழ்வு தீயை அனுப்பும்போது கூடுதல் சூழலையும் நீங்கள் சேர்க்கலாம், ஆனால் அது இணைக்கப்பட்டுள்ளது; வரியில் மற்ற பகுதிகளை நீங்கள் கையாள முடியாது.
MCP கருவிகள், மறுபுறம், தேவைக்கேற்ப நினைவக அடுக்குக்கு LLM நேரடி அணுகலை வழங்குகின்றன. தொடக்கத்தில் செயலற்ற சூழலைப் பெறுவதற்குப் பதிலாக, முகவர் தொடர்புடைய நினைவுகளைத் தேடலாம், புதிய தகவலைச் சேமிக்கலாம் மற்றும் ஏற்கனவே உள்ளீடுகளைப் புதுப்பிக்கலாம் அல்லது அகற்றலாம். இது Neo4j இல் சேமிக்கப்பட்டுள்ள சுருக்கக் குறைப்புக் கோப்புகளின் அடிப்படையில் அடிப்படை CRUD ஆகும்.
முடிவில், உங்களுக்கு எப்போதும் இரண்டும் தேவைப்படும் என்று நினைக்கிறேன். இந்த திட்டத்தில் எங்களிடம் ஹூக்குகள் மட்டுமே உள்ளன, MCP கருவிகள் இல்லை, ஆனால் நீங்கள் எப்போதும் அதிகாரப்பூர்வ Neo4j MCP ஐ செருகி வரைபடத்தை ஆராய ஏஜென்ட்டை அனுமதிக்கலாம்.
அவனை வேலைக்கு வைக்க
சற்றே சுவாரஸ்யமாக, நான் ஹூக்குகளை நிறுவிய விதம், ஏஜென்ட்டை ஒரு சேனலுக்குள் சுட்டிக்காட்டி, கொக்கிகளை நிறுவும்படி அவர்களிடம் கேட்பது, ஆனால் சிறந்த அணுகுமுறைகள் இருப்பதாக நான் உறுதியாக நம்புகிறேன்.
சுருக்கம்
உங்கள் நினைவகம் உங்களுக்குச் சொந்தமில்லை என்றால், உங்கள் முகவருக்குச் சொந்தமில்லை. இன்று ஒவ்வொரு சேணமும் சூழல், விருப்பத்தேர்வுகள் மற்றும் அமர்வு வரலாற்றின் சுவர்களுடன் அதன் சொந்த தோட்டத்தை உருவாக்குகிறது. அவற்றை மாற்றவும் மற்றும் புதிதாக தொடங்கவும். அப்படி இருக்க வேண்டிய அவசியமில்லை.
கொக்கிகள் இந்த வடிவத்தை உடைக்கின்றன. எந்தவொரு வெளிப்புற வயரிங்குடனும் இணைக்கும் ஒருங்கிணைப்புகளை எழுத அவை உங்களை அனுமதிக்கின்றன, மேலும் இடைமுகம் குறிப்பிடத்தக்க வகையில் சீரானது. கிளாட் கோட், கோடெக்ஸ் மற்றும் கர்சர் அனைத்தும் ஒரே வாழ்க்கைச் சுழற்சி நிகழ்வுகளைத் தூண்டுகின்றன: அமர்வு தொடக்கம், உடனடியாக அனுப்புதல், கருவி பயன்பாடு, அமர்வு முடிவு. ஹூக் stdin இல் JSON ஐப் பெறுகிறது, சூழலை உட்செலுத்துவதற்கு விருப்பமாக JSON ஐ stdout இல் வெளியிடுகிறது, அதுவே முழு ஒப்பந்தமாகும். ஒவ்வொரு நிகழ்விற்கும் கொக்கிகள் உறுதியாக இயங்குவதால், அவை மாடலின் கவனத்தை ஈர்க்காது மற்றும் எதைச் சேமிக்கத் தகுந்தவை என்பதைத் தீர்மானிக்க முகவரைச் சார்ந்திருக்காது. அதே இரண்டு பைதான் ஸ்கிரிப்டுகள் மூன்று கிளையன்ட்களையும் கையாளுகின்றன; ஒரு கடந்து செல்லும் மெல்லிய ஷெல் உறைகள் --client கொடி ஒரு ஹாமுக்கு ஒரே பிசின்.
கட்டிடக்கலை மூன்று அடுக்குகளைக் கொண்டுள்ளது:
- ஹூக்ஸ் (ஆன்லைன்) — Neo4j இல் உள்ள ஒவ்வொரு நிகழ்வையும் ஒரு அமர்வுக்கு இணைக்கப்பட்ட பட்டியலாக செயலற்ற முறையில் பதிவு செய்யவும். மாடல் அழைப்புகள் இல்லை, தாமதச் செலவுகள் இல்லை, சேர்க்கவும்.
- கனவு கட்டம் (ஆஃப்லைன்) – ஒரு தொகுதி திரட்டப்பட்ட நிகழ்வுகளைப் படிக்கிறது, அவற்றை நீடித்த நினைவுகளாக வடிகட்டுமாறு கிளாடிடம் கேட்கிறது, மேலும் அவற்றை மீண்டும் எழுதுகிறது. நினைவுகள் தலைப்பின் அடிப்படையில் ஒழுங்கமைக்கப்படுகின்றன மற்றும் இணைக்கப்படுவதற்குப் பதிலாக ஒன்றிணைக்கப்படுகின்றன, எனவே அவை எப்போதும் வளர்வதற்குப் பதிலாக தற்போதைய நிலையில் இருக்கும்.
- ஊசி (ஆன்லைன்) – அடுத்த அமர்வு தொடங்குகிறது ஏதேனும் ஹாம், சுயவிவர நினைவுகள் சூழலில் ஏற்றப்படுகின்றன. ஒவ்வொரு பயனர் அறிவுறுத்தலிலும், தொடர்புடைய குறிப்புகள் தேடப்பட்டு தானாகவே இணைக்கப்படும்.
இதன் விளைவாக, நினைவகத்தின் ஒரு அடுக்கு மூன்று சேனைகளின் கீழும் அமர்ந்து, மற்றவர்களைப் பற்றி யாருக்கும் தெரியாமல் வேலை செய்கிறது மற்றும் முற்றிலும் உங்களுடையது. நீங்கள் கர்சரிலிருந்து கிளாட் குறியீட்டிற்கு கோடெக்ஸ் மிட்-ப்ராஜெக்ட்டுக்கு மாறலாம் மற்றும் நீங்கள் நிறுத்திய இடத்திலிருந்து சரியாக எடுக்கலாம். நீங்கள் யார், நீங்கள் என்ன வேலை செய்கிறீர்கள், எப்படி வேலை செய்ய விரும்புகிறீர்கள் என்பதைப் பற்றிய உங்கள் முகவரின் புரிதல் உங்களைப் பின்தொடர்கிறது, கருவி அல்ல.
குறியீடு இங்கே கிடைக்கிறது.
Ps: அனைத்து படங்களும் ஆசிரியரால் உருவாக்கப்பட்டவை.
Leave a Reply