ஓ’ரெய்லியின் சமர்ப்பிப்புகள்: ஃபாஸ்ட் டிராக்குகள் மற்றும் ஸ்லோ டிராக்குகள்

[Ed. note: We’re opening up a Friday column slot on the blog to provide regular insight from voice within the developer community, either here at Stack Overflow of outside of it. This is the first of those columns, a republication of one of the articles on O’Reilly Media’s blog, Radar. We’ll have a repost from them every month.]

இந்த இடுகை முதலில் வெளியிடப்பட்டது[–>O’Reilly Radar மற்றும் ஆசிரியரின் அனுமதியுடன் இங்கு மறுபிரசுரம் செய்யப்படுகிறது.

—————————-

தன்னாட்சி AI அமைப்புகள் கட்டிடக் கலைஞர்களை நீண்ட நேரம் தவிர்க்க முடியாத ஒரு சங்கடமான கேள்வியைக் கேட்கும்படி கட்டாயப்படுத்துகின்றன: பாதுகாப்பாக இருக்க ஒவ்வொரு முடிவும் ஒத்திசைவாக நிர்வகிக்கப்பட வேண்டுமா?

முதல் பார்வையில், பதில் தெளிவாகத் தெரிகிறது. AI அமைப்புகள் காரணம், தகவல்களைப் பெற்று, தன்னாட்சியுடன் செயல்பட்டால், நிச்சயமாக ஒவ்வொரு அடியும் நியாயம், இணக்கம் மற்றும் பாதுகாப்பை உறுதி செய்வதற்கான கட்டுப்பாட்டுத் திட்டத்தின் மூலம் செல்ல வேண்டும். குறைவானது பொறுப்பற்றதாக உணர்கிறது. ஆனால் இந்த உள்ளுணர்வு நேரடியாக தங்கள் சொந்த எடையின் கீழ் சரிந்துவிடும் கட்டிடக்கலைகளுக்கு வழிவகுக்கிறது.

AI அமைப்புகள் தனிமைப்படுத்தப்பட்ட விமானிகளுக்கு அப்பால் தொடர்ந்து இயங்கும் மல்டி-ஏஜென்ட் சூழல்களில் விரிவடைவதால், உலகளாவிய மத்தியஸ்தம் விலை உயர்ந்தது மட்டுமல்ல, கட்டமைப்பு ரீதியாக சுயாட்சியுடன் பொருந்தாது. சவால் என்பது கட்டுப்பாடு மற்றும் சுதந்திரத்திற்கு இடையேயான தேர்வு அல்ல. தன்னாட்சி அமைப்புகளை பயனுள்ளதாக்கும் பண்புகளை அழிக்காமல், தேர்ந்தெடுக்கப்பட்ட முறையில் கட்டுப்பாட்டைப் பயன்படுத்துவது எப்படி என்பதை அறிக.

இந்தக் கட்டுரை உண்மையில் உற்பத்தி அமைப்புகளில் எவ்வாறு அடையப்படுகிறது என்பதை ஆராய்கிறது-ஒவ்வொரு அடியையும் நிர்வகிப்பதன் மூலம் அல்ல, ஆனால் வேகமான பாதைகளை மெதுவான பாதைகளிலிருந்து வேறுபடுத்துவதன் மூலமும், நிர்வாகத்தை ஒரு ஒப்புதல் பணிப்பாய்வுக்கு பதிலாக ஒரு பின்னூட்ட சிக்கலாகக் கருதுவதன் மூலமும்.

நிறுவன AI அமைப்புகளின் முதல் தலைமுறை பெரும்பாலும் ஆலோசனையாக இருந்தது. மாதிரிகள் பரிந்துரைகள், சுருக்கங்கள் அல்லது வகைப்பாடுகளை உருவாக்கியது, அவை செயல்படுவதற்கு முன்பு மக்கள் மதிப்பாய்வு செய்தன. இந்த சூழலில், நிர்வாகம் மெதுவாகவும், கைமுறையாகவும், எபிசோடிக் ஆகவும் இருக்க முடியும்.

இந்த அனுமானம் இனி செல்லுபடியாகாது. நவீன முகவர் அமைப்புகள் பணிகளைச் சிதைக்கின்றன, கருவிகளைத் தூண்டுகின்றன, தரவை மீட்டெடுக்கின்றன, மேலும் செயல்களை தொடர்ச்சியாக ஒருங்கிணைக்கின்றன. முடிவுகள் இனி தனியான நிகழ்வுகள் அல்ல; நடப்பு செயல்படுத்தும் சுழற்சியின் ஒரு பகுதியாகும். ஒவ்வொரு படிநிலையையும் அங்கீகரிக்க வேண்டும் என்று ஆளுகை கட்டமைக்கப்படும் போது, கட்டிடக்கலை விரைவாக பலவீனமான வடிவமைப்புகளை நோக்கி நகரும், அங்கு சுயாட்சி கோட்பாட்டில் உள்ளது ஆனால் நடைமுறையில் குறைக்கப்படுகிறது.

முக்கியமான தவறு, நிர்வாகத்தை ஒரு ஒழுங்குமுறை பொறிமுறையாகக் காட்டிலும் ஒத்திசைவான வாயிலாகக் கருதுவது. பகுத்தறிவின் ஒவ்வொரு படியும் அங்கீகரிக்கப்பட்டவுடன், கணினி பயன்படுத்த முடியாதபடி மெதுவாக மாறும், அல்லது விஷயங்களை இயங்க வைக்க குழுக்கள் கட்டுப்பாடுகளை அமைதியாக கடந்து செல்கின்றன. எந்த முடிவும் உறுதியை உருவாக்காது.

உண்மையான கேள்வி இல்லை என்றால் அமைப்புகள் நிர்வகிக்கப்பட வேண்டும், ஆனால் எந்த முடிவுகளுக்கு உண்மையில் ஒத்திசைவான கட்டுப்பாடு தேவை – மற்றும் இல்லை.

பொறியாளர்கள் அதை உருவாக்க முயற்சிக்கும் வரை ஒவ்வொரு முடிவையும் கட்டுப்பாட்டு விமானத்தின் மூலம் இயக்குவது பாதுகாப்பானதாகத் தெரிகிறது.

செலவுகள் உடனடியாக தோன்றும்:

தாமதமானது பல-படி பகுத்தறிவு சுழல்களால் ஆனது
கட்டுப்பாட்டு அமைப்புகள் தோல்வியின் ஒற்றை புள்ளிகளாக மாறும்
தவறான நேர்மறைகள் தீங்கற்ற நடத்தையைத் தடுக்கின்றன
ஒட்டுமொத்த ஒருங்கிணைப்பு அளவோடு மேலோட்டமாக அதிகரிக்கிறது

இது புதிய பாடம் அல்ல. ஆரம்பகால விநியோகிக்கப்பட்ட பரிவர்த்தனை அமைப்புகள் ஒவ்வொரு செயல்பாட்டிற்கும் உலகளாவிய ஒருங்கிணைப்பை முயற்சித்தன மற்றும் நிஜ-உலக பணிச்சுமை நிலைமைகளின் கீழ் தோல்வியடைந்தன. ஆரம்பகால நெட்வொர்க்குகள் நேரடியாக பாக்கெட் கையாளுதலில் கொள்கையை இணைத்து, கட்டுப்பாடு மற்றும் தரவுத் தளங்களைப் பிரிப்பதற்கு முன் சிக்கலான தன்மையால் சரிந்தன.

நிர்வாகத்தை நேரடியாக செயல்படுத்தும் பாதைகளில் கட்டமைக்கப்படும் போது தன்னாட்சி AI அமைப்புகள் இந்த முறையை மீண்டும் மீண்டும் செய்கின்றன. ஒவ்வொரு மீட்டெடுப்பு, அனுமானம் அல்லது கருவி அழைப்பு ஒரு சாத்தியமான முட்டுக்கட்டையாக மாறும். மோசமானது, தோல்விகள் வெளிப்புறமாக பரவுகின்றன: கட்டுப்பாடு குறையும் போது, செயல்படுத்தல் வரிசைகள்; செயல்படுத்தல் செயலிழக்கும்போது, கீழ்நிலை அமைப்புகள் தவறாக செயல்படும். உலகளாவிய மத்தியஸ்தம் பாதுகாப்பை உருவாக்காது. இது பலவீனத்தை உருவாக்குகிறது.

ஒத்திசைவான நிர்வாகம் இல்லாமல் பெரும்பாலான மரணதண்டனைகளைத் தொடர அனுமதிப்பதன் மூலம் உற்பத்தி அமைப்புகள் உயிர்வாழ்கின்றன. இந்த செயல்படுத்தல் ஓட்டங்கள்-வேகமான பாதைகள்-முன் அங்கீகரிக்கப்பட்ட நடத்தை தொகுப்புகளுக்குள் செயல்படுகின்றன. அவர்கள் ஆட்சி செய்ய முடியாதவர்கள் அல்ல. அவர்கள் தொடர்புடையவர்கள்.

வேகமான பாதையில் பின்வருவன அடங்கும்:

முன்பு அங்கீகரிக்கப்பட்ட தரவுப் புலங்களிலிருந்து வழக்கமான மீட்டெடுப்பு
ஒரு பணிக்காக ஏற்கனவே நீக்கப்பட்ட மாதிரிகளைப் பயன்படுத்தி அனுமானம்
அமைக்கப்பட்ட அனுமதிகளுக்குள் கருவியை செயல்படுத்துதல்
மறுபரிசீலனை செய்யக்கூடிய மறுபரிசீலனை பகுத்தறிவு படிகள்

ஒவ்வொரு முடிவும் சமமாக ஆபத்தானது அல்ல என்று ஃபாஸ்ட் டிராக்குகள் கருதுகின்றன. அவர்கள் விமான அனுமதியை விட முன் அங்கீகாரம், சூழல் கட்டுப்பாடுகள் மற்றும் தொடர்ச்சியான கவனிப்பு ஆகியவற்றை நம்பியுள்ளனர். முக்கியமாக, வேகமான தடங்கள் திரும்பப்பெறக்கூடியவை. அவர்களை அனுமதிக்கும் அதிகாரம் நிரந்தரமானது அல்ல; இது நிபந்தனைக்குட்பட்டது மற்றும் கவனிக்கப்பட்ட நடத்தையின் அடிப்படையில் இறுக்கலாம், திருப்பிவிடலாம் அல்லது திரும்பப் பெறலாம். இப்படித்தான் சுயாட்சி என்ற அளவில் உயிர்வாழ்கிறது – ஆளுகையிலிருந்து தப்பிப்பதன் மூலம் அல்ல, மாறாக திணிக்கப்பட்ட வரம்புகளுக்குள் செயல்படுவதன் மூலம்.

எல்லா முடிவுகளும் விரைவான பாதைகளுக்கு சொந்தமானவை அல்ல. சில தருணங்களுக்கு ஒத்திசைவான மத்தியஸ்தம் தேவைப்படுகிறது, ஏனெனில் அவற்றின் விளைவுகள் மாற்ற முடியாதவை அல்லது நம்பிக்கை வரம்புகளை மீறுகின்றன. இவை மெதுவான பாதைகள்.

எடுத்துக்காட்டுகள் பின்வருமாறு:

வெளிப்புற அமைப்புகள் அல்லது பயனர்களைப் பாதிக்கும் செயல்கள்
உணர்திறன் அல்லது ஒழுங்குபடுத்தப்பட்ட தரவு களங்களிலிருந்து மீட்டெடுப்பு
ஆலோசனை அதிகாரத்தில் இருந்து செயல்படும் அதிகாரத்திற்கு அதிகரிப்பு
நிறுவப்பட்ட நடத்தை முறைகளுக்கு வெளியே புதிய கருவிகளைப் பயன்படுத்துதல்

மெதுவான பாதைகள் பொதுவானவை அல்ல. அவை வேண்டுமென்றே அரிதானவை. அவர்களின் நோக்கம் வழக்கமான நடத்தையை மேற்பார்வையிடுவது அல்ல, ஆனால் பங்குகள் மாறும் போது தலையிடுவது. மெதுவான பாதைகளை நன்கு வடிவமைப்பதில் கட்டுப்பாடு தேவை. எல்லாமே மெதுவான பாதையாக மாறும்போது, அமைப்புகள் செயலிழந்துவிடும். மெதுவான பாதைகள் இல்லாதபோது, அமைப்புகள் நகரும். காத்திருப்பு செலவை விட பிழையின் விலை அதிகமாக இருப்பதால், தாமதம் ஏற்றுக்கொள்ளக்கூடிய முடிவு புள்ளிகளை அடையாளம் காண்பதை சமநிலை கொண்டுள்ளது.

ஒரு பொதுவான தவறான கருத்து என்னவென்றால், தேர்ந்தெடுக்கப்பட்ட கட்டுப்பாடு வரையறுக்கப்பட்ட தெரிவுநிலையைக் குறிக்கிறது. நடைமுறையில், இதற்கு நேர்மாறானது உண்மை. கட்டுப்பாட்டு விமானங்கள் தொடர்ந்து கவனிக்கின்றன. அவை நடத்தை டெலிமெட்ரியை சேகரிக்கின்றன, முடிவெடுக்கும் வரிசைகளைக் கண்காணிக்கின்றன மற்றும் காலப்போக்கில் விளைவுகளை மதிப்பீடு செய்கின்றன. அவர்கள் என்ன செய்கிறார்கள் இல்லை do என்பது வரம்புகளை மீறவில்லை என்றால் ஒத்திசைவாக தலையிட வேண்டும்.

இந்த பிரிப்பு-தொடர்ச்சியான கவனிப்பு, தேர்ந்தெடுக்கப்பட்ட தலையீடு-தனிப்பட்ட படிகளுக்கு எதிர்வினையாற்றுவதை விட முறைமைகளிலிருந்து கற்றுக்கொள்ள அனுமதிக்கிறது. சறுக்கல் கண்டறியப்பட்டது ஒரு செயல் ஒரு விதியை மீறியதால் அல்ல, மாறாக பாதைகள் எதிர்பார்க்கப்படும் நடத்தையிலிருந்து விலகத் தொடங்குவதால். தலையீடு பிரதிபலிப்பைக் காட்டிலும் தகவலறிந்ததாக மாறும்.

ஓ’ரெய்லியின் சமர்ப்பிப்புகள்: ஃபாஸ்ட் டிராக்குகள் மற்றும் ஸ்லோ டிராக்குகள் — படம் 1. ஏஜென்ட் எக்ஸிகியூஷன் லூப்பில் வேகமான பாதைகள் மற்றும் மெதுவான பாதைகள்

Cloud-native AI கட்டமைப்பானது சூழல், ஆர்கெஸ்ட்ரேஷன் மற்றும் முகவர்களுக்கான புதிய செயலாக்க அடுக்குகளை அறிமுகப்படுத்துகிறது, மேலும் பயன்பாட்டு தர்க்கத்தில் கொள்கையை நேரடியாக உட்பொதிக்காமல் செலவு, பாதுகாப்பு மற்றும் நடத்தை ஆகியவற்றை நிர்வகிக்கும் ஒரு கட்டுப்பாட்டு விமானத்துடன். முன்அங்கீகரிக்கப்பட்ட உறைகள் மற்றும் தொடர்ச்சியான கண்காணிப்பில் செயல்படும் வேகமான பாதைகளில் பெரும்பாலான முகவர் செயல்படுத்தல் நிகழ்கிறது என்பதை படம் 1 விளக்குகிறது. குறிப்பிட்ட எல்லைக் கடப்புகள் மட்டுமே ஒத்திசைவான மத்தியஸ்தத்திற்கான மெதுவான பாதை கட்டுப்பாட்டு விமானத்தின் வழியாகச் செல்கின்றன, அதன் பிறகு செயல்படுத்தல் மீண்டும் தொடங்குகிறது – அதிகாரத்தைச் செயல்படுத்தும் போது சுயாட்சியைப் பாதுகாத்தல்.

தலையீடு தேவைப்படும் போது, பயனுள்ள அமைப்புகள் இடையூறுகளை விட கருத்துக்களை விரும்புகின்றன. மரணதண்டனையை நிரந்தரமாக நிறுத்துவதற்குப் பதிலாக, கட்டுப்பாட்டு விமானங்கள் நிபந்தனைகளை பின்வருமாறு சரிசெய்கிறது:

நம்பிக்கை வரம்புகளை இறுக்குவது
கிடைக்கக்கூடிய கருவிகளைக் குறைத்தல்
நோக்கத்தைக் குறைக்கிறது
மனித மதிப்பாய்விற்கு மரணதண்டனையை திருப்பிவிடுதல்

இந்த தலையீடுகள் விகிதாசார மற்றும் பெரும்பாலும் மீளக்கூடியவை. கடந்த கால வேலைகளை செல்லாததாக்காமல் எதிர்கால நடத்தையை அவை வடிவமைக்கின்றன. கணினி தொடர்ந்து வேலை செய்கிறது, ஆனால் ஒரு குறுகிய உறையில். இந்த அணுகுமுறை மற்ற துறைகளில் முதிர்ந்த கட்டுப்பாட்டு அமைப்புகளை பிரதிபலிக்கிறது. நிலைத்தன்மை என்பது நிலையான பூட்டுதல் மூலம் அல்ல, ஆனால் அளவிடப்பட்ட திருத்தம் மூலம் அடையப்படுகிறது. விளைவுகள் உடனடி அல்லது மீள முடியாத அரிய நிகழ்வுகளில் நேரடி குறுக்கீடு அவசியம்.

நிர்வாகத்திற்கு ஒரு செலவு வளைவு உள்ளது, அது முக்கியமானது. ஒத்திசைவான கட்டுப்பாடு பலவீனமாக உள்ளது. ஒவ்வொரு கூடுதல் ஆளப்படும் படியும் தாமதம், ஒருங்கிணைப்பு மேல்நிலை மற்றும் செயல்பாட்டு அபாயத்தை சேர்க்கிறது. அமைப்புகள் மிகவும் தன்னாட்சி பெறுவதால், உலகளாவிய மத்தியஸ்தம் அதிவேகமாக விலை உயர்ந்தது.

தேர்ந்தெடுக்கப்பட்ட கட்டுப்பாடு இந்த வளைவை சமன் செய்கிறது. வேகமான டிராக்குகளை ஆதிக்கம் செலுத்த அனுமதிப்பதன் மூலமும், அதிக தாக்கத்தை ஏற்படுத்தும் முடிவுகளுக்கு மெதுவான டிராக்குகளை ஒதுக்குவதன் மூலமும், அமைப்புகள் பதிலளிக்கும் தன்மை மற்றும் அதிகாரம் இரண்டையும் தக்கவைத்துக்கொள்கின்றன. சுயாட்சியுடன் ஆளுகைச் செலவு மிகக் கீழ்நோக்கி அதிகரிக்கிறது, இது உடையக்கூடியது அல்ல, அளவிடுதல் சாத்தியமாகும். காகிதத்தில் அழகாக இருக்கும் கட்டுப்பாடுக்கும் உற்பத்தியைத் தக்கவைக்கும் கட்டுப்பாடுக்கும் உள்ள வித்தியாசம் இதுதான்.

தன்னாட்சி அமைப்புகளை வடிவமைக்கும் கட்டிடக் கலைஞர்கள் பல அனுமானங்களை மறுபரிசீலனை செய்ய வேண்டும்:

கட்டுப்பாட்டு விமானங்கள் நடத்தையை ஒழுங்குபடுத்துகின்றன, செயல்களை அங்கீகரிக்கவில்லை.
கவனிப்பு என்பது முடிவின் சூழலைப் பிடிக்க வேண்டும், நிகழ்வுகள் மட்டுமல்ல.
அதிகாரம் ஒரு இயக்க நேர நிலையாக மாறும், நிலையான உள்ளமைவு அல்ல.
பாதுகாப்பு பின்னூட்ட சுழல்களிலிருந்து வருகிறது, கட்டுப்பாட்டு புள்ளிகள் அல்ல.

இந்த மாற்றங்கள் கட்டடக்கலை, நடைமுறை அல்ல. அரசியலால் மட்டும் அவர்களை நவீனப்படுத்த முடியாது.

படம் 2. பின்னூட்டமாக கட்டுப்பாடு, ஒப்புதல் அல்ல

AI முகவர்கள் குறுகிய கால நினைவகம், நீண்ட கால உட்பொதித்தல் மற்றும் நிகழ்வு வரலாற்றை நிர்வகிக்கும் பகிரப்பட்ட சூழலில் செயல்படுகின்றனர். மாநிலத்தின் மையப்படுத்தல் தனிப்பட்ட முகவர்களில் நினைவக தர்க்கத்தைச் சேர்க்காமல் பகுத்தறிவு, தணிக்கை மற்றும் ஆளுகை ஆகியவற்றின் தொடர்ச்சியை அனுமதிக்கிறது. பின்னூட்ட அமைப்பாக கட்டுப்பாடு எவ்வாறு செயல்படுகிறது என்பதை படம் 2 காட்டுகிறது: தொடர்ச்சியான கண்காணிப்பு எதிர்காலச் செயல்பாட்டினை வடிவமைக்கும் கட்டுப்பாடுகளுக்கான புதுப்பிப்புகளைத் தெரிவிக்கிறது. நேரடி இடைநீக்கம் உள்ளது, ஆனால் ஒரு கடைசி முயற்சியாக-வழக்கமான நிர்வாகத்தை விட மீளமுடியாத தீங்குக்காக ஒதுக்கப்பட்டுள்ளது.

ஒவ்வொரு முடிவையும் ஆள வேண்டும் என்ற ஆசை புரிகிறது. இது பாதுகாப்பானதாக உணர்கிறது. ஆனால் அளவிலான பாதுகாப்பு என்பது எல்லாவற்றையும் பார்ப்பதிலிருந்து அல்ல, ஆனால் அது முக்கியமானதாக இருக்கும்போது தலையிட முடியும்.

நிர்வாகமானது படிப்படியான ஒப்புதலில் இருந்து முடிவுகள் சார்ந்த ஒழுங்குமுறைக்கு பரிணமித்தால் மட்டுமே தன்னாட்சி AI அமைப்புகள் சாத்தியமானதாக இருக்கும். எக்ஸ்பிரஸ் வழிகள் சுயாட்சியைப் பாதுகாக்கின்றன. மெதுவான வழிகள் நம்பிக்கையைத் தக்கவைக்கும். கருத்து நிலைத்தன்மையை பராமரிக்கிறது. AI நிர்வாகத்தின் எதிர்காலம் பல வாயில்கள் அல்ல. இது சிறந்த கட்டுப்பாடு. மற்றும் கட்டுப்பாடு, சரியாகச் செய்யப்படுகிறது, அமைப்புகள் செயல்படுவதைத் தடுக்காது. சுயாட்சி அதிகரித்தாலும் அவர்கள் தொடர்ந்து பாதுகாப்பாக செயல்பட முடியும் என்பதை இது உறுதி செய்கிறது.