Salix

Loops

Loop की मदद से एजेंट 24/7 बैकग्राउंड काम कर सकता है: किसी इनबॉक्स, रिपॉज़िटरी या फ़ीड पर नज़र रखना, और कुछ बदलने पर कार्रवाई करना। Loop को हमेशा चालू सैंडबॉक्स की ज़रूरत नहीं होती, और जब तक ज़रूरी न हो, यह एजेंट के मुख्य लूप को नहीं जगाता।

Loop कैसे चलता है

  1. एजेंट Loop को C में एक प्रोग्राम के रूप में लिखता है।
  2. Salix का सर्वर-साइड eBPF रनटाइम, Spinfoam, इस प्रोग्राम को eBPF में कंपाइल करता है।
  3. Salix, Loop को क्लस्टर पर उसके एजेंट के पास शेड्यूल करता है।

Spinfoam का JIT कंपाइलर फ़ॉर्मल रूप से सत्यापित है, और यह मेमरी-सेफ़ कोड बनाता है। एक Loop कुछ से लेकर दसियों किलोबाइट मेमरी लेता है, इसलिए एजेंट जब तक चाहे Loops चालू रख सकता है।

बड़े मॉडल के बिना फ़ैसले

Loop, Jev जैसे तेज़ डिसीज़न मॉडल को कॉल कर सकता है। इनकी मदद से Loop बड़े लैंग्वेज मॉडल को कॉल किए बिना बाहरी डेटा और स्टेट को वर्गीकृत करता है (जैसे, किसी नए ईमेल पर आपका ध्यान चाहिए या नहीं)।

जब Loop को कुछ ऐसा मिलता है जिस पर एजेंट को ध्यान देना हो, तो वह एजेंट को सूचना देता है। तभी एजेंट का मुख्य लूप चलता है, और तभी मॉडल टोकन ख़र्च होते हैं।

Loop क्या कर सकता है

Loop सिर्फ़ क्षमताओं की एक तय सूची को कॉल कर सकता है: रीड टूल, डिवाइस और एनवायरनमेंट टूल, वेब रिक्वेस्ट, आपके जुड़े हुए ऐप्स, और अपने एजेंट को सूचना। Loop उसे बनाने वाले व्यक्ति के अधिकार से काम करता है, उससे ज़्यादा नहीं।

  • इवेंट: दूसरे सिस्टम API के ज़रिए, या उस Loop के सीक्रेट webhook URL के ज़रिए Loop को इवेंट भेज सकते हैं।
  • स्टेट: Loop एक चेकपॉइंट सेव करता है, और दोबारा शुरू होने पर उसे वापस पाता है।
  • सीमाएँ: Loop दस मिनट में अपने एजेंट को सीमित बार ही जगा सकता है। जो Loop एक घंटे तक उसी सीमा पर रहता है, वह रुक जाता है।
  • गड़बड़ियाँ: किसी गड़बड़ी के बाद Salix, Loop को उसके चेकपॉइंट से फिर शुरू करता है, एक घंटे में ज़्यादा से ज़्यादा तीन बार। उसके बाद Loop बंद हो जाता है और अपने एजेंट को बताता है।