خلاصه
- کلاد قابلیت‌های جدیدی برای مدیریت کانتکست ایجنت‌ها معرفی کرده: ویرایش کانتکست و ابزار حافظه.
- این ابزارها به همراه مدل Claude Sonnet 4.5، کمک میکنن ایجنت‌ها کارهای طولانی‌مدت رو بدون رسیدن به محدودیت کانتکست انجام بدن.
- ویرایش کانتکست، وقتی توکن‌ها کم میشن، اطلاعات قدیمی و نتایج ابزارها رو به صورت خودکار از کانتکست پاک میکنه.
- ابزار حافظه به کلاد اجازه میده اطلاعات مهم رو توی یه سیستم مبتنی بر فایل ذخیره و در جلسات بعدی هم استفاده کنه.
- با این نوآوری‌ها، ایجنت‌ها میتونن پایگاه‌های دانش بسازن و وضعیت پروژه‌ها رو بین جلسات حفظ کنن.
- این قابلیت‌ها برای کدنویسی، تحقیق و پردازش داده‌های بزرگ خیلی مفید هستن.
- تست‌ها نشون دادن که ترکیب این دو ابزار، عملکرد ایجنت‌ها رو تا ۳۹ درصد بهتر کرده و مصرف توکن رو ۸۴ درصد کاهش داده.
- این ویژگی‌ها همین امروز به صورت بتای عمومی روی پلتفرم توسعه‌دهندگان کلاد، Amazon Bedrock و Vertex AI گوگل کلاد در دسترس هستن.
امروز میخوایم در مورد قابلیت‌های جدیدی برای مدیریت کانتکست ایجنت‌ها روی پلتفرم توسعه‌دهندگان کلاد (Claude) صحبت کنیم: ویرایش کانتکست (context editing) و ابزار حافظه (memory tool). این قابلیت‌ها به همراه جدیدترین مدل یعنی Claude Sonnet 4.5، به توسعه‌دهنده‌ها این امکان رو میدن که ایجنت‌های هوش مصنوعی بسازن که بتونن کارهای طولانی‌مدت رو با عملکرد بهتر انجام بدن، بدون اینکه به محدودیت‌های کانتکست بخورن یا اطلاعات حیاتی رو از دست بدن.
محدودیت کانتکست در مقابل کارهای واقعی
پنجره‌های کانتکست محدودیت دارن، اما کارهای واقعی اینطور نیستن. وقتی ایجنت‌های در حال کار، تسک‌های پیچیده‌تری رو انجام میدن و نتایج بیشتری از ابزارها تولید میکنن، اغلب به سقف پنجره کانتکست خودشون میرسن. اینجاست که توسعه‌دهنده‌ها گیر میکنن و باید بین حذف کردن بخشی از مکالمات ایجنت یا پایین اومدن عملکرد یکی رو انتخاب کنن. مدیریت کانتکست این مشکل رو از دو راه حل میکنه و به توسعه‌دهنده‌ها کمک میکنه تا مطمئن بشن فقط داده‌های مرتبط در کانتکست باقی میمونه و اطلاعات باارزش در طول جلسات مختلف حفظ میشه.
ویرایش کانتکست به صورت خودکار، وقتی که به محدودیت توکن نزدیک میشیم، تماس‌های قدیمی ابزارها و نتایجشون رو از پنجره کانتکست پاک میکنه. همونطور که ایجنت شما کارها رو اجرا میکنه و نتایج ابزارها جمع میشه، ویرایش کانتکست محتوای قدیمی رو حذف میکنه و در عین حال جریان گفتگو رو حفظ میکنه. این کار باعث میشه ایجنت‌ها مدت زمان بیشتری بدون دخالت دستی کار کنن و عملکرد مدل هم بهتر بشه چون کلاد فقط روی اطلاعات مرتبط تمرکز میکنه.
ابزار حافظه به کلاد اجازه میده اطلاعات رو خارج از پنجره کانتکست، توی یک سیستم مبتنی بر فایل، ذخیره و بازیابی کنه. کلاد میتونه فایل‌ها رو در یک دایرکتوری حافظه اختصاصی که روی زیرساخت شما ذخیره شده، ایجاد کنه، بخونه، به‌روزرسانی کنه و حذف کنه. این قابلیت در طول مکالمات مختلف پایدار میمونه و به ایجنت‌ها اجازه میده به مرور زمان پایگاه‌های دانش بسازن، وضعیت پروژه رو بین جلسات مختلف حفظ کنن و به آموخته‌های قبلی مراجعه کنن بدون اینکه لازم باشه همه چیز رو در کانتکست نگه دارن.
عملکرد ابزار حافظه کاملا سمت کاربر (client-side) و از طریق فراخوانی ابزارها انجام میشه. این یعنی توسعه‌دهنده‌ها مدیریت کامل روی محل ذخیره‌سازی داده‌ها و نحوه نگهداریشون دارن.
مدل کلاد Sonnet 4.5 با آگاهی داخلی از کانتکست، هر دو قابلیت رو تقویت میکنه. این مدل در طول مکالمات، توکن‌های موجود رو ردیابی میکنه تا کانتکست رو به شکل موثرتری مدیریت کنه.
در مجموع، این به‌روزرسانی‌ها سیستمی رو ایجاد میکنن که عملکرد ایجنت رو بهتر میکنه:
- امکان مکالمات طولانی‌تر با حذف خودکار نتایج قدیمی ابزارها از کانتکست.
- افزایش دقت با ذخیره اطلاعات مهم در حافظه و استفاده از اونها در جلسات بعدی ایجنت.
ساخت ایجنت‌هایی برای کارهای طولانی‌مدت
کلاد Sonnet 4.5 بهترین مدل در جهان برای ساخت ایجنت‌هاست. این ویژگی‌ها امکانات جدیدی برای ایجنت‌هایی با کارهای طولانی‌مدت باز میکنن، مثل پردازش کل یک کدبیس، تحلیل صدها سند، یا نگهداری تاریخچه تعاملات طولانی با ابزارها. مدیریت کانتکست بر این اساس ساخته شده و تضمین میکنه که ایجنت‌ها میتونن از این ظرفیت گسترده به طور موثر استفاده کنن و همزمان کارهایی رو انجام بدن که از هر محدودیت ثابتی فراتر میرن. موارد استفاده شامل اینهاست:
- کدنویسی: ویرایش کانتکست، فایل‌های خوانده شده قدیمی و نتایج تست‌ها رو پاک میکنه، در حالی که حافظه، اطلاعات مهم دیباگ و تصمیمات معماری رو حفظ میکنه. این به ایجنت‌ها اجازه میده روی کدبیس‌های بزرگ کار کنن بدون اینکه پیشرفت خودشون رو از دست بدن.
- تحقیق: حافظه، یافته‌های کلیدی رو ذخیره میکنه و ویرایش کانتکست نتایج جستجوی قدیمی رو حذف میکنه. این کار باعث ساخت پایگاه‌های دانشی میشه که عملکرد رو به مرور زمان بهبود میدن.
- پردازش داده: ایجنت‌ها نتایج میانی رو در حافظه ذخیره میکنن و ویرایش کانتکست داده‌های خام رو پاک میکنه. این به اونها اجازه میده کارهایی رو انجام بدن که در غیر این صورت از محدودیت توکن فراتر میرفت.
بهبود عملکرد با مدیریت کانتکست
تو یه ارزیابی داخلی برای جستجوی ایجنتی، تاثیر مدیریت کانتکست روی عملکرد ایجنت‌ها در تسک‌های پیچیده و چند مرحله‌ای تست شد. نتایج بهبود قابل توجهی رو نشون دادن: ترکیب ابزار حافظه با ویرایش کانتکست، عملکرد رو ۳۹ درصد نسبت به حالت پایه بهتر کرد. ویرایش کانتکست به تنهایی تونست ۲۹ درصد بهبود ایجاد کنه.
در یک ارزیابی جستجوی وب ۱۰۰ مرحله‌ای، ویرایش کانتکست به ایجنت‌ها امکان داد تا فرآیندهایی رو کامل کنن که در حالت عادی به دلیل پر شدن کانتکست شکست میخوردن، و در عین حال مصرف توکن رو تا ۸۴ درصد کاهش داد.
چطور شروع کنیم؟
این قابلیت‌ها امروز به صورت بتای عمومی روی پلتفرم توسعه‌دهندگان کلاد، و همچنین به صورت بومی در Amazon Bedrock و Vertex AI گوگل کلاد در دسترسه. میتونید مستندات مربوط به ویرایش کانتکست و ابزار حافظه رو بررسی کنید یا برای یادگیری بیشتر به cookbook ما سر بزنید.
Anthropic به CATAN GmbH یا CATAN Studio وابسته نیست، توسط آنها تایید نشده و یا حمایت مالی نمیشه. علامت تجاری و بازی CATAN متعلق به CATAN GmbH است.
منابع
- [۱] Managing context on the Claude Developer Platform \ Anthropic
دیدگاهتان را بنویسید