همه‌چی به کانتکست برمی‌گرده
مدل دو تا چیز می‌دونه: چیزی که تو تمرین دیده و چیزی که تو همین گفت‌وگو هست. ببین پنجره‌ی کانتکست چیه، چرا باید خود مطلب رو بهش بدی، و تاریخ قطع اطلاعات آموزشی (Knowledge Cutoff Date) برای سؤال‌های جدید یعنی چی.
پنجره‌ی کانتکست (Context Window)
همه‌ی متنی که مدل تو یه لحظه می‌تونه در نظر بگیره: دستورهایی که خود اپ بهش داده، پیام‌های تو، جواب‌های قبلی خودش، و هر چی که چسبوندی یا پیوست کردی. این پنجره یه سقف اندازه داره که با توکن حساب می‌شه. چیزی که بیرون پنجره‌ست برای مدل وجود نداره.
یه گزارش ۳ صفحه‌ای که تو چت چسبوندی توی پنجره‌ست. همون گزارش که تو یه پوشه روی لپ‌تاپته، نیست.
فقط دوتا منبع
داده‌های آموزشی و گفت‌وگوی جاری (Training Data & Context)
هر چی مدل می‌گه از دو جا میاد. تمرین: دانش عمومی‌ای که از حجم عظیمی متن گرفته و تو یه تاریخی ثابت مونده. گفت‌وگو: هر چی همین الان تو پنجره هست. درباره‌ی قرارداد به‌طور کلی خیلی می‌دونه. درباره‌ی قرارداد تو هیچی نمی‌دونه تا وقتی بذاریش تو چت.
ابزارهایی که تو وب می‌گردن یا فایل‌هات رو می‌خونن این قانون رو عوض نمی‌کنن. کارشون اینه که متن رو پیدا می‌کنن و می‌ذارنش توی پنجره، تا مدل بتونه بخوندش.
خودت رو امتحان کن
امید از یه دستیار می‌خواد: «آیین‌نامه‌ی مرخصی شرکت‌مون رو خلاصه کن.» یه خلاصه‌ی مرتب می‌گیره که اصلاً به آیین‌نامه‌ی واقعی نمی‌خوره. قدم بعدیش چیه؟
- بهش بگه جوابت غلطه و این بار بیشتر تلاش کن و دقیق‌تر بنویس
- همین سؤال رو تو یه چت جدید بپرسه
- اسم شرکت رو اضافه کنه تا آیین‌نامه یادش بیاد
- متن واقعی آیین‌نامه رو بچسبونه و دوباره بخواد
جواب رو ببین
متن واقعی آیین‌نامه رو بچسبونه و دوباره بخواد
آره. آیین‌نامه اصلاً توی پنجره نبوده، پس مدل چیزی نوشته که یه آیین‌نامه‌ی مرخصی معمولی اون شکلیه. متن رو بهش بده تا خود واقعیش رو خلاصه کنه.
خود مطلب رو بهش بده
پرامپت ضعیف
«یه جواب برای یه مشتری ناراضی بنویس که سفارشش دیر رسیده.»
مدل مشتری، تأخیر و قانون‌های فروشگاهت رو از خودش می‌سازه. جواب خوش‌ظاهره و به هیچ‌کس نمی‌خوره.
پرامپت بهتر
«این پیام مشتریه: [متن]. این هم قوانین ارسال ماست: [متن]. بسته به‌خاطر مشکل شرکت پست ۶ روز دیر شده. یه جواب بنویس که عذرخواهی کنه، توضیح بده و همون چیزی رو پیشنهاد بده که قوانین اجازه می‌ده.»
چیزی نمونده که بخواد از خودش بسازه.
این پایین یادداشت‌های من از جلسه‌ی امروز تیمه. فقط و فقط با همین یادداشت‌ها، یه خلاصه‌ی ۴ خطی بنویس که برای مدیرم بفرستم، بعد بنویس کی باید چی‌کار کنه.
یادداشت‌ها:
- رونمایی از دهم رفت به هفدهم، طراح مریضه
- رضا صفحه‌ی پرداخت رو تا پنجشنبه تموم می‌کنه
- مینا به چاپخونه برای تراکت‌ها زنگ می‌زنه
- درباره‌ی بودجه حرفی نشدخلاصه: رونمایی به‌خاطر بیماری طراح از دهم به هفدهم منتقل شد. صفحه‌ی پرداخت طبق برنامه تا پنجشنبه آماده می‌شه. تراکت‌ها هنوز باید هماهنگ بشن. درباره‌ی بودجه صحبتی نشد.
کارها:
- رضا: تموم کردن صفحه‌ی پرداخت تا پنجشنبه
- مینا: تماس با چاپخونه برای تراکت‌ها«فقط و فقط با همین یادداشت‌ها» به مدل می‌گه توی همون مطلبی که دادی بمونه و خلاصه رو با دانش عمومیش پر نکنه.
خودت رو امتحان کن
مریم هفته‌ی پیش کل پروژه‌ش رو تو یه چت توضیح داده. اگه امروز یه چت کاملاً جدید باز کنه، می‌تونه با خیال راحت فرض کنه دستیار هنوز اون جزئیات رو داره.
جواب رو ببین
نادرست
یه گفت‌وگوی جدید معمولاً با پنجره‌ی خالی شروع می‌شه. بعضی محصول‌ها یه قابلیت حافظه دارن که چندتا یادداشت رو بین چت‌ها نگه می‌ده، ولی نمی‌شه روش حساب کرد که جزئیات لازمت رو داشته باشه. یه خلاصه‌ی کوتاه از پروژه رو اول چت جدید بچسبون.
ثابت تو زمان
تاریخ قطع اطلاعات آموزشی (Knowledge Cutoff Date)
آموزش مدل تو یه تاریخی متوقف می‌شه که بهش تاریخ قطع اطلاعات یا Knowledge Cutoff می‌گن. بعد از اون هیچی نخونده: نه خبرهای ماه پیش، نه نسخه‌ی جدید یه اپ، نه قیمت‌های امروز. خودش به‌تنهایی شاید حتی تاریخ امروز رو هم ندونه. درباره‌ی یه چیز جدید بپرسی، یا می‌گه نمی‌دونم، یا بدتر، با اعتمادبه‌نفس از یه دنیای قدیمی‌تر جواب می‌ده.
بپرسی «جدیدترین گوشی این برند چیه؟» ممکنه همون مدلی رو بگه که موقع پایان تمرین جدیدترین بوده، جوری که انگار همین الانه.
خودت رو امتحان کن
مدل این رو از داده‌های آموزش اولیه می‌دونه، یا باید حتماً تو متن همین گفت‌وگو (کانتکست) باشه؟
- ساختار یه نامه‌ی شکایت رسمی چطوریه
- استادت تو صورت تکلیف چی نوشته
- دلایل اصلی جنگ جهانی اول
- تو جلسه‌ی امروز صبح شما چه تصمیمی گرفته شد
- نتیجه‌ی بازی فوتبال دیشب
- یه برنامه‌ی غذایی هفتگی متعادل چه شکلیه
جواب رو ببین
تمرین کافیه: ساختار یه نامه‌ی شکایت رسمی چطوریه, دلایل اصلی جنگ جهانی اول, یه برنامه‌ی غذایی هفتگی متعادل چه شکلیه
باید تو چت باشه: استادت تو صورت تکلیف چی نوشته, تو جلسه‌ی امروز صبح شما چه تصمیمی گرفته شد, نتیجه‌ی بازی فوتبال دیشب
چک کانتکست، قبل از فرستادن
- این کار به چی وابسته‌ست؟
یه فایل، یه رشته ایمیل، یه صورت تکلیف، چندتا عدد؟ بچسبونش. وقتی می‌تونی خود اصلش رو بدی، از حفظ تعریفش نکن.
- موقعیت من چیه؟
کی هستی، برای کیه، تا اینجا چی شده. معمولاً دو جمله کافیه.
- چیز جدید یا خصوصی توش هست؟
اگه بعد از پایان تمرین اتفاق افتاده یا هیچ‌وقت عمومی نشده، مدل نمی‌تونه بدوندش. خودت اطلاعات رو بده و اگه تاریخ مهمه، تاریخ امروز رو هم بگو.
- چت طولانی شده؟
قانون‌های اصلی رو دوباره بگو، یا با یه خلاصه از نو شروع کن.
خودت رو امتحان کن
علی هفته‌ی بعد پرواز داره و قوانین فعلی ورود به اون کشور رو لازم داره. دستیارش با اعتمادبه‌نفس یه لیست می‌ده. کار عاقلانه چیه؟
- بهش اعتماد کنه، چون لیست دقیق و جزئیه و قوانین ورود هم اون‌قدرها عوض نمی‌شن که نگرانی داشته باشه
- ازش بخواد تأیید کنه که لیست به‌روزه
- صفحه‌ی رسمی سفارت یا هواپیمایی رو چک کنه و بعد همون متن رو تو چت بچسبونه
- سؤال رو مؤدبانه‌تر بپرسه و دوتا جواب رو مقایسه کنه
جواب رو ببین
صفحه‌ی رسمی سفارت یا هواپیمایی رو چک کنه و بعد همون متن رو تو چت بچسبونه
درسته. این‌جور قانون‌ها عوض می‌شن و دانش مدل تو تاریخ قطع اطلاعات آموزشی (Knowledge Cutoff Date)ش ثابت مونده. منبع، متن رسمی فعلیه؛ بعدش دستیار می‌تونه تو خوندنش کمکش کنه.
مرور درس
- پنجره‌ی کانتکست یعنی همه‌ی چیزی که مدل همین الان می‌بینه؛ بیرون از اون برای مدل هیچی وجود نداره.
- چیزهای کلی رو از تمرین می‌دونه و چیزهای خاص رو فقط از گفت‌وگو؛ پس خود مطلب رو بچسبون.
- چت جدید معمولاً خالی شروع می‌شه و چت طولانی جزئیات اولش رو گم می‌کنه: دوباره بگو یا خلاصه کن.
- تمرین مدل یه تاریخ پایان داره. برای هر چیز جدید، اطلاعات به‌روز رو خودت بیار.