پث‌وایز

هوش مصنوعی چطور کار می‌کنه؟ از الگوها تا چت‌جی‌پی‌تیدرس ۹ از ۱۲

امبدینگ: هوش مصنوعی چطور معنی کلمات رو به عدد تبدیل می‌کنه؟

ببین چطور هر کلمه تبدیل به یه موقعیت در فضای معنی می‌شه، تا کلمه‌های مشابه کنار هم بشینن و رابطه‌ها تبدیل به جهت بشن.

چیزی که از این درس می‌بری

  • امبدینگ یه لیست از عددهاست که هر کلمه رو در نقطه‌ای از فضای معنایی قرار می‌ده.
  • آموزش، کلمه‌هایی رو که کاربرد مشابه دارن کنار هم می‌چینه؛ بدون اینکه به برچسب نیازی باشه.
  • رابطه‌ی بین کلمات می‌تونه به شکل جهت در این فضا دیده بشه.
فهرست این درس۳
  1. امبدینگ (Embedding)
  2. تو رو از روی همسایه‌هات می‌شناسن
  3. مرور درس

امبدینگ (Embedding)

اسم · هوش مصنوعی

یه لیست از عددها که یک کلمه (یا جمله یا تصویر) رو در نقطه‌ای از یه فضای چندبُعدی قرار می‌ده. آموزش این فضا رو طوری می‌چینه که چیزهایی با معنی مشابه، کنار هم قرار بگیرن.

کلمه‌های «cat» و «kitten» لیست عددهای شبیه به هم می‌گیرن؛ اما «cat» و «truck» عددهای کاملاً متفاوتی به دست میارن.

خودت رو امتحان کنسؤال ۱ از ۴

توی یه فضای امبدینگ مناسب، کدوم کلمه به «doctor» (پزشک) از همه نزدیک‌تر می‌شینه؟

  1. banana (موز)
  2. nurse (پرستار)
  3. Tuesday (سه‌شنبه)
  4. blue (آبی)
جواب رو ببین

nurse (پرستار)

درسته. کلمه‌هایی که توی موقعیت‌های مشابه میان، مثل doctor و nurse، نزدیک هم قرار می‌گیرن.

۰۲نحوه‌ی یادگیری

تو رو از روی همسایه‌هات می‌شناسن

هیچ‌کس معنی کلمات رو دستی تایپ نمی‌کنه. در طول آموزش، کلمه‌هایی که در موقعیت‌های مشابه ظاهر می‌شن، به سمت موقعیت‌های مشابه هم هل داده می‌شن. مثلاً «coffee» و «tea» هر دو بعد از «a cup of» میان، بنابراین به هم نزدیک می‌شن. امبدینگ‌های واقعی صدها یا هزاران بُعد دارن؛ این انیمیشن اونا رو توی ۲ بُعد فشرده کرده تا بتونی ببینیشون.

خودت رو امتحان کنسؤال ۲ از ۴

قبل از اینکه مدل بتونه امبدینگ‌ها رو بسازه، یه نفر باید معنی هر کلمه رو با برچسب مشخص کنه.

  1. درست
  2. نادرست
جواب رو ببین

نادرست

غلطه. امبدینگ‌ها از نحوه‌ی به کار رفتن کلمات توی حجم عظیمی از متن‌ها یاد گرفته می‌شن. کاربردهای مشابه باعث قرار گرفتن در موقعیت‌های مشابه می‌شه، بدون اینکه به هیچ برچسبی نیاز باشه.

قدم‌به‌قدم ببین

  1. قبل از آموزش: پراکنده
    ۱/۴قبل از آموزش: پراکنده

    هفت کلمه که به‌صورت تصادفی چیده شدن: cat،‏ kitten،‏ dog،‏ puppy،‏ car،‏ bus و truck. نقطه‌های آبی حیوون‌ها هستن و نقطه‌های نارنجی وسایل نقلیه، اما موقعیت‌هاشون فعلاً هیچ معنی‌ای نداره.

  2. بعد از آموزش: کلمه‌های مشابه جمع می‌شن
    ۲/۴بعد از آموزش: کلمه‌های مشابه جمع می‌شن

    آموزش کلمات رو جابه‌جا می‌کنه. اون چهار تا حیوون بالا سمت چپ و سه تا وسیله‌ی نقلیه پایین سمت راست جمع می‌شن. حالا موقعیت کلمه‌ها معنی پیدا کرده.

  3. نزدیک بودن یعنی شباهت
    ۳/۴نزدیک بودن یعنی شباهت

    خط‌ها همسایه‌های نزدیک رو به هم وصل می‌کنن: cat به kitten و dog، کلمه‌ی dog به puppy، و اون سه تا وسیله‌ی نقلیه هم به همدیگه. فاصله‌های کوتاه داخل هر گروه، و فاصله‌ی زیادی بین دو گروه.

  4. رابطه‌ها تبدیل به جهت می‌شن
    ۴/۴رابطه‌ها تبدیل به جهت می‌شن

    دو تا فلش یاسی: cat به kitten، و dog به puppy. هر دو به یه سمت اشاره می‌کنن. توی فضای امبدینگ، مفهوم «بچه‌یِ یک موجود بودن» تقریباً تبدیل به یه جهت مشخص شده؛ و مدل‌ها دقیقاً همین‌طوری رابطه‌ی بین کلمه‌ها رو تشخیص می‌دن.

خودت رو امتحان کنسؤال ۳ از ۴

هر کاربرد رو به نحوه‌ی کمک امبدینگ وصل کن

  • جستجویی که با تایپ «low-cost airfare»، برات «cheap flights» رو پیدا می‌کنه
  • بخش «مشتریانی که این محصول رو دوست داشتن، این‌ها رو هم پسندیدن…»
  • دسته‌بندی موضوعیِ هزاران ایمیل پشتیبانی

آیتم‌های مشابه کنار همدیگه قرار می‌گیرنخوشه‌هایی از نقطه‌های نزدیک به هممعنی‌های نزدیک، نقطه‌های نزدیک به هم هستن

جواب رو ببین
  • جستجویی که با تایپ «low-cost airfare»، برات «cheap flights» رو پیدا می‌کنه → معنی‌های نزدیک، نقطه‌های نزدیک به هم هستن
  • بخش «مشتریانی که این محصول رو دوست داشتن، این‌ها رو هم پسندیدن…» → آیتم‌های مشابه کنار همدیگه قرار می‌گیرن
  • دسته‌بندی موضوعیِ هزاران ایمیل پشتیبانی → خوشه‌هایی از نقطه‌های نزدیک به هم

خودت رو امتحان کنسؤال ۴ از ۴

آرش توی مرکز راهنمای یه شرکت، عبارت «پرداختم انجام نشد» (my payment didn't go through) رو جستجو می‌کنه و مقاله‌ای با عنوان «تراکنش ناموفق بود» (Transaction failed) براش پیدا می‌شه. هیچ کلمه‌ی مشترکی ندارن. جستجو چطور پیداش کرد؟

  1. شانسی
  2. جستجو امبدینگ‌ها رو مقایسه کرده و معنی این دو عبارت تقریباً یکیه
  3. یه نفر اون‌ها رو دستی به هم وصل کرده
  4. برای هر جستجویی، همه‌ی مقاله‌ها رو نشون می‌ده
جواب رو ببین

جستجو امبدینگ‌ها رو مقایسه کرده و معنی این دو عبارت تقریباً یکیه

درسته. جستجوی معنایی موقعیت‌ها رو توی فضای امبدینگ مقایسه می‌کنه، بنابراین کلمه‌های متفاوت با معنی یکسان باز هم با هم مطابقت داده می‌شن.

۰۳جمع‌بندی

مرور درس

  • امبدینگ یه لیست از عددهاست که هر کلمه رو در نقطه‌ای از فضای معنایی قرار می‌ده.
  • آموزش، کلمه‌هایی رو که کاربرد مشابه دارن کنار هم می‌چینه؛ بدون اینکه به برچسب نیازی باشه.
  • رابطه‌ی بین کلمات می‌تونه به شکل جهت در این فضا دیده بشه.
  • امبدینگ‌ها به جستجوی معنایی قدرت می‌دن، اما سوگیری‌های متن رو هم به خودشون جذب می‌کنن.

به سبک خودت یادش بگیر.

توی اپ از یادآی بخواه این درس رو ساده‌تر توضیح بده، از زندگی خودت مثال بزنه یا عمیق‌تر بره. بعد یه مسیر کامل دور هدف خودت بساز.

Cafe Bazaar Myket توی اپ شخصی‌سازیش کن