کتابخانه fastText فیسبوک
آزمایشگاه تحقیقات هوش مصنوعی فیسبوک (FAIR) به‌روزرسانی جدیدی را برای fastText، کتابخانه متن باز طبقه‌بندی متن خود منتشر کرده است. در ابتدا، fastText با بردارهای کلمات از پیش آموزش‌دیده برای 90 زبان عرضه شد. این به‌روزرسانی آن را به 294 زبان گسترش می‌دهد. این به‌روزرسانی همچنین شامل ارتقاءهایی برای کاهش اندازه مدل و نیاز به حافظه است.
طبقه‌بندی‌کننده‌های متن مانند fastText ابزارهای اساسی برای توسعه‌دهندگانی هستند که برنامه‌هایی را ایجاد می‌کنند که به تحلیل زبان متکی هستند. این شامل وظایفی مانند علامت‌گذاری عناوین کلیک‌بیت یا فیلتر کردن اسپم می‌شود. در حالی که در ابتدا برای استفاده در انواع مختلف سخت‌افزار طراحی شده بود، fastText به حافظه قابل توجهی نیاز داشت، که آن را برای دستگاه‌های موبایل غیر عملی می‌کرد.
از طریق همکاری با تیم پشت پروژه متن باز دیگری از فیسبوک، جستجوی شباهت (FAISS)، نیاز به حافظه به طور قابل توجهی به چند صد کیلو بایت کاهش یافته است. این امر از طریق تکنیک‌های مختلفی مانند حذف ویژگی، کوانتیزه کردن، هشینگ و آموزش مجدد به دست آمد. رویکرد تیم FAISS به‌طور موثر گلوگاه پردازش حجم عظیمی از داده‌ها را با بهینه‌سازی مقایسه بردارهای چند بعدی برطرف کرد. این بهینه‌سازی مستقیماً بر کاهش تقاضای حافظه برای fastText تأثیر گذاشت.
نویسندگان مقاله‌ای در دسامبر 2016 با عنوان “fastText.zip: فشرده‌سازی مدل‌های طبقه‌بندی متن” توانایی ایجاد مدل‌های طبقه‌بندی متن با اندازه‌های کوچک مانند 100kB را بدون به خطر انداختن دقت یا سرعت برجسته می‌کنند. آنها همچنین نشان می‌دهند که ممکن است در آینده کاهش بیشتر اندازه مدل امکان‌پذیر باشد، و چالش حفظ تعادل بین اندازه مدل و دقت را به رسمیت می‌شناسند.
