دوره فشرده سازی مدل های زبانی با رویکرد هرس مبتنی بر حذف اتصالات (Connection Pruning) به همراه فلش کارت بر روی فلش مموریجدید

سرفصل های دوره: 1. مقدمه ای بر مدل های زبانی بزرگ 2. چالش های مدل های زبانی بزرگ 3. نیاز به فشرده سازی مدل 4. مفهوم فشرده سازی مدل 5. انواع روش های فشرده سازی مدل 6. معرفی فشرده سازی مدل های زبانی 7. اهمیت فشرده سازی مدل های زبانی 8. کاربرد فشرده سازی مدل های زبانی 9. مقدمه ای بر شبکه های عصبی عمیق 10. معماری ترنسفورمر (Transformer) 11. اجزای کلیدی ترنسفورمر 12. مکانیزم توجه (Attention Mechanism) 13. لایه های ترنسفورمر 14. نحوه آموزش مدل های زبانی 15. مشکلات آموزش مدل های زبانی بزرگ 16. معرفی هرس (Pruning) در شبکه های عصبی 17. مفهوم هرس 18. انواع هرس 19. مزایای هرس 20. معایب هرس 21. مقدمه ای بر هرس مبتنی بر حذف اتصالات 22. تفاوت هرس اتصالات با هرس نورون 23. چرا هرس اتصالات موثر است؟ 24. مبانی نظری هرس اتصالات 25. اهمیت وزن ها در شبکه های عصبی 26. نقش اتصالات در انتقال اطلاعات 27. ارتباط بین وزن ها و اتصالات 28. مفهوم حذف اتصالات غیرضروری 29. چگونه اتصالات غیرضروری را شناسایی کنیم؟ 30. معیارهای حذف اتصالات 31. معیارهای مبتنی بر اهمیت وزن 32. معیارهای مبتنی بر گرادیان 33. معیارهای مبتنی بر تاثیر بر خروجی 34. معیارهای مبتنی بر اطلاعات متقابل 35. روش های تکراری هرس اتصالات 36. هرس یک مرحله ای در مقابل هرس تکراری 37. مراحل هرس تکراری 38. فاز آموزش 39. فاز هرس 40. فاز تنظیم مجدد (Fine-tuning) 41. چرخه هرس تکراری 42. ...