مقاله شماره ۹: مروری بر روشهای هرس در شبکههای عصبی عمیق با تاکید بر روشهای هرس پیش از آموزش
چکیده
با گسترش کاربرد شبکههای عصبی، عمیق شدن و افزایش پارامترهای شبکه، در عین حال محدودیت منابع محاسباتی، محدودیت در حافظه و تفسیرناپذیر شدن این شبکهها، فشردهسازی شبکههای عصبی مورد توجه قرار گرفته است. فشردهسازی میبایست به صورت هوشمندانه باشد، به نحوی که ما را از مزایای بهره مندی از شبکههای عصبی عمیق جدا نکند. هرس به عنوان یکی از روشهای فشردهسازی با حذف پارامترهای غیرضروری شبکه، همواره مورد اقبال پژوهشگران بوده است، به نحوی که در پژوهشهای اخیر سعی شده است، مرحلهای با عنوان هرس پیش از آموزش شبکه، در مراحل قبل از راهاندازی شبکه گنجانده شود تا از مزایای فشردهسازی و هرس در مراحل آموزش و استنتاج شبکه بهره برده شود. در مقاله پیش رو سعی شده است، مروری بر روشهای هرس با تاکید بر هرسهای پیش از آموزش شبکه انجام شود. در ابتدا مبانی هرس مطرح شده، سپس انواع هرس به همراه تعریف ریاضی هریک مطرح و در نهایت بررسی دقیقتری روی هرسهای پیش از آموزش شبکه انجام شده است.
کلیدواژه ها:
شبکه عصبی عمیق
فشردهسازی شبکه عصبی
فرضیه بلیط بختآزمایي
هرس پیش از راهاندازی شبکه
نویسندگان:
عطیه فیروزه*1، مرتضی محجل2، محبوبه شمسی2
1دانشجوی کارشناسی ارشد، دانشکده برق و کامپیوتر، صنعتی قم، قم، ایران.
2استاديار دانشکده برق و کامپيوتر، صنعتي قم، قم، ايران.
DOR:
دانلود فایل مقاله منابع XML
بدون دیدگاه