هرس خودکار شبکه های کانوولوشنی بر مبنای جست وجوی پیوسته و افزودن اتصالات میانبر

سال انتشار: 1401
نوع سند: مقاله ژورنالی
زبان: فارسی
مشاهده: 141

فایل این مقاله در 15 صفحه با فرمت PDF قابل دریافت می باشد

استخراج به نرم افزارهای پژوهشی:

لینک ثابت به این مقاله:

شناسه ملی سند علمی:

JR_JICTP-3-12_004

تاریخ نمایه سازی: 10 مرداد 1402

چکیده مقاله:

سال های اخیر شبکه های کانوولوشنی نتایج چشمگیری در زمینه بینایی ماشین داشته و دقت بالای آن ها باعث شده که از آن ها در زمینه های مختلفی از جمله امنیتی و نظامی استفاده کرد، اما به دلیل محاسبات زیاد این شبکه ها، استفاده از آن ها در سیستم های نهفته که از لحاظ منابع محاسباتی محدودیت دارند، با چالش هایی روبرو است. یکی از روش های حل این مسئله هرس می باشد. در این روش با حفظ ساختار اولیه، بخشی از شبکه با هدف کاهش محاسبات و حافظه، هرس می شود تا بتوان از آن در سیستم های نهفته استفاده کرد. روش های هرس سنتی به طور معمول نیاز به تعیین معیار و میزان هرس به صورت دستی دارند و معمولا هر معیار بر روی یک شبکه خاص پاسخ می دهد. برای حل مشکلات روش های دستی از روش های خودکار استفاده می شود. در بین روش های خودکار، روش های مبتنی بر جست وجوی پیوسته به دلیل سرعت و ایجاد تعادل بین دقت و مقدار هرس شبکه مورد توجه قرار گرفته اند. اما تحقیقات کافی در این زمینه انجام نشده و استفاده از روش های موجود در شبکه های با اتصالات میان بر با چالش روبرو است. در این مقاله روشی بر مبنای جست وجوی پیوسته به منظور هرس شبکه های کانوولوشنی معرفی شده که می توان به راحتی از آن در شبکه هایی که اتصالات میان بر دارند، استفاده کرد. همچنین در روش پیشنهادی به منظور جبران دقت از دست رفته، از اتصالات میان بر استفاده شده است. آزمایشات انجام شده نشان دهنده آن است که روش ارائه شده نقطه تعادل بهتری نسبت به روش های پیشین بین دقت و مقدار هرس شبکه برقرار می کند.

کلیدواژه ها:

شتابدهی شبکه های عصبی ، شبکه های عمیق کانوولوشنی ، هرس خودکار شبکه های کانوولوشنی

نویسندگان

نرگس نجفی

دانشجوی دانشگاه صنعتی قم

مرتضی محجل کفشدوز

استادیار دانشکده برق و کامپیوتر- دانشگاه صنعتی قم- قم- ایران

محبوبه شمسی

استادیار دانشکده برق و کامپیوتر- دانشگاه صنعتی قم- قم- ایران

مراجع و منابع این مقاله:

لیست زیر مراجع و منابع استفاده شده در این مقاله را نمایش می دهد. این مراجع به صورت کاملا ماشینی و بر اساس هوش مصنوعی استخراج شده اند و لذا ممکن است دارای اشکالاتی باشند که به مرور زمان دقت استخراج این محتوا افزایش می یابد. مراجعی که مقالات مربوط به آنها در سیویلیکا نمایه شده و پیدا شده اند، به خود مقاله لینک شده اند :
  • A. Ghezavi and F. Tabataba, “UAVs and their Applications in ...
  • G. Jin, Q. Wang, C. Zhu, Y. Feng, J. Huang, ...
  • E. S. Nair Sankar N. and Gopi, “Deep Learning Techniques ...
  • K. Simonyan and A. Zisserman, “Very deep convolutional networks for ...
  • M. Tan and Q. V. Le, “EfficientNet: Rethinking model scaling ...
  • X. Y. Liu, Y. Fang, L. Yang, Z. Li, and ...
  • M. Yu et al., “Gradiveq: Vector quantization for bandwidth-efficient gradient ...
  • H. Wu, Y. Tang, and X. Zhang, “A pruning method ...
  • Y. He, “Pruning Very Deep Neural Network Channels for Efficient ...
  • Y. Li, P. Zhao, G. Yuan, X. Lin, Y. Wang, ...
  • Y. Guan et al., “DAIS: Automatic Channel Pruning via Differentiable ...
  • M. Shao, J. Dai, J. Kuang, and D. Meng, “A ...
  • Z. Liu, J. Xu, X. Peng, and R. Xiong, “Frequency-domain ...
  • Y. Jang, S. Lee, and J. Kim, “Compressing Convolutional Neural ...
  • X. Xu, M. S. Park, and C. Brick, “Hybrid Pruning: ...
  • W. He, M. Wu, M. Liang, and S. K. Lam, ...
  • S. Zhang, G. Wu, J. Gu, and J. Han, “Pruning ...
  • W. Lin, Y. Ding, H. L. Wei, X. Pan, and ...
  • Y. Chen, X. Wen, Y. Zhang, and W. Shi, “CCPrune: ...
  • P. Singh, V. K. Verma, P. Rai, and V. P. ...
  • Z. Yao, K. Huang, H. Shen, and Z. Ming, “Deep ...
  • Z. Wang, W. Hong, Y. P. Tan, and J. Yuan, ...
  • Y. Chen, C. Li, L. Gong, X. Wen, Y. Zhang, ...
  • L. Hirsch and G. Katz, “Multi-objective pruning of dense neural ...
  • J. Chang, Y. Lu, P. Xue, Y. Xu, and Z. ...
  • Y.-J. Zheng, S.-B. Chen, C. H. Q. Ding, and B. ...
  • H. Mousavi, M. Loni, M. Alibeigi, and M. Daneshtalab, “PR-DARTS: ...
  • Z. Su, L. Fang, W. Kang, D. Hu, M. Pietikäinen, ...
  • S. Guo, Y. Wang, Q. Li, and J. Yan, “DMCP: ...
  • X. Dong and Y. Yang, “Network pruning via transformable architecture ...
  • Z. You, K. Yan, J. Ye, M. Ma, and P. ...
  • H. Diao, G. Li, S. Xu, and Y. Hao, “PA-NAS: ...
  • J. Li, B. Zhao, and D. Liu, “DMPP: Differentiable multi-pruner ...
  • Y. Gong et al., “All-in-One: A Highly Representative DNN Pruning ...
  • X. Dong, J. Huang, Y. Yang, and S. Yan, “More ...
  • H. Diao, Y. Hao, S. Xu, and G. Li, “Implementation ...
  • H. Xiao, K. Rasul, and R. Vollgraf, “Fashion-MNIST: a Novel ...
  • نمایش کامل مراجع