• ایمیل دانشگاه مجازی
  • تلگرام دانشگاه مجازی
دانشگاه مجازی

آموزش نصب cuDNN (بخش سوم دوره ی شبکه های عصبی)

تعداد پسند ها : هنوز زوده
تاکنون 625 نفر این پست را مشاهده کرده اند

آموزش نصب TensorFlow یادگیری عمیق cuDNN


آموزش نصب cuDNN (بخش سوم دوره ی شبکه های عصبی)
دانشگاه مجازی

آموزش نصب cuDNN (بخش سوم دوره ی شبکه های عصبی)

آموزش نصب cuDNN

(TensorFlow –– یادگیری عمیق Deep Learning)

کتابخانه یادگیری عمیق CUDA که cuDNN نامیده می شود یک کتابخانه ی شتابدهنده بر اساس پردازنده ی کارت گرافیک یا همان GPU می باشد. cuDNN ارائه کننده ی الحاقاتی است که به طور خاص برای بکارگیری در کاربردهای استاندارد از قبیل forward convolution و backward convolution، pooling، normalization و activation layer ها تنظیم شده است.

محققان یادگیری عمیق (deep learning) و توسعه دهندگان فریم ورک ها در سطح جهان به cuDNN جهت انجام عملیات با بالاترین کارایی با استفاده واحد پردازش گرافیکی GPU وابسته هستند. cuDNN به آنها اجازه می دهد تا روی یادگیری شبکه های عصبی متمرکز شوند و همچنین اپلیکیشن هایی را بر این اساس تولید کنند، این مورد باعث می شود نیاز به وقت گذاشتن روی تنظیات سطح پایین  مربوط به کارایی GPU و در واقع تنظیم کردن آن نباشد. cuDNN به صورت گسترده از فریم ورک های یادگیری عمیق مانند Caffe، Caffe2، Chainer، Keras، MATLAB، MxNet، TensorFlow و PyTorch است، برای دسترسی به محتویات فریم ورک یادگیری عمیق شرکت NVIDIA بخش GPU CLOUD وبسایت شرکت NVIDIA را بررسی کنید (لینک در بخش اول لینک ها زیر همین پست موجود می باشد).

برخی از کاربردهای cuDNN در مبحث یادگیری عمیق (شبکه های عصبی)

  • Convolution forward و Convolution forward شامل cross-correlation
  • سرکشی پیش رونده و برگشتی Pooling forward and backward
  • روش سافت مکس پیش رونده و بازگشتی Softmax forward and backward
  • فعال ساز نرون به صورت پیش رونده و بازگشتی شامل:
  • Rectified linear (ReLU)
  • زیگموییدی Sigmoid
  • هایپر بولیک تانژانت Hyperbolic tangent (TANH)
  • توابع مبدل تنزور Tensor transformation functions
  • روش های LRN, LCN and batch normalization forward and backward

روتین های پیچیده (convolution) در cuDNN یک کارایی تاثیر گذار را یا استفاده از سریع ترین GEMM (ضرب مارتریس)  را با توجه به شامل بودن برخی روتین هایی که باعث کاهش تاثیر گذار استفاده از حافظه می شوند ایجاد می کند.

ویژگی های آخرین نسخه ی cuDNN یعنی نسخه 7.5

فریم ورک یادگیری عمیق cuDNN نسخه ی 7.5 و بالاتر قادر به ارائه ی ویژگی ها و کارایی های جدیدتر برای معماری های Volta و Turning می باشد که در نتیجه عملیات ترینینگ یا همان یادگیری شبکه های عصبی را سرعت می بخشد. مهمترین موارد ارائه شده در نسخه ی 7.5 فریم ورک cuDNN شامل موارد زیر می باشد:

  • ارتقا  سرعت یادگیری سه برابری برای شبکه های ResNet-50 و GNMT روی کارت گرافیک Tesla V100 در مقایسه با Tesla P100
  • بهبود قابلیت های جداسازی پیچیده به صورت depth-wise برای یادگیری (Training) مدل هایی مثل Xception (اکسپشن) و Mobilenet (موبایل نت)
  • دید مالتی هد برای تنظیم کردن مدل هایی مثل Transformer (ترنسفورمر)
  • API های جدید tensor folding برای کارایی های تنظیم شده در مدل هایی مثل Mask R-CNN، GAN ها و DeepSpeech2

در صورت تمایل می توانید آخرین نکات مربوط به نسخه های cuDNN را با کلیک روی  لینک ارائه شده در بخش اول رفرنس ها دریافت کنید.

همچنین برای دریافت نسخه های دیگر فریم ورک یادگیری عمیق cuDNN می توانید به صفحه ی مربوطه در سایت NVIDIA مراجعه فرمایید.

نکته در مورد نحوه ی دریافت فریم ورک یادگیری عمیق کودا cuDNN: برای دانلود این فریم ورک می باید از ip کشور های دیگر وارد سایت NVIDIA شوید و اقدام به عضویت فرمایید، عضویت در این سایت رایگان بوده و با چند کلیک قابل انجام است، توجه داشته باشید که به خاطر مسائل مربوط به تحریم های جمهوری اسلامی ایران بهتر است از آدرس ایمیل غیر آکادمیک (غیر دانشگاهی) استفاده فرمایید و به راحتی می توانید با یک آدرس ایمیل Gmail یا Yahoo اقدام به عضویت فرمایید، در ضمن تمامی موارد مربوط به ثبت نام نیز در ویدیو ی ارائه شده در این جلسه ی آموزشی توضیح داده شده و می توانید به راحتی با دنبال کردن ویدیو اقدام به عضویت در سایت NVIDIA، دریافت نسخه ی لازمه از فریم ورک یادگیری عمیق و نصب این فریم ورک فرمایید.

لازم به ذکر است به دلیل سازگاری با اوبونتو 14.04 و مجموعه ی سایر موارد یادگیری عمیق از نسخه ی 6 cuDNN استفاده کردیم و موفق به اجرای این فریم ورک شدیم.



سایر آموزش های اتفاقی دانشگاه

بیشترین جستجوها در دانشگاه اینترنتی