| nvidia-smi(1) | NVSMI | nvidia-smi(1) |
نام (NAME)
nvidia-smi - برنامه رابط مدیریت سامانه NVIDIA
خلاصه دستور (SYNOPSIS)
nvidia-smi [OPTION1 [ARG1]] [OPTION2 [ARG2]] ...
توضیحات (DESCRIPTION)
ابزار nvidia-smi (همچنین NVSMI) قابلیتهای نظارت و مدیریت را برای دستگاههای Tesla، Quadro، GRID و GeForce انویدیا از خانواده معماری Fermi و بالاتر فراهم میکند. دستگاههای سری GeForce Titan در بیشتر قابلیتها پشتیبانی میشوند، اما برای سایر محصولات برند GeForce اطلاعات بسیار محدودی ارائه میگردد. ابزار NVSMI یک ابزار چندسکویی است که از تمامی توزیعهای استاندارد لینوکسِ پشتیبانیشده توسط درایور NVIDIA و همچنین نسخههای ۶۴ بیتی ویندوز از Windows Server 2008 R2 به بعد پشتیبانی میکند. معیارها میتوانند مستقیماً توسط کاربران از طریق stdout دریافت شوند یا برای مقاصد اسکریپتنویسی در قالب فایلهایی با فرمتهای CSV و XML ارائه گردند.
توجه داشته باشید که بخش عمدهای از عملکردهای NVSMI توسط کتابخانه C زیربنایی NVML فراهم میشود. برای اطلاعات بیشتر درباره NVML، پیوند وبسایت توسعهدهندگان NVIDIA را در ادامه ببینید. همچنین اتصالات پایتون (Python bindings) مبتنی بر NVML نیز در دسترس هستند.
سازگاری عقروعلی (رو به عقب) خروجی NVSMI تضمین نمیشود. با این وجود، هم NVML و هم اتصالات پایتون با نسخههای پیشین سازگار هستند و هنگام نوشتن هرگونه ابزاری که باید در میان انتشار نسخههای مختلف درایور NVIDIA نگهداری و سازگار بماند، باید نخستین انتخاب باشند.
NVML SDK: https://docs.nvidia.com/deploy/nvml-api/index.html
اتصالات پایتون (Python bindings): http://pypi.python.org/pypi/nvidia-ml-py
گزینهها (OPTIONS)
گزینههای عمومی (GENERAL OPTIONS)
-h, --help
چاپ اطلاعات نحوه استفاده و خروج.
--version
چاپ اطلاعات نسخه و خروج.
گزینههای فهرستگیری (LIST OPTIONS)
-L, --list-gpus
فهرست کردن تکتک GPUهای NVIDIA در سامانه به همراه UUIDهای آنها.
-B, --list-excluded-gpus
فهرست کردن تکتک GPUهای مستثنیشده NVIDIA در سامانه به همراه UUIDهای آنها.
گزینههای خلاصه (SUMMARY OPTIONS)
نمایش خلاصهای از GPUهای متصل به سامانه.
-col, --columns
نمایش خلاصهای از GPUهای متصل به سامانه در قالبی چندستونی.
[هر یک از گزینهها] ([any one of])
-i, --id=ID
هدف قرار دادن یک GPU خاص.
-f FILE, --filename=FILE
ثبت گزارش در فایل مشخصشده، بهجای خروجی استاندارد (stdout).
-l SEC, --loop=SEC
پایش پیوسته در بازه مشخصشده بر حسب ثانیه تا زمان فشردن Ctrl+C.
گزینههای پرسوجو (QUERY OPTIONS)
-q, --query
نمایش اطلاعات GPU یا واحد (Unit). اطلاعات نمایشدادهشده شامل تمام دادههای فهرستشده در بخشهای (GPU ATTRIBUTES) یا (UNIT ATTRIBUTES) این سند است. برخی از دستگاهها و/یا محیطها از تمام اطلاعات ممکن پشتیبانی نمیکنند. هر داده پشتیبانینشده با عبارت “N/A” در خروجی مشخص میشود. بهطور پیشفرض، اطلاعات تمام GPUها یا واحدهای موجود نمایش داده میشود. از گزینه -i برای محدود کردن خروجی به یک GPU یا واحد مشخص استفاده کنید.
[بهعلاوه در صورت تمایل] ([plus optionally])
-u, --unit
نمایش دادههای واحد (Unit) بهجای دادههای GPU. دادههای واحد تنها برای محفظههای Tesla کلاس S انویدیا در دسترس است.
-i, --id=ID
نمایش دادهها برای یک GPU یا واحد مشخصشده. شناسه (id) مشخصشده میتواند اندیس بر مبنای صفر GPU/واحد در شمارش طبیعی بازگرداندهشده توسط درایور، شماره سریال برد GPU، شناسه UUID کارت، یا شناسه گذرگاه PCI پردازنده گرافیکی (بهصورت domain:bus:device.function در مبنای ۱۶) باشد. به کاربرانی که خواهان پایداری و سازگاری هستند توصیه میشود از UUID یا شناسه گذرگاه PCI استفاده کنند، زیرا تضمینی برای یکسان ماندن ترتیب شمارش دستگاهها بین راهاندازیهای مجدد وجود ندارد و ممکن است شماره سریال برد میان چندین GPU روی همان برد مشترک باشد.
-f FILE, --filename=FILE
تغییر مسیر خروجی پرسوجو به فایل مشخصشده بهجای خروجی استاندارد پیشفرض (stdout). فایل مشخصشده بازنویسی خواهد شد.
-x, --xml-format
تولید خروجی در قالب XML بهجای قالب پیشفرض خوانا برای انسان. خروجی پرسوجوی هر دو مورد GPU و واحد با DTDهای متناظر مطابقت دارند. این موارد از طریق پرچم --dtd در دسترس هستند.
--dtd
استفاده همراه با -x. گنجاندن DTD در خروجی XML.
--debug=FILE
تولید یک گزارش اشکالزدایی (دیباگ) رمزگذاریشده برای ارسال گزارش باگها به NVIDIA.
-d TYPE, --display=TYPE
تنها اطلاعات انتخابشده را نمایش میدهد: MEMORY، UTILIZATION، ECC، TEMPERATURE، POWER، CLOCK، COMPUTE، PIDS، PERFORMANCE، SUPPORTED_CLOCKS، PAGE_RETIREMENT، ACCOUNTING، ENCODER_STATS، SUPPORTED_GPU_TARGET_TEMP، VOLTAGE، FBC_STATS، ROW_REMAPPER، GSP_FIRMWARE_VERSION، POWER_SMOOTHING، POWER_PROFILES. پرچمها میتوانند با ویرگول ترکیب شوند؛ به عنوان مثال “MEMORY,ECC”. دادههای نمونهبرداری با مقادیر max، min و avg نیز برای انواع نمایش POWER، UTILIZATION و CLOCK بازگردانده میشوند. با پرچمهای -u/--unit یا -x/--xml-format کار نمیکند.
-l SEC, --loop=SEC
گزارشدهی پیوسته دادههای پرسوجو در بازه زمانی مشخصشده، بهجای حالت پیشفرض که تنها یک بار است. برنامه در بین پرسوجوها به خواب میرود. توجه داشته باشید که در لینوکس، در صورتی که پرچم -x مشخص نشده باشد، رویدادهای خطای ECC یا خطای Xid در طول دوره خواب چاپ خواهند شد. فشردن کلیدهای ترکیبی Ctrl+C در هر زمان حلقه را لغو میکند، در غیر این صورت حلقه بهطور نامحدود اجرا میشود. اگر هیچ آرگومانی برای حالت -l مشخص نشود، بازه زمانی پیشفرض ۵ ثانیه استفاده خواهد شد.
-lms ms, --loop-ms=ms
همانند -l,--loop اما بر حسب میلیثانیه.
گزینههای پرسوجوی گزینشی (SELECTIVE QUERY OPTIONS)
به فراخواننده امکان میدهد فهرستی صریح از مشخصهها را برای پرسوجو ارسال کند.
[یکی از موارد] ([one of])
--query-gpu=
اطلاعات درباره GPU. فهرستی از ویژگیهای مورد نظر برای پرسوجو را که با ویرگول جدا شدهاند ارسال کنید؛ مانند --query-gpu=pci.bus_id,persistence_mode. برای اطلاعات بیشتر، --help-query-gpu را فراخوانی کنید.
--query-supported-clocks=
فهرست فرکانسهای ساعت پشتیبانیشده. برای اطلاعات بیشتر، --help-query-supported-clocks را فراخوانی کنید.
فهرست فرایندهای محاسباتی در حال حاضر فعال. برای اطلاعات بیشتر --help-query-compute-apps را فراخوانی کنید.
--query-accounted-apps=
فهرست فرایندهای محاسباتی حسابرسیشده (accounted). برای اطلاعات بیشتر --help-query-accounted-apps را فراخوانی کنید. این پرسوجو روی میزبان vGPU پشتیبانی نمیشود.
--query-retired-pages=
فهرست صفحههای حافظهٔ دستگاه GPU که بازنشسته (retired) شدهاند. برای اطلاعات بیشتر --help-query-retired-pages را فراخوانی کنید.
--query-remapped-rows=
اطلاعات مربوط به سطرهای بازنگاشتشده (remapped rows). برای اطلاعات بیشتر --help-query-remapped-rows را فراخوانی کنید.
[اجباری]
--format=
فهرست جداشده با کاما از گزینههای قالببندی:
- csv - مقادیر جداشده با کاما (اجباری)
- noheader - صرفنظر کردن از سطر نخست حاوی سرستونها
- nounits - عدم چاپ یکاها برای مقادیر عددی
[بههمراه هر یک از]
-i, --id=ID
نمایش دادهها برای یک GPU مشخص. شناسهٔ (id) مشخصشده میتواند نمایهٔ مبتنی بر ۰ مربوط به GPU در شمارش پیشفرض ارائهشده توسط درایور، شماره سریال برد GPU، شناسهٔ UUID آن، یا شناسهٔ PCI bus ID پردازنده گرافیکی (به صورت domain:bus:device.function در مبنای ۱۶) باشد. به کاربرانی که خواهان یکپارچگی و پایداری هستند توصیه میشود از UUID یا PCI bus ID استفاده کنند، چرا که تضمینی برای یکسان ماندن ترتیب شمارش دستگاهها بین راهاندازیهای مجدد وجود ندارد و شماره سریال برد نیز ممکن است بین چندین GPU روی یک برد مشترک باشد.
-f FILE, --filename=FILE
تغییر مسیر خروجی پرسوجو به فایل مشخصشده به جای stdout پیشفرض. فایل مشخصشده بازنویسی خواهد شد.
-l SEC, --loop=SEC
گزارش پیوستهٔ دادههای پرسوجو در بازهٔ زمانی مشخصشده، بهجای حالت پیشفرض که تنها یکبار است. برنامه در بین پرسوجوها به خواب (sleep) میرود. توجه داشته باشید که در لینوکس، در صورتی که پرچم -x مشخص نشده باشد، رویدادهای خطای ECC یا خطای Xid در طول دورهٔ خواب چاپ خواهند شد. فشردن Ctrl+C در هر زمان حلقه را متوقف میکند؛ در غیر این صورت تا ابد اجرا خواهد شد. اگر برای شکل -l هیچ آرگومانی مشخص نشود، بازهٔ پیشفرض ۵ ثانیه استفاده میشود.
-lms ms, --loop-ms=ms
مشابه -l,--loop اما بر حسب میلیثانیه.
گزینههای تغییر دستگاه (DEVICE MODIFICATION OPTIONS)
[هر یک از موارد]
-pm, --persistence-mode=MODE
تنظیم حالت ماندگاری (persistence mode) برای GPUهای هدف. برای شرح حالت ماندگاری، بخش (GPU ATTRIBUTES) را ببینید. نیاز به کاربر ریشه (root) دارد. بر روی همهٔ GPUها تأثیر خواهد گذاشت مگر اینکه یک GPU مشخص با استفاده از آرگومان -i تعیین شده باشد. اثر این عملیات آنی است؛ با این حال، پس از راهاندازیهای مجدد باقی نمیماند. پس از هر راهاندازی مجدد، حالت ماندگاری به طور پیشفرض روی “Disabled” قرار میگیرد. فقط در لینوکس موجود است.
-e, --ecc-config=CONFIG
تنظیم حالت ECC برای GPUهای هدف. برای شرح حالت ECC، بخش (GPU ATTRIBUTES) را ببینید. نیاز به کاربر ریشه (root) دارد. بر روی همهٔ GPUها تأثیر خواهد گذاشت مگر اینکه یک GPU مشخص با استفاده از آرگومان -i تعیین شده باشد. این تنظیم پس از راهاندازی مجدد بعدی اعمال میشود و ماندگار است.
-p, --reset-ecc-errors=TYPE
بازنشانی شمارندههای خطای ECC برای GPUهای هدف. برای شرح انواع شمارندههای خطای ECC، بخش (GPU ATTRIBUTES) را ببینید. آرگومانهای در دسترس 0\|VOLATILE یا 1\|AGGREGATE هستند. نیاز به کاربر ریشه (root) دارد. بر روی همهٔ GPUها تأثیر خواهد گذاشت مگر اینکه یک GPU مشخص با استفاده از آرگومان -i تعیین شده باشد. اثر این عملیات آنی است. پاک کردن شمارندههای تجمیعی (aggregate) در Ampere+ پشتیبانی نمیشود.
-c, --compute-mode=MODE
تنظیم حالت محاسباتی (compute mode) برای GPUهای هدف. برای شرح حالت محاسباتی، بخش (GPU ATTRIBUTES) را ببینید. نیاز به کاربر ریشه (root) دارد. بر روی همهٔ GPUها تأثیر خواهد گذاشت مگر اینکه یک GPU مشخص با استفاده از آرگومان -i تعیین شده باشد. اثر این عملیات آنی است؛ با این حال، پس از راهاندازیهای مجدد باقی نمیماند. پس از هر راهاندازی مجدد، حالت محاسباتی به “DEFAULT” بازنشانی خواهد شد.
-dm TYPE, --driver-model=TYPE
-fdm TYPE, --force-driver-model=TYPE
اصلاح مدل راهانداز (driver model). فقط برای Windows. نیاز به امتیازات مدیر سیستم (administrator) دارد. اگر نمایشی متصل باشد -dm با شکست مواجه میشود، اما -fdm تغییر مدل راهانداز را اجبار خواهد کرد. بر روی همهٔ GPUها تأثیر خواهد گذاشت مگر اینکه یک GPU مشخص با استفاده از آرگومان -i تعیین شده باشد. برای اعمال تغییرات، بدون در نظر گرفتن اینکه مدل راهانداز کدام GPU(ها) تغییر کرده است، راهاندازی مجدد درایور برای همهٔ GPUهای موجود در سیستم انجام میشود. پرچم '--no-driver-restart' را میتوان برای انصراف از راهاندازی مجدد درایور استفاده کرد، که در این صورت برای اعمال تغییرات نیاز به راهاندازی مجدد صریح یا راهاندازی مجدد رایانه خواهد بود. در صورت ناموفق بودن راهاندازی مجدد درایور، راهاندازی مجدد سیستم الزامی است. برای اطلاعات بیشتر دربارهٔ مدلهای راهانداز ویندوز، بخش Driver Model را ببینید. نمایش پیام خطا نشان میدهد که تنظیم فیلد با شکست مواجه شده است.
--gom=MODE
تنظیم حالت عملکرد پردازنده گرافیکی (GPU Operation Mode): مقادیر 0/ALL_ON، 1/COMPUTE، 2/LOW_DP که در محصولات GK110 کلاس M و کلاس X تسلا از خانواده Kepler پشتیبانی میشود. در محصولات Quadro و Tesla کلاس C پشتیبانی نمیشود. حالتهای LOW_DP و ALL_ON تنها حالتهای پشتیبانیشده در دستگاههای GeForce Titan هستند. نیاز به امتیازات مدیر سیستم دارد. برای اطلاعات بیشتر دربارهٔ GOM، بخش GPU Operation Mode را ببینید. تغییرات GOM پس از راهاندازی مجدد اعمال میشوند. ممکن است الزام به راهاندازی مجدد در آینده برداشته شود. حالتهای GOM فقط محاسباتی (Compute only) از WDDM (مدل درایور نمایشگر ویندوز) پشتیبانی نمیکنند.
-r, --gpu-reset
راهاندازی مجدد (reset) یک یا چند GPU را آغاز میکند. میتواند برای پاکسازی وضعیت سختافزاری و نرمافزاری GPU در شرایطی که در غیر این صورت نیاز به راهاندازی مجدد سیستم دارد استفاده شود. معمولاً زمانی مفید است که یک خطای دو بیتی ECC رخ داده باشد. سوئیچ اختیاری -i میتواند برای هدف قرار دادن یک یا چند دستگاه خاص استفاده شود. بدون این گزینه، همهٔ GPUها بازنشانی میشوند. نیاز به کاربر ریشه (root) دارد. هیچ برنامهای نباید در حال استفاده از این دستگاهها باشد (مانند برنامهٔ CUDA، برنامهٔ گرافیکی مانند سرور X، برنامهٔ پایش مانند نمونهٔ دیگری از nvidia-smi). همچنین اگر بازنشانی مجزای GPU امکانپذیر نباشد، نباید هیچ برنامهٔ محاسباتی روی هیچ GPU دیگری در سیستم در حال اجرا باشد.
از معماری NVIDIA Ampere به بعد، GPUهای دارای اتصالات NVLink میتوانند به صورت مجزا بازنشانی شوند. در سامانههای NVSwitch نسل Ampere، وجود Fabric Manager برای تسهیل بازنشانی الزامی است. در سامانههای NVSwitch نسل Hopper و پس از آن، وابستگی به Fabric Manager برای بازنشانی حذف شده است.
اگر Fabric Manager در حال اجرا نباشد، یا اگر هر یک از GPUهایی که بازنشانی میشوند مبتنی بر معماری پیش از NVIDIA Ampere باشند، تمام GPUهایی که دارای اتصال NVLink با GPU در حال بازنشانی هستند نیز باید در همان دستور بازنشانی شوند. این کار را میتوان با حذف سوئیچ -i یا با استفاده از سوئیچ -i برای مشخص کردن GPUهایی که باید بازنشانی شوند انجام داد. اگر گزینهٔ -i مجموعهٔ کاملی از GPUهای متصل با NVLink را مشخص نکند، این دستور خطایی صادر کرده و GPUهای اضافی را که باید در دستور بازنشانی گنجانده شوند تعیین میکند.
جزئیات دقیق در جدولهای زیر مشخص شده است:
سامانههای NVSwitch:
GPU Family | Fabric Manager running | Fabric Manager not running
------------|------------------------------|------------------------------
Pre-Ampere | All PEER connected GPUs must | All PEER connected GPUs must
| be reset in same command. | be reset in same command
Ampere+ | Each GPU can be reset | All PEER connected GPUs must
| individually | be reset in same command
سامانههای NVLink با اتصال مستقیم: (FM پشتیبانی نمیشود، زیرا هیچ سختافزار NVSwitch وجود ندارد)
GPU Family | Capabilities ------------|------------------------------------------------------- Pre-Ampere | All PEER connected GPUs must be reset in same command Ampere+ | Each GPU can be reset individually
تضمینی وجود ندارد که بازنشانی GPU در همهٔ موارد کار کند. در حال حاضر این کار برای محیطهای عملیاتی توصیه نمیشود. در برخی شرایط ممکن است قطعات سختافزاری روی برد پس از درخواست بازنشانی نتوانند به وضعیت اولیه بازگردند. این وضعیت در محصولات نسل Fermi در مقایسه با Kepler محتملتر است، و همچنین در صورتی که بازنشانی بر روی یک GPU قفلشده (hung) انجام گیرد، احتمال وقوع آن بیشتر خواهد بود.
پس از بازنشانی، توصیه میشود سلامت هر GPU بازنشانیشده پیش از استفادهٔ مجدد بررسی شود. اگر هر یک از GPUها سالم نبود، باید با قطع و وصل برق گره (power cycle)، یک بازنشانی کامل انجام شود.
بازنشانیِ آغازشده بدون آرگومانهای اضافی، یک بازنشانی پیشفرض در سطح تابع (Function Level Reset یا FLR) خواهد بود. برای صدور یک بازنشانی گذرگاه (Bus Reset)، از -r bus استفاده کنید. برای برخی پلتفرمها تنها بازنشانی در سطح تابع امکانپذیر است.
در ویندوز، بازنشانی GPU به عنوان راهاندازی مجدد درایور پیادهسازی شده است. هنگام استفاده همراه با گزینهٔ -i، فقط درایور GPU(های) مشخصشده دوباره راهاندازی خواهد شد. بدون گزینهٔ -i، درایور همهٔ GPUهای موجود در سیستم دوباره راهاندازی میشود. راهاندازی مجدد درایور، دستگاههای مربوطه را غیرفعال و دوباره فعال میکند. این عملیات نیاز به امتیازات مدیر سیستم (administrator) دارد. عملیات بازنشانی GPU در مهمانهای vGPU دارای MIG فعال پشتیبانی نخواهد شد.
برای بارگیری GDK به http://developer.nvidia.com/gpu-deployment-kit مراجعه کنید.
تغییر حالت مجازیسازی GPU. حالت مجازیسازی GPU را روی 3/VGPU یا 4/VSGA تنظیم میکند. حالت مجازیسازی یک GPU تنها زمانی میتواند تنظیم شود که روی یک هایپروایزر (hypervisor) در حال اجرا باشد.
-lgc, --lock-gpu-clocks=MIN_GPU_CLOCK,MAX_GPU_CLOCK
کلاکهای <minGpuClock,maxGpuClock> را به صورت یک جفت (مانند 1500,1500) مشخص میکند که نزدیکترین سرعت کلاک قفلشدهٔ مورد نظر GPU را بر حسب مگاهرتز (MHz) تعیین میکند. ورودی همچنین میتواند یک مقدار کلاک منفرد مورد نظر باشد (مانند <GpuClockValue>). به صورت اختیاری، میتوان --mode را برای مشخص کردن حالتهای قفل کلاک به کار برد. در Volta+ پشتیبانی میشود. به دسترسی ریشه (root) نیاز دارد.
- --mode=0 (پیشفرض)
- این حالت، حالت پیشفرض قفل کلاک است و بالاترین دقت فرکانسی ممکن پشتیبانیشده توسط سختافزار را فراهم میکند.
- --mode=1
- الگوریتم قفل کلاک از کنترلکنندههای حلقه بسته برای دستیابی به دقتهای فرکانسی با کارایی بر وات (perf per watt) بهبودیافته برای ردهٔ خاصی از برنامهها بهره میبرد. به دلیل تأخیر همگرایی کنترلکنندههای حلقه بسته، دقتهای فرکانسی ممکن است کمی کمتر از حالت پیشفرض 0 باشد.
-lmi, --lock-memory-clocks-info
اطلاعاتی دربارهٔ شیوهٔ پشتیبانی قفل کلاک حافظه که این GPU پشتیبانی میکند (not supported [پشتیبانینشده]، deferred [بهتعویقافتاده]، یا runtime modifiable [قابلتغییر در زمان اجرا]) ارائه میدهد. نکته: اگر بین تغییرات در زمان اجرا به زمان پایداری (settling time) نیاز باشد، این اطلاعات زمان پایداری نیز ارائه خواهد شد.
-lmc, --lock-memory-clocks=MIN_MEMORY_CLOCK,MAX_MEMORY_CLOCK
کلاکهای <minMemClock,maxMemClock> را به عنوان یک جفت (مانند 5100,5100) مشخص میکند که محدودهٔ سرعت کلاک حافظهٔ قفلشدهٔ مورد نظر را بر حسب مگاهرتز (MHz) تعیین میکند. ورودی همچنین میتواند یک مقدار کلاک منفرد مورد نظر باشد (مانند <MemClockValue>). به دسترسی ریشه (root) نیاز دارد. نکته: این گزینه روی GPUهای مبتنی بر معماریهای NVIDIA Hopper کار نمیکند؛ برای قفل کردن کلاکهای حافظه روی آن سیستمها به جای آن از --lock-memory-clocks-deferred استفاده کنید.
-rgc, --reset-gpu-clocks
کلاکهای GPU را به مقدار پیشفرض بازنشانی میکند. در Volta+ پشتیبانی میشود. به دسترسی ریشه (root) نیاز دارد.
-rmc, --reset-memory-clocks
کلاکهای حافظه را به مقدار پیشفرض بازنشانی میکند. در Volta+ پشتیبانی میشود. به دسترسی ریشه (root) نیاز دارد.
-ac, --applications-clocks=MEM_CLOCK,GRAPHICS_CLOCK
این گزینه منسوخ شده است و در یکی از نسخههای آیندهٔ CUDA حذف خواهد شد. لطفاً از -lmc برای قفل کردن کلاکهای حافظه و از -lgc برای قفل کردن کلاکهای گرافیک استفاده کنید. حداکثر کلاکهای <memory,graphics> را به عنوان یک جفت (مانند 2000,800) مشخص میکند که سرعت GPU را هنگام اجرای برنامهها روی یک GPU تعیین میکند. در دستگاههای GeForce مبتنی بر Maxwell و از خانوادهٔ Kepler+ در دستگاههای Tesla/Quadro/Titan پشتیبانی میشود. به دسترسی ریشه (root) نیاز دارد.
-rac, --reset-applications-clocks
این گزینه منسوخ شده است و در یکی از نسخههای آیندهٔ CUDA حذف خواهد شد. کلاکهای برنامهها را به مقدار پیشفرض بازنشانی میکند. در دستگاههای GeForce مبتنی بر Maxwell و از خانوادهٔ Kepler+ در دستگاههای Tesla/Quadro/Titan پشتیبانی میشود. به دسترسی ریشه (root) نیاز دارد.
-lmcd, --lock-memory-clocks-deferred
کلاک حافظهای را مشخص میکند که نزدیکترین کلاک حافظهٔ مورد نظر را بر حسب مگاهرتز (MHz) تعیین مینماید. کلاک حافظه در راهاندازی اولیهٔ بعدی GPU اعمال میشود. این کار با تخلیه (unload) و بارگذاری مجدد (reload) ماژول کرنل تضمین میشود. به دسترسی ریشه (root) نیاز دارد.
-rmcd, --reset-memory-clocks-deferred
کلاک حافظه را به مقدار پیشفرض بازنشانی میکند. برای اعمال این تغییر، تخلیه و بارگذاری مجدد درایور لازم است. این کار میتواند با تخلیه و بارگذاری مجدد ماژول کرنل انجام شود. به دسترسی ریشه (root) نیاز دارد.
-svfd, --set-vf-derate=OFFSET
یک آفست فرکانسی منفی بر حسب مگاهرتز (MHz) را روی منحنی ولتاژ-فرکانس (VF) کلاک گرافیک برای تنظیم کارایی معین (deterministic) اعمال میکند. مقدار آفست باید یک عدد صحیح منفی در محدودهٔ مجاز مخصوص آن GPU باشد. فقط در معماریهای Rubin و جدیدتر پشتیبانی میشود. به امتیازات مدیر سیستم نیاز دارد.
-gvfd, --get-vf-derate-info
آفست فعلی کاهش VF و محدودهٔ مجاز آفست منحنی VF کلاک گرافیک را برای GPU نمایش میدهد. فقط در معماریهای Rubin و جدیدتر پشتیبانی میشود.
-pl, --power-limit=POWER_LIMIT
حداکثر محدودیت توان را بر حسب وات مشخص میکند. اعداد صحیح و ممیز شناور را میپذیرد. یک آرگومان اختیاری --scope دریافت میکند. فقط روی دستگاههای پشتیبانیشده از خانوادهٔ Kepler. مقدار باید بین حداقل و حداکثر محدودیت توان (Power Limit) گزارششده توسط nvidia-smi باشد. به دسترسی ریشه (root) نیاز دارد.
-sc, --scope=0/GPU, 1/TOTAL_MODULE, 2/GPU_BASE
دامنهٔ (scope) محدودیت توان را مشخص میکند. گزینهها به شرح زیر هستند: 0/GPU: این گزینه فقط محدودیت توان را برای GPU تغییر میدهد. 1/Module: این گزینه محدودیت توان را برای ماژولی که شامل چندین قطعه است (مانند GPU و CPU) تغییر میدهد. 2/GPU Base: این گزینه تنظیمات توان پایهٔ GPU را تغییر میدهد.
-cc, --cuda-clocks=MODE
کلاکهای پیشفرض CUDA را بازنویسی یا بازنشانی میکند. آرگومانهای دردسترس عبارتند از: 0\|RESTORE_DEFAULT یا 1\|OVERRIDE. به دسترسی ریشه (root) نیاز دارد.
-am, --accounting-mode=MODE
قابلیت حسابرسی GPU (یا GPU Accounting) را فعال یا غیرفعال میکند. با قابلیت حسابرسی GPU، میتوان مصرف منابع را در طول چرخهٔ حیات یک تکفرایند ردیابی کرد. فقط روی دستگاههای پشتیبانیشده از خانوادهٔ Kepler. به امتیازات مدیر سیستم نیاز دارد. آرگومانهای دردسترس عبارتند از 0\|DISABLED یا 1\|ENABLED.
-caa, --clear-accounted-apps
تمام فرایندهای حسابرسیشده تاکنون را پاک میکند. فقط روی دستگاههای پشتیبانیشده از خانوادهٔ Kepler. به امتیازات مدیر سیستم نیاز دارد.
--auto-boost-default=MODE
این گزینه منسوخ شده است و در یکی از نسخههای آیندهٔ CUDA حذف خواهد شد. سیاست تقویت خودکار (auto boost) پیشفرض را روی 0/DISABLED یا 1/ENABLED تنظیم میکند، و این تغییر را تنها پس از خروج آخرین کلاینت تقویت اعمال مینماید. فقط روی برخی از دستگاههای Tesla از خانوادهٔ Kepler+ و دستگاههای GeForce مبتنی بر Maxwell. به دسترسی ریشه (root) نیاز دارد.
--auto-boost-permission=MODE
این گزینه منسوخ شده است و در یکی از نسخههای آیندهٔ CUDA حذف خواهد شد. کنترل حالت تقویت خودکار (auto boost) را برای کاربران غیر ریشه/غیرمدیر امکانپذیر میکند. آرگومانهای دردسترس عبارتند از 0\|UNRESTRICTED و 1\|RESTRICTED. فقط روی برخی از دستگاههای Tesla از خانوادهٔ Kepler+ و دستگاههای GeForce مبتنی بر Maxwell. به دسترسی ریشه (root) نیاز دارد.
-mig, --multi-instance-gpu=MODE
حالت Multi Instance GPU را فعال یا غیرفعال میکند. فقط در دستگاههای مبتنی بر معماری NVIDIA Ampere پشتیبانی میشود. به دسترسی ریشه (root) نیاز دارد. آرگومانهای دردسترس عبارتند از 0\|DISABLED یا 1\|ENABLED.
-gtt, --gpu-target-temp=MODE
دمای هدف GPU را برای یک GPU بر حسب درجهٔ سلسیوس تنظیم میکند. دمای هدف باید در محدودهٔ پشتیبانیشده توسط GPU باشد. این محدودهها را میتوان با استفاده از گزینهٔ پرسمان همراه با SUPPORTED_GPU_TARGET_TEMP به دست آورد. به دسترسی ریشه (Root) نیاز دارد.
--set-hostname=hostname
نام میزبان (hostname) مرتبط با دستگاه را تنظیم میکند. باید حداکثر طولی برابر با ۶۴ نویسه داشته باشد (شامل نویسهٔ پایانی NULL). به دسترسی ریشه (root) نیاز دارد.
--get-hostname
نام میزبان (hostname) مرتبط با دستگاه را بازیابی میکند.
[بهعلاوه به صورت اختیاری]
-i, --id=ID
یک GPU مشخصشدهٔ منفرد را تغییر میدهد. شناسهٔ (id) مشخصشده ممکن است اندیس بر مبنای صفر GPU/واحد در شمارش طبیعی برگرداندهشده توسط درایور، شماره سریال برد GPU، شناسهٔ UUID پردازنده گرافیکی، یا PCI bus ID آن (به صورت domain:bus:device.function در مبنای ۱۶) باشد. به کاربرانی که خواهان یکنواختی و ثبات هستند توصیه میشود از UUID یا PCI bus ID استفاده کنند، زیرا تضمینی نیست که ترتیب شمارهگذاری دستگاهها بین راهاندازیهای مجدد یکسان بماند و ممکن است شماره سریال برد بین چندین GPU روی یک برد مشترک باشد.
-eom, --error-on-warning
برای هشدارها یک خطای غیر صفر برمیگرداند.
گزینههای تغییر واحد (UNIT MODIFICATION OPTIONS)
-t, --toggle-led=STATE
وضعیت نشانگر LED را در جلو و پشت واحد روی رنگ مشخصشده تنظیم میکند. برای مشاهدهٔ شرح وضعیتهای LED به بخش (UNIT ATTRIBUTES) مراجعه کنید. رنگهای مجاز 0\|GREEN و 1\|AMBER هستند. به دسترسی ریشه (root) نیاز دارد.
-i, --id=ID
تغییر یک Unit مشخصشده. شناسه (id) مشخصشده، اندیس بر پایه ۰ مربوط به Unit در شمارهگذاری طبیعی ارائهشده توسط درایور است.
گزینههای نمایش DTD (SHOW DTD OPTIONS)
--dtd
نمایش DTD دستگاه یا Unit.
[بهعلاوه اختیاری]
-f FILE, --filename=FILE
هدایت خروجی پرسوجو به فایل مشخصشده به جای stdout پیشفرض. فایل مشخصشده بازنویسی خواهد شد.
-u, --unit
نمایش DTD مربوط به Unit به جای DTD دستگاه.
topo
نمایش اطلاعات توپولوژی درباره سامانه. برای اطلاعات بیشتر از "nvidia-smi topo -h" استفاده کنید. فقط مخصوص لینوکس. تمام GPUهایی را که NVML قادر به شناسایی آنها است نشان میدهد، اما اطلاعات وابستگی (affinity) پردازنده (CPU) و گره NUMA فقط برای GPUهایی با معماری Kepler یا جدیدتر نمایش داده خواهد شد. نکته: شمارهگذاری GPUها مشابه NVML است.
drain
نمایش و تغییر وضعیتهای تخلیه (drain) پردازنده گرافیکی. وضعیت drain حالتی است که در آن GPU دیگر کلاینت جدیدی را نمیپذیرد و هنگام آمادهسازی برای خاموش کردن پردازنده گرافیکی استفاده میشود. برای اطلاعات بیشتر از "nvidia-smi drain -h" استفاده کنید. فقط مخصوص لینوکس.
nvlink
نمایش اطلاعات nvlink. برای اطلاعات بیشتر از "nvidia-smi nvlink -h" استفاده کنید.
clocks
پرسوجو و کنترل رفتار کلاک (فرکانس کارکرد). برای اطلاعات بیشتر از "nvidia-smi clocks --help" استفاده کنید.
vgpu
نمایش اطلاعات مربوط به GPUهای مجازی GRID. برای اطلاعات بیشتر از "nvidia-smi vgpu -h" استفاده کنید.
mig
امکانات کنترلی را برای مدیریت MIG فراهم میکند. برای اطلاعات بیشتر از "nvidia-smi mig -h" استفاده کنید.
boost-slider
امکانات کنترلی را برای مدیریت لغزندههای تقویت (boost sliders) فراهم میکند. برای اطلاعات بیشتر از "nvidia-smi boost-slider -h" استفاده کنید.
power-hint
پرسوجوهایی را برای power hint فراهم میکند. برای اطلاعات بیشتر از "nvidia-smi power-hint -h" استفاده کنید.
event-log
نمایش رویدادهایی که از زمان بارگذاری درایور رخ دادهاند. برای اطلاعات بیشتر از "nvidia-smi event-log -h" استفاده کنید.
cper
خواندن رویدادهای CPER کدگذاریشده با base64 از زمان بارگذاری درایور. برای اطلاعات بیشتر از "nvidia-smi cper -h" استفاده کنید.
conf-compute
امکانات کنترلی و پرسوجوها را برای رایانش امن (confidential compute) فراهم میکند. برای اطلاعات بیشتر از "nvidia-smi conf-compute -h" استفاده کنید.
power-smoothing
امکانات کنترلی و اطلاعاتی را برای هموارسازی توان مصرفی (power smoothing) فراهم میکند. برای اطلاعات بیشتر از "nvidia-smi power-smoothing -h" استفاده کنید.
power-profiles
امکانات کنترلی و اطلاعاتی را برای پروفایلهای توان بار کاری (workload power profiles) فراهم میکند. برای اطلاعات بیشتر از "nvidia-smi power-profiles -h" استفاده کنید.
encodersessions
نمایش اطلاعات نشستهای رمزگذار (Encoder Sessions). برای اطلاعات بیشتر از "nvidia-smi encodersessions -h" استفاده کنید.
مقدار بازگشتی (RETURN VALUE)
کد بازگشتی مشخص میکند که آیا عملیات با موفقیت انجام شده یا با شکست مواجه شده است و علت شکست چه بوده است.
- کد بازگشتی 0 - موفقیت
- کد بازگشتی 2 - آرگومان یا پرچم ارائهشده نامعتبر است
- کد بازگشتی 3 - عملیات درخواستی روی دستگاه هدف در دسترس نیست
- کد بازگشتی 4 - کاربر جاری اجازه دسترسی به این دستگاه یا انجام این عملیات را ندارد
- کد بازگشتی 6 - پرسوجو برای یافتن شیء ناموفق بود
- کد بازگشتی 8 - کابلهای برق خارجی دستگاه بهدرستی متصل نشدهاند
- کد بازگشتی 9 - درایور NVIDIA بارگذاری نشده است
- کد بازگشتی 10 - هسته NVIDIA یک مشکل در وقفه (interrupt) پردازنده گرافیکی را شناسایی کرده است
- کد بازگشتی 12 - کتابخانه مشترک NVML پیدا یا بارگذاری نشد
- کد بازگشتی 13 - نسخه محلی NVML این تابع را پیادهسازی نکرده است
- کد بازگشتی 14 - حافظه infoROM آسیب دیده (corrupted) است
- کد بازگشتی 15 - پردازنده گرافیکی از روی گذرگاه (bus) قطع شده یا به دلایل دیگر غیرقابلدسترس شده است
- کد بازگشتی 255 - خطای دیگری رخ داده یا خطای داخلی درایور به وقوع پیوسته است
فهرست زیر تمامی دادههای ممکن را که توسط گزینهٔ پرسوجوی دستگاه -q بازگردانده میشوند، شرح میدهد. به جز مواردی که خلاف آن ذکر شده باشد، تمامی نتایج عددی در مبنای ۱۰ و بدون یکا هستند.
برچسب زمانی (Timestamp)
برچسب زمانی فعلی سیستم در زمان فراخوانی nvidia-smi. قالب آن به صورت "Day-of-week Month Day HH:MM:SS Year" است.
نسخه راهانداز (Driver Version)
منسوخ شده است؛ به جای آن از KMD Version استفاده کنید.
نسخه KMD (KMD Version)
نسخهٔ «راهانداز حالت هسته» (Kernel Mode Driver یا همان راهانداز نمایشگر NVIDIA) نصبشده. این یک رشتهٔ حرفیعددی است.
نسخه CUDA (CUDA Version)
منسوخ شده است؛ به جای آن از CUDA UMD Version استفاده کنید.
نسخه CUDA UMD (CUDA UMD Version)
نسخهٔ «راهانداز حالت کاربر» (User Mode Driver) برای CUDA. این جدیدترین نسخهٔ CUDA است که توسط راهانداز پشتیبانی میشود. این مقدار معمولاً، اما نه همیشه، نسخهٔ جعبهابزار CUDA (CUDA toolkit) نصبشده روی سیستم است. این یک رشتهٔ حرفیعددی است.
پردازندههای گرافیکی متصل (Attached GPUs)
تعداد پردازندههای گرافیکی NVIDIA در سیستم.
نام محصول (Product Name)
نام رسمی محصول برای پردازندهٔ گرافیکی. این یک رشتهٔ حرفیعددی است. برای تمام محصولات.
برند محصول (Product Brand)
نشان تجاری (برند) رسمی پردازندهٔ گرافیکی. این یک رشتهٔ حرفیعددی است. برای تمام محصولات.
معماری محصول (Product Architecture)
نام رسمی معماری پردازندهٔ گرافیکی. این یک رشتهٔ حرفیعددی است. برای تمام محصولات.
حالت نمایش (Display Mode)
این فیلد منسوخ شده است و در نسخههای آینده حذف خواهد شد.
نمایشگر متصل (Display Attached)
پرچمی که مشخص میکند آیا یک نمایشگر فیزیکی (مانند مانیتور) در حال حاضر به هر یک از درگاههای پردازندهٔ گرافیکی متصل است یا خیر. مقدار "Yes" نشاندهندهٔ نمایشگر متصل است. مقدار "No" خلاف آن را نشان میدهد.
نمایش فعال (Display Active)
پرچمی که مشخص میکند آیا نمایشی روی پردازندهٔ گرافیکی مقداردهی اولیه شده است یا خیر (برای نمونه، حافظهای روی دستگاه برای نمایش اختصاص یافته باشد). نمایش میتواند فعال باشد حتی اگر هیچ مانیتوری به طور فیزیکی متصل نباشد. مقدار "Enabled" نشاندهندهٔ نمایش فعال است. مقدار "Disabled" خلاف آن را نشان میدهد.
حالت پایداری (Persistence Mode)
پرچمی که مشخص میکند آیا حالت پایداری (persistence mode) برای پردازندهٔ گرافیکی فعال است یا خیر. مقدار آن "Enabled" یا "Disabled" است. زمانی که حالت پایداری فعال باشد، راهانداز NVIDIA حتی در صورت نبود هیچ کلاینت فعالی مانند X11 یا nvidia-smi، همچنان بارگذاریشده باقی میماند. این امر تأخیر بارگذاری راهانداز مربوط به اجرای برنامههای وابسته، مانند برنامههای CUDA را به حداقل میرساند. برای تمام محصولات دارای قابلیت CUDA. فقط لینوکس.
حالت آدرسدهی (Addressing Mode)
فیلدی که مشخص میکند در حال حاضر کدام حالت آدرسدهی فعال است. این مقدار "ATS" یا "HMM" یا "None" است. هنگامی که حالت "ATS" باشد، حافظهٔ تخصیصیافته توسط سیستم مانند malloc از طریق سرویسهای ترجمهٔ آدرس (Address Translation Services) از سمت پردازندهٔ گرافیکی قابل آدرسدهی است. این بدان معناست که در عمل تنها یک مجموعه از جدولهای صفحه (page tables) وجود دارد که توسط هر دو CPU و GPU استفاده میشود. هنگامی که حالت "HMM" باشد، حافظهٔ تخصیصیافته توسط سیستم مانند malloc از طریق بازتاب نرمافزاری جدولهای صفحهٔ CPU روی GPU، برای پردازندهٔ گرافیکی قابل آدرسدهی است. هنگامی که حالت "None" باشد، هیچکدام از ATS یا HMM فعال نیستند. فقط لینوکس.
حالت MIG (MIG Mode)
وضعیت پیکربندی حالت MIG
- Current
- حالت MIG در حال استفادهٔ فعلی - NA/Enabled/Disabled
- Pending
- پیکربندی در انتظار برای حالت MIG - Enabled/Disabled
دستگاه MIG (MIG Device)
هنگامی که MIG فعال است، ویژگیهای زیر برای هر دستگاه MIG نمایش داده میشوند:
- Index
- شناسهٔ یکتا برای این دستگاه MIG در پردازندهٔ گرافیکی والد آن.
- GPU Instance ID
- شناسهٔ نمونهٔ پردازنده گرافیکی (GPU instance) که این دستگاه MIG به آن تعلق دارد.
- Compute Instance ID
- شناسهٔ نمونهٔ محاسباتی (compute instance) درون نمونهٔ پردازنده گرافیکی.
- Device Attributes
- موتورهای سختافزاری اختصاصیافته به این دستگاه MIG. این موتورها بین نمونههای محاسباتی مرتبط با یک نمونهٔ پردازنده گرافیکی یکسان، به اشتراک گذاشته میشوند.
خطاهای ECC
تعداد
خطاهای ECC
برای این
دستگاه MIG.
- میزان مصرف حافظه FB اشتراکی
- تخصیص و میزان مصرف حافظه FB این دستگاه MIG. این حافظه بین نمونههای محاسباتی مرتبط با همان نمونه GPU به اشتراک گذاشته شده است.
- حافظه BAR1 اشتراکی
- تخصیص و میزان مصرف حافظه BAR1 این دستگاه MIG. این حافظه بین نمونههای محاسباتی مرتبط با همان نمونه GPU به اشتراک گذاشته شده است.
پرچمی که مشخص میکند آیا حالت حسابرسی (accounting mode) برای GPU فعال است یا خیر. مقدار آن "Enabled" یا "Disabled" است. زمانی که حسابرسی فعال باشد، آمارهها برای هر فرایند محاسباتیِ در حال اجرا روی GPU محاسبه میشوند. این آمارهها را میتوان در طول چرخه حیات فرایند یا پس از خاتمه آن استعلام کرد. زمان اجرای فرایند در حالی که در وضعیت در حال اجرا قرار دارد 0 گزارش میشود و پس از پایان فرایند، به زمان واقعی اجرا بهروزرسانی میشود. برای اطلاعات بیشتر --help-query-accounted-apps را ببینید.
اندازه بافر حالت حسابرسی (Accounting Mode Buffer Size)
اندازه بافر حلقوی را که حاوی فهرستی از فرایندهای قابل استعلام برای آمارههای حسابرسی است برمیگرداند. این مقدار، حداکثر تعداد فرایندهایی است که اطلاعات حسابرسی برای آنها ذخیره میشود، پیش از آنکه اطلاعات قدیمیترین فرایندها با اطلاعات فرایندهای جدید بازنویسی شوند.
مدل راهانداز (Driver Model)
در Windows، مدلهای راهانداز TCC، WDDM و MCDM پشتیبانی میشوند. مدل راهانداز را میتوان با پرچمهای (-dm) یا (-fdm) تغییر داد. مدل راهانداز TCC برای برنامههای محاسباتی بهینهسازی شده است؛ یعنی زمان راهاندازی کِرنل با TCC سریعتر خواهد بود. مدل راهانداز WDDM برای برنامههای گرافیکی طراحی شده و برای کاربردهای محاسباتی توصیه نمیشود. لینوکس از چندین مدل راهانداز پشتیبانی نمیکند و همیشه مقدار "N/A" خواهد داشت. برای اعمال تغییر مدل راهانداز، راهاندازی مجدد درایور برای تمام دستگاهها تلاش خواهد شد. از پرچم '--no-driver-restart' میتوان برای جلوگیری از راهاندازی مجدد درایور استفاده کرد که در این صورت تغییر مدل راهانداز در راهاندازی مجدد بعدی سیستم اعمال خواهد شد.
- Current
- مدل راهاندازی که در حال حاضر استفاده میشود. در لینوکس همیشه "N/A" است.
- Pending
- مدل راهاندازی که در راهاندازی مجدد بعدی استفاده خواهد شد. در لینوکس همیشه "N/A" است.
شماره سریال (Serial Number)
این شماره با شماره سریالی که به صورت فیزیکی روی هر برد چاپ شده مطابقت دارد. این مقدار، یک مقدار الفبانماییِ تغییرناپذیر و در سطح جهانی یکتا است.
شناسه یکتای پردازنده گرافیکی (GPU UUID)
این مقدار، شناسه الفبانماییِ تغییرناپذیر و در سطح جهانی یکتای GPU است. این شناسه با هیچ برچسب فیزیکی روی برد مطابقت ندارد.
شناسه اختصاصی دستگاه (GPU PDI)
این مقدار، شناسه اختصاصی دستگاه (Per Device Identifier) برای GPU است. یک مقدار ۶۴ بیتی است که یکتایی GPU را تضمین میکند.
شماره فرعی (Minor Number)
شماره فرعی (minor number) برای دستگاه به گونهای است که فایل گره دستگاه NVIDIA برای هر GPU به شکل /dev/nvidia[minor number] خواهد بود. فقط در پلتفرم لینوکس در دسترس است.
نسخه VBIOS (VBIOS Version)
بایوس (BIOS) برد GPU.
برد چند پردازندهای (MultiGPU Board)
مشخص میکند که آیا این GPU بخشی از یک برد چند پردازندهای (multiGPU) است یا خیر.
شناسه برد (Board ID)
شناسه یکتای برد که توسط راهانداز اختصاص یافته است. اگر دو یا چند GPU شناسه برد یکسانی داشته باشند و فیلد "MultiGPU" بالا مقدار true داشته باشد، آنگاه این GPUها روی یک برد فیزیکی یکسان قرار دارند.
شماره قطعه برد (Board Part Number)
شماره قطعه (part number) یکتای برد GPU.
شماره قطعه پردازنده گرافیکی (GPU Part Number)
شماره قطعه یکتای GPU.
شماره قطعه FRU (FRU Part Number)
شماره قطعه یکتای FRU برای GPU.
اطلاعات بستر (Platform Info)
اطلاعات بستر (Platform Information)، اطلاعات اختصاصی پلتفرم سینی محاسباتی (compute tray) هستند. این موارد شامل نمایه موقعیت مکانی GPU و اطلاعات شناسایی پلتفرم میشوند.
Chassis Serial Number
شماره سریال شاسیِ حاوی این GPU.
Slot Number
شماره اسلات در شاسیِ حاوی این GPU (شامل سوئیچها نیز میشود).
Tray Index
نمایه سینی (tray index) در اسلاتهای محاسباتی درون شاسیِ حاوی این GPU (شامل سوئیچها نمیشود).
Host ID
نمایه گره (node) درون اسلاتِ حاوی این GPU.
Peer Type
نوع همتای NVLink مشخصشده توسط پلتفرم (برای نمونه، وجود یا عدم وجود سوئیچ).
Module Id
شناسه این GPU درون گره.
GPU Fabric GUID
شناسه Fabric برای این GPU.
نسخه Inforom (Inforom Version)
شمارههای نسخه برای هر شیء در فضای ذخیرهسازی inforom برد GPU. بخش inforom یک فضای ذخیرهسازی ماندگار و کوچک برای دادههای پیکربندی و وضعیت GPU است. تمام فیلدهای نسخه inforom عددی هستند. دانستن این شمارههای نسخه میتواند مفید باشد زیرا برخی از ویژگیهای GPU تنها با inforomهایی از یک نسخه مشخص یا بالاتر در دسترس هستند.
اگر هر یک از فیلدهای زیر Unknown Error را برگرداند، بررسی اعتبارسنجی تکمیلی Inforom انجام میشود و پیام هشدار مناسب نمایش داده خواهد شد.
- Image Version
- نسخه سراسری تصویر infoROM. نسخه تصویر، درست مانند نسخه VBIOS، نسخه دقیق infoROM فلششده روی برد را به صورت یکتا مشخص میکند، بر خلاف نسخه شیء infoROM که تنها نشاندهنده ویژگیهای پشتیبانیشده است.
- OEM Object
- نسخه مربوط به دادههای پیکربندی OEM.
- ECC Object
- نسخه مربوط به دادههای ثبت ECC.
- Power Management Object
- نسخه مربوط به دادههای مدیریت توان مصرفی.
- Inforom checksum validation
- اعتبارسنجی چکسام Inforom (مقادیر "valid" یا "invalid" یا "N/A"). تنها از طریق --query-gpu inforom.checksum_validation در دسترس است.
اطلاعات مربوط به تخلیهٔ (flush) دادههای جعبه سیاه (blackbox) به حافظهٔ inforom.
- Latest Timestamp
- برچسب زمانی آخرین تخلیهٔ شیء BBX در طول اجرای جاری.
- Latest Duration
- مدتزمان آخرین تخلیهٔ شیء BBX در طول اجرای جاری.
- Time Run
- مقدار زمان تجمعی ذخیرهشده در BBX برای رهگیری طول عمر راهانداز GPU.
حالت عملکرد GPU (GPU Operation Mode)
قابلیت GOM به کاربر امکان میدهد تا با غیرفعالسازی ویژگیهای GPU، مصرف توان را کاهش داده و توان عملیاتی GPU را بهینهسازی کند.
هر GOM برای پاسخگویی به نیازهای خاص کاربر طراحی شده است.
در حالت «All On» همهچیز فعال بوده و با سرعت کامل در حال اجرا است.
حالت «Compute» صرفاً برای اجرای وظایف محاسباتی طراحی شده است؛ عملیات گرافیکی در این حالت مجاز نیستند.
حالت «Low Double Precision» برای اجرای برنامههای گرافیکی طراحی شده است که به پهنای باند بالای ممیز شناور با دقت مضاعف (double precision) نیازی ندارند.
حالت GOM را میتوان با پرچم (--gom) تغییر داد.
روی محصولات Tesla ردهٔ M و ردهٔ X با معماری GK110 از خانوادهٔ Kepler پشتیبانی میشود. روی محصولات Quadro و Tesla ردهٔ C پشتیبانی نمیشود. حالتهای Low Double Precision و All On تنها حالتهای موجود برای محصولات پشتیبانیشدهٔ GeForce Titan هستند.
- Current
- حالت GOM که در حال حاضر در حال استفاده است.
- Pending
- حالت GOM که پس از راهاندازی مجدد (reboot) بعدی اعمال خواهد شد.
حالت GPU C2C
حالت C2C پردازشگر گرافیکی (GPU).
وضعیت بازنشانی GPU
وضعیت بازنشانی (Reset) پردازشگر گرافیکی. این قابلیت منسوخ شده است.
- Reset Required
- قابلیت درخواستی منسوخ شده است
- Drain and Reset Recommended
- قابلیت درخواستی منسوخ شده است
اقدام بازیابی GPU (GPU Recovery Action)
اقدامی که
باید برای
پاکسازی
خطای
رخداده در
گذشته
انجام شود.
این مقدار
برای تعیین
اینکه کدام
خطا اقدام
بازیابی را
تحریک
کرده، در
نظر گرفته
نشده است.
مقادیر
ممکن: None، Reset، Reboot،
Drain P2P، Drain and Reset
None
هیچ اقدام بازیابی نیاز نیست
Reset
سناریوی
نمونه - خطای
مهارنشدهٔ UCE
در HBM/SRAM
پردازشگر
گرافیکی با
خطایی
مواجه شده
است که برای
بازیابی
نیاز به
بازنشانی (reset)
دارد.
تمام
فرایندهای GPU
را خاتمه
دهید،
پردازشگر
گرافیکی را
با استفاده
از 'nvidia-smi -r'
بازنشانی
کنید؛ پس از
آن GPU
میتواند
با اجرای
فرایندهای
جدید
مجدداً
مورد
استفاده
قرار گیرد.
Reboot
سناریوی
نمونه - خطای
مهلک UVM
پردازشگر
گرافیکی با
خطایی
مواجه شده
است که ممکن
است
سیستمعامل
را در
وضعیتی
ناسازگار
قرار داده
باشد.
سیستمعامل
را مجدداً
راهاندازی
(reboot) کنید تا
سیستمعامل
به وضعیتی
پایدار و
سازگار
بازگردد.
راهاندازی
مجدد گره (node)
الزامی است.
برنامه
نمیتواند
بدون
راهاندازی
مجدد گره
دوباره
اجرا شود
راهاندازی
مجدد گرم (warm reboot)
سیستمعامل
کافی است
(نیازی به
قطع و وصل
تغذیهٔ AC/DC
نیست)
Drain P2P
سناریوی
نمونه -
نامشخص (N/A)
پردازشگر
گرافیکی با
خطایی
مواجه شده
است که
نیازمند
متوقف و
آرامسازی
تمام
ترافیک
همتا به
همتا (peer-to-peer) است.
تمام
فرایندهای GPU
را که
ترافیک peer-to-peer
برقرار
میکنند
متوقف کرده
و حالت
پایداری (persistence mode)
مربوط به UVM
را غیرفعال
کنید.
زمانبندی
کارها را
غیرفعال
کنید
(وظیفهٔ
جدیدی
پذیرفته
نشود)، در
زمان مناسب
تمام
برنامهها
را متوقف
کنید، و اگر
حالت
پایداری
فعال است،
آن را
غیرفعال
کنید
هنگامی که
تمام
ترافیک peer-to-peer
تخلیه شد،
مقدار NVML_FI_DEV_GET_GPU_RECOVERY_ACTION
را مجدداً
استعلام
کنید که یکی
دیگر از
اقدامات را
برمیگرداند.
اگر مقدار
بازگشتی
همچنان DRAIN_P2P
بود،
پردازشگر
گرافیکی را
بازنشانی (reset)
کنید.
Drain and Reset
سناریوی
نمونه - خطای
مهارشدهٔ UCE
در HBM
بازنشانی
توصیه
میشود.
پردازشگر
گرافیکی با
خطایی
مواجه شده
است که باعث
کارکرد
موقت GPU با
ظرفیت
کاهشیافته
میشود؛
مانند
آفلاین شدن
بخشی از
حافظهٔ frame buffer
یا از کار
افتادن
برخی از
بخشهای MIG
آن.
هیچ کار
جدیدی
نباید روی GPU
زمانبندی
شود، اما
کارهای
جاری که تحت
تأثیر قرار
نگرفتهاند
با اطمینان
میتوانند
تا پایان یا
رسیدن به یک
نقطهٔ
وارسی (checkpoint)
مناسب
ادامه
یابند.
راهاندازی
مجدد
برنامه
ایمن است
(ظرفیت
حافظه به
دلیل
آفلاینسازی
پویای
صفحات کاهش
خواهد
یافت)، اما
در نهایت
نیاز به
بازنشانی
دارد (برای
اعمال
نگاشت مجدد
ردیفها یا
row remap).
تنها برای
نگاشتهای
مجدد
ردیفهای
خطای UCE
اعلام
میشود.
پس از اتمام
و تخلیهٔ
تمامی
کارهای
جاری، GPU را
بازنشانی
کنید تا
ظرفیت کامل
خود را
بازیابد.
نسخه سفتافزار GSP. این مقدار یک رشته الفبایی-عددی است.
پیسیآی (PCI)
اطلاعات پایهای PCI برای دستگاه. برخی از این اطلاعات ممکن است با افزودن، حذف یا جابهجایی کارتها در سیستم تغییر کند. برای تمام محصولات.
- Bus
- شماره گذرگاه PCI، در مبنای شانزده (hex)
- Device
- شماره دستگاه PCI، در مبنای شانزده (hex)
- Domain
- شماره دامنه PCI، در مبنای شانزده (hex)
- Base Classcode
- کد کلاس پایه (Base classcode) پیسیآی، در مبنای شانزده (hex)
- Sub Classcode
- کد زیرکلاس (Sub classcode) پیسیآی، در مبنای شانزده (hex)
- Device Id
- شناسه دستگاه سازنده PCI، در مبنای شانزده (hex)
- Sub System Id
- شناسه زیرسیستم PCI، در مبنای شانزده (hex)
- Bus Id
- شناسه گذرگاه PCI بهصورت "domain:bus:device.function"، در مبنای شانزده (hex)
اطلاعات پیوند پردازنده گرافیکی (GPU Link information)
نسل پیوند PCIe و عرض گذرگاه
- Current
- نسل و عرض کنونی پیوند. این مقادیر ممکن است در زمانی که پردازنده گرافیکی (GPU) در حال استفاده نیست کاهش یابند.
- Max
- حداکثر نسل و عرض پیوند ممکن بر اساس این پردازنده گرافیکی و پیکربندی سیستم. برای نمونه، اگر GPU از نسل PCIe بالاتری نسبت به میزان پشتیبانی سیستم پشتیبانی کند، نسل PCIe سیستم گزارش میشود.
تراشه پل (Bridge Chip)
اطلاعات مربوط به تراشه پل (Bridge Chip) روی دستگاه. سفتافزار تراشه پل تنها روی بردهای خاصی وجود دارد و ممکن است برای برخی از بردهای چند GPU جدیدتر عبارت "N/A" را نمایش دهد.
- Type
- نوع تراشه پل. در صورت عدم وجود، بهصورت N/A گزارش میشود.
- Firmware Version
- نسخه سفتافزار تراشه پل. در صورت عدم وجود، بهصورت N/A گزارش میشود.
تکرارها از زمان بازنشانی (Replays Since Reset)
تعداد تکرارهای مجدد (replays) در PCIe از زمان بازنشانی.
سرریزهای شماره تکرار (Replay Number Rollovers)
تعداد سرریزهای شماره تکرار مجدد در PCIe از زمان بازنشانی. سرریز شماره تکرار پس از ۴ بار تکرار متوالی رخ میدهد و منجر به آموزش مجدد پیوند (link retraining) میشود.
توان عملیاتی ارسال (Tx Throughput)
توان عملیاتی ارسال با محوریت GPU از طریق گذرگاه PCIe بر حسب MB/s در طول ۲۰ میلیثانیه گذشته. تنها در معماریهای Maxwell و جدیدتر پشتیبانی میشود.
توان عملیاتی دریافت (Rx Throughput)
توان عملیاتی دریافت با محوریت GPU از طریق گذرگاه PCIe بر حسب MB/s در طول ۲۰ میلیثانیه گذشته. تنها در معماریهای Maxwell و جدیدتر پشتیبانی میشود.
قابلیتهای اتمیک (Atomic Caps)
قابلیتهای اتمیک PCIe برای عملیات خروجی/ورودی (outbound/inbound) پردازنده گرافیکی.
سرعت فن (Fan Speed)
مقدار سرعت فن درصدی از حداکثر سرعت فن قابل تحمل از نظر نویز محصول است که در حال حاضر انتظار میرود فنِ دستگاه با آن سرعت بچرخد. این مقدار در موارد خاصی ممکن است از ۱۰۰٪ بیشتر شود. نکته: سرعت گزارششده، سرعت مورد نظر (هدف) فن است. اگر فن بهطور فیزیکی مسدود شده و قادر به چرخش نباشد، این خروجی با سرعت واقعی فن مطابقت نخواهد داشت. بسیاری از قطعات سرعت فن را گزارش نمیکنند زیرا برای خنکسازی به فنهای محفظه/کیس اطراف متکی هستند. برای تمام محصولات مجزا با فن اختصاصی.
وضعیت عملکرد (Performance State)
وضعیت عملکرد کنونی برای GPU. این وضعیتها در بازه P0 (حداکثر عملکرد) تا P12 (حداقل عملکرد) قرار دارند.
دلایل رویدادهای کلاک (Clocks Event Reasons)
اطلاعات مربوط به عواملی که بسامد کلاکها (clocks) را کاهش میدهند را دریافت میکند.
اگر همه دلایل رویداد با مقدار "Not Active" بازگردانده شوند، به این معنی است که کلاکها در بالاترین بسامد ممکن کار میکنند.
- Idle
- این گزینه منسوخ شده است و در نگارشهای آینده CUDA حذف خواهد شد. هیچ باری روی GPU در حال اجرا نیست و کلاکها به وضعیت Idle (بیکار) کاهش مییابند.
- Application Clocks Setting
- این گزینه منسوخ شده است و در نگارشهای آینده CUDA حذف خواهد شد. کلاکهای GPU با تنظیمات کلاک برنامهها محدود شدهاند. برای نمونه میتوان آن را با دستور nvidia-smi --applications-clocks=<Desired Clock Freq in MHz> تغییر داد.
- SW Power Cap
- الگوریتم نرمافزاری مقیاسبندی توان (SW Power Scaling) کلاکها را به پایینتر از کلاکهای درخواستی کاهش میدهد، زیرا GPU توان زیادی مصرف میکند. برای نمونه سقف توان نرمافزاری (SW power cap) را میتوان با دستور nvidia-smi --power-limit=<Power Limit Value in W> تغییر داد.
- HW Slowdown
- این گزینه در نگارشهای آینده CUDA حذف خواهد شد. کندسازی سختافزاری (HW Slowdown) فعال شده و کلاکهای هسته را با ضریب ۲ یا بیشتر کاهش میدهد. اگر هر یک از HW Thermal Slowdown یا HW Power Brake فعال باشند، این گزینه نیز فعال میشود.
- HW Thermal Slowdown
- کندسازی حرارتی سختافزاری (HW Thermal Slowdown) بهدلیل دمای بسیار بالا، کلاکهای هسته را با ضریب ۲ یا بیشتر کاهش میدهد.
- HW Power Brake
- اعلان ترمز توان خارجی (External Power Brake Assertion) فعال شده است (برای نمونه توسط منبع تغذیه سیستم).
- Sync Boost
- این GPU بهمنظور به حداکثر رساندن کارایی در هر وات با nvidia-smi یا DCGM به یک گروه Sync boost اضافه شده است. همه GPUها به فرکانسی که کندترین GPU به آن دست مییابد محدود خواهند شد. دلایل گلوگاه (throttle) را برای سایر GPUهای موجود در سیستم بررسی کنید تا ببینید چرا آن پردازندهها این پردازنده را در کلاکهای پایینتر نگه میدارند.
- SW Thermal Slowdown
- الگوریتم نرمافزاری محدودیت حرارتی (SW Thermal capping) کلاکها را به پایینتر از کلاکهای درخواستی کاهش میدهد زیرا دمای GPU از حداکثر دمای مجاز کاری (Max Operating Temp) بالاتر است.
- Display Clock Setting
- این فیلد در نگارشهای آینده CUDA حذف خواهد شد. کلاکهای GPU با تنظیمات کنونی کلاکهای نمایشگر (Display clocks) محدود شدهاند. تنها در دستگاههای Volta پشتیبانی میشود.
شمارندههایی بر حسب میکروثانیه، برای مدتزمانی که عوامل مختلف فرکانس کلاکها را کاهش دادهاند.
- SW Power Capping
- مدتزمانی که الگوریتم مقیاسبندی توان نرمافزاری (SW Power Scaling)، فرکانس کلاکها را به دلیل مصرف بیشازحد توان توسط GPU به کمتر از کلاکهای درخواستی کاهش داده است.
- Sync Boost Group
- مدتزمانی که فرکانس کلاک این GPU کاهش یافته تا با حداقل کلاک ممکن در سراسر گروه تقویت همگامسازی (sync boost group) مطابقت پیدا کند.
- SW Thermal Slowdown
- مدتزمانی که الگوریتم محدودسازی حرارتی نرمافزاری (SW Thermal capping)، به دلیل بالاتر بودن دمای GPU از حداکثر دمای کاری (Max Operating Temp)، فرکانس کلاکها را به کمتر از کلاکهای درخواستی کاهش داده است.
- HW Thermal Slowdown
- مدتزمانی که کاهش سرعت حرارتی سختافزاری (HW Thermal Slowdown) فعال شده و کلاکهای هسته را به دلیل دمای بسیار بالا با ضریب ۲ یا بیشتر کاهش داده است.
- HW Power Braking
- مدتزمانی که External Power Brake Assertion فعال شده است (برای نمونه توسط منبع تغذیهٔ سیستم).
حالت عملیات اسپارس (Sparse Operation Mode)
پرچمی که نشان میدهد آیا sparse operation mode برای GPU فعال است یا خیر. مقدار آن یا "Enabled" است یا "Disabled". در صورت عدم پشتیبانی، به صورت "N/A" گزارش میشود.
میزان مصرف حافظه FB (FB Memory Usage)
اطلاعات حافظهٔ بافر فریم (FB) تعبیهشده بر روی برد. کل حافظهٔ گزارششده میتواند تحت تأثیر وضعیت ECC قرار گیرد. اگر ECC بر کل حافظهٔ در دسترس تأثیر بگذارد، حافظه به دلیل بیتهای توازن (parity) مورد نیاز، چند درصد کاهش مییابد. راهانداز همچنین ممکن است حتی بدون وجود کار فعال روی GPU، مقدار کمی از حافظه را برای مصارف داخلی رزرو کند. در سیستمهایی که GPUها گرههای NUMA هستند، دقت میزان بهرهوری حافظهٔ FB ارائهشده توسط nvidia-smi به سیستم حسابداری حافظهٔ سیستمعامل بستگی دارد. چرا که حافظهٔ FB به جای راهانداز GPU شرکت NVIDIA، توسط سیستمعامل مدیریت میشود. معمولاً جهت افزایش کارایی، صفحههای تخصیصیافته از حافظهٔ FB حتی پس از خاتمهٔ فرایند نیز آزاد نمیشوند. در سناریوهایی که سیستمعامل تحت فشار حافظه قرار دارد، ممکن است به استفاده از حافظهٔ FB متوسل شود. چنین اقداماتی میتواند به ناهماهنگی در دقت گزارش حافظه منجر شود. برای همهٔ محصولات.
- Total
- اندازهٔ کل حافظهٔ FB.
- Reserved
- اندازهٔ رزروشدهٔ حافظهٔ FB.
- Used
- اندازهٔ مصرفشدهٔ حافظهٔ FB.
- Free
- اندازهٔ دردسترس حافظهٔ FB.
میزان مصرف حافظه BAR1 (BAR1 Memory Usage)
از BAR1 برای نگاشت FB (حافظهٔ دستگاه) استفاده میشود تا بتواند به طور مستقیم توسط CPU یا دستگاههای شخص ثالث (به صورت همتا-به-همتا روی گذرگاه PCIe) در دسترس قرار گیرد.
- Total
- اندازهٔ کل حافظهٔ BAR1.
- Used
- اندازهٔ مصرفشدهٔ حافظهٔ BAR1.
- Free
- اندازهٔ دردسترس حافظهٔ BAR1.
حالت محاسباتی (Compute Mode)
پرچم حالت محاسباتی مشخص میکند که آیا برنامههای محاسباتی تکی یا چندگانه میتوانند روی GPU اجرا شوند یا خیر.
مقدار "Default" به این معنی است که چندین کانتکست در هر دستگاه مجاز است.
مقدار "Exclusive Process" بدین معناست که تنها یک کانتکست در هر دستگاه مجاز است، که در یک زمان از طریق چندین رشته (thread) قابل استفاده است.
مقدار "Prohibited" بدین معناست که هیچ کانتکستی در هر دستگاه مجاز نیست (هیچ برنامهٔ محاسباتی اجرا نمیشود).
حالت "EXCLUSIVE_PROCESS" در CUDA 4.0 اضافه شد. انتشارهای قبلی CUDA تنها از یک حالت انحصاری پشتیبانی میکردند که معادل "EXCLUSIVE_THREAD" در CUDA 4.0 و پس از آن است.
برای همهٔ محصولات با قابلیت CUDA.
میزان استفاده (Utilization)
نرخهای بهرهوری میزان مشغول بودن هر GPU را در طول زمان گزارش میکنند، و میتوانند برای تعیین میزان استفادهٔ یک برنامه از GPUهای سیستم استفاده شوند. نکته: در GPUهای با قابلیت MIG فعال، در حال حاضر پرسوجو از میزان بهرهوری encoder، decoder، jpeg، ofa، gpu و memory پشتیبانی نمیشود.
نکته: در طول مقداردهی اولیهٔ راهانداز هنگامی که ECC فعال است، ممکن است مقادیر بالایی برای بهرهوری GPU و Memory مشاهده شود. این امر ناشی از مکانیزم پاکسازی حافظهٔ ECC (ECC Memory Scrubbing) است که در زمان مقداردهی اولیهٔ راهانداز انجام میشود.
- GPU
- درصد زمانی در طول دورهٔ نمونهبرداری گذشته که در آن یک یا چند کرنل روی GPU در حال اجرا بودهاند. دورهٔ نمونهبرداری ممکن است بسته به محصول بین ۱ ثانیه تا ۱/۶ ثانیه باشد.
- Memory
- درصد زمانی در طول دورهٔ نمونهبرداری گذشته که در آن حافظهٔ سراسری (دستگاه) در حال خواندهشدن یا نوشتهشدن بوده است. دورهٔ نمونهبرداری ممکن است بسته به محصول بین ۱ ثانیه تا ۱/۶ ثانیه باشد.
- Encoder
- درصد زمانی در طول دورهٔ نمونهبرداری گذشته که رمزگذار ویدیویی GPU در حال استفاده بوده است. نرخ نمونهبرداری متغیر است و میتوان آن را مستقیماً از طریق رابط برنامهنویسی nvmlDeviceGetEncoderUtilization() به دست آورد.
- Decoder
- درصد زمانی در طول دورهٔ نمونهبرداری گذشته که رمزگشای ویدیویی GPU در حال استفاده بوده است. نرخ نمونهبرداری متغیر است و میتوان آن را مستقیماً از طریق رابط برنامهنویسی nvmlDeviceGetDecoderUtilization() به دست آورد.
- JPEG
- درصد زمانی در طول دورهٔ نمونهبرداری گذشته که رمزگشای JPEG مربوط به GPU در حال استفاده بوده است. نرخ نمونهبرداری متغیر است و میتوان آن را مستقیماً از طریق رابط برنامهنویسی nvmlDeviceGetJpgUtilization() به دست آورد.
- OFA
- درصد زمانی در طول دورهٔ نمونهبرداری گذشته که OFA (شتابدهندهٔ شار نوری) مربوط به GPU در حال استفاده بوده است. نرخ نمونهبرداری متغیر است و میتوان آن را مستقیماً از طریق رابط برنامهنویسی nvmlDeviceGetOfaUtilization() به دست آورد.
بخش آمار رمزگذار (Encoder Stats)، تعداد نشستهای فعال رمزگذار را به همراه میانگین فریم بر ثانیه (FPS) و میانگین زمان تأخیر (به میکروثانیه) برای تمام این نشستهای فعال روی این دستگاه گزارش میکند.
- Active Sessions
- تعداد کل نشستهای فعال رمزگذار روی این دستگاه.
- Average FPS
- میانگین فریم بر ثانیه (FPS) تمام نشستهای فعال رمزگذار روی این دستگاه.
- Average Latency
- میانگین زمان تأخیر به میکروثانیه برای تمام نشستهای فعال رمزگذار روی این دستگاه.
حالت رمزنگاری DRAM (DRAM Encryption Mode)
پرچمی که مشخص میکند آیا پشتیبانی از رمزنگاری DRAM فعال است یا خیر. میتواند "Enabled" یا "Disabled" باشد. تغییر در حالت رمزنگاری DRAM نیازمند راهاندازی مجدد سیستم است. نیازمند شیء Inforom ECC است.
- Current
- حالت رمزنگاری DRAM که در حال حاضر GPU تحت آن کار میکند.
- Pending
- حالت رمزنگاری DRAM که پس از راهاندازی مجدد بعدی، GPU تحت آن کار خواهد کرد.
حالت ECC (ECC Mode)
پرچمی که مشخص میکند آیا پشتیبانی از ECC فعال است یا خیر. میتواند "Enabled" یا "Disabled" باشد. تغییر در حالت ECC نیازمند راهاندازی مجدد سیستم است. به شیء Inforom ECC نسخه 1.0 یا بالاتر نیاز دارد.
- Current
- حالت ECC که در حال حاضر GPU تحت آن کار میکند.
- Pending
- حالت ECC که پس از راهاندازی مجدد بعدی، GPU تحت آن کار خواهد کرد.
خطاهای ECC (ECC Errors)
پردازندههای گرافیکی NVIDIA میتوانند تعداد خطاها را برای انواع مختلف خطاهای ECC ارائه دهند. برخی از خطاهای ECC به صورت تکبیتی یا دوبیتی هستند؛ خطاهای تکبیتی تصحیح میشوند و خطاهای دوبیتی غیرقابلتصحیح هستند. خطاهای حافظه بافت (Texture memory) ممکن است از طریق ارسال مجدد قابل تصحیح باشند یا در صورت شکست ارسال مجدد، غیرقابلتصحیح باشند. این خطاها در دو بازه زمانی (فرار یا volatile، و تجمعی یا aggregate) ارائه میشوند. خطاهای تکبیتی ECC بهطور خودکار توسط سختافزار تصحیح میشوند و به خرابی داده منجر نخواهند شد. خطاهای دوبیتی شناسایی میشوند اما تصحیح نمیشوند. لطفاً برای اطلاعات بیشتر پیرامون رفتار برنامههای محاسباتی هنگام وقوع خطاهای دوبیتی، به مستندات ECC در وب مراجعه کنید. شمارندههای خطای فرار تعداد خطاهای شناساییشده از زمان آخرین بارگذاری درایور را دنبال میکنند. شمارش خطاهای تجمعی بهطور نامحدود پایدار میماند و در نتیجه به عنوان شمارنده طول عمر عمل میکند.
نکتهای درباره شمارشهای فرار: در Windows این شمارش یک بار به ازای هر راهاندازی است. در Linux ممکن است با تواتر بیشتری رخ دهد. در Linux درایور در صورتی که هیچ کلاینت فعالی وجود نداشته باشد، تخلیه میشود. بنابراین، اگر حالت persistence فعال باشد یا همواره یک کلاینت فعال درایور (مانند X11) وجود داشته باشد، در Linux نیز رفتار بهازای هر راهاندازی دیده میشود. در غیر این صورت، شمارشهای فرار با هر بار اجرای یک برنامه محاسباتی بازنشانی میشوند.
محصولات پیش از معماری Volta در سریهای Tesla و Quadro میتوانند تعداد کل خطاهای ECC و همچنین تفکیک خطاها را بر اساس مکان آنها روی تراشه نمایش دهند. مکانها در زیر شرح داده شدهاند. دادههای مبتنی بر مکان برای شمارشهای خطای تجمعی به شیء Inforom ECC نسخه 2.0 نیاز دارند. سایر شمارشهای ECC نیازمند شیء ECC نسخه 1.0 هستند.
- Device Memory
- خطاهای شناساییشده در حافظه سراسری دستگاه.
- Register File
- خطاهای شناساییشده در حافظه ثباتها (Register File).
- L1 Cache
- خطاهای شناساییشده در حافظه نهان L1.
- L2 Cache
- خطاهای شناساییشده در حافظه نهان L2.
- Texture Memory
- خطاهای توازن (Parity) شناساییشده در حافظه بافت.
- Total
- مجموع خطاهای شناساییشده در سراسر تراشه. مجموع مقادیر Device Memory، Register File، L1 Cache، L2 Cache و Texture Memory.
در معماری Turing خروجی به این صورت است:
- SRAM Correctable
- تعداد خطاهای قابلتصحیح شناساییشده در هر یک از SRAMها.
- SRAM Uncorrectable
- تعداد خطاهای غیرقابلتصحیح شناساییشده در هر یک از SRAMها.
- DRAM Correctable
- تعداد خطاهای قابلتصحیح شناساییشده در DRAM.
- DRAM Uncorrectable
- تعداد خطاهای غیرقابلتصحیح شناساییشده در DRAM.
در معماری +Ampere دستهبندی خطاهای SRAM گسترش یافته است. خطاهای SRAM اکنون بسته به این که کدام واحد با خطا مواجه شده است، به عنوان خطای توازن (Parity) یا SEC-DED (تصحیح خطای تکبیتی/شناسایی خطای دوبیتی) دستهبندی میشوند. یک نمودار آماری (هیستوگرام) اضافه شده است که مشخص میکند کدام واحد با خطای SRAM مواجه شده است. علاوه بر این، پرچمی اضافه شده است که نشان میدهد آیا از آستانه مجاز برای SRAM مشخص عبور شده است یا خیر.
- SRAM Uncorrectable Parity
- تعداد خطاهای غیرقابلتصحیح شناساییشده در SRAMهایی که دارای حفاظت توازن (Parity) هستند.
- SRAM Uncorrectable SEC-DED
- تعداد خطاهای غیرقابلتصحیح شناساییشده در SRAMهایی که دارای حفاظت SEC-DED هستند.
- Aggregate Uncorrectable SRAM Sources
- جزئیات مربوط به منابع خطاهای غیرقابلتصحیح تجمعی SRAM.
- SRAM L2
- خطاهایی که در حافظه نهان L2 رخ دادهاند.
- SRAM SM
- خطاهایی که در SM رخ دادهاند.
- SRAM Microcontroller
- خطاهایی که در یک ریزکنترلگر (PMU/GSP و غیره) رخ دادهاند.
- SRAM PCIE
- خطاهایی که در هر یک از واحدهای مرتبط با PCIE رخ دادهاند.
- SRAM Other
- خطاهایی که در هر بخش دیگری غیر از موارد ذکرشده در بالا رخ دادهاند.
اگر یکی از پرچمهای ترمیم در حالت تعلیق (Pending) است، اقدام GPU Recovery را بررسی کرده و مراحل مناسب را طی کنید.
- Channel Repair Pending
- نشان میدهد که آیا ترمیم Channel در حالت تعلیق است یا خیر.
- TPC Repair Pending
- نشان میدهد که آیا ترمیم TPC در حالت تعلیق است یا خیر.
- Unrepairable Memory
- نشان میدهد که آیا حافظه غیرقابلترمیمی وجود دارد یا خیر.
پردازندههای گرافیکی NVIDIA میتوانند صفحات حافظه دستگاه GPU را هنگامی که غیرقابلاطمینان میشوند بازنشسته کنند. این وضعیت میتواند زمانی رخ دهد که چندین خطای ECC تکبیتی (single bit) برای یک صفحه رخ دهد، یا هنگام وقوع یک خطای ECC دوبیتی (double bit). هنگامی که یک صفحه بازنشسته میشود، درایور NVIDIA آن را پنهان میکند تا هیچ تخصیص حافظهای از سوی درایور یا برنامهها نتواند به آن دسترسی داشته باشد.
Double Bit ECC تعداد صفحات حافظه دستگاه GPU که به دلیل خطای ECC دوبیتی بازنشسته شدهاند.
Single Bit ECC تعداد صفحات حافظه دستگاه GPU که به دلیل خطاهای چندگانه ECC تکبیتی بازنشسته شدهاند.
Pending بررسی میکند که آیا صفحاتی از حافظه دستگاه GPU در راهاندازی مجدد بعدی در انتظار قرار گرفتن در لیست سیاه (blacklist) هستند یا خیر. صفحاتی که بازنشسته شدهاند اما هنوز در لیست سیاه قرار نگرفتهاند، همچنان میتوانند تخصیص داده شوند و ممکن است باعث بروز مشکلات بیشتر در پایداری و قابلیتاطمینان شوند.
نگاشت مجدد سطر (Row Remapper)
پردازندههای گرافیکی NVIDIA میتوانند سطرهای حافظه دستگاه GPU را در صورتی که غیرقابلاطمینان شوند، مجدداً نگاشت کنند. این وضعیت میتواند زمانی رخ دهد که یک خطای ECC غیرقابلتصحیح منفرد یا چندین خطای ECC قابلتصحیح روی همان سطر رخ دهد. هنگامی که یک سطر مجدداً نگاشت میشود، درایور NVIDIA سطر معیوب را به یک سطر رزروشده بازنگاشت میکند. تمام دسترسیهای بعدی به این سطر، بهجای سطر معیوب به سطر رزروشده هدایت خواهند شد. این ویژگی در Ampere+ در دسترس است.
Correctable Error تعداد نگاشتهای مجدد فعال سطر به دلیل خطاهای ECC قابلتصحیح.
Inactive Correctable Error تعداد نگاشتهای مجدد غیرفعال و قابلتصحیح سطر به دلیل نگاشتهای مجدد بانک یا تعمیرات کانال.
Uncorrectable Error تعداد نگاشتهای مجدد فعال سطر به دلیل خطاهای ECC غیرقابلتصحیح.
Inactive Uncorrectable Error تعداد نگاشتهای مجدد غیرفعال و غیرقابلتصحیح سطر به دلیل نگاشتهای مجدد بانک یا تعمیرات کانال.
Pending نشان میدهد که آیا سطری در انتظار نگاشت مجدد است یا خیر. برای اعمال نگاشت مجدد، GPU باید بازنشانی (reset) شود.
Remapping Failure Occurred نشان میدهد که آیا نگاشت مجدد سطر در گذشته با شکست مواجه شده است یا خیر.
Bank Remap Availability Histogram هر بانک حافظه تعداد مشخصی سطر رزروشده دارد که میتوانند برای نگاشت مجدد سطر استفاده شوند. این هیستوگرام، میزان در دسترس بودن نگاشت مجدد هر بانک را به دستههای Maximum، High، Partial، Low و None طبقهبندی میکند. در دسترس بودن Maximum به این معنی است که تمام سطرهای رزروشده برای نگاشت مجدد در دسترس هستند، در حالی که None به این معنی است که هیچ سطر رزروشدهای موجود نیست. نگاشتهای مجدد سطرهای قابلتصحیح در هیستوگرامِ در دسترس بودن محاسبه نمیشوند، زیرا میتوانند توسط نگاشتهای مجدد سطرهای غیرقابلتصحیح جایگزین و بیرون رانده شوند. نگاشتهای مجدد غیرفعال سطر نیز به حساب نمیآیند، زیرا در دسترس بودن نگاشت مجدد از طریق نگاشت مجدد بانک یا تعمیر کانال بازیابی میشود.
دما (Temperature)
خوانشها از حسگرهای دمای روی برد. تمامی مقادیر خواندهشده بر حسب درجه سانتیگراد (°C) هستند. همه محصولات از تمام انواع خوانش دما پشتیبانی نمیکنند. بهویژه محصولاتی با ضریبهای شکل ماژول (module form factors) که به فنهای کیس یا خنککننده غیرفعال (passive) متکی هستند، معمولاً خوانشهای دما را ارائه نمیدهند. برای اطلاع از محدودیتها به موارد زیر مراجعه کنید.
T.Limit: حسگر T.Limit حاشیه فعلی تا حداکثر دمای کاری را بر حسب درجه سانتیگراد اندازهگیری میکند. بنابراین، یک خوانش دمای مطلق نیست، بلکه یک اندازهگیری نسبی است.
همه محصولات از خوانشهای حسگر T.Limit پشتیبانی نمیکنند.
در صورت پشتیبانی، nvidia-smi دمای فعلی T.Limit را به عنوان یک مقدار علامتدار که به صورت معکوس شمارش میشود گزارش میکند. دمای T.Limit برابر با 0 درجه سانتیگراد یا کمتر نشان میدهد که GPU ممکن است بسامد کاری (clock) خود را بر اساس شرایط حرارتی بهینهسازی کند. علاوه بر این، در صورت پشتیبانی از حسگر T.Limit، آستانههای دمایی موجود نیز بهجای اندازهگیریهای مطلق، به صورت نسبی با T.Limit (موارد زیر را ببینید) گزارش میشوند.
- GPU Current Temp
- دمای هسته GPU. برای تمامی محصولات مجزا (discrete) و کلاس S-class.
- GPU Current T.Limit Temp
- حاشیه فعلی بر حسب درجه سانتیگراد از حداکثر دمای کاری GPU.
- GPU Shutdown Temp
- دمایی که در آن GPU خاموش خواهد شد.
- GPU Shutdown T.Limit Temp Specification
- دمای T.Limit که پایینتر از آن ممکن است GPU خاموش شود. از آنجا که خاموش شدن فقط میتواند با حداکثر دمای GPU فعال شود، ممکن است مقدار فعلی T.Limit از این آستانه منفیتر باشد.
- GPU Slowdown Temp
- دمایی که در آن سختافزار GPU به منظور خنک شدن، شروع به بهینهسازی کلاکها به دلیل شرایط حرارتی میکند.
- GPU Slowdown T.Limit Temp Specification
- دمای T.Limit که در آن یا پایینتر از آن، سختافزار GPU ممکن است کلاکهای خود را با توجه به شرایط حرارتی بهینهسازی کند. از آنجا که این تنظیم کلاک تنها میتواند با حداکثر دمای GPU تحریک شود، ممکن است مقدار فعلی T.Limit منفیتر از این آستانه باشد.
- GPU Max Operating Temp
- دمایی که در آن نرمافزار GPU کلاک خود را برای شرایط حرارتی بهینهسازی میکند.
- GPU Max Operating T.Limit Temp Specification
- دمای T.Limit که پایینتر از آن، نرمافزار GPU کلاک خود را برای شرایط حرارتی بهینهسازی میکند.
- GPU Target Temperature Specification
- دمای هدف فعلی برای GPU، بر حسب درجه سانتیگراد. این دمایی است که GPU در صورت پشتیبانی، تلاش میکند تحت بار کاری حفظ کند. دمای هدف در دستگاههای پشتیبانیشده با استفاده از گزینههای nvidia-smi مانند -gtt یا --gpu-target-temp توسط کاربر قابل پیکربندی است. در همه دستگاهها پشتیبانی نمیشود.
- Memory Current Temp
- دمای فعلی حافظه GPU. تنها در دستگاههای پشتیبانیشده در دسترس است.
- Memory Max Operating T.Limit Temp Specification
- دمایی که در آن نرمافزار GPU کلاکهای حافظه خود را برای شرایط حرارتی بهینهسازی میکند. تنها در دستگاههای پشتیبانیشده در دسترس است.
خوانشهای توان پردازنده گرافیکی (GPU Power Readings)
خوانشهای توان به درک مصرف توان فعلی GPU و عوامل مؤثر بر آن کمک میکنند. هنگامی که مدیریت توان فعال است، GPU مصرف توان زیر بار کاری را با دستکاری وضعیت عملکرد فعلی محدود میکند تا در یک محدوده توان از پیش تعریفشده (power envelope) قرار گیرد. برای محدودیتهای در دسترس بودن به موارد زیر مراجعه کنید.
- Average Power Draw
- میانگین توان مصرفی کل برد در یک ثانیه گذشته، بر حسب وات. فقط در دستگاههای Ampere (به جز GA100) یا جدیدتر پشتیبانی میشود.
- Instantaneous Power Draw
- آخرین توان مصرفی اندازهگیریشده برای کل برد، بر حسب وات.
- GPU Ceiling Power Limit
- سقف محدودیت توان GPU، حداکثر توانی را که GPU میتواند مصرف کند تعیین میکند.
- Current Power Limit - سقف محدودیت توان فعلی GPU که توسط نرمافزارهایی مانند nvidia-smi درخواست شده است، بر حسب وات.
- Requested Power Limit - سقف محدودیت توان GPU که در حال حاضر توسط الگوریتم مدیریت توان اعمال شده است، بر حسب وات.
- Default Power Limit - سقف محدودیت توان پیشفرض GPU، بر حسب وات.
- GPU Base Power
- تنظیم توان پایه GPU حداکثر توانی را که GPU میتواند بدون هدایت توان در دسترس از قطعهای دیگر (مانند یک CPU پشتیبانیشده NVIDIA) مصرف کند، تعیین میکند.
- Current Base Power - تنظیم توان پایه فعلی GPU که توسط نرمافزارهایی مانند nvidia-smi درخواست شده است، بر حسب وات.
- Requested Base Power - تنظیم توان پایه GPU که در حال حاضر توسط الگوریتم مدیریت توان اعمال شده است، بر حسب وات.
- Default Base Power - تنظیم توان پایه پیشفرض GPU، بر حسب وات.
- Min Power Limit
- حداقل مقداری بر حسب وات که محدودیت توان میتواند روی آن تنظیم شود.
- Max Power Limit
- حداکثر مقداری بر حسب وات که محدودیت توان میتواند روی آن تنظیم شود.
خوانشهای توان به درک میزان مصرف کنونی توان ماژول و عوامل مؤثر بر آن کمک میکنند. یک ماژول شامل GPU بههمراه پردازندهٔ پشتیبانیشدهٔ NVIDIA و سایر قطعات مصرفکنندهٔ توان است. هنگامی که مدیریت توان فعال باشد، ماژول با دستکاری وضعیت عملکردی فعلی، توان مصرفی زیر بار را محدود میکند تا درون یک محدودهٔ توان از پیش تعریفشده (power envelope) قرار گیرد. این قابلیت در محصولات مراکز داده با معماری Hopper و جدیدتر پشتیبانی میشود.
- Average Power Draw (میانگین توان مصرفی)
- میانگین توان مصرفی کل ماژول در یک ثانیهٔ گذشته، به وات.
- Instantaneous Power Draw (توان مصرفی لحظهای)
- آخرین توان مصرفی اندازهگیریشده برای کل ماژول، به وات.
- Requested Power Limit (حد توان درخواستی)
- حد توان درخواستی توسط نرمافزار، به وات، برای کل ماژول. توسط نرمافزارهایی مانند nvidia-smi تعیین میشود. حد توان را میتوان با استفاده از سوئیچهای -pl یا --power-limit= همراه با -s/--scope=1 تنظیم کرد.
- Enforced Power Limit (حد توان اعمالشده)
- سقف توان الگوریتم مدیریت توان، به وات. توان مصرفی کل ماژول توسط الگوریتم مدیریت توان بهگونهای تنظیم و کنترل میشود که زیر این مقدار باقی بماند. این حد، کمینهٔ حدود مختلف مانند حد نرمافزاری ذکرشده در بالا است.
- Default Power Limit (حد توان پیشفرض)
- سقف توان پیشفرض در الگوریتم مدیریت توان، به وات. حد توان ماژول پس از تخلیهٔ درایور (driver unload) به حد توان پیشفرض بازگردانده خواهد شد.
- Min Power Limit (حداقل حد توان)
- حداقل مقداری (به وات) که میتوان حد توان ماژول را روی آن تنظیم کرد.
- Max Power Limit (حداکثر حد توان)
- حداکثر مقداری (به وات) که میتوان حد توان ماژول را روی آن تنظیم کرد.
خوانشهای توان حافظه گرافیکی (GPU Memory Power Readings)
اطلاعات مربوط به توان مصرفی حافظهٔ GPU.
- Average Power Draw (میانگین توان مصرفی)
- میانگین توان مصرفی زیرسیستم حافظهٔ GPU در طول یک ثانیهٔ گذشته، به وات.
- Instantaneous Power Draw (توان مصرفی لحظهای)
- آخرین توان مصرفی اندازهگیریشده برای زیرسیستم حافظهٔ GPU، به وات.
هموارسازی توان (Power Smoothing)
تعاریف مرتبط با هموارسازی توان (Power Smoothing) و مقادیر تنظیمشدهٔ فعلی. این ویژگی به کاربران امکان میدهد تا پارامترهای توان را تنظیم کنند تا نوسانات توان در محیطهای بزرگ مراکز داده به حداقل برسد.
- Enabled (فعال)
- در صورت فعال بودن این ویژگی مقدار آن "Yes" و در صورت غیرفعال بودن "No" است.
- Delayed Power Smoothing Supported (پشتیبانی از هموارسازی توان با تأخیر)
- در صورت پشتیبانی از ویژگی Delayed Power Smoothing مقدار آن "Yes" و در صورت عدم پشتیبانی "No" است.
- Privilege Level (سطح دسترسی)
- سطح دسترسی فعلی کاربر. مقدار آن 0، 1 یا 2 است. توجه داشته باشید که هر چه سطح دسترسی بالاتر باشد، کاربر به اطلاعات بیشتری دسترسی خواهد داشت.
- Immediate Ramp Down (کاهش فوری توان)
- مقادیر آن "Enabled" یا "Disabled" است. مشخص میکند که آیا مقدار پسماند کاهش توان (ramp down hysteresis) اعمال میشود (در صورت فعال بودن) یا نادیده گرفته میشود (در صورت غیرفعال بودن).
- Current TMP (توان کل ماژول فعلی)
- آخرین مقدار خواندهشدهٔ توان کل ماژول (Total Module Power)، به وات.
- Current TMP FLoor (کف توان کل ماژول فعلی)
- آخرین مقدار خواندهشدهٔ کف توان کل ماژول (Total Module Power floor)، به وات.
- Max % TMP Floor (حداکثر درصد کف TMP)
- بالاترین مقدار درصدی که میتوان Percent TMP Floor را روی آن تنظیم کرد.
- Min % TMP Floor (حداقل درصد کف TMP)
- پایینترین مقدار درصدی که میتوان Percent TMP Floor را روی آن تنظیم کرد.
- HW Lifetime % Remaining (درصد عمر باقیمانده سختافزار)
- با استفاده از این ویژگی، مدارهای هدایتکنندهٔ آن مستهلک میشوند. این مقدار درصد طول عمر باقیماندهٔ این سختافزار را نشان میدهد.
- Current Primary Power Floor (کف توان اولیه فعلی)
- مقدار فعلی کف توان اولیه، به وات. این مقدار از محاسبهٔ TMP Ceiling * (% TMP FLoor value) بهدست میآید.
- Current Secondary Power Floor (کف توان ثانویه فعلی)
- مقدار فعلی کف توان ثانویه، به وات. این کف توانی است که در دورههای بار کاری فعال روی GPU، در زمانی که primary floor activation window multiplier روی مقداری غیر از صفر تنظیم شده باشد، اعمال میشود.
- Min Primary Floor Activation Offset (حداقل آفست فعالسازی کف اولیه)
- حداقل آفست فعالسازی کف اولیهٔ پذیرفتهشده توسط درایور، به وات. این یک فیلد ایستا (static) است.
- Min Primary Floor Activation Point (حداقل نقطه فعالسازی کف اولیه)
- حداقل مقدار خام و مطلقی (به وات) که درایور برای جابهجایی میان کف اولیه و ثانویه استفاده میکند. این نقطه بهصورت 'secondary power floor + primary floor activation offset' محاسبه میشود و سپس مقدار محاسبهشده در زمان اجرا توسط درایور به 'min primary floor activation point' محدود میشود. از این مقدار برای جلوگیری از پایین آمدن تصادفی و بیش از حد نقطهٔ جابهجایی استفاده میشود.
- Window Multiplier (ضریب پنجره)
- واحد ضریب مشخصشده به میلیثانیه (ms) برای سایر ضریبهای موجود در نمایه (primary floor activation window multiplier و primary floor target window multiplier). این یک فیلد ایستا (static) است.
- Number of Preset Profiles (تعداد نمایههای پیشفرض)
- این مقدار، تعداد کل نمایههای از پیش تنظیمشدهٔ (Preset Profiles) پشتیبانیشده است.
مقادیر مربوط به پروفایل پیشتنظیم هموارسازی توان (power smoothing) که در حال حاضر فعال است.
- **% TMP Floor**
- درصد سقف TMP (TMP Ceiling) که برای تعیین کف TMP (TMP floor) برای پروفایل پیشتنظیم فعال کنونی استفاده میشود. برای مثال، اگر حداکثر TMP برابر با 1000 W باشد و % TMP floor برابر با 50% باشد، آنگاه حداقل مقدار TMP برابر با 500 W خواهد بود. این مقدار در بازه [Min % TMP Floor, Max % TMP Floor] قرار دارد.
- Ramp Up Rate
- نرخ افزایش تدریجی (ramp up rate) بر حسب mW/s برای پروفایل پیشتنظیم فعال کنونی.
- Ramp Down Rate
- نرخ کاهش تدریجی (ramp down rate) بر حسب mW/s برای پروفایل پیشتنظیم فعال کنونی.
- Ramp Down Hysteresis
- مقدار هیسترزیس کاهش تدریجی (ramp down hysteresis) بر حسب میلیثانیه (ms) برای پروفایل پیشتنظیم فعال کنونی.
- Secondary Power Floor
- کف توان ثانویه بر حسب وات برای پروفایل پیشتنظیم فعال کنونی. این کف توانی است که در طول دورههای بار کاری فعال روی GPU، هنگامی که ضریب پنجره فعالسازی کف اولیه روی مقداری غیر از صفر تنظیم شده باشد، اعمال خواهد شد.
- Primary Floor Activation Window Multiplier
- ضریب زمانی اندازه پنجره میانگین متحرک فعالسازی برای پروفایل پیشتنظیم فعال کنونی. این ضریب زمانی 'X' میلیثانیهای برای اندازه پنجره میانگین متحرک فعالسازی است. میانگین متحرک فعالسازی با مقدار (کف ثانویه + مقدار آفست فعالسازی کف اولیه) مقایسه میشود تا مشخص شود آیا کنترلر باید از کف ثانویه به کف اولیه تغییر وضعیت دهد یا خیر. تنظیم این مقدار روی 0، تغییر وضعیت به کف ثانویه را غیرفعال میکند.
- Primary Floor Target Window Multiplier
- ضریب زمانی اندازه پنجره میانگین متحرک هدف برای پروفایل پیشتنظیم فعال کنونی. این ضریب زمانی 'X' میلیثانیهای برای اندازه پنجره میانگین متحرک هدف است. هنگامی که روی مقداری غیر از صفر تنظیم شود، توان میانگین متحرک هدف، کف اولیه را تعیین میکند. هنگامی که روی 0 تنظیم شود، درایور به جای آن از درصد کف (Floor percentage) برای تعیین کف اولیه استفاده خواهد کرد.
- Primary Floor Activation Offset
- آفست فعالسازی کف اولیه بر حسب وات برای پروفایل پیشتنظیم فعال کنونی. اگر میانگین متحرک هدف به زیر مقدار کف ثانویه بهعلاوه این آفست افت کند، کف اولیه فعال خواهد شد.
- Active Preset Profile Number
- شماره پروفایل پیشتنظیم فعال.
جایگزینیهای مدیر (Admin Overrides)
جایگزینیهای مدیر (Admin overrides) به کاربران دارای مجوزهای کافی اجازه میدهد تا مقادیر پروفایل پیشتنظیم فعال کنونی را نادیده گرفته و بازنویسی کنند. اگر برای یکی از فیلدها یک جایگزینی مدیر تنظیم شود، این مقدار بهجای هر مقدار پیکربندیشده دیگری استفاده خواهد شد.
- **% TMP Floor**
- مقدار جایگزینی مدیر برای % TMP Floor. این مقدار در بازه [Min % TMP Floor, Max % TMP Floor] قرار دارد.
- Ramp Up Rate
- مقدار جایگزینی مدیر برای نرخ افزایش تدریجی (ramp up rate) بر حسب mW/s.
- Ramp Down Rate
- مقدار جایگزینی مدیر برای نرخ کاهش تدریجی (ramp down rate) بر حسب mW/s.
- Ramp Down Hysteresis
- مقدار جایگزینی مدیر برای مقدار هیسترزیس کاهش تدریجی بر حسب میلیثانیه (ms).
- Secondary Power Floor
- مقدار جایگزینی مدیر برای کف توان ثانویه بر حسب وات. این کف توانی است که در طول دورههای بار کاری فعال روی GPU، هنگامی که ضریب پنجره فعالسازی کف اولیه روی مقداری غیر از صفر تنظیم شده باشد، اعمال خواهد شد.
- Primary Floor Activation Window Multiplier
- مقدار جایگزینی مدیر برای ضریب زمانی اولیه اندازه پنجره میانگین متحرک فعالسازی. این ضریب زمانی 'X' میلیثانیهای برای اندازه پنجره میانگین متحرک فعالسازی است. میانگین متحرک فعالسازی با مقدار (کف ثانویه + مقدار آفست فعالسازی کف اولیه) مقایسه میشود تا مشخص شود آیا کنترلر باید از کف ثانویه به کف اولیه تغییر وضعیت دهد یا خیر. تنظیم این مقدار روی 0، تغییر وضعیت به کف ثانویه را غیرفعال میکند.
- Primary Floor Target Window Multiplier
- مقدار جایگزینی مدیر برای ضریب زمانی اولیه اندازه پنجره میانگین متحرک هدف. این ضریب زمانی 'X' میلیثانیهای برای اندازه پنجره میانگین متحرک هدف است. هنگامی که روی مقداری غیر از صفر تنظیم شود، توان میانگین متحرک هدف، کف اولیه را تعیین میکند. هنگامی که روی 0 تنظیم شود، درایور به جای آن از درصد کف (Floor percentage) برای تعیین کف اولیه استفاده خواهد کرد.
- Primary Floor Activation Offset
- مقدار جایگزینی مدیر برای آفست فعالسازی کف اولیه بر حسب وات. اگر میانگین متحرک هدف به زیر مقدار کف ثانویه بهعلاوه این آفست افت کند، کف اولیه فعال خواهد شد.
- State-Of-Charge Power Smoothing
- نشان میدهد که آیا قابلیت State-Of-Charge Power Smoothing فعال است یا خیر (Enabled/Disabled).
پروفایلهای توان بار کاری (Workload Power Profiles)
پروفایلهای از پیش بهینهشده GPU به ارائه پیکربندیهای فوری و بهینه برای موارد کاربرد دیتاسنتر (Datacenter) کمک میکنند. این بخش شامل اطلاعاتی درباره پروفایلهای توان درخواستی یا اعمالشده کنونی است.
- Requested Profiles
- فهرست پروفایلهای درخواستشده توسط کاربر.
- Enforced Profiles
- از آنجا که بسیاری از پروفایلها اهداف متناقضی دارند، برخی از پیکربندیهای پروفایلهای درخواستی با یکدیگر ناسازگارند. این فهرست پروفایلهای درخواستی است که در حال حاضر اعمال شدهاند.
ضریب EDPp که بهصورت درصد بیان میشود. این قابلیت برای مدیران سیستم در نظر گرفته شده است و از طریق NVML یا nvidia-smi قابل پیکربندی نیست.
کلاکها (Clocks)
فرکانس فعلی که بخشهایی از GPU در آن کار میکنند. تمامی مقادیر بر حسب مگاهرتز (MHz) هستند. توجه داشته باشید که در سناریوهای خاص به دلیل بهینهسازیهای سختافزاری (HW)، ممکن است کلاکها فرکانسی کمتر از پایینترین فرکانس قابل تنظیم توسط نرمافزار (SW) را گزارش کنند.
- Graphics
- فرکانس فعلی کلاک گرافیک (shader).
- SM
- فرکانس فعلی کلاک SM (چندپردازندهای جریانی / Streaming Multiprocessor).
- Memory
- فرکانس فعلی کلاک حافظه.
- Video
- فرکانس فعلی کلاکهای ویدیو (رمزگذار + رمزگشا).
کلاکهای برنامهها (Applications Clocks)
قابلیت Applications Clocks در انتشار آینده CUDA حذف خواهد شد. لطفاً از -lmc/-lgc برای قفل کردن کلاکهای حافظه/گرافیک و از -rmc/-rgc برای بازنشانی کلاکهای حافظه/گرافیک استفاده کنید. فرکانس تعیینشده توسط کاربر که برنامهها در آن اجرا خواهند شد. میتواند با سوئیچهای [-ac --applications-clocks] تغییر داده شود.
- Graphics
- فرکانس تعیینشده توسط کاربر برای کلاک گرافیک (shader).
- Memory
- فرکانس تعیینشده توسط کاربر برای کلاک حافظه.
کلاکهای پیشفرض برنامهها (Default Applications Clocks)
فرکانس پیشفرضی که برنامهها در آن اجرا خواهند شد. کلاکهای برنامهها را میتوان با سوئیچهای [-ac --applications-clocks] تغییر داد. کلاکهای برنامهها را میتوان با استفاده از سوئیچهای [-rac --reset-applications-clocks] به حالت پیشفرض بازگرداند.
- Graphics
- فرکانس پیشفرض کلاک گرافیک (shader) برنامهها.
- Memory
- فرکانس پیشفرض کلاک حافظه برنامهها.
کلاکهای موکولشده (Deferred Clocks)
- کلاکهای موکولشده، کلاکهایی هستند که پس از بارگذاری بعدی درایور اعمال خواهند شد. Memory
- مقدار کلاک حافظه (Memory Clock) بر حسب MHz که در راهاندازی بعدی GPU اعمال میشود. این امر با تخلیه و بارگذاری مجدد ماژول کرنل قابل تضمین است.
حداکثر کلاکها (Max Clocks)
حداکثر فرکانسی که بخشهای GPU برای کار در آن طراحی شدهاند. تمامی مقادیر بر حسب MHz هستند. کلاکهای فعلی P0 (گزارششده در بخش کلاکها) میتوانند به اندازه چند مگاهرتز با حداکثر کلاکها تفاوت داشته باشند.
- Graphics
- حداکثر فرکانس کلاک گرافیک (shader).
- SM
- حداکثر فرکانس کلاک SM (چندپردازندهای جریانی / Streaming Multiprocessor).
- Memory
- حداکثر فرکانس کلاک حافظه.
- Video
- حداکثر فرکانس کلاک ویدیو (رمزگذار + رمزگشا).
حداکثر کلاکهای بوست سفارشی (Max Customer Boost Clocks)
حداکثر فرکانس بوست سفارشی مشتری که بخشهای GPU برای کار در آن طراحی شدهاند. تمامی مقادیر بر حسب MHz هستند.
- Graphics
- حداکثر فرکانس بوست مشتری برای کلاک گرافیک (shader).
سیاست کلاک (Clock Policy)
تنظیمات مشخصشده توسط کاربر برای تغییرات خودکار کلاک، مانند auto boost.
- Auto Boost
- نشان میدهد که آیا حالت auto boost در حال حاضر برای این GPU فعال است (On) یا غیرفعال (Off). در صورتی که بوست پشتیبانی نشود (N/A) نمایش داده میشود. قابلیت auto boost امکان کلاکگذاری پویای GPU را بر اساس توان مصرفی، حرارت و میزان استفاده فراهم میکند. هنگامی که auto boost غیرفعال است، GPU تلاش میکند کلاکها را دقیقاً روی تنظیمات Current Application Clocks حفظ کند (در هر زمانی که یک کانتکست CUDA فعال باشد). با فعال بودن auto boost، پردازنده گرافیکی همچنان تلاش خواهد کرد این کف فرکانس را حفظ کند، اما در صورت وجود حاشیه امن توان، حرارت و میزان بهرهوری، به کلاکهای بالاتر بوست خواهد کرد. این تنظیم در طول عمر کانتکست CUDA که برای آن درخواست شده بود باقی میماند. برنامهها میتوانند حالت مشخصی را یا از طریق فراخوانی NVML (به NVML SDK مراجعه کنید) یا با تنظیم متغیر محیطی CUDA یعنی CUDA_AUTO_BOOST درخواست کنند. این قابلیت منسوخ شده است و در نسخههای آینده CUDA حذف خواهد شد.
- Auto Boost Default
- نشاندهنده تنظیمات پیشفرض برای حالت auto boost است؛ فعال (On) یا غیرفعال (Off). اگر بوست پشتیبانی نشود، (N/A) نمایش داده میشود. چنانچه برنامهها صراحتاً حالت خاصی را درخواست نکرده باشند، در حالت پیشفرض اجرا خواهند شد. نکته: تنظیمات Auto Boost تنها زمانی قابل تغییر است که "Persistence Mode" فعال باشد، که بهطور پیشفرض فعال نیست. این قابلیت منسوخ شده است و در نسخههای آینده CUDA حذف خواهد شد.
اطلاعات فابریک GPU
State
نشاندهنده
وضعیت
دستتکانی
(handshake) پردازشگر
گرافیکی با
nvidia-fabricmanager (که با
نام کاوش
فابریک GPU یا GPU
fabric probe نیز
شناخته
میشود) است.
مقادیر
ممکن: Completed، In Progress، Not
Started، Not supported
Status
وضعیت
پاسخ کاوش
فابریک GPU از
سوی nvidia-fabricmanager.
مقادیر
ممکن: NVML_SUCCESS یا
یکی از
کدهای خطا.
Clique ID
یک کلیک (clique)
مجموعهای
از GPUها است
که
میتوانند
از طریق NVLink با
یکدیگر
ارتباط
برقرار
کنند.
پردازشگرهای
گرافیکی
متعلق به یک
کلیک،
دارای
شناسه کلیک
(Clique ID) یکسانی
هستند.
شناسه کلیک
تنها برای
سامانههای
چندگرهای
(multi-node) مبتنی بر
NVLink معتبر
خواهد بود.
Cluster UUID
شناسه
یکتای
جهانی (UUID)
کلاستر
چندگرهای
NVLink که این GPU به
آن تعلق
دارد.
مقدار Cluster UUID
برای
سامانههای
تکگرهای
NVLink برابر صفر
خواهد بود.
Health
خلاصه (Summary) -
خلاصه
وضعیت
سلامت
فابریک <Healthy, Unhealthy,
Limited Capacity>
پهنای باند
(Bandwidth) - آیا
پهنای باند
NVLink پردازشگر
گرافیکی
افت کرده
است؟ <Degraded/Full>
بازیابی
مسیر در حال
انجام (Route Recovery in progress) -
آیا
بازیابی
مسیر NVLink در
حال انجام
است؟ <True/False>
مسیر
ناسالم (Route Unhealthy) -
آیا
بازیابی
مسیر NVLink با
شکست مواجه
شده یا لغو
شده است؟ <True/False>
بازیابی
مهلت زمانی
دسترسی (Access Timeout Recovery) -
آیا
بازیابی
مهلت زمانی
دسترسی NVLink در
جریان است؟
<True/False>
پیکربندی
نادرست (Incorrect Configuration) -
وضعیت
پیکربندی
نادرست <Incorrect SystemGuid,
Incorrect Chassis Serial Number, No Partition, Insufficient Nvlink
Resources, Incompatible GPU Firmware, Invalid Location, GPU State Invalid,
None>
پارتیشن
تخصیصیافته
(Partition Assigned) - آیا
پارتیشن NVLink
پردازشگر
گرافیکی به
درستی
تخصیص
یافته است؟
<True/False>
فرآیندها (Processes)
فهرست فرآیندهایی که دارای مصرف منابع محاسباتی (Compute)، گرافیکی (Graphics) یا دیگر (Other) روی دستگاه هستند. فرآیندهای محاسباتی در تمام محصولات با پشتیبانی کامل گزارش میشوند. گزارش فرآیندهای گرافیکی به محصولات پشتیبانیشده از معماری Kepler به بعد محدود میشود. فرآیندهای دیگر شامل هر دو نوع فرآیندهای سنتی مبتنی بر بافتار (context-based) و فرآیندهایی است که از تخصیص منابع GPU بدون بافتار (مانند رابطهای برنامهنویسی VMM APIs) استفاده میکنند.
- هر ورودی در قالب "<GPU Index> <GI Index> <CI Index> <PID> <Type> <Process Name> <GPU Memory Usage>" است
- >
- GPU Index
- نشاندهنده نمایه NVML دستگاه است.
- GPU Instance Index
- نشاندهنده نمایه نمونه GPU مربوط به دستگاه MIG (در صورت فعال بودن) است.
- Compute Instance Index
- نشاندهنده نمایه نمونه محاسباتی دستگاه MIG (در صورت فعال بودن) است.
- PID
- نشاندهنده شناسه فرآیند (Process ID) متناظر با فرآیند فعال Compute، Graphics یا Other است که از منابع GPU استفاده میکند.
- Type
- برای فرآیند محاسباتی با "C" (Compute)، برای فرآیند گرافیکی با "G" (Graphics)، برای فرآیند محاسباتی سرویس چندفرآیندی با "M" (MPS یا "Multi-Process Service")، برای سایر فرآیندها با "O" (Other - فرآیندهایی که از طریق تخصیص زیردستگاه RM از منابع GPU استفاده میکنند، از جمله عملیات بدون بافتار)، و برای فرآیندهایی با بافتارهای همزمان محاسباتی و گرافیکی یا MPS محاسباتی و محاسباتی با "C+G" یا "M+C" نمایش داده میشود.
- Process Name
- نشاندهنده نام فرآیند برای فرآیند Compute، MPS Compute، Graphics یا Other است.
- GPU Memory Usage
- میزان حافظه مصرفشده توسط بافتار GPU، که نشاندهنده مصرف حافظه FB برای GPUهای مجزا (discrete) یا مصرف حافظه سامانه برای GPUهای یکپارچه (integrated) است. این مقدار در ویندوز هنگام اجرا در حالت WDDM در دسترس نیست، چرا که KMD ویندوز تمامی حافظه را مدیریت میکند نه درایور NVIDIA.
پایش دستگاه (Device Monitoring)
خط فرمان "nvidia-smi dmon" برای پایش یک یا چند GPU (تا ۱۶ دستگاه) متصل به سامانه استفاده میشود. این ابزار به کاربر اجازه میدهد در هر چرخه پایش، یک خط از دادههای نظارتی را مشاهده کند. خروجی در قالبی فشرده بوده و در حالت تعاملی تفسیر آن آسان است. دادههای خروجی در هر خط به اندازه ترمینال محدود میشوند. این ابزار روی محصولات Tesla، GRID، Quadro و برخی از محصولات محدود GeForce برای معماری Kepler یا پردازندههای گرافیکی جدیدتر تحت لینوکس ۶۴ بیتی bare metal پشتیبانی میشود. بهطور پیشفرض، دادههای پایش شامل توان مصرفی (Power Usage)، دما (Temperature)، کلاکهای SM، کلاکهای حافظه و مقادیر بهرهوری (Utilization) برای SM، حافظه، انکودر، دیکودر، JPEG و OFA است. همچنین میتوان آن را برای گزارش سایر معیارها مانند میزان مصرف حافظه frame buffer، مصرف حافظه bar1، تخطیهای توان/حرارتی و خطاهای تجمیعی تکبیتی/دوبیتی ecc پیکربندی کرد. در صورتی که هر یک از معیارها روی دستگاه پشتیبانی نشود یا هر خطای دیگری در دریافت معیار رخ دهد، در دادههای خروجی به صورت "-" گزارش میشود. کاربر همچنین میتواند بسامد پایش و تعداد دفعات تکرار پایش را برای هر اجرا پیکربندی کند. گزینهای نیز برای گنجاندن تاریخ و زمان در هر خط وجود دارد. تمام گزینههای پشتیبانیشده مستقل هستند و میتوانند با هر ترتیبی همراه یکدیگر استفاده شوند. نکته: در پردازندههای گرافیکی با قابلیت MIG فعال، استعلام بهرهوری encoder، decoder، jpeg، ofa، gpu و حافظه در حال حاضر پشتیبانی نمیشود.
کاربرد:
- 1) حالت پیشفرض بدون آرگومان
- >
- معیارهای پیشفرض را برای حداکثر ۱۶ دستگاه پشتیبانیشده تحت شمارش طبیعی (شروع با نمایه GPU برابر با 0) با بسامد ۱ ثانیه پایش میکند. اجرا تا زمان خاتمه با ^C ادامه مییابد.
- >
- 2) انتخاب یک یا چند دستگاه
- >
- معیارهای پیشفرض را برای دستگاههای انتخابشده از طریق فهرست دستگاههای جدا شده با ویرگول گزارش میکند. این ابزار تا حداکثر ۱۶ دستگاه پشتیبانیشده را بر اساس شمارش طبیعی (شروع با نمایه GPU برابر با 0) از فهرست برمیگزیند.
- >
- 3) انتخاب معیارهای نمایشی
- >
- پارامتر <metric_group> میتواند یک یا چند مورد از موارد زیر باشد:
- >
- ۴) پیکربندی تکرارهای پایش
- >
- دادهها را برای تعداد نمونههای مشخصشده نمایش میدهد و خارج میشود.
- >
- ۵) پیکربندی بسامد پایش
- >
- دادهها را در هر بازهٔ پایشِ مشخصشده جمعآوری و نمایش میدهد تا زمانی که با ^C متوقف شود.
- >
- ۶) نمایش تاریخ
- >
- تاریخ را در قالب YYYYMMDD به ابتدای دادههای پایش میافزاید.
- >
- ۷) نمایش زمان
- >
- زمان را در قالب HH:MM:SS به ابتدای دادههای پایش میافزاید.
- >
- ۸) انتخاب معیارهای GPM برای نمایش
- >
- <gpmMetricX> به مستندات مربوط به nvmlGpmMetricId_t در فایل سرآیند NVML مراجعه کنید
- >
- ۹) انتخاب سطح معیارهای GPM برای نمایش
- >
- <gpmMode> میتواند یکی از موارد زیر باشد:
- >
- ۱۰) تغییر قالب خروجی
- >
- <formatSpecifier> میتواند هر ترکیبی از موارد زیر باشد که با کاما از هم جدا شدهاند:
- >
- ۱۱) اطلاعات راهنما
- >
- اطلاعات راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
دستور «nvidia-smi daemon» فرایندی را در پسزمینه برای پایش یک یا چند GPU متصل به سیستم آغاز میکند. این ابزار GPUهای درخواستشده را در هر چرخهٔ پایش بررسی کرده و پرونده را با فرمت فشرده در مسیر تعیینشده توسط کاربر یا در مسیر پیشفرض /var/log/nvstats/ ذخیره میکند. پروندهٔ گزارش با الحاق تاریخ سیستم و در قالب nvstats-YYYYMMDD ساخته میشود. عملیات تخلیه بافر (flush) به پروندهٔ گزارش در چرخههای پایش یکدرمیان انجام میپذیرد. دیمن همچنین PID خود را در /var/run/nvsmi.pid ذخیره میکند. بهطور پیشفرض، دادههای پایش که ذخیره میشوند شامل میزان مصرف توان (Power Usage)، دما، کلاکهای SM، کلاکهای حافظه و مقادیر بهرهوری (Utilization) برای SM، حافظه، Encoder، Decoder، JPEG و OFA است. ابزار دیمن همچنین میتواند برای ثبت سایر معیارها نظیر میزان مصرف حافظهٔ Frame Buffer، مصرف حافظهٔ Bar1، تخطیهای توان/حرارتی و خطاهای تجمیعی تکبیتی/دوبیتی ECC پیکربندی شود. چرخهٔ پایش پیشفرض بر روی ۱۰ ثانیه تنظیم شده و از طریق خط فرمان قابل تغییر است. این ویژگی در محصولات Tesla، GRID، Quadro و GeForce برای پردازندههای گرافیکی معماری Kepler یا جدیدتر تحت لینوکس ۶۴بیتی bare-metal پشتیبانی میشود. اجرای دیمن نیازمند دسترسیهای ریشه (root) است و تنها از اجرای یک نمونهٔ واحد روی سیستم پشتیبانی میکند. تمامی گزینههای پشتیبانیشده مستقل از یکدیگر هستند و میتوانند با هر ترتیبی همراه هم استفاده شوند. نکته: در GPUهایی با قابلیت MIG فعال، در حال حاضر استعلام بهرهوری encoder، decoder، jpeg، ofa، gpu و memory پشتیبانی نمیشود. کاربرد:
- ۱) پیشفرض بدون آرگومان
- >
- در پسزمینه اجرا میشود تا معیارهای پیشفرض را برای حداکثر ۱۶ دستگاهِ پشتیبانیشده تحت شمارش طبیعی (با شروع از شاخص ۰ برای GPU) با بسامد ۱۰ ثانیه پایش کند. پروندهٔ گزارشِ برچسبگذاریشده با تاریخ در /var/log/nvstats/ ایجاد میشود.
- >
- ۲) انتخاب یک یا چند دستگاه
- >
- در پسزمینه اجرا میشود تا معیارهای پیشفرض را برای دستگاههای مشخصشده در فهرستِ جداشده با کاما پایش کند. این ابزار حداکثر ۱۶ دستگاه پشتیبانیشده را بر اساس شمارش طبیعی (با شروع از شاخص ۰ برای GPU) از فهرست برمیگزیند.
- >
- ۳) انتخاب معیارهای مورد پایش
- >
- <metric_group> میتواند یک یا چند مورد از گزینههای زیر باشد:
- >
- e - خطاهای ECC (تعداد خطاهای تجمیعی تکبیتی و دوبیتی ecc) و خطاهای بازپخش PCIe (PCIe Replay errors)
- >
- ۴) پیکربندی بسامد پایش
- >
- دادهها را در هر بازهٔ پایشِ مشخصشده تا زمان متوقف شدن دیمن جمعآوری میکند.
- >
- ۵) پیکربندی دایرکتوری گزارش
- >
- پروندههای گزارش در دایرکتوری مشخصشده ایجاد میشوند.
- >
- ۶) پیکربندی نام پروندهٔ گزارش
- >
- این گزینه برای افزودن رشتهٔ تعیینشده توسط کاربر به انتهای نام پروندهٔ گزارش به کار میرود.
- >
- ۷) خاتمه دادن به دیمن
- >
- این دستور با استفاده از PID ذخیرهشده (در /var/run/nvsmi.pid) اقدام به خاتمه دادن دیمن میکند. این دستور تمام تلاش خود را برای متوقف کردن دیمن به کار میبندد، اما هیچ تضمینی برای پایان یافتن حتمی آن ارائه نمیدهد. در صورتی که دیمن متوقف نشد، کاربر میتواند بهصورت دستی با ارسال سیگنال kill آن را خاتمه دهد. انجام عملیات بازنشانی GPU (از طریق nvidia-smi) نیازمند خروج تمامی فرایندهای GPU، از جمله خود دیمن است. کاربرانی که دیمن را باز نگه داشته باشند، خطایی مبنی بر مشغول بودن GPU مشاهده خواهند کرد.
- >
- ۸) اطلاعات راهنما
- >
- اطلاعات راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
خطفرمان «nvidia-smi replay» برای استخراج یا بازپخش تمام یا بخشهایی از فایل لاگ تولیدشده توسط دیمن (daemon) به کار میرود. بهطور پیشفرض، این ابزار تلاش میکند معیارهایی از قبیل Power Usage (مصرف توان)، Temperature (دما)، کلاکهای SM، کلاکهای حافظه و مقادیر Utilization (میزان بهرهوری) برای SM، Memory، Encoder، Decoder، JPEG و OFA را دریافت کند. این ابزار بازپخش همچنین میتواند سایر معیارها نظیر مصرف حافظهٔ frame buffer، مصرف حافظهٔ bar1، نقضهای توان/حرارتی و مجموع خطاهای ecc تکبیتی/دوبیتی را دریافت نماید. گزینهای برای انتخاب مجموعهای از معیارها جهت بازپخش وجود دارد؛ اگر هر یک از معیارهای درخواستشده نگهداری نشده باشد یا بهعنوان پشتیبانینشده ثبت شده باشد، در خروجی بهصورت «-» نمایش داده میشود. قالب دادههای تولیدشده در این حالت بهگونهای است که گویی کاربر ابزار نظارت بر دستگاه را بهصورت تعاملی اجرا میکند. این خطفرمان نیازمند گزینهٔ اجباری «-f» برای تعیین مسیر کامل نام فایل لاگ است؛ تمام گزینههای پشتیبانیشدهٔ دیگر مجزا هستند و میتوان آنها را همراه با یکدیگر و با هر ترتیبی به کار برد. نکته: در پردازندههای گرافیکی دارای قابلیت MIG، پرسوجوی میزان بهرهوری encoder، decoder، jpeg، ofa، gpu و memory در حال حاضر پشتیبانی نمیشود. کاربرد:
- 1) مشخص کردن فایل لاگ جهت بازپخش
- >
- دادههای نظارتی را از فایل لاگ فشردهشده دریافت کرده و به کاربر اجازه میدهد برای هر تکرار نظارتی ذخیرهشده در فایل لاگ، یک خط از دادههای نظارتی (معیارهای پیشفرض بههمراه برچسب زمانی) را مشاهده کند. صرفنظر از بسامد نظارت واقعی که در زمان جمعآوری ثبت شده است، هر یک ثانیه در میان یک خط جدید از دادههای نظارتی بازپخش میشود. این نمایش تا انتهای فایل یا تا زمان متوقف شدن با ^C ادامه مییابد.
- >
- 2) فیلتر کردن معیارهای مورد بازپخش
- >
- <metric_group> میتواند یک یا چند مورد از موارد زیر باشد:
- >
- e - خطاهای ECC (تعداد تجمیعشدهٔ خطاهای ecc تکبیتی و دوبیتی) و خطاهای بازپخش PCIe (یا PCIe Replay)
- >
- 3) محدود کردن بازپخش به یک یا چند دستگاه
- >
- گزارشدهی معیارها را به مجموعهای از دستگاهها که با فهرستی جداشده با کاما مشخص شدهاند، محدود میکند. این ابزار از هر دستگاهی که در فایل لاگ ثبت نشده باشد صرفنظر میکند.
- >
- 4) محدود کردن بازهٔ زمانی گزارش دادهها
- >
- nvidia-smi replay -f <log file> -b <start time in HH:MM:SS format> -e <end time in HH:MM:SS format>
- >
- این گزینه امکان محدود کردن دادهها بین بازهٔ زمانی مشخصشده را فراهم میکند. مشخص کردن زمان بهصورت 0 همراه با گزینهٔ -b یا -e به ترتیب به معنای ابتدا یا انتهای فایل است.
- >
- 5) هدایت اطلاعات بازپخش به یک فایل لاگ
- >
- این گزینه فایل لاگ را بهعنوان ورودی دریافت کرده و اطلاعات مربوط به معیارهای پیشفرض را در فایل خروجی مشخصشده استخراج میکند.
- >
- 6) اطلاعات راهنما
- >
- اطلاعات راهنما را برای استفاده از این خطفرمان نمایش میدهد.
- >
خط فرمان «nvidia-smi pmon» برای پایش فرایندهای محاسباتی و گرافیکی در حال اجرا روی یک یا چند GPU (تا ۱۶ دستگاه) متصل به سیستم استفاده میشود. این ابزار به کاربر اجازه میدهد تا آمار تمامی فرایندهای در حال اجرا روی هر دستگاه را در هر چرخه پایش مشاهده کند. خروجی در قالبی موجز بوده و در حالت تعاملی بهسادگی قابل تفسیر است. دادههای خروجی در هر خط به اندازه پایانه محدود میشوند. این ابزار بر روی محصولات Tesla، GRID، Quadro و محصولات محدودی از GeForce برای GPUهای با معماری Kepler یا جدیدتر روی لینوکس ۶۴ بیتی bare metal پشتیبانی میشود. بهطور پیشفرض، دادههای پایش برای هر فرایند شامل pid، نام دستور و مقادیر میانگین بهرهوری برای SM، حافظه، Encoder و Decoder از آخرین چرخه پایش است. همچنین میتوان آن را برای گزارش میزان استفاده از حافظه frame buffer برای هر فرایند پیکربندی کرد. اگر هیچ فرایندی برای دستگاه در حال اجرا نباشد، تمام معیارها برای آن دستگاه بهصورت «-» گزارش میشوند. در صورتی که هر یک از معیارها روی دستگاه پشتیبانی نشود یا هر خطای دیگری در دریافت معیار رخ دهد نیز در دادههای خروجی با «-» گزارش میشود. کاربر همچنین میتواند بسامد پایش و تعداد تکرارهای پایش را برای هر اجرا پیکربندی کند. همچنین گزینهای برای گنجاندن تاریخ و زمان در هر خط وجود دارد. تمامی گزینههای پشتیبانیشده مستقل هستند و میتوانند با هر ترتیبی همراه یکدیگر استفاده شوند. نکته: روی GPUهایی با قابلیت MIG فعال، در حال حاضر پرسوجو از میزان بهرهوری encoder، decoder، jpeg، ofa، gpu و حافظه پشتیبانی نمیشود.
کاربرد:
- ۱) پیشفرض بدون آرگومان
- >
- تمام فرایندهای در حال اجرا روی هر دستگاه را تا سقف ۱۶ دستگاه پشتیبانیشده با شمارهگذاری طبیعی (شروع با نمایه GPU شماره ۰) با بسامد ۱ ثانیه پایش میکند. اجرا تا زمان متوقف شدن با ^C ادامه مییابد.
- >
- ۲) انتخاب یک یا چند دستگاه
- >
- آمار تمامی فرایندهای در حال اجرا روی دستگاههای انتخابشده از طریق فهرست دستگاههای جدا شده با ویرگول را گزارش میکند. این ابزار تا سقف ۱۶ دستگاه پشتیبانیشده را بر اساس شمارهگذاری طبیعی (شروع با نمایه GPU شماره ۰) از فهرست برمیگزیند.
- >
- ۳) انتخاب معیارهای نمایشی
- >
- مقدار <metric_group> میتواند یک یا چند مورد از موارد زیر باشد:
- >
- ۴) پیکربندی دفعات پایش
- >
- دادهها را برای تعداد نمونههای مشخصشده نمایش داده و خارج میشود.
- >
- ۵) پیکربندی بسامد پایش
- >
- دادهها را در هر بازه زمانی پایشِ مشخصشده تا زمان توقف با ^C جمعآوری و نمایش میدهد. بسامد پایش باید بین ۱ تا ۱۰ ثانیه باشد.
- >
- ۶) نمایش تاریخ
- >
- تاریخ را در قالب YYYYMMDD به ابتدای دادههای پایش اضافه میکند.
- >
- ۷) نمایش زمان
- >
- زمان را در قالب HH:MM:SS به ابتدای دادههای پایش اضافه میکند.
- >
- ۸) اطلاعات راهنما
- >
- اطلاعات راهنما برای استفاده از خط فرمان را نمایش میدهد.
- >
اطلاعات توپولوژی درباره GPUهای سیستم، نحوه اتصال آنها به یکدیگر، وابستگیهای (affinities) پردازنده (CPU) و حافظه آنها و همچنین کارتهای شبکه (NIC) واجد شرایط با قابلیت RDMA را فهرست میکند.
نکته: در برخی سیستمها، یک NIC به عنوان یک پل PCI برای سوئیچهای NVLINK استفاده میشود و از نقطه نظر شبکه یا RDMA کاربردی ندارد. دستور nvidia-smi topo با بررسی مدخلهای sysfs مربوط به NIC، درگاهها/زیرتوابع PCIe آن کارت شبکه را از ماتریس توپولوژی پالایش (فیلتر) میکند. در برخی نسخههای هسته، nvidia-smi برای خواندن این مدخلهای sysfs به امتیازات کاربر ریشه (root) نیاز دارد.
- کاربرد:
- >
- ماتریس اتصالات توپولوژی و وابستگیها بین GPUها و NICهای موجود در سیستم
- >
- ماتریسی از اتصالات بین تمامی GPUها و NICها (شامل دستگاههای data-direct آنها در صورت وجود) در سیستم را به همراه وابستگیهای CPU/حافظه برای GPUها با راهنمای زیر نمایش میدهد:
- >
راهنما:
X = خود دستگاه
(Self)
SYS = اتصال با
عبور از PCIe و
همچنین
اتصال
داخلی SMP بین
گرههای NUMA
(مانند QPI/UPI)
NODE = اتصال با
عبور از PCIe و
همچنین
اتصال
داخلی بین PCIe Host
Bridgeها در یک
گره NUMA
PHB = اتصال با
عبور از PCIe و
همچنین یک PCIe Host
Bridge (معمولاً CPU)
PXB = اتصال با
عبور از چند
سوئیچ PCIe
(بدون عبور
از PCIe Host Bridge)
PIX = اتصال با
عبور از یک
سوئیچ
منفرد PCIe NV# =
اتصال با
عبور از
مجموعهای
پیوندخورده
از # اتصال NVLink
- نکته: این دستور ممکن است NICهای تجمیعشده (bonded) را که شاید از قابلیت RDMA پشتیبانی نکنند نیز نمایش دهد.
- >
- ماتریسی از اتصالات صرفاً PCI بین تمامی GPUها و NICهای موجود در سیستم را به همراه وابستگیهای CPU/حافظه برای GPUها با همان راهنمای دستور 'nvidia-smi topo -m' نمایش میدهد. این دستور اتصالات NVLINK را مستثنی کرده و اتصالات PCI میان GPUها را نمایش میدهد.
- >
- تمامی GPUهایی را که دارای وابستگی به شماره CPU مشخصشده هستند نمایش میدهد.
- >
تمامی
GPUهای متصل
به GPU
دادهشده
را با
استفاده از
مسیر
پیمایش
مشخصشده
نمایش
میدهد.
مقادیر
مسیر
پیمایش
عبارتند از:
0 = یک سوئیچ
منفرد PCIe روی
برد مجهز به
دو GPU
1 = یک سوئیچ
منفرد PCIe
2 = چندین
سوئیچ PCIe
3 = یک PCIe host bridge
4 = یک پیوند
ارتباطی
داخلی روی CPU
بین PCIe host bridgeها
5 = یک پیوند
ارتباطی
داخلی SMP بین
گرههای NUMA
- مستقیمترین مسیر پیمایش PCIe را برای یک جفت GPU مشخص نشان میدهد.
- >
وضعیت P2P را
بین تمامی
GPUها بر اساس
قابلیت
دادهشده
نشان
میدهد.
مقادیر
قابلیت
عبارتند از:
r - قابلیت
خواندن p2p
w - قابلیت
نوشتن p2p
n - قابلیت p2p nvlink
a - قابلیت
اتمیک (atomics) در p2p
p - قابلیت p2p pcie
- شناسه NUMA نزدیکترین CPU را برای GPU مشخصشده با شناسه دستگاه نشان میدهد.
- >
- شناسه NUMA نزدیکترین حافظه را برای GPU مشخصشده با شناسه دستگاه نشان میدهد.
- >
- در صورت امکان، شناسه NUMA مربوط به GPU مشخصشده با شناسه دستگاه را نشان میدهد. در غیر این صورت N/A را نمایش میدهد.
- >
ماتریسی از اتصالات PCI بین تمامی GPUها و دستگاههای NVME در سیستم را با راهنمای زیر نمایش میدهد:
راهنما:
X = خود دستگاه
(Self)
SYS = اتصال با
عبور از PCIe و
همچنین
اتصال
داخلی SMP بین
گرههای NUMA
(مانند QPI/UPI)
NODE = اتصال با
عبور از PCIe و
همچنین
اتصال
داخلی بین PCIe Host
Bridgeها در یک
گره NUMA
PHB = اتصال با
عبور از PCIe و
همچنین یک PCIe Host
Bridge (معمولاً CPU)
PXB = اتصال با
عبور از چند
پل PCIe (بدون
عبور از PCIe Host Bridge)
PIX = اتصال با
عبور از
حداکثر یک
پل منفرد PCIe
- همبستگی CPU/MEM و شناسهٔ گرهٔ NUMA را برای تمامی GPUهای موجود در سیستم نمایش میدهد. خروجی ستونهای همبستگی حافظه (NUMA Affinity)، شناسهٔ NUMA مربوط به GPU، و همبستگی CPU را نشان میدهد. اگر هیچ همپوشانیای بین هستهها در cgroup فعلی و همبستگی GPU وجود نداشته باشد، مقدار 'N/A' نمایش داده میشود.
- >
ماتریس اتصال GPU-GPU را نمایش میدهد که اتصالات بین GPUها را در سیستم نشان میدهد. این ماتریس از فاصلهگذاری با عرض ثابت استفاده میکند و شامل راهنمای (legend) زیر است:
راهنما (Legend):
X = خود دستگاه
(Self)
SYS = اتصال با
عبور از PCIe و
همچنین
رابط داخلی
SMP بین
گرههای NUMA
(مانند QPI/UPI)
NODE = اتصال با
عبور از PCIe و
همچنین
رابط داخلی
بین PCIe Host Bridgeها در
یک گرهٔ NUMA
PHB = اتصال با
عبور از PCIe و
همچنین یک PCIe Host
Bridge (معمولاً CPU)
PXB = اتصال با
عبور از
چندین پل PCIe
(بدون عبور
از PCIe Host Bridge)
PIX = اتصال با
عبور از
حداکثر یک
پل PCIe تک
NV# = اتصال با
عبور از یک
مجموعهٔ
پیوندخورده
(bonded) متشکل از #
پیوند NVLink
ماتریس اتصال GPU-NIC را نمایش میدهد که اتصالات بین GPUها و کارتهای شبکه (NIC) را در سیستم نشان میدهد. شامل یک راهنمای پیشرفتهٔ NIC است که موارد زیر را نشان میدهد:
- ibdev: نام دستگاه InfiniBand
- netdev: نام دستگاه شبکه (از sysfs)
- PCI: نشانی گذرگاه PCI
- SLOT: شمارهٔ اسلات PCIe (از sysfs، در صورت موجود بودن)
- این ماتریس از همان راهنمای دستور 'nvidia-smi topo -gpu' استفاده میکند.
- >
- ماتریس کامل توپولوژی را نمایش میدهد که اتصالات بین تمامی دستگاهها را نشان میدهد: دستگاههای GPU، کارتهای شبکه (NIC)، و دستگاههای NVMe. این دستور اطلاعات سایر دستورات توپولوژی را ترکیب کرده و شامل اطلاعات همبستگی CPU/MEM و NUMA برای GPUها است. برای خوانایی بهتر و تجزیهٔ ماشینی از فاصلهگذاری با عرض ثابت استفاده میکند. شامل راهنماهای پیشرفتهٔ NIC و NVMe است.
- >
Nvlink
خط فرمان "nvidia-smi nvlink" برای مدیریت Nvlinkهای GPU استفاده میشود. این ابزار گزینههایی را برای تنظیم و استعلام اطلاعات Nvlink فراهم میکند.
کاربرد:
- ۱) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- ۲) فهرست کردن یک یا چند GPU
- >
- یک یا چند GPU را با استفاده از اندیسهای عددی GPU، شناسههای گذرگاه PCI یا UUIDهای ارائهشده و جداشده با کاما، انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان دادهشده برای تمام GPUهای پشتیبانیشده اعمال میشود.
- >
- ۳) انتخاب یک NvLink مشخص
- >
- در صورت معتبر بودن، یک Nvlink مشخص از GPU را برای دستور دادهشده انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان دادهشده برای تمام Nvlinkهای GPU اعمال میشود.
- >
- ۴) استعلام وضعیت Nvlink
- >
- وضعیت Nvlinkهای GPU را دریافت میکند.
- >
- اگر Active باشد، پهنای باند (Bandwidth) پیوندها نمایش داده خواهد شد.
- >
- اگر پیوند موجود باشد اما Not Active باشد، پیوند را به صورت Inactive نشان میدهد.
- >
- اگر پیوند در حالت Sleep باشد، وضعیت آن به صورت Sleep نشان داده خواهد شد.
- >
- ۵) استعلام قابلیتهای Nvlink
- >
- nvidia-smi nvlink -c
- >
- دریافت قابلیتهای Nvlink مربوط به GPU.
- >
- 6) استعلام گذرگاه PCI گره دوردست Nvlink
- >
- دریافت شناسه گذرگاه PCI گره دوردست Nvlink.
- >
- 7) استعلام اطلاعات پیوند دوردست Nvlink
- >
- دریافت شناسه گذرگاه PCI دستگاه دوردست و شناسه NvLink برای یک پیوند.
- >
- 8) قابلیت Set Nvlink Counter Control منسوخ شده است
- >
- 9) قابلیت Get Nvlink Counter Control منسوخ شده است
- >
- 10) قابلیت Get Nvlink Counters منسوخ شده است، باید بهجای آن از -gt/--getthroughput استفاده شود
- >
- 11) قابلیت Reset Nvlink counters منسوخ شده است
- >
- 12) استعلام شمارندههای خطای Nvlink
- >
- دریافت شمارندههای خطای Nvlink.
- >
- برای NVLink 4
- >
- برای NVLink 5
- >
- Buffer overrun Errors - تعداد بستههایی که در هنگام دریافت (Rx) به دلیل سرریز بافر دور ریخته شدهاند
- >
PLR Xmit Retry Blocks - تعداد بلوکهای PLR Xmit Retry
- 13) پرسوجوی شمارندههای خطای CRC در Nvlink
- >
- دریافت شمارندههای خطای CRC/ECC به ازای هر خط (lane) در Nvlink.
- >
- از NVLink 5 به بعد منسوخ شده است
- >
- 14) بازنشانی شمارندههای خطای Nvlink
- >
- بازنشانی همه شمارندههای خطای Nvlink به صفر.
- >
- در NvLink 5 پشتیبانی نمیشود
- >
- 15) پرسوجوی شمارندههای توان عملیاتی Nvlink
- >
- <Data Type> میتواند یکی از موارد زیر باشد:
- >
- 16) تنظیم آستانههای کممصرف Nvlink
- >
- تنظیم آستانه کممصرف Nvlink، پیش از رفتن پیوندها به حالت کممصرف (Low Power Mode).
- >
- محدودهها و واحدهای آستانه را میتوان با استفاده از -gLowPwrInfo یافت.
- >
- 17) دریافت اطلاعات کممصرف Nvlink
- >
- پرسوجوی اطلاعات کممصرف Nvlink.
- >
- 18) تنظیم حالت پهنای باند Nvlink
- >
- تنظیم حالت پهنای باند Nvlink برای تمام GPUها. این ویژگی برای +Blackwell منسوخ شده است (DEPRECATED).
- >
- گزینهها عبارتند از:
- >
- 3QUARTER - پهنای باند در حدود ۷۵٪ سرعت FULL است.
- >
- 19) دریافت حالت پهنای باند Nvlink
- >
- دریافت حالت پهنای باند Nvlink برای تمام GPUها. این مورد برای +Blackwell منسوخ شده است (DEPRECATED).
- >
- 20) پرسوجوی وجود Nvlink Bridge
- >
- پرسوجوی حضور Nvlink Bridge.
- >
- 21) تنظیم عرض Nvlink در GPU
- >
- تنظیم عرض Nvlink در GPU، که آن تعداد از پیوندها را در وضعیت فعال (Active) نگه داشته و باقی را به حالت خواب میبرد.
- >
- مقدار <Link Width> میتواند یکی از موارد زیر باشد:
- >
- values - فهرست کردن عرضهای پیوند ممکن جهت تنظیم.
- >
- مقدار عددی از گزینهٔ بالا.
- >
- 22) دریافت پهنای Nvlink پردازشگر گرافیکی
- >
- پرسوجوی پهنای Nvlink پردازشگر گرافیکی.
- >
- 23) دریافت اطلاعات دستگاه Nvlink پردازشگر گرافیکی
- >
- پرسوجوی اطلاعات دستگاه Nvlink پردازشگر گرافیکی.
- >
- 24) پرسوجوی نرخ دادهٔ Nvlink
- >
- دریافت نرخ دادهٔ پیوندهای Nvlink پردازشگر گرافیکی، با احتساب سربار FEC.
- >
- در صورت فعال بودن (Active)، پهنای باند پیوندها نمایش داده خواهد شد.
- >
- اگر پیوند موجود باشد اما فعال نباشد، پیوند را به عنوان Inactive نشان میدهد.
- >
- اگر پیوند در حالت Sleep باشد، آن را به عنوان Sleep نشان میدهد.
- >
C2C
خط فرمان «nvidia-smi c2c» برای مدیریت پیوندهای C2C پردازشگر گرافیکی استفاده میشود. این ابزار گزینههایی را برای پرسوجوی اطلاعات پیوند C2C ارائه میدهد.
کاربرد:
- 1) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- 2) فهرست کردن یک یا چند پردازشگر گرافیکی
- >
- یک یا چند پردازشگر گرافیکی را با استفاده از شناسهها (indexها)، شناسههای گذرگاه PCI یا UUIDهای ارائهشده که با ویرگول جدا شدهاند انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان ارائهشده بر تمام پردازشگرهای گرافیکی پشتیبانیشده اعمال میشود.
- >
- 3) انتخاب یک پیوند C2C خاص
- >
- در صورت معتبر بودن، یک پیوند C2C خاص از پردازشگر گرافیکی را برای دستور دادهشده انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان ارائهشده بر تمامی پیوندهای C2C پردازشگر گرافیکی اعمال میگردد.
- >
- 4) پرسوجوی وضعیت پیوند C2C
- >
- دریافت وضعیت پیوندهای C2C پردازشگر گرافیکی. در صورت فعال بودن، پهنای باند پیوندها نمایش داده خواهد شد.
- >
- 5) پرسوجوی شمارندههای خطای پیوند C2C
- >
- nvidia-smi c2c -e
- >.PP
- نمایش شمارندههای خطای پیوند C2C.
- >
- ۶) پرسوجوی اطلاعات توان پیوند C2C
- >
- نمایش وضعیت توان پیوند C2C.
- >
مدیریت vGPU
دستور «nvidia-smi vgpu» دربارهٔ GRID vGPUهای در حال اجرا بر روی GPUها و هایپروایزرهای پشتیبانیشده گزارش میدهد (برای پلتفرمهای پشتیبانیشده به یادداشتهای انتشار درایور مراجعه کنید). گزارش خلاصه، اطلاعات پایهای دربارهٔ vGPUهای در حال اجرای کنونی روی سیستم ارائه میکند. گزینههای اضافی، گزارش تفصیلی از ویژگیهای vGPU، گزارش میزان استفاده از SM، Memory، Encoder، Decoder، Jpeg و OFA به ازای هر vGPU، و گزارش vGPUهای پشتیبانیشده و قابل ساخت به ازای هر GPU را فراهم میکنند. گزارشهای دورهای میتوانند با مشخص کردن یک بسامد تکرار قابل پیکربندی برای هر دستور، بهطور خودکار تولید شوند. نکته: در GPUهای با قابلیت MIG فعال، پرسوجوی میزان استفاده از encoder، decoder، jpeg، ofa، gpu و memory در حال حاضر پشتیبانی نمیشود.
کاربرد:
- ۱) اطلاعات راهنما
- >
- اطلاعات راهنما برای استفاده از خط فرمان را نمایش میدهد.
- >
- ۲) پیشفرض بدون آرگومان
- >
- خلاصهٔ تمامی vGPUهای در حال حاضر فعال روی هر دستگاه را گزارش میدهد.
- >
- ۳) نمایش اطلاعات دقیق دربارهٔ vGPUهای در حال حاضر فعال
- >
- اطلاعات مربوط به vGPUهای در حال حاضر فعال روی هر دستگاه، از جمله نسخهٔ درایور، میزان استفاده و سایر اطلاعات را جمعآوری کرده و نمایش میدهد.
- >
- ۴) انتخاب یک یا چند دستگاه
- >
- خلاصهٔ تمام vGPUهای در حال حاضر فعال روی دستگاههای مشخصشده با فهرست دستگاههای جداشده با کاما را گزارش میدهد.
- >
- ۵) نمایش vGPUهای پشتیبانیشده
- >
- انواع vGPUهای پشتیبانیشده در هر دستگاه را نمایش میدهد. برای نمایش اطلاعات تفصیلی در مورد هر نوع vGPU، از گزینهٔ -v / --verbose استفاده کنید.
- >
- ۶) نمایش vGPUهای قابل ساخت
- >
- انواع vGPUهای قابل ساخت روی هر دستگاه را نمایش میدهد. این مورد بسته به vGPUهایی که از قبل روی دستگاه فعال هستند، بهصورت پویا تغییر میکند. برای نمایش اطلاعات تفصیلی هر نوع vGPU، از گزینهٔ -v / --verbose استفاده کنید.
- >
- ۷) گزارش میزان استفاده برای vGPUهای در حال حاضر فعال.
- >
- میانگین میزان استفاده (SM، Memory، Encoder، Decoder، Jpeg و OFA) را برای هر vGPU فعال از زمان آخرین چرخهٔ پایش گزارش میدهد. زمان پیشفرض چرخه ۱ ثانیه است و دستور تا زمان متوقف شدن با ^C اجرا میشود. اگر یک دستگاه هیچ vGPU فعالی نداشته باشد، معیارهای آن بهصورت "-" گزارش میشوند.
- >
- ۸) پیکربندی بسامد تکرار
- >
- دادهها را در بازهٔ تکرار مشخصشده تا زمان توقف با ^C جمعآوری کرده و نمایش میدهد. بسامد تکرار باید بین ۱ تا ۱۰ ثانیه باشد. در صورتی که زمانی تعیین نشود، مقدار پیشفرض بسامد تکرار ۵ ثانیه خواهد بود.
- >
- ۹) نمایش میزان استفاده از موتور GPU
- >
- nvidia-smi vgpu -p
- >
- نمایش میزان مصرف موتور GPU برای فرآیندهای فعال کنونی در حال اجرا در ماشینهای مجازی vGPU.
- >
- 10) نمایش قابلیتهای مهاجرت.
- >
- نمایش قابلیتهای مهاجرت/تعلیق/ازسرگیری مربوط به pGPU.
- >
- 11) نمایش وضعیت زمانبند نرمافزار vGPU.
- >
- نمایش اطلاعات درباره وضعیت زمانبند نرمافزار vGPU.
- >
- 12) نمایش قابلیتهای زمانبند نرمافزار vGPU.
- >
- نمایش فهرست سیاستهای پشتیبانیشده زمانبند vGPU بههمراه مقادیر سایر قابلیتها، در صورتی که موتور از نوع Graphics باشد. برای سایر انواع موتور، سیاست BEST EFFORT بوده و سایر قابلیتها صفر خواهند بود. اگر ARR پشتیبانی و فعال شده باشد، بسامد زمانبندی و ضریب میانگینگیری قابل اعمال هستند؛ در غیر این صورت timeSlice اعمال میشود.
- >
- 13) نمایش لاگهای زمانبند نرمافزار vGPU.
- >
- نمایش لاگهای runlist زمانبند نرمافزار vGPU.
- >
- نمایش لاگهای runlist زمانبند نرمافزار vGPU در قالب CSV.
- >
- 14) تنظیم وضعیت زمانبند نرمافزار vGPU.
- >
- تنظیم سیاست و وضعیتهای زمانبند نرمافزار vGPU.
- >
- 15) نمایش اطلاعات نشست NVIDIA Encoder.
- >
- نمایش اطلاعات مربوط به نشستهای رمزگذار برای vGPUهای در حال اجرای فعلی.
- >
- 16) نمایش آمارهای حسابرسی (accounting).
- >
- نمایش آمارهای حسابرسی برای فرآیندهای محاسباتی/گرافیکی.
- >
- برای یافتن فهرست مشخصههایی که میتوان پرسوجو کرد، دستور 'nvidia-smi --help-query-accounted-apps' را اجرا کنید.
- >
- 17) نمایش اطلاعات نشست NVIDIA Frame Buffer Capture.
- >
- نمایش اطلاعات مربوط به نشستهای FBC برای vGPUهای در حال اجرای فعلی.
- >
- نکته: در صورتی که از زمان شروع نشست هیچ فریم جدیدی ضبط نشده باشد، دادههای وضوح افقی، وضوح عمودی، میانگین FPS و میانگین تاخیر برای یک نشست FBC ممکن است صفر باشند.
- >
- 18) تنظیم حالت ناهمگن vGPU.
- >
- تنظیم حالت ناهمگن vGPU دستگاه برای vGPUهای برشزمانی (timesliced) با اندازههای بافر فریم متفاوت.
- >
- 19) تنظیم حالت برشزمانی vGPU MIG.
- >
- تنظیم حالت برش زمانی (timeslice) مربوط به vGPU MIG دستگاه.
- >
- ۲۰) نمایش انواع vGPU قابل ایجاد در حال حاضر روی GPU Instance ارائهشده توسط کاربر
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده.
- >
- ۲۱) نمایش اطلاعات تفصیلی نمونههای vGPU فعال در حال حاضر روی GPU Instance ارائهشده توسط کاربر
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده.
- >
- ۲۲) نمایش وضعیت زمانبند vGPU روی GPU Instance ارائهشده توسط کاربر
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده.
- >
- ۲۳) دریافت حالت ناهمگن vGPU روی GPU Instance ارائهشده توسط کاربر
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده. در صورت عدم استفاده، گزینه خط فرمان دادهشده برای تمام GPU instanceها اعمال میشود.
- >
- ۲۴) تنظیم حالت ناهمگن vGPU روی GPU Instance ارائهشده توسط کاربر
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده.
- >
- ۲۵) تنظیم وضعیت زمانبند نرمافزاری vGPU روی GPU Instance ارائهشده توسط کاربر.
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده.
- >
- ۲۶) نمایش لاگهای زمانبند vGPU روی GPU Instance ارائهشده توسط کاربر
- >
- برای بیش از یک GPU instance، مقادیر را با کاما از هم جدا کنید. ایندکس GPU هدف (اجباری) برای GPU instance دادهشده.
- >
- نمایش لاگهای زمانبند نرمافزاری vGPU در قالب CSV روی GPU Instance ارائهشده توسط کاربر.
- >
- ۲۷) نمایش اطلاعات تفصیلی انواع vGPU قابل ایجاد در حال حاضر روی GPU Instance ارائهشده توسط کاربر
- >
- nvidia-smi vgpu -c -v -gi <GPU instance IDs> -i <GPU IDs>
- >
- nvidia-smi vgpu -c -v --gpu-instance-id <GPU instance IDs> --id <GPU IDs>
- >
- برای بیش از یک نمونهٔ GPU، مقادیر جداشده با کاما ارائه دهید. نمایهٔ هدف GPU (اجباری) برای نمونهٔ GPU دادهشده.
- >
مدیریت MIG (MIG Management)
خط فرمان ممتاز «nvidia-smi mig» برای مدیریت GPUهای با قابلیت MIG فعال استفاده میشود. این دستور گزینههایی را برای ایجاد، فهرست کردن و حذف نمونههای GPU و نمونههای محاسباتی فراهم میکند.
کاربرد:
- 1) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- 2) انتخاب یک یا چند GPU
- >
- یک یا چند GPU را با استفاده از نمایههای GPU، شناسههای گذرگاه PCI یا UUIDهای ارائهشده که با کاما جدا شدهاند انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان دادهشده به تمام GPUهای پشتیبانیشده اعمال میشود.
- >
- 3) انتخاب یک یا چند نمونهٔ GPU
- >
- یک یا چند نمونهٔ GPU را با استفاده از شناسههای نمونهٔ GPU جداشده با کاما انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان دادهشده برای تمام نمونههای GPU اعمال میشود.
- >
- 4) انتخاب یک یا چند نمونهٔ محاسباتی
- >
- یک یا چند نمونهٔ محاسباتی را با استفاده از شناسههای نمونهٔ محاسباتی جداشده با کاما انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان دادهشده برای تمام نمونههای محاسباتی اعمال میشود.
- >
- 5) فهرست کردن پروفایلهای نمونهٔ GPU
- >
- پروفایلهای نمونهٔ GPU، وضعیت دردسترس بودن و شناسههای آنها را فهرست میکند. پروفایلها انواع پشتیبانیشده از نمونههای GPU را، شامل تمام منابع GPU که بهطور اختصاصی در کنترل دارند، توصیف میکنند.
- >
- 6) فهرست کردن جایگذاریهای ممکن نمونهٔ GPU
- >
- جایگذاریهای ممکن نمونهٔ GPU را فهرست میکند. جایگذاریهای ممکن، مکانهای انواع پشتیبانیشده از نمونههای GPU در داخل GPU را توصیف میکنند.
- >
- 7) ایجاد نمونهٔ GPU
- >
- نمونههای GPU را برای مشخصکنندههای نمونهٔ GPU دادهشده ایجاد میکند. یک مشخصکنندهٔ نمونهٔ GPU شامل نام یا شناسهٔ پروفایل نمونهٔ GPU و یک مشخصکنندهٔ جایگذاری اختیاری متشکل از یک دونقطه (:) و نمایهٔ شروع جایگذاری است. اگر منابع GPU لازم برای تخصیص نمونههای GPU درخواستی دردسترس نباشد، یا اگر نمایهٔ جایگذاری برای پروفایل دادهشده معتبر نباشد، دستور با شکست مواجه میشود.
- >
- 8) ایجاد یک نمونهٔ GPU به همراه نمونهٔ محاسباتی پیشفرض
- >
- 9) فهرست کردن نمونههای GPU
- >.PP
- نمونههای GPU و شناسههای آنها را فهرست میکند.
- >
- 10) نابودسازی نمونهٔ GPU
- >
- نمونههای GPU را نابود میکند. در صورتی که نمونهٔ GPU درخواستی توسط یک برنامه در حال استفاده باشد، دستور با شکست مواجه میشود.
- >
- 11) فهرست کردن نمایههای نمونهٔ محاسباتی
- >
- nvidia-smi mig --list-compute-instance-profiles --gpu-instance-id <GPU instance IDs> --id <GPU IDs>
- >
- نمایههای نمونهٔ محاسباتی، در دسترس بودن و شناسههای آنها را فهرست میکند. نمایهها انواع پشتیبانیشده از نمونههای محاسباتی را توصیف میکنند، از جمله تمام منابع GPU که به اشتراک میگذارند یا منحصراً کنترل میکنند.
- >
- 12) فهرست کردن جایگذاریهای ممکن نمونهٔ محاسباتی
- >
- جایگذاریهای ممکن نمونهٔ محاسباتی را فهرست میکند. جایگذاریهای ممکن، مکانهای انواع پشتیبانیشده از نمونههای محاسباتی درون نمونهٔ GPU را توصیف میکنند.
- >
- 13) ایجاد نمونهٔ محاسباتی
- >
- برای مشخصکنندههای نمونهٔ محاسباتی دادهشده، نمونههای محاسباتی ایجاد میکند. یک مشخصکنندهٔ نمونهٔ محاسباتی شامل یک نام یا شناسهٔ نمایهٔ نمونهٔ محاسباتی و یک مشخصکنندهٔ اختیاری جایگذاری متشکل از یک دونقطه و یک اندیس شروع جایگذاری است. اگر منابع GPU مورد نیاز برای تخصیص نمونههای محاسباتی درخواستی در دسترس نباشند، یا اگر اندیس جایگذاری برای نمایهٔ دادهشده نامعتبر باشد، دستور با شکست مواجه میشود.
- >
- 14) فهرست کردن نمونههای محاسباتی
- >
- نمونههای محاسباتی و شناسههای آنها را فهرست میکند.
- >
- 15) نابودسازی نمونهٔ محاسباتی
- >
- نمونههای محاسباتی را نابود میکند. در صورتی که نمونهٔ محاسباتی درخواستی توسط یک برنامه در حال استفاده باشد، دستور با شکست مواجه میشود.
- >
خط فرمان ممتاز «nvidia-smi boost-slider» برای مدیریت اسلایدر بوست در پردازندههای گرافیکی (GPU) به کار میرود. این ابزار گزینههایی برای فهرست کردن و کنترل اسلایدرهای بوست فراهم میکند.
کاربرد:
- ۱) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- ۲) فهرست کردن یک یا چند GPU
- >
- یک یا چند پردازندهٔ گرافیکی را با استفاده از اندیسهای GPU، شناسه گذرگاههای PCI یا UUIDهای ارائهشده که با کاما از هم جدا شدهاند، انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان مشخصشده برای تمام GPUهای پشتیبانیشده اعمال میشود.
- >
- ۳) فهرست کردن اسلایدرهای بوست
- >
- تمام اسلایدرهای بوست را برای دستگاههای انتخابشده فهرست میکند.
- >
- ۴) تنظیم اسلایدر بوست ویدیو
- >
- اسلایدر بوست ویدیو را برای دستگاههای انتخابشده تنظیم میکند.
- >
راهنمای توان (Power Hint)
خط فرمان ممتاز «nvidia-smi power-hint» برای استعلام راهنمای توان در پردازندههای گرافیکی (GPU) به کار میرود.
کاربرد:
- ۱) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- ۲) فهرست کردن یک یا چند GPU
- >
- یک یا چند پردازندهٔ گرافیکی را با استفاده از اندیسهای GPU، شناسه گذرگاههای PCI یا UUIDهای ارائهشده که با کاما از هم جدا شدهاند، انتخاب میکند. در صورت عدم استفاده، گزینهٔ خط فرمان مشخصشده برای تمام GPUهای پشتیبانیشده اعمال میشود.
- >
- ۳) فهرست کردن اطلاعات راهنمای توان
- >
- تمام اسلایدرهای بوست را برای دستگاههای انتخابشده فهرست میکند.
- >
- ۴) استعلام راهنمای توان
- >
- راهنمای توان را با بسامد ساعت گرافیک، دما و شناسه نمایه (profile ID) استعلام میکند.
- >
- ۵) استعلام راهنمای توان
- >
- استعلام power hint با کلاک گرافیک، کلاک حافظه، دما و شناسه پروفایل.
- >
محاسبات محرمانه (Confidential Compute)
خط فرمان «nvidia-smi conf-compute» برای مدیریت محاسبات محرمانه به کار میرود. این ابزار گزینههایی برای تنظیم و استعلام محاسبات محرمانه فراهم میکند.
کاربرد:
- ۱) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- ۲) فهرست کردن یک یا چند GPU
- >
- یک یا چند GPU را با استفاده از اندیسهای GPU، شناسههای گذرگاه PCI یا UUIDهای دادهشده و جداشده با کاما انتخاب میکند. در صورت استفاده نشدن، گزینه خط فرمان دادهشده روی تمام GPUهای پشتیبانیشده اعمال میشود.
- >
- ۳) استعلام قابلیت محاسبات محرمانه CPU
- >
- دریافت قابلیت محاسبات محرمانه CPU.
- >
- ۴) استعلام قابلیت محاسبات محرمانه GPUها
- >
- دریافت قابلیت محاسبات محرمانه GPUها.
- >
- ۵) استعلام حالت devtools در محاسبات محرمانه
- >
- دریافت حالت DevTools برای محاسبات محرمانه.
- >
- ۶) استعلام محیط محاسبات محرمانه
- >
- دریافت محیط محاسبات محرمانه.
- >
- ۷) استعلام وضعیت ویژگی محاسبات محرمانه
- >
- دریافت وضعیت قابلیت CC در محاسبات محرمانه.
- >
- ۸) استعلام اندازه حافظه حفاظتشده/حفاظتنشده GPU در محاسبات محرمانه
- >
- دریافت اندازه حافظه حفاظتشده/حفاظتنشده GPU برای محاسبات محرمانه.
- >
- 9) تنظیم اندازه حافظه محافظتنشده GPU برای رایانش محرمانه
- >
- تنظیم اندازه حافظه محافظتنشده GPU برای رایانش محرمانه برحسب KiB. نیازمند دسترسی ریشه (root) است.
- >
- 10) تنظیم وضعیت آمادهباش GPUهای رایانش محرمانه
- >
- تنظیم وضعیت آمادهباش GPUهای رایانش محرمانه. مقدار باید 1 برای فعالسازی وضعیت آماده و 0 برای غیرفعالسازی آن باشد. نیازمند دسترسی ریشه است.
- >
- 11) پرسوجوی وضعیت آمادهباش GPUهای رایانش محرمانه
- >
- دریافت وضعیت آمادهباش GPUهای رایانش محرمانه.
- >
- 12) تنظیم حداکثر مزیت مهاجم در چرخش کلید رایانش محرمانه
- >
- تنظیم حداکثر مزیت مهاجم در چرخش کلید رایانش محرمانه.
- >
- 13) نمایش اطلاعات آستانه چرخش کلید رایانش محرمانه
- >
- نمایش اطلاعات آستانه چرخش کلید رایانش محرمانه.
- >
- 14) نمایش حالت چند-GPU در رایانش محرمانه
- >
- نمایش حالت چند-GPU در رایانش محرمانه.
- >
- 15) نمایش اطلاعات تفصیلی رایانش محرمانه
- >
- نمایش اطلاعات تفصیلی رایانش محرمانه.
- >
دستور خط فرمانی «nvidia-smi gpm» برای مدیریت واحد پایش عملکرد پردازنده گرافیکی استفاده میشود. این دستور گزینههایی را برای پرسوجو و تنظیم وضعیت جریان فراهم میکند.
نحوه استفاده:
- ۱) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- ۲) فهرست کردن یک یا چند پردازنده گرافیکی
- >
- یک یا چند پردازنده گرافیکی را با استفاده از شناسههای عددی (index)، شناسههای گذرگاه PCI یا UUIDهای ارائهشده که با کاما از هم جدا شدهاند، انتخاب میکند. در صورت عدم استفاده، گزینه خط فرمان دادهشده بر روی تمامی پردازندههای گرافیکی پشتیبانیشده اعمال میشود.
- >
- ۳) پرسوجوی وضعیت جریان پایش عملکرد پردازنده گرافیکی
- >
- دریافت وضعیت جریان gpm برای دستگاههای انتخابشده.
- >
- ۴) تنظیم وضعیت جریان پایش عملکرد پردازنده گرافیکی
- >
- تنظیم وضعیت جریان gpm برای دستگاههای انتخابشده.
- >
بخش PCI پردازنده گرافیکی
دستور خط فرمانی «nvidia-smi pci» برای مدیریت شمارندههای PCI پردازنده گرافیکی استفاده میشود. این دستور گزینههایی را برای استعلام و پاکسازی شمارندههای PCI فراهم میکند.
نحوه استفاده:
- ۱) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- ۲) استعلام شمارندههای خطای PCI
- >
- استعلام شمارندههای خطای PCI مربوط به یک پردازنده گرافیکی
- >
- ۳) پاک کردن شمارندههای خطای PCI
- >
- پاک کردن شمارندههای خطای PCI مربوط به یک پردازنده گرافیکی
- >
- ۴) استعلام شمارندههای PCI
- >
- استعلام شمارندههای RX و TX مربوط به PCI یک پردازنده گرافیکی
- >
خط فرمان «nvidia-smi power-smoothing» برای مدیریت دادههای مربوط به هموارسازی توان (Power Smoothing) بر روی پردازنده گرافیکی (GPU) به کار میرود. این دستور گزینههایی را برای تنظیم دادههای مربوط به هموارسازی توان و استعلام تعاریف پروفایلهای پیشتنظیم (Preset Profile) فراهم میکند.
کاربرد:
- 1) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
- >
- 2) مشخص کردن یک یا چند GPU
- >
- یک یا چند GPU را با استفاده از شناسههای شاخص (index) ارائهشده که با کاما از هم جدا شدهاند، شناسههای گذرگاه PCI یا UUIDها انتخاب میکند. در صورت استفاده نشدن، گزینه خط فرمان ارائهشده برای همه GPUهای پشتیبانیشده اعمال میشود.
- >
- 2) مشخص کردن یک شناسه پروفایل پیشتنظیم
- >
- یک شناسه پروفایل پیشتنظیم (Preset Profile ID) را برای بهروزرسانی مقداری از آن انتخاب میکند. این گزینه هنگام بهروزرسانی یک پارامتر پروفایل پیشتنظیم الزامی است و در سایر موارد مجاز نمیباشد.
- >
- 2) تنظیم شناسه پروفایل پیشتنظیم فعال
- >
- شناسه پروفایل پیشتنظیم (Preset Profile ID) مورد نظر را فعال میکند. نیازمند ریشه (root) است.
- >
- 2) بهروزرسانی درصد کفِ توان کل ماژول (TMP)
- >
- کف درصد TMP را برای شناسه پروفایل پیشتنظیم دادهشده روی مقدار واردشده تنظیم میکند. درصد مورد نظر باید از 0 تا 100 و در قالب «AB.CD» با حداکثر دو رقم اعشار باشد. به عنوان مثال، برای تنظیم مقدار روی 34.56%، کاربر باید 34.56 را وارد کند. ورودی همچنین میتواند بدون رقم اعشار یا با یک رقم اعشار باشد. این گزینه به عنوان آرگومان به شناسه پروفایل نیاز دارد. نیازمند ریشه (root) است.
- >
- 2) بهروزرسانی نرخ افزایش توان (Ramp-Up Rate)
- >
- نرخ افزایش توان (Ramp-Up Rate) را برای شناسه پروفایل پیشتنظیم دادهشده روی مقدار مورد نظر تنظیم میکند. نرخ دادهشده باید بر حسب واحدهای mW/s باشد. این گزینه به عنوان یک آرگومان به یک شناسه پروفایل نیاز دارد. نیازمند ریشه (root) است.
- >
- 2) بهروزرسانی نرخ کاهش توان (Ramp-Down Rate)
- >
- نرخ کاهش توان (Ramp-Down Rate) را برای شناسه پروفایل پیشتنظیم دادهشده روی مقدار مورد نظر تنظیم میکند. نرخ دادهشده باید بر حسب واحدهای mW/s باشد. این گزینه به عنوان یک آرگومان به یک شناسه پروفایل نیاز دارد. نیازمند ریشه (root) است.
- >
- 2) بهروزرسانی هیسترزیس کاهش توان (Ramp-Down Hysteresis)
- >
- هیسترزیس کاهش توان (Ramp-Down Hysteresis) را برای شناسه پروفایل پیشتنظیم دادهشده روی مقدار مورد نظر تنظیم میکند. مقدار دادهشده باید بر حسب واحدهای ms باشد. این گزینه به عنوان یک آرگومان به یک شناسه پروفایل نیاز دارد. نیازمند ریشه (root) است.
- >
- 2) نمایش تعاریف پروفایل پیشتنظیم برای تمام شناسههای پروفایل
- >
- تمام مقادیر را برای هر یک از شناسههای پروفایل پیشتنظیم (Preset Profile IDs) نمایش میدهد.
- >
- 2) تنظیم وضعیت ویژگی
- >
- وضعیت این ویژگی را روی 0/DISABLED یا 1/ENABLED تنظیم میکند. نیاز به دسترسی ریشه (root) دارد.
- >
پروفایلهای توان (Power Profiles)
خط فرمان «nvidia-smi power-profiles» برای مدیریت دادههای مربوط به Workload Power Profiles روی GPU به کار میرود. این دستور گزینههایی را برای بهروزرسانی دادههای Power Profiles و پرسوجوی پروفایلهای توان پشتیبانیشده فراهم میکند.
کاربرد:
- 1) نمایش منوی راهنما
- >
- منوی راهنما را برای استفاده از این خط فرمان نمایش میدهد.
- >
- 2) فهرست کردن یک یا چند GPU
- >
- یک یا چند GPU را با استفاده از اندیسهای GPU، شناسههای گذرگاه PCI یا UUIDهای ارائهشده و جداشده با کاما انتخاب میکند. در صورت عدم استفاده، گزینه خط فرمانِ ارائهشده برای تمام GPUهای پشتیبانیشده اعمال میشود.
- >
- 3) فهرست کردن پروفایلهای توان
- >
- تمام Workload Power Profiles پشتیبانیشده توسط دستگاه را فهرست میکند.
- >
- 4) فهرست کردن اطلاعات تفصیلی پروفایلهای توان
- >
- تمام Workload Power Profiles پشتیبانیشده توسط دستگاه را به همراه فرادادههای (metadata) آنها فهرست میکند. این اطلاعات شامل شناسه پروفایل (Profile ID)، اولویت یا Priority (که در آن عدد کوچکتر نشاندهنده اولویت بالاتر است)، و پروفایلهایی است که با پروفایل ارائهشده تداخل دارند. اگر دو یا چند پروفایل متداخل درخواست شوند، ممکن است همه آنها اعمال نشوند.
- >
- 5) دریافت پروفایلهای درخواستی
- >
- فهرستی از تمام پروفایلهای توان (Power Profiles) درخواستشدهٔ فعلی را دریافت میکند. توجه داشته باشید که اگر هر یک از پروفایلها تداخل داشته باشند، ممکن است همه آنها اعمال نشوند.
- >
- 6) تنظیم پروفایلهای درخواستی
- >
- پروفایل(های) ورودی را به فهرست پروفایلهای توان درخواستی اضافه میکند. ورودی یک فهرست جداشده با کاما از شناسههای پروفایل (Profile IDs) و بدون فاصله است. نیاز به دسترسی ریشه (root) دارد.
- >
- 7) پاکسازی پروفایلهای درخواستی
- >
- nvidia-smi power-profiles --clear-requested <Profile ID(s)>
- >
- پروفایل(های) ورودی را از فهرست Power Profileهای درخواستی حذف میکند. ورودی یک فهرست جداشده با کاما از شناسههای پروفایل بدون فاصله است. نیازمند دسترسی ریشه (root) است.
- >
- 8) دریافت پروفایلهای اعمالشده (Get Enforced Profiles)
- >
- فهرستی از تمام Power Profileهای اعمالشدهٔ فعلی را دریافت میکند. توجه داشته باشید که در صورت انتخاب چندین پروفایل ناسازگار، ممکن است این فهرست با فهرست پروفایلهای درخواستی متفاوت باشد.
- >
بخش GPU RUSD
خط فرمان "nvidia-smi rusd" برای مدیریت تنظیمات GPU RUSD استفاده میشود. این دستور گزینههایی را برای پیکربندی تنظیمات RUSD فراهم میکند. بافر RUSD مخفف Read only User Shared Data (دادههای مشترک کاربری فقطخواندنی) است که معیارهای GPU را نگه میدارد.
نحوه استفاده:
۱) نمایش منوی راهنما
nvidia-smi rusd -h
منوی راهنما را برای استفاده از خط فرمان نمایش میدهد. مثال:
nvidia-smi rusd -h
rusd -- RUSD settings section
Usage: nvidia-smi rusd [options]
Options include:
[-h | --help]: Display help information
[-i | --id]: Enumeration index, PCI bus ID or UUID.
[-spm | --set-polling-mask]: Set polling mask for the given comma-separated list of metric groups
Groups are "none", "clock", "performance", "memory", "power", "thermal", "pci", "fan", "proc_util", "all"
۲) تنظیم poll mask برای RUSD
nvidia-smi rusd -i <GPU index> -spm <mask_value>
تنظیم RUSD poll mask، مثال:
nvidia-smi rusd -spm all nvidia-smi rusd -spm clock,performance nvidia-smi rusd -spm none
بخش GPU PRM
خط فرمان "nvidia-smi prm" برای خواندن ثباتها (registers) و شمارندههای GPU PRM استفاده میشود. این گزینه فقط روی پردازندههای گرافیکی مبتنی بر معماری NVIDIA Blackwell یا جدیدتر در دسترس است.
نحوه استفاده:
۱) نمایش منوی راهنما
nvidia-smi prm -h
منوی راهنما را برای استفاده از خط فرمان نمایش میدهد. مثال:
nvidia-smi prm -h
[-h | --help]: Display help information
[-i | --index]: GPU index; mandatory if "-n, --name" is selected
[-l | --list]: List all supported PRM registers and counters
[-n | --name]: PRM Register name; mandatory if any of "-f" or "-p" are selected
[-f | --info]: List all supported PRM parameters for the given register or counter
[-p | --params]: PRM input parameters, if any; parameters are a comma-separated list of <key>=<value> pairs
۲) فهرست کردن ثباتهای پشتیبانیشدهٔ PRM
nvidia-smi prm --list
فهرست ثباتها و شمارندههای پشتیبانیشدهٔ GPU PRM را نمایش میدهد. مثال:
nvidia-smi prm --list
Supported PRM registers:
GHPKT
MCAM
MGIR
MLPC
MORD
MPSCR
MTCAP
MTECR
MTEIM
MTEWE
MTIE
MTIM
MTRC_CAP
MTRC_CONF
MTRC_CTRL
MTSR
PAOS
PDDR
PGUID
PLIB
PLTC
PMAOS
PMLP
PMTU
PPAOS
PPCNT
PPHCR
PPLM
PPLR
PPRM
PPRT
PPSLC
PPSLS
PPTT
PTYS
SLRG
SLTP
Supported PRM counters:
CLI name Description
link_down_events PPCNT.(physical_layer_counters).link_down_events
oper_recovery PPRM.oper_recovery
plr_rcv_code_err PPCNT.(plr_counters_group).plr_rcv_code_err
plr_rcv_codes PPCNT.(plr_counters_group).plr_rcv_codes
plr_rcv_uncorrectable_code PPCNT.(plr_counters_group).plr_rcv_uncorrectable_code
plr_retry_codes PPCNT.(plr_counters_group).plr_retry_codes
plr_sync_events PPCNT.(plr_counters_group).plr_sync_events
plr_xmit_codes PPCNT.(plr_counters_group).plr_xmit_codes
plr_xmit_retry_events PPCNT.(plr_counters_group).plr_xmit_retry_events
port_xmit_wait PPCNT.(portcounters_attribute_group).port_xmit_wait
successful_recovery_events PPCNT.(physical_layer_counters).successful_recovery_events
time_between_last_2_recoveries PPCNT.(recovery_counters).time_between_last_2_recoveries
time_since_last_recovery PPCNT.(recovery_counters).time_since_last_recovery
total_successful_recovery_events PPCNT.(recovery_counters).total_successful_recovery_events
۳) فهرست کردن پارامترهای ورودی پشتیبانیشده برای یک ثبات یا شمارندهٔ مشخص PRM
nvidia-smi prm -n <register> -f یا nvidia-smi prm -c <counter> -f
پارامترهای ورودی پشتیبانیشده (در صورت وجود) را برای ثبات یا شمارندهٔ PRM دادهشده فهرست میکند. مثال:
nvidia-smi prm -n PPCNT -f
Supported PRM parameters for register PPCNT:
grp
port_type
lp_msb
pnat
local_port
swid
prio_tc
grp_profile
plane_ind
counters_cap
lp_gl
clr
توجه داشته باشید که برخی از ثباتها هیچ پارامتر ورودی دریافت نمیکنند؛ در این حالت خروجی دستور بالا '[NONE]' خواهد بود. مثال:
nvidia-smi prm -n MGIR -f
Supported PRM parameters for register MGIR:
[NONE]
۴) خواندن ثبات GPU PRM.PP nvidia-smi prm -i <GPU-index> -n <register> -p <Comma-separated list of key EQUALS value pairs>
ثبات PRM مشخصشدهٔ GPU را با پارامترهای ورودی دادهشده میخواند و در صفحه خروجی میدهد. توجه داشته باشید که ممکن است خروجی شامل تمام اطلاعات موجود در ثبات نباشد. مثال:
nvidia-smi prm -i 0 -n PPCNT -p=local_port=1,pnat=1,grp=35
PPCNT:
grp = 35, port_type = 0, lp_msb = 0, pnat = 1, local_port = 1, swid = 0
prio_tc = 0, grp_profile = 0, plane_ind = 0, counters_cap = 0, lp_gl = 0, clr = 0
5) خواندن شمارندهٔ PRM پردازنده گرافیکی
nvidia-smi prm -i <GPU-index> -c <counter> -p <Comma-separated list of key EQUALS value pairs>
شمارندهٔ PRM مشخصشدهٔ GPU را با پارامترهای ورودی دادهشده میخواند و در صفحه خروجی میدهد. مثال:
nvidia-smi prm -i 0 -c plr_rcv_codes -p "local_port=1" plr_rcv_codes ==> 0x64aace03ff
بخش سیستم روی تراشه (System on Chip)
خط فرمان "nvidia-smi soc" برای مدیریت معیارهای سیستم روی تراشه (SoC) به کار میرود و گزینههایی برای پرسوجوی معیارهای SoC فراهم میکند. این بخش SoC تنها در سیستمهای لینوکس Tegra در دسترس است.
کاربرد:
1) نمایش منوی راهنما
nvidia-smi soc -h
منوی راهنما را برای استفاده از خط فرمان نمایش میدهد.
مثال:
nvidia-smi soc -h
soc -- System on Chip section
Usage: nvidia-smi soc [options]
Options include:
[-h | --help]: Display help information
[-q | --query]: Query SoC metrics
2) پرسوجوی معیارهای SoC
nvidia-smi soc -q
معیارهای SoC را پرسوجو میکند.
مثال:
nvidia-smi soc -q
Memory:
MemTotal: 128.83 GiB
MemFree: 89.43 GiB
CPU:
cpu0:
clock: 972MHz
utilization: 0%
cpu1:
clock: 972MHz
utilization: 0%
cpu2:
clock: 972MHz
utilization: 0%
cpu3:
clock: 972MHz
utilization: 0%
cpu4:
clock: 972MHz
utilization: 0%
cpu5:
clock: 972MHz
utilization: 0%
cpu6:
clock: 972MHz
utilization: 0%
cpu7:
clock: 972MHz
utilization: 0%
cpu8:
clock: 1350MHz
utilization: 0%
cpu9:
clock: 1674MHz
utilization: 0%
cpu10:
clock: 972MHz
utilization: 0%
cpu11:
clock: 972MHz
utilization: 0%
cpu12:
clock: 972MHz
utilization: 0%
cpu13:
clock: 972MHz
utilization: 0%
Memory Controller:
utilization: 0%
clock: 4266MHz
Video Image Compositor:
state: off
Programmable Vision Accelerator:
state: off
Audio Processing Engine:
Clock: 300 MHz
Thermal info:
cpu-thermal: 59.22C
tj-thermal: 60.41C
soc012-thermal: 58.47C
soc345-thermal: 60.41C
Power info:
VDD_GPU: 5145 mW
VDD_CPU_SOC_MSS: 5937 mW
VIN_SYS_5V0: 4939 mW
فهرست زیر تمام دادههای ممکنی را که توسط گزینهٔ پرسوجوی واحد -q -u بازگردانده میشوند، شرح میدهد. مگر در مواردی که خلاف آن ذکر شده باشد، تمام نتایج عددی در مبنای ۱۰ و بدون یکا هستند.
برچسب زمانی (Timestamp)
برچسب زمانی فعلی سیستم در هنگام فراخوانی nvidia-smi. قالب آن به صورت "Day-of-week Month Day HH:MM:SS Year" است.
نسخه درایور (Driver Version)
نسخه درایور نمایشگر NVIDIA نصبشده. قالب آن به صورت "Major-Number.Minor-Number" است.
اطلاعات HIC (HIC Info)
اطلاعات درباره هرگونه کارت رابط میزبان (HIC) که روی سیستم نصب شده است.
- Firmware Version
- نسخه سفتافزار در حال اجرا روی HIC.
واحدهای متصل (Attached Units)
تعداد واحدهای متصل به سیستم.
نام محصول (Product Name)
نام رسمی محصول واحد. این یک مقدار الفبانمایی است. برای تمام محصولات کلاس S.
شناسه محصول (Product Id)
شناسه محصول برای واحد. این مقداری الفبانمایی به صورت "part1-part2-part3" است. برای تمام محصولات کلاس S.
شماره سریال محصول (Product Serial)
شناسه جهانی یکتا و تغییرناپذیر برای واحد. این یک مقدار الفبانمایی است. برای تمام محصولات کلاس S.
نسخه سفتافزار (Firmware Version)
نسخه سفتافزار در حال اجرا روی واحد. قالب آن به صورت "Major-Number.Minor-Number" است. برای تمام محصولات کلاس S.
وضعیت نشانگر الایدی (LED State)
نشانگر LED برای مشخص کردن سیستمهای دارای مشکلات احتمالی استفاده میشود. رنگ کهربایی (AMBER) نشاندهنده یک مشکل است. برای تمام محصولات کلاس S.
- Color
- رنگ نشانگر LED. یا "GREEN" است یا "AMBER".
- Cause
- دلیل رنگ فعلی LED. علت ممکن است به صورت هر ترکیبی از "Unknown"، "Set to AMBER by host system"، "Thermal sensor failure"، "Fan failure" و "Temperature exceeds critical limit" فهرست شود.
دما (Temperature)
خوانشهای دمای قطعات مهم واحد. همه مقادیر بر حسب درجه سلسیوس (C) هستند. ممکن است همه مقادیر در دسترس نباشند. برای تمام محصولات کلاس S.
- Intake
- دمای هوا در ورودی واحد.
- Exhaust
- دمای هوا در نقطه خروجی واحد.
- Board
- دمای هوا در سرتاسر بُرد واحد.
منبع تغذیه (PSU)
خوانشهای مربوط به منبع تغذیه واحد. برای تمام محصولات کلاس S.
- State
- وضعیت عملیاتی PSU. وضعیت منبع تغذیه میتواند هر یک از موارد زیر باشد: "Normal"، "Abnormal"، "High voltage"، "Fan failure"، "Heatsink temperature"، "Current limit"، "Voltage below UV alarm threshold"، "Low-voltage"، "I2C remote off command"، "MOD_DISABLE input" یا "Short pin transition".
- Voltage
- تنظیم ولتاژ PSU، بر حسب ولت.
- Current
- جریان مصرفی PSU، بر حسب آمپر.
اطلاعات فن (Fan Info)
خوانشهای فن واحد. برای هر فن که ممکن است تعدادشان زیاد باشد، یک خوانش ارائه میشود. برای تمام محصولات کلاس S.
- State
- وضعیت فن، یا "NORMAL" یا "FAILED".
- Speed
- برای یک فن سالم، سرعت فن بر حسب دور بر دقیقه (RPM).
پردازندههای گرافیکی متصل (Attached GPUs)
فهرستی از شناسههای گذرگاه PCI متناظر با هر یک از GPUهای متصل به واحد. شناسههای گذرگاه در مبنای شانزدهی (hex) و به قالب "domain:bus:device.function" هستند. برای تمام محصولات کلاس S.
در لینوکس، در صورت اجرا با دسترسی ریشه (root)، پروندههای دستگاه NVIDIA ممکن است توسط nvidia-smi تغییر داده شوند. لطفاً بخش مربوطه در پروندهٔ README درایور را بررسی کنید.
آرگومانهای -a و -g اکنون به ترتیب به نفع -q و -i منسوخ شدهاند. با این حال، آرگومانهای قدیمی همچنان در این نسخه کار میکنند.
مثالها (EXAMPLES)
nvidia-smi -q
پرسوجوی ویژگیهای تمام GPUها برای یکبار، و نمایش آن به صورت متن ساده در stdout.
nvidia-smi --format=csv,noheader --query-gpu=uuid,persistence_mode
پرسوجوی UUID و حالت پایداری (persistence mode) تمام GPUهای سیستم.
nvidia-smi -q -d ECC,POWER -i 0 -l 10 -f out.log
پرسوجوی خطاهای ECC و توان مصرفی برای GPU 0 در دورههای ۱۰ ثانیهای، به صورت نامحدود، و ثبت آن در پروندهٔ out.log.
nvidia-smi -c 1 -i GPU-b2f5f1b745e3d23d-65a3a26d-097db358-7303e0b6-149642ff3d219f8587cde3a8""
تنظیم حالت محاسباتی (compute mode) بر روی "PROHIBITED" برای GPU دارای شناسهٔ "GPU-b2f5f1b745e3d23d-65a3a26d-097db358-7303e0b6-149642ff3d219f8587cde3a8".
nvidia-smi -q -u -x --dtd
پرسوجوی ویژگیهای تمام Unitها برای یکبار، و نمایش در قالب XML به همراه DTD تعبیهشده در stdout.
nvidia-smi --dtd -u -f nvsmi_unit.dtd
نوشتن DTD واحد در nvsmi_unit.dtd.
nvidia-smi -q -d SUPPORTED_CLOCKS
نمایش فرکانسهای ساعت پشتیبانیشده برای تمام GPUها.
nvidia-smi -i 0 --applications-clocks 2500,745
تنظیم فرکانس ساعت برنامهها بر روی ۲۵۰۰ مگاهرتز حافظه، و ۷۴۵ مگاهرتز گرافیک.
nvidia-smi mig -cgi 19
ایجاد یک نمونهٔ MIG GPU روی شناسه نمایهٔ ۱۹.
nvidia-smi mig -cgi 19:2
ایجاد یک نمونهٔ MIG GPU روی شناسه نمایهٔ ۱۹ در اندیس آغاز جایگذاری ۲.
nvidia-smi boost-slider -l
فهرست کردن تمام اسلایدرهای بوست برای همهٔ GPUها.
nvidia-smi boost-slider --vboost 1
تنظیم vboost روی مقدار ۱ برای همهٔ GPUها.
nvidia-smi power-hint -l
فهرست کردن دامنهٔ فرکانس ساعت، دامنهٔ دما و نمایههای پشتیبانیشدهٔ power hint.
nvidia-smi boost-slider -gc 1350 -t 60 -p 0
پرسوجوی power hint با فرکانس ساعت گرافیک در 1350MHz، دما در 60C و شناسه نمایه در 0.
nvidia-smi boost-slider -gc 1350 -mc 1215 -t n5 -p 1
پرسوجوی power hint با فرکانس ساعت گرافیک در 1350MHz، فرکانس ساعت حافظه در 1216MHz، دما در -5C و شناسه نمایه در 1.
اعلانهای منسوخسازی و حذف (DEPRECATION AND REMOVAL NOTICES)
ویژگیهای منسوخشده و/یا حذفشده بین بهروزرسانی v580 و v575 در nvidia-smi
- حذف مقدار منسوخشدهٔ ولتاژ گرافیک از بخش Voltage در خروجی 'nvidia-smi -q'
- حذف GPU Reset Status منسوخشده از خروجی 'nvidia-smi -q'
- منسوخ شدن GPU Fabric State و Status از خروجی 'nvidia-smi -q'
گزارش تغییرات (CHANGE LOG)
مشکلات شناختهشده (Known Issues)
- در سامانههایی که در آنها GPUها گرههای NUMA هستند، دقت میزان مصرف حافظهٔ FB ارائهشده توسط nvidia-smi به سیستم حسابداری حافظهٔ (memory accounting) سیستمعامل بستگی دارد. دلیل این امر این است که حافظهٔ FB به جای درایور GPU انویدیا، توسط سیستمعامل مدیریت میشود. به طور معمول، صفحههای تخصیصیافته از حافظهٔ FB حتی پس از پایان فرایند نیز برای افزایش کارایی آزاد نمیشوند. در شرایطی که سیستمعامل تحت فشار کمبود حافظه باشد، ممکن است به استفاده از حافظهٔ FB متوسل شود. چنین اقداماتی میتواند منجر به مغایرت در دقت گزارشگیری حافظه شود.
- در لینوکس، زمانی که تغییر GOM در انتظار باشد، نمیتوان GPU Reset را اجرا کرد.
- در لینوکس، ریست GPU ممکن است حالت معلق ECC را با موفقیت تغییر ندهد. برای فعالسازی تغییر حالت، ممکن است راهاندازی مجدد کامل (reboot) سیستم لازم باشد.
- در پلتفرمهای لینوکسی که GPUهای NVIDIA را به عنوان گرههای NUMA پیکربندی میکنند، در صورتی که nvidia-persistenced در حال اجرا نباشد یا نتواند به پروندهها در شاخهٔ procfs درایور NVIDIA برای دستگاه (/proc/driver/nvidia/gpus/<PCI config='' address>=''>/) دسترسی یابد، فعالسازی حالت پایداری یا ریست کردن GPUها ممکن است هشدار 'Warning: persistence mode is disabled on device' را چاپ کند. هنگام ریست GPU و بارگذاری مجدد درایور، این دایرکتوری حذف و دوباره ایجاد خواهد شد، و ارجاعات باز به دایرکتوری حذفشده، مانند اتصالات (mounts) یا پوستهها (shells)، میتوانند مانع از دسترسی فرایندها به پروندههای دایرکتوری جدید شوند.
- در صورتی که اقدام بازیابی (recovery action) انجام نشده باشد، ممکن است اختلاف اندکی میان شمارندههای موقت (volatile) و تجمعی (aggregate) در ECC وجود داشته باشد.
- دستورهای GPU hostname در حال حاضر فقط روی پلتفرمهای سازگار GB200 پشتیبانی میشوند.
- در ویندوز، دستور "nvidia-smi topo -p2p" قابلیتهای نظری نظیربهنظیر (peer-to-peer) شناساییشده توسط درایور GPU را گزارش میدهد و محدودیتهای ناشی از دستگاههای مشخصشده یا پیکربندی پلتفرم را لحاظ نمیکند.
تغییرات میان بهروزرسانی v610 و v595 در nvidia-smi
- افزوده شدن دستور -lmci/--lock-memory-clock-info که خطمشی نحوهٔ قفل شدن فرکانس ساعت حافظه را برای یک GPU مشخص اعلام میکند
- افزوده شدن زیردستورهای جدید توپولوژی جهت تفکیک 'nvidia-smi topo -m' به دستورهای متمرکز:
- •
- 'nvidia-smi topo -cpu': نمایش وابستگی پردازنده/حافظه (CPU/MEM affinity) و شناسهٔ گره NUMA برای همهٔ GPUها در صورت وجود
- •
- 'nvidia-smi topo -gpu': نمایش ماتریس اتصال GPU-GPU
- •
- 'nvidia-smi topo -nic': نمایش ماتریس اتصال GPU-NIC همراه با راهنمای پیشرفته
- •
- 'nvidia-smi topo -all': نمایش توپولوژی کامل (GPUها، NICها، NVMe)
- دستورهای جدید توپولوژی دارای راهنمای ارتقایافتهٔ NIC (شامل نام netdev، آدرس PCI، شمارهٔ شیار PCIe) و قالببندی ماتریسی بهبودیافته با فاصلهگذاری عرض ثابت برای خوانایی بهتر و پردازش ماشینی هستند
- افزوده شدن پشتیبانی از نمایش رویدادهایی که از زمان بارگذاری درایور رخ دادهاند از طریق دستور جدید: 'nvidia-smi event-log'. برای اطلاعات بیشتر از "nvidia-smi event-log -h" استفاده کنید.
- افزوده شدن پشتیبانی از خواندن رویدادهای CPER کدگذاریشده با base64 از زمان بارگذاری درایور از طریق دستور جدید: 'nvidia-smi cper'. برای اطلاعات بیشتر از "nvidia-smi cper -h" استفاده کنید.
- افزوده شدن مورد 'DR - Disabled by regkey' به راهنمای 'nvidia-smi topo -p2p'
- افزوده شدن فیلدهای جدید به nvidia-smi nvlink -e
- •
- PLR Xmit Blocks
- •
- PLR Xmit Retry Blocks
- •
- شفافسازی برچسبهای گزارش حد دما در nvidia-smi
- •
- تغییر نام 'GPU T.Limit Temp' به 'GPU Current T.Limit Temp'
- •
- الحاق واژهٔ 'Specification' به آستانههای ایستا:
- •
- GPU Shutdown/Slowdown/Max Operating T.Limit Temp
- •
- GPU Target Temperature
- افزوده شدن پشتیبانی از دلیل رویداد ساعت SW Thermal Slowdown در پلتفرمهای Thor Jetson
- افزوده شدن دستور جدید nvidia-smi nvlink --dataRate جهت نمایش نرخ دادهٔ nvlink
- افزوده شدن پشتیبانی از پرسوجو و تنظیم توان پایهٔ (base power) GPU.
- •
- دریافت/تنظیم از طریق پرچمهای nvidia-smi --power-limit و --query و --query-gpu
- •
- امکان تنظیم توان پایهٔ درخواستی GPU با '<b>nvidia-smi -pl XXXX --scope=2</b>'
- •
- امکان دریافت تنظیمات توان پایهٔ GPU با '<b>nvidia-smi -q -d POWER</b>'
- •
- افزوده شدن گزینههای جدید '<b>--query-gpu</b>' برای توان پایهٔ GPU:
- •
- gpu.base.current
- •
- gpu.base.requested
- •
- gpu.base.default
- •
- gpu.base.min
- •
- gpu.base.max
- •
- انتقال فیلدهای GPU Power Limit از بخش 'GPU Power Readings' به زیربخش 'GPU Ceiling Power Limit'.
- •
- فیلدها در خروجی متنی به بخش 'GPU Ceiling Power Limit' منتقل شدهاند.
- •
- فیلدها همچنان در محل پیشین برای خروجی XML نگهداری میشوند، اما در انتشار آینده حذف خواهند شد.
- •
- بر فیلدهای زیر در '<b>nvidia-smi --query-gpu</b>' تحت بخش 'GPU Power Readings' تأثیر میگذارد:
- •
- current_power_limit
- •
- requested_power_limit
- •
- default_power_limit
افزوده شدن معیار 'MMA stall %' به 'nvidia-smi dmon -s n' جهت پایش درصد توقف (stall) MMA.IP "•" 2 دستورهای 'nvidia-smi --set-vf-derate' و 'nvidia-smi --get-vf-derate-info' برای اعمال و استعلام کاهش فرکانس منحنی VF کلاک گرافیک اضافه شدند.
گزینهٔ جدید --query-gpu برای وضعیت فعالسازی قابلیت State-Of-Charge Power Smoothing اضافه شد:
- •
- power_smoothing.soc_power_smoothing_enabled
تغییرات میان بهروزرسانی v595 و v590 در nvidia-smi
- •
- فیلدهای جدید به nvidia-smi nvlink -e اضافه شدند:
- •
- Raw BER Lane 0
- •
- Raw BER Lane 1
- •
- Raw BER Total
- •
- Raw Errors Lane 0
- •
- Raw Errors Lane 1
- تغییر نام 'NVLE' به 'NVLink Encryption' در 'nvidia-smi nvlink --info'
- دستور جدیدی برای خواندن شمارندههای PRM پردازندهٔ گرافیکی اضافه شد: 'nvidia-smi prm -c'
- چاپ نسخهٔ جدید Nvlink، نسخهٔ 6.0 به 'nvidia-smi nvlink -info' اضافه شد.
- گزینههای جدید --query-gpu برای Power Smoothing اضافه شدند:
- •
- power_smoothing.enabled
- •
- power_smoothing.priv_level
- •
- power_smoothing.imm_ramp_down
- •
- power_smoothing.tmp_floor
- •
- power_smoothing.tmp_ceil
- •
- power_smoothing.hw_lifetime_remaining_percent
- •
- power_smoothing.max_percent_tmp_floor
- •
- power_smoothing.min_percent_tmp_floor
- •
- power_smoothing.num_preset_profiles
- •
- power_smoothing.active_profile
- •
- power_smoothing.curr_profile.percent_tmp_floor
- •
- power_smoothing.curr_profile.ramp_up_rate
- •
- power_smoothing.curr_profile.ramp_down_rate
- •
- power_smoothing.curr_profile.ramp_down_hysteresis
- •
- power_smoothing.admin_override.percent_tmp_floor
- •
- power_smoothing.admin_override.ramp_up_rate
- •
- power_smoothing.admin_override.ramp_down_rate
- •
- power_smoothing.admin_override.ramp_down_hysteresis
- پشتیبانی از 'nvidia-smi topo' در Windows اضافه شد.
- خروجی جدید GPU Recovery برای Imex Domain اضافه شد.
- فیلد جدید '--query-gpu=bbx.time_run' به 'nvidia-smi -q' اضافه شد که تعداد ثانیههای تجمعی اجرای پردازندهٔ گرافیکی با درایور بارگذاریشده را نشان میدهد.
- پشتیبانی از راهاندازی مجدد خودکار درایور به دستور تغییر مدل درایور ('-dm' یا '--driver-model') در Windows اضافه شد. پرچم '--no-driver-restart' برای صرفنظر از راهاندازی مجدد خودکار به دستور تغییر مدل درایور اضافه شد.
- پشتیبانی از دستور 'nvidia-smi -r' یا 'nvidia-smi --gpu-reset' برای امکان راهاندازی مجدد درایور دستگاههای مشخص (با استفاده از '-i') یا همهٔ دستگاهها در Windows اضافه شد.
- اطلاعات نسخه اصلاح شد: Driver Version و CUDA Version به ترتیب به نفع KMD Version و CUDA UMD Version منسوخ شدند تا منبع اطلاعات نسخه با دقت بیشتری منعکس شود.
- فیلد جدید 'weight' برای استعلام وزن نرمافزاری vGPU برای هر runlist به 'nvidia-smi vgpu -sl' اضافه شد.
- پشتیبانی از غیرفعال کردن حالت ARR از دستور 'nvidia-smi vgpu set-scheduler-state' حذف شد.
- فیلد ARR Mode از دستور 'nvidia-smi vgpu -ss' که وضعیت زمانبند نرمافزاری vGPU را گزارش میدهد، حذف شد.
تغییرات میان بهروزرسانی v590 و v580 در nvidia-smi
- پشتیبانی از لحاظ کردن دستگاههای data-direct مربوط به NIC در 'nvidia-smi topo -m' اضافه شد.
- پشتیبانی از نمایش معیارهای System on Chip از طریق دستور جدید اضافه شد: 'nvidia-smi soc' (فقط در سیستمهای Tegra Linux پشتیبانی میشود)
- پشتیبانی از اعمال تنظیمات RUSD (Read only User Shared Data) از طریق یک دستور جدید اضافه شد: 'nvidia-smi rusd'
- قابلیت Applications Clocks منسوخ شد، از جمله:
- فرکانسهای کنونی Applications Clocks برای کلاکهای حافظه و گرافیک
- فرکانسهای پیشفرض Applications Clocks برای کلاکهای حافظه و گرافیک
- گزینهٔ -ac برای تنظیم فرکانسهای Applications Clocks برای کلاکهای حافظه و گرافیک
- گزینهٔ -rac برای بازنشانی فرکانسهای Applications Clocks برای کلاکهای حافظه و گرافیک
- نسخهٔ Nvlink به خروجی 'nvidia-smi nvlink -info' اضافه شد.
- گزینهٔ جدید 'nvidia-smi power-profiles -or' برای تنظیم و بازنویسی نمایههای توان درخواستی اضافه شد.
- فیلد جدید 'EDPp Multipler' به 'nvidia-smi -q' اضافه شد که نسبت EDPp را به صورت درصد بیان میکند.
- فیلد جدید '--query-gpu=edpp_multipler' برای دریافت ضریب اضافه شد.
- وضعیت حافظهٔ غیرقابلتعمیر (Unrepairable memory) به فیلد ECC اضافه شد: 'nvidia-smi -q -d ECC'
- فیلدهای 'FB Memory Usage' و 'BAR1 Memory Usage' در خروجی 'nvidia-smi -q' به ترتیب به 'Shared FB Memory Usage' و 'Shared BAR1 Usage' تغییر یافتند تا نشان دهند که میان دستگاههای MIG مرتبط با همان نمونهٔ GPU مشترک هستند.
- زیرگزینهٔ جدید '-ei' به 'nvidia-smi vgpu -sl' اضافه شد تا گزارشهای زمانبند نرمافزاری vGPU در موتور ارائهشده توسط کاربر استعلام شود.
- گزینههای جدید '--query-gpu' برای Delayed Power Smoothing اضافه شدند:
- •
- power_smoothing.supported
- •
- power_smoothing.primary_power_floor
- •
- power_smoothing.secondary_power_floor
- •
- power_smoothing.min_primary_floor_activation_offset
- •
- power_smoothing.min_primary_floor_activation_point
- •
- power_smoothing.window_multiplier
- •
- power_smoothing.curr_profile.secondary_power_floor
- •
- power_smoothing.curr_profile.primary_floor_act_window_multiplier
- •
- power_smoothing.curr_profile.primary_floor_tar_window_multiplier
- •
- power_smoothing.curr_profile.primary_floor_act_offset
- •
- power_smoothing.admin_override.secondary_power_floor
- •
- power_smoothing.admin_override.primary_floor_act_window_multiplier
- •
- power_smoothing.admin_override.primary_floor_tar_window_multiplier
- •
- power_smoothing.admin_override.primary_floor_act_offset
- •
- ۴ فیلد نمایهٔ پیکربندیپذیر جدید در 'nvidia-smi power-smoothing' اضافه شد.
- افزوده شدن وضعیت رمزنگاری NVLINK دستگاه در دستور جدید nvlink info تحت عنوان 'nvidia-smi nvlink -info'
- افزوده شدن رمزنگاری NVLINK در حالت چند پردازنده گرافیکی (NVLE) در 'nvidia-smi conf-compute -mgm' و 'nvidia-smi conf-compute -q'
- افزوده شدن اطلاعات نگارش سفتافزار Nvlink به دستور nvlink info تحت عنوان 'nvidia-smi nvlink -info'
- افزوده شدن پرچمهای انتظار تعمیر Channel/TPC به فیلد ECC در: 'nvidia-smi -q -d ECC'
- حذف مقدار منسوخشدهٔ ولتاژ گرافیک از بخش Voltage در 'nvidia-smi -q'
- حذف GPU Reset Status منسوخشده از خروجی 'nvidia-smi -q'
- افزوده شدن گزینهٔ جدید برای خواندن ثباتهای PRM پردازنده گرافیکی: 'nvidia-smi prm'
- افزوده شدن گزینهٔ جدید بازنشانی 'Bus' به دستور بازنشانی موجود: 'nvidia-smi -r bus'
- افزوده شدن یک فیلد خروجی جدید به نام 'GPU PDI' به خروجی 'nvidia-smi -q'
- افزوده شدن گزینهٔ خط فرمان جدید '--columns' یا '-col' برای نمایش خلاصهوضعیت در قالب چندستونی.
- تغییر سرستونهای 'Memory-Usage' و 'BAR1-Usage' در جدول دستگاه MIG بهترتیب به 'Shared Memory-Usage' و 'Shared BAR1-Usage' جهت نشان دادن اشتراک آنها میان دستگاههای MIG مرتبط با یک GPU instance یکسان.
- بهروزرسانی خروجی GPU Fabric در خروجی 'nvidia-smi -q':
- •
- افزوده شدن فیلدهای Incorrect Configuration و Summary به خروجی Fabric Health
- •
- افزوده شدن پشتیبانی از پلتفرم NVIDIA Jetson Thor
- •
- توجه داشته باشید که ویژگیهای زیر در حال حاضر در Jetson Thor پشتیبانی نمیشوند:
- •
- پرسوجوها و دستورهای Clock
- •
- پرسوجوها و دستورهای توان (Power)
- •
- پرسوجوهای حرارتی و دما
- •
- میزان استفاده بهازای هر فرایند از طریق 'nvidia-smi pmon'
- •
- میزان استفاده از حافظهٔ SOC
- •
- افزوده شدن رشتههای جدید پیکربندی نادرست به خروجی Fabric Health
- •
- Incompatible Gpu Firmware
- •
- Invalid Location
- افزوده شدن گزینههای خط فرمان جدید '--get-hostname' و '--set-hostname' بهترتیب برای دریافت و تنظیم نامهای میزبان GPU.
- افزوده شدن رشتههای جدید پیکربندی نادرست به خروجی Fabric Health
- •
- GPU State Invalid
- •
- افزوده شدن فیلد جدید Partition Assigned به خروجی Fabric Health
تغییرات میان بهروزرسانی nvidia-smi v575 و v570
- افزوده شدن گزینهٔ جدید inforom.checksum_validation در --query-gpu جهت اعتبارسنجی چکسام inforom (nvidia-smi --query-gpu inforom.checksum_validation)
- بهروزرسانی 'nvidia-smi -q' برای چاپ هر دو مقدار 'Instantaneous Power Draw' و 'Average Power Draw' در تمام مواردی که پیشتر 'Power Draw' چاپ میشد.
- افزوده شدن پشتیبانی به nvidia-smi c2c -e جهت نمایش خطاهای پیوند C2C (C2C Link Errors)
- افزوده شدن پشتیبانی به nvidia-smi c2c -gLowPwrInfo جهت نمایش وضعیت توان پیوند C2C (C2C Link Power state)
- افزوده شدن فیلدهای جدید برای Clock Event Reason Counters که با 'nvidia-smi -q' یا با پرچم نمایشی 'nvidia-smi -q -d PERFORMANCE' قابل پرسوجو هستند.
- افزوده شدن گزینههای جدید پرسوجوی GPU برای شمارندههای دلایل رویداد کلاک: 'nvidia-smi --query-gpu=clocks_event_reasons_counters.{sw_power_cap,sw_thermal_slowdown,sync_boost,hw_thermal_slowdown,hw_power_brake_slowdown}'
- افزوده شدن فیلدهای جدید برای برش زمانی MIG (MIG timeslicing) که با 'nvidia-smi -q' قابل پرسوجو هستند
- افزوده شدن گزینهٔ خط فرمان جدید '-smts' به 'nvidia-smi vgpu' برای تنظیم حالت برش زمانی vGPU MIG
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu -c' برای پرسوجوی انواع vGPU قابل ایجاد فعلی روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu -q' برای پرسوجوی اطلاعات تفصیلی نمونههای vGPU فعال کنونی روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu -ss' برای پرسوجوی وضعیت زمانبند نرمافزاری vGPU روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu -sl' برای پرسوجوی گزارشهای زمانبند نرمافزاری vGPU روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن گزینهٔ خط فرمان جدید '-ghm' به 'nvidia-smi vgpu' برای دریافت حالت ناهمگن vGPU روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu -shm' برای تنظیم حالت ناهمگن vGPU روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن فیلد جدید برای حداکثر نمونهها بهازای هر GPU Instance که با 'nvidia-smi vgpu -s -v' قابل پرسوجو است
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu set-scheduler-state' برای تنظیم وضعیت زمانبند نرمافزاری vGPU روی GPU Instance مشخصشده توسط کاربر.
- افزوده شدن زیرگزینهٔ جدید '-gi' به 'nvidia-smi vgpu -c -v' برای پرسوجوی اطلاعات تفصیلی انواع vGPU قابل ایجاد روی GPU Instance مشخصشده توسط کاربر
- افزوده شدن گزینهٔ خط فرمان جدید '--query-gpu-instance-vgpu-scheduler-logs' به 'nvidia-smi vgpu' برای دریافت گزارشهای زمانبند نرمافزاری vGPU روی GPU Instance ارائهشده توسط کاربر در قالب CSV. برای جزئیات به nvidia-smi vgpu --help-gpu-instance-vgpu-query-scheduler-logs مراجعه کنید.
تغییرات میان بهروزرسانی nvidia-smi v570 و v565
- افزوده شدن گزینههای خط فرمان جدید '-\sLWidth' و '-\gLWidth' به 'nvidia-smi nvlink'
- افزوده شدن قابلیت جدید برای نمایش وضعیت خواب Nvlink با 'nvidia-smi nvlink -\s' برای معماری Blackwell و نسلهای پس از آن
- افزوده شدن گزینههای جدید پرسوجوی GPU برای مصرف توان میانگین/لحظهای ماژول: 'nvidia-smi --query-gpu=module.power.draw.{average,instant}'
- افزوده شدن گزینههای جدید پرسوجوی GPU برای محدودیتهای توان پیشفرض/حداکثر/حداقل ماژول: 'nvidia-smi --query-gpu=module.power.{default_limit,max_limit,min_limit}'
- افزوده شدن گزینههای جدید پرسوجوی GPU برای محدودیتهای توان ماژول: 'nvidia-smi --query-gpu=module.power.limit'
- افزوده شدن گزینههای جدید پرسوجوی GPU برای محدودیتهای توان اعمالشدهٔ ماژول: 'nvidia-smi --query-gpu=module.enforced.power.limit'
- افزوده شدن نامهای مستعار جدید در پرسوجوی GPU برای گزینههای توان پردازنده گرافیکی (GPU Power)
- افزوده شدن دستور جدید برای دریافت اطلاعات رایانش محرمانه (confidential compute): 'nvidia-smi conf-compute -q'
- افزوده شدن بخش جدید Power Profiles در nvidia-smi -q و پرچم نمایشی متناظر -d با مقدار POWER_PROFILES
- افزوده شدن گزینهٔ جدید Power Profiles در 'nvidia-smi power-profiles' جهت دریافت/تنظیم اطلاعات مربوط به نمایههای توان.
- افزوده شدن پرسوجوی اطلاعات پلتفرم به 'nvidia-smi -q'
- افزوده شدن پرسوجوی اطلاعات پلتفرم به 'nvidia-smi --query-gpu platform'
- افزوده شدن گزینهٔ جدید Power Smoothing در 'nvidia-smi power-smoothing' جهت تنظیم مقادیر مربوط به هموارسازی توان.
- افزوده شدن بخش جدید Power Smoothing در nvidia-smi -q و پرچم نمایشی متناظر -d با مقدار POWER_SMOOTHING
- منسوخ شدن مقدار ولتاژ گرافیک از بخش Voltage در nvidia-smi -q. ولتاژ اکنون همواره بهصورت 'N/A' نمایش داده میشود و در نسخههای آینده حذف خواهد شد.
- افزوده شدن گزینهٔ جدید topo در nvidia-smi topo -nvme جهت نمایش مسیر اتصال GPUها در برابر NVMeها.
- تغییر رشتهٔ راهنما برای دستور 'nvidia-smi topo -p2p -p' از 'prop' به 'pcie' برای توصیف بهتر قابلیت p2p.
- افزوده شدن دستور جدید 'nvidia-smi pci -gCnt' جهت پرسوجوی بایتهای RX/TX رابط PCIe.
- افزوده شدن نمایش قابلیت EGM در بخش جدید Capabilities در دستور nvidia-smi -q.
- افزوده شدن نمایش multiGpuMode از طریق nvidia-smi بهوسیلهٔ 'nvidia-smi conf-compute --get-multigpu-mode' یا 'nvidia-smi conf-compute -mgm'
- مقدار GPU Reset Status در nvidia-smi -q منسوخ شده است. بخش GPU Recovery action تمام اقدامات لازم را فراهم میکند
- دستور nvidia-smi -q اکنون وضعیت رمزنگاری Dram را نمایش میدهد
- گزینههای nvidia-smi -den/--dram-encryption 0/1 برای غیرفعال/فعالسازی رمزنگاری dram
- افزوده شدن وضعیت جدید به سلامت فابریک انویدیا (nvidia fabric health). دستور nvidia-smi -q سه فیلد جدید در Fabric Health نمایش خواهد داد - Route Recovery in progress، Route Unhealthy و Access Timeout Recovery
- در دستور nvidia-smi -q عبارت Platform Info - RACK GUID به Platform Info - RACK Serial Number تغییر یافته است
- در nvidia-smi --query-gpu گزینهٔ جدیدی برای gpu_recovery_action افزوده شده است
- افزوده شدن شمارندههای جدید برای Nvlink5 در nvidia-smi nvlink -e:
- •
- شمارندهٔ Effective Errors برای دریافت مجموع تعداد خطاها در هر بستهٔ Nvlink
- •
- شمارندهٔ Effective BER برای دریافت Effective BER برای خطاهای مؤثر
- •
- شمارندههای FEC Errors - 0 to 15 برای دریافت تعداد خطاهای نمادین تصحیحشده
- افزوده شدن فیلد خروجی جدید به نام 'GPU Fabric GUID' به خروجی 'nvidia-smi -q'
- افزوده شدن ویژگی جدیدی به نام 'platform.gpu_fabric_guid' به 'nvidia-smi --query-gpu'
- بهروزرسانی دستور 'nvidia-smi nvlink -gLowPwrInfo' جهت نمایش Power Threshold Range and Units
- افزوده شدن گزارش حالت همگن vGPU به 'nvidia-smi -q'.
- افزوده شدن گزارش جانماییهای همگن vGPU به 'nvidia-smi vgpu -s -v' به عنوان مکمل گزارشهای موجود برای جانماییهای ناهمگن vGPU.
تغییرات میان nvidia-smi بهروزرسانی v560 و v555
- افزوده شدن 'Atomic Caps Inbound' در بخش PCI دستور 'nvidia-smi -q'.
- بهروزرسانی خروجی ECC و row remapper برای گزینههای '--query-gpu' و '--query-remapped-rows'.
- افزوده شدن پشتیبانی از رویدادهایی شامل طوفان خطای تکبیتی ECC، بازنشستگی DRAM، شکست در بازنشستگی DRAM، مسمومیت مهارشده/غیرکشنده (contained/nonfatal poison) و مسمومیت مهارنشده/کشنده (uncontained/fatal poison).
- افزوده شدن پشتیبانی در 'nvidia-smi nvlink -e' برای نمایش شمارندههای خطای NVLink5
تغییرات میان nvidia-smi بهروزرسانی v550 و v545
- افزوده شدن گزینه جدید خط فرمان جهت چاپ اطلاعات نسخه: --version
- افزوده شدن امکان چاپ صرفاً نسخه سفتافزار GSP با 'nvidia-smi -q -d'. نمونه خط فرمان: nvidia-smi -q -d GSP_FIRMWARE_VERSION
- افزوده شدن پشتیبانی از پرسوجوی pci.baseClass و pci.subClass. برای جزئیات nvidia-smi --help-query-gpu را ببینید.
- افزوده شدن کدهای کلاس پایه و زیرکلاس PCI به خروجی 'nvidia-smi -q'.
- افزوده شدن گزینه جدید خط فرمان '--format' به 'nvidia-smi dmon' جهت پشتیبانی از مشخصکنندههای قالب 'csv'، 'nounit' و 'noheader'
- افزوده شدن گزینه جدید خط فرمان '--gpm-options' به 'nvidia-smi dmon' جهت پشتیبانی از گزارش معیارهای GPM در حالت MIG
- افزوده شدن گزارش میزان استفاده از NVJPG و NVOFA به 'nvidia-smi pmon'
- افزوده شدن گزارش میزان استفاده از NVJPG و NVOFA به 'nvidia-smi -q -d utilization'
- افزوده شدن گزارش میزان استفاده از NVJPG و NVOFA به 'nvidia-smi vgpu -q' جهت گزارش استفاده از NVJPG/NVOFA در vGPUهای فعال
- افزوده شدن گزارش میزان استفاده از NVJPG و NVOFA به 'nvidia-smi vgpu -u' جهت گزارش دورهای استفاده از NVJPG/NVOFA در vGPUهای فعال
- افزوده شدن گزارش میزان استفاده از NVJPG و NVOFA به 'nvidia-smi vgpu -p' جهت گزارش دورهای استفاده از NVJPG/NVOFA روی فرایندهای در حال اجرای vGPUهای فعال
- افزوده شدن گزینه جدید خط فرمان '-shm' به 'nvidia-smi vgpu' جهت تنظیم حالت ناهمگن vGPU
- افزوده شدن گزارش حالت ناهمگن vGPU در 'nvidia-smi -q'
- افزوده شدن قابلیت فراخوانی 'nvidia-smi mig -lgip' و 'nvidia-smi mig -lgipp' بدون نیاز به فعال بودن MIG
- افزوده شدن پشتیبانی از پرسوجوی اطلاعات آستانه چرخش کلید در رایانش محرمانه (confidential compute).
- افزوده شدن پشتیبانی از تنظیم حداکثر مزیت مهاجم در چرخش کلید رایانش محرمانه (confidential compute key rotation max attacker advantage).
- افزوده شدن گزینه جدید خط فرمان '--sparse-operation-mode' به 'nvidia-smi clocks' جهت تنظیم حالت عملیاتی تُنُک (sparse operation mode)
- افزوده شدن گزارش حالت عملیاتی تُنُک (sparse operation mode) به 'nvidia-smi -q -d PERFORMANCE'
تغییرات میان nvidia-smi بهروزرسانی v535 و v545
- افزوده شدن پشتیبانی از پرسوجوی برچسب زمان و مدتزمان آخرین تخلیه (flush) شیء BBX به حافظه ذخیرهسازی inforom.
- افزوده شدن پشتیبانی از گزارش توان مصرفی حافظه GPU.
تغییرات میان nvidia-smi بهروزرسانی v535 و v530
- بهروزرسانی وضعیت خطای SRAM گزارششده در پرسوجوی ECC با دستور 'nvidia-smi -q -d ECC'
- افزوده شدن پشتیبانی از پرسوجو و گزارش میزان استفاده از JPEG و OFA (Optical Flow Accelerator) در GPU.
- حذف دستور منسوخشده 'stats'.
- افزوده شدن پشتیبانی از تنظیم وضعیت زمانبند نرمافزاری vGPU.
- تغییر نام counter collection unit به gpu performance monitoring.
- افزوده شدن گزارش حالت جدید C2C به پرسوجوی دستگاه (device query).
- افزودن مجدد clock_throttle_reasons به --query-gpu جهت حفظ سازگاری رو به عقب
- افزوده شدن پشتیبانی از دریافت قابلیتهای CPU و قابلیتهای GPU در رایانش محرمانه (confidential compute).
- افزوده شدن پشتیبانی از تنظیم حافظه محافظتنشده و وضعیت آمادهبهکار GPU در رایانش محرمانه (confidential compute).
- افزوده شدن پشتیبانی از دریافت اطلاعات حافظه و وضعیت آمادهبهکار GPU در رایانش محرمانه (confidential compute).
- افزوده شدن پشتیبانی از نمایش حالت devtools، محیط و وضعیت ویژگیهای رایانش محرمانه (confidential compute).
تغییرات میان nvidia-smi بهروزرسانی v525 و v530
- افزوده شدن پشتیبانی از پرسوجوی power.draw.average و power.draw.instant. برای جزئیات nvidia-smi --help-query-gpu را ببینید.
- افزوده شدن پشتیبانی از دریافت وضعیت زمانبند نرمافزاری vGPU.
- افزوده شدن پشتیبانی از دریافت لاگهای زمانبند نرمافزاری vGPU.
- افزوده شدن پشتیبانی از دریافت قابلیتهای زمانبند نرمافزاری vGPU.
- تغییر نام Clock Throttle Reasons به Clock Event Reasons.
- •
- افزوده شدن پشتیبانی برای استعلام و تنظیم وضعیت جریان واحد جمعآوری شمارنده (counter collection unit stream state).
تغییرات میان بهروزرسانی nvidia-smi v470 و v510
- •
- افزودن گزارش حافظهٔ جدید 'Reserved' به خروجی حافظهٔ FB
تغییرات میان بهروزرسانی nvidia-smi v465 و v470
- •
- افزوده شدن پشتیبانی از استعلام power hint
تغییرات میان بهروزرسانی nvidia-smi v460 و v465
- •
- حذف پشتیبانی از گزینهٔ -acp,--application-clock-permissions
تغییرات میان بهروزرسانی nvidia-smi v450 و v460
- افزودن گزینهای برای تعیین جایابی (placement) هنگام ایجاد یک نمونهٔ MIG GPU.
- افزوده شدن پشتیبانی برای استعلام و کنترل اسلایدر بوست (boost slider)
تغییرات میان بهروزرسانی nvidia-smi v445 و v450
- افزوده شدن دستورهای --lock-memory-clock و --reset-memory-clock برای قفل کردن فرکانس روی نزدیکترین فرکانس حافظهٔ (Memory clock) کمینه/بیشینهٔ ارائهشده و قابلیت بازنشانی فرکانس حافظه
- امکان گزارش سرعتهای فن بالاتر از ۱۰۰٪
- افزوده شدن پشتیبانی topo برای نمایش وابستگی گره NUMA (NUMA node affinity) برای دستگاههای GPU
- افزوده شدن پشتیبانی برای ایجاد نمونههای MIG با استفاده از نام پروفایل
- افزوده شدن پشتیبانی برای ایجاد نمونهٔ محاسباتی پیشفرض (default compute instance) همزمان با ایجاد یک نمونهٔ GPU
- افزوده شدن پشتیبانی برای استعلام و غیرفعالسازی حالت MIG در Windows
- حذف پشتیبانی از دستور بازنشانی GPU (-r) در مهمانهای vGPU با MIG فعال
تغییرات میان بهروزرسانی nvidia-smi v418 و v445
- افزوده شدن پشتیبانی از Multi Instance GPU (MIG)
- افزوده شدن پشتیبانی برای بازنشانی مجزای GPUهای مجهز به NVLink مبتنی بر معماری NVIDIA Ampere
تغییرات میان بهروزرسانی nvidia-smi v361 و v418
- •
- پشتیبانی از معماریهای Volta و Turing، رفع باگها، بهبود عملکرد و قابلیتهای جدید
تغییرات میان بهروزرسانی nvidia-smi v352 و v361
- افزوده شدن پشتیبانی nvlink جهت ارائهٔ APIهای عمومی NVLINK NVML
- افزوده شدن زیردستور clocks همراه با پشتیبانی از بوست همگامسازیشده (synchronized boost)
- بهروزرسانی nvidia-smi stats برای گزارش معیار دمای GPU
- بهروزرسانی nvidia-smi dmon برای پشتیبانی از توان عملیاتی (throughput) گذرگاه PCIe
- بهروزرسانی nvidia-smi daemon/replay برای پشتیبانی از توان عملیاتی PCIe
- بهروزرسانی nvidia-smi dmon، daemon و replay برای پشتیبانی از خطاهای تکرار گذرگاه (PCIe Replay Errors)
- افزوده شدن شماره قطعات (part numbers) GPU در nvidia-smi -q
- حذف پشتیبانی از حالت محاسباتی ریسهٔ اختصاصی (exclusive thread compute mode)
- افزوده شدن فرکانسهای ویدیویی (کدگذار/کدگشا یا encoder/decode) به نمایش Clocks و Max Clocks در nvidia-smi -q
- افزوده شدن خروجی دمای حافظه به nvidia-smi dmon
- افزوده شدن دستورهای --lock-gpu-clock و --reset-gpu-clock برای قفل کردن فرکانس روی نزدیکترین فرکانس کمینه/بیشینهٔ GPU ارائهشده و بازنشانی فرکانس
- افزوده شدن --cuda-clocks برای بازنویسی یا بازگردانی فرکانسهای پیشفرض CUDA
تغییرات میان بهروزرسانی nvidia-smi v346 و v352
- افزوده شدن پشتیبانی topo برای نمایش وابستگیها (affinities) به ازای هر GPU
- افزوده شدن پشتیبانی topo برای نمایش GPUهای همسایه در یک سطح مشخص
- افزوده شدن پشتیبانی topo برای نمایش مسیر میان دو GPU مشخص
- افزوده شدن خط فرمان 'nvidia-smi pmon' برای پایش فرایندها در قالب پیمایشی
- افزوده شدن گزینهٔ '--debug' جهت تولید لاگ اشکالزدایی رمزنگاریشده برای ارسال باگها به NVIDIA
- رفع اشکال در گزارش حافظهٔ مصرفی/آزاد (Used/Free) در حالت WDDM در Windows
- آمار حسابداری (accounting stats) بهروزرسانی شد تا هر دو دستهٔ فرایندهای در حال اجرا و خاتمهیافته را در بر بگیرد. زمان اجرای فرایندهای در حال اجرا ۰ گزارش میشود و پس از خاتمه یافتن فرایند، به مقدار واقعی بهروزرسانی میگردد.
- افزوده شدن گزارش شمارندههای بازپخش PCIe (PCIe replay counters)
- افزوده شدن پشتیبانی از گزارش فرآیندهای گرافیکی از طریق nvidia-smi
- افزوده شدن گزارش میزان مصرف PCIe
- افزوده شدن خط فرمان dmon برای پایش دستگاه به صورت پیمایشی
- افزوده شدن خط فرمان daemon برای اجرا در پسزمینه و پایش دستگاهها به عنوان یک فرآیند دیمن. تولید فایلهای ثبت وقایع تاریخدار در /var/log/nvstats/
- افزوده شدن خط فرمان replay برای بازپخش/استخراج فایلهای آماری تولیدشده توسط ابزار daemon
تغییرات میان nvidia-smi v331 Update و v340
- افزوده شدن گزارش اطلاعات آستانه دما.
- افزوده شدن گزارش اطلاعات برند تجاری (مانند Tesla، Quadro و غیره).
- افزوده شدن پشتیبانی از K40d و K80.
- افزوده شدن گزارش بیشینه، کمینه و میانگین برای نمونهها (توان مصرفی، مصرف، تغییرات کلاک). خط فرمان نمونه: nvidia-smi -q -d power,utilization, clock
- افزوده شدن رابط nvidia-smi stats برای جمعآوری آمار مانند توان مصرفی، مصرف، تغییرات کلاک، رویدادهای xid و شمارندههای محدودیت کارایی با مفهوم زمان متصل به هر نمونه. خط فرمان نمونه: nvidia-smi stats
- افزوده شدن پشتیبانی از گزارش جمعی معیارها برای بیش از یک GPU. با گزینه '-i' به صورت جداشده با کاما استفاده میشود. مثال: nvidia-smi -i 0,1,2
- افزوده شدن پشتیبانی از نمایش میزان مصرف رمزگذار و رمزگشای GPU
- افزوده شدن رابط nvidia-smi topo برای نمایش ماتریس ارتباطی GPUDirect (آزمایشی)
- افزوده شدن پشتیبانی از نمایش شناسه برد GPU و اینکه آیا برد چند GPU است یا خیر
- حذف دلیل محدودسازی (throttle reason) تعریفشده توسط کاربر از خروجی XML
تغییرات میان nvidia-smi v5.319 Update و v331
- افزوده شدن گزارش شماره فرعی (minor number).
- افزوده شدن گزارش اندازه حافظه BAR1.
- افزوده شدن گزارش میانافزار تراشه پل (bridge chip).
تغییرات میان nvidia-smi v4.319 Production و v4.319 Update
- •
- افزوده شدن سوئیچ جدید --applications-clocks-permission برای تغییر مجوزهای لازم جهت تنظیم و بازنشانی کلاکهای برنامهها.
تغییرات میان nvidia-smi v4.304 و v4.319 Production
- افزوده شدن گزارش وضعیت Display Active و بهروزرسانی مستندات برای شفافسازی تفاوت آن با Display Mode و وضعیت Display Active
- برای یکدستی در بردهای چند GPU، دستور nvidia-smi -L همیشه به جای شماره سریال، UUID را نمایش میدهد
- افزوده شدن گزارش انتخابی ماشینخواندنی. بخش SELECTIVE QUERY OPTIONS در nvidia-smi -h را ببینید
- افزوده شدن پرسوجوها برای اطلاعات بازنشستگی صفحه (page retirement). به --help-query-retired-pages و -d PAGE_RETIREMENT مراجعه کنید
- تغییر نام Clock Throttle Reason از User Defined Clocks به Applications Clocks Setting
- در صورت بروز خطا، کدهای بازگشتی مقادیر غیرصفر متمایزی برای هر رده خطا دارند. بخش RETURN VALUE را ببینید
- دستور nvidia-smi -i اکنون میتواند در صورت بروز مشکل در یک GPU دیگر در سامانه، اطلاعات را از GPU سالم پرسوجو کند
- تمامی پیامهایی که به وجود مشکل در یک GPU اشاره دارند، شناسه pci bus مربوط به GPU معیوب را چاپ میکنند
- پرچم جدید --loop-ms برای پرسوجوی اطلاعات با نرخی سریعتر از یک بار در ثانیه (میتواند بر کارایی سامانه تأثیر منفی بگذارد)
- افزوده شدن پرسوجوها برای فرآیندهای حسابرسی (accounting). به --help-query-accounted-apps و -d ACCOUNTING مراجعه کنید
- افزوده شدن سقف توان اعمالشده (enforced power limit) به خروجی پرسوجو
تغییرات میان nvidia-smi v4.304 RC و v4.304 Production
- افزوده شدن گزارش حالت عملکرد GPU (یا GOM)
- افزوده شدن سوئیچ جدید --gom برای تنظیم حالت عملکرد GPU
تغییرات میان nvidia-smi v3.295 و v4.304 RC
- قالببندی مجدد خروجی غیرمفصل به دلیل بازخورد کاربران. حذف اطلاعات در انتظار از جدول.
- چاپ پیام راهنما در صورتی که راهاندازی اولیه به دلیل عدم دریافت وقفه توسط ماژول کرنل با شکست مواجه شود
- مدیریت بهتر خطا زمانی که کتابخانه اشتراکی NVML در سامانه موجود نیست
- افزوده شدن سوئیچ جدید --applications-clocks
- افزوده شدن پالایه جدید به سوئیچ --display. برای دیدن فهرست کلاکهای ممکن روی یک GPU با -d SUPPORTED_CLOCKS اجرا کنید
- هنگام گزارش حافظه آزاد، محاسبه آن از تفاضل کل گرد شده و حافظه مصرفی انجام میشود تا جمع مقادیر درست باشد
- افزوده شدن گزارش محدودیتهای سقف مدیریت توان و حد پیشفرض
- افزوده شدن سوئیچ جدید --power-limit
- افزوده شدن گزارش خطاهای ECC مربوط به حافظه بافت (texture memory)
- افزوده شدن گزارش دلایل کاهش سرعت کلاک (Clock Throttle Reasons)
- گزارش واضحتر خطاها هنگام اجرای دستورها (مانند تغییر compute mode)
- هنگام اجرای همزمان دستورها روی چندین GPU، خطاهای N/A به عنوان هشدار در نظر گرفته میشوند.
- دستور nvidia-smi -i اکنون از UUID نیز پشتیبانی میکند
- قالب UUID برای مطابقت با استاندارد UUID تغییر کرده و مقدار متفاوتی را گزارش خواهد داد.
تغییرات میان nvidia-smi v2.0 و v2.285
- گزارش نسخه VBIOS.
- افزودن پرچم -d/--display برای پالایش بخشهایی از دادهها
- افزودن گزارش PCI Sub System ID
- بهروزرسانی مستندات برای اعلام پشتیبانی از M2075 و C2075
- گزارش نسخه سفتافزار HIC HWBC با سوییچ -u
- گزارش کلاکهای بیشینه max(P0) در کنار کلاکهای فعلی
- افزودن پرچم --dtd برای چاپ DTD دستگاه یا واحد (unit)
- افزودن پیام در صورت در حال اجرا نبودن راهانداز NVIDIA
- افزودن گزارش نسل پیوند PCIe (بیشینه و فعلی) و پهنای پیوند (بیشینه و فعلی).
- دریافت مدل راهانداز در انتظار (pending driver model) برای کاربران غیرمدیر سیستم نیز کار میکند
- افزودن پشتیبانی از اجرای nvidia-smi در حسابهای کاربری Windows Guest
- اجرای nvidia-smi بدون دستور -q، به جای راهنما، نسخه غیر پرحرف (non-verbose) دستور -q را در خروجی نمایش میدهد
- اصلاح تجزیه آرگومان -l/--loop= (مقدار پیشفرض، 0، به مقدار بزرگ)
- تغییر قالب pciBusId (به XXXX:XX:XX.X - این تغییر در نسخه 280 اعمال شده بود)
- تجزیه busId برای دستور -i محدودیت کمتری دارد. میتوانید 0:2:0.0 یا 0000:02:00 و سایر حالات را وارد کنید
- تغییر ساختار نسخهگذاری جهت گنجاندن «driver version»
- قالب XML همواره با DTD مطابقت دارد، حتی زمانی که شرایط خطا رخ دهد
- افزودن پشتیبانی از رویدادهای ECC تکبیتی و دوبیتی و خطاهای XID (بهطور پیشفرض با پرچم -l فعال و برای پرچم -x غیرفعال است)
- افزودن پرچمهای بازنشانی دستگاه -r و --gpu-reset
- افزودن فهرستبندی فرایندهای محاسباتی (compute) در حال اجرا
- تغییر نام power state به performance state. پشتیبانی منسوخشده فقط در خروجی XML وجود دارد.
- بهروزرسانی شماره نسخه DTD به 2.0 برای تطابق با خروجی بهروزرسانیشده XML
همچنین ببینید (SEE ALSO)
در لینوکس، فایل README راهانداز در مسیر /usr/share/doc/NVIDIA_GLX-1.0/README.txt نصب میشود
نویسندگان (AUTHORS)
NVIDIA Corporation
کپیرایت و تکثیر (COPYRIGHT)
Copyright 2011-2026 NVIDIA Corporation
| Wed Jul 29 2026 | Version nvidia-smi 610.57 |