نام (NAME)

nvidia-cuda-mps-control - برنامه مدیریت سرویس چندپردازشی NVIDIA CUDA (MPS)

خلاصه دستور (SYNOPSIS)

nvidia-cuda-mps-control [-d | -f]

توضیحات (DESCRIPTION)

سرویس MPS یک سرویس زمان اجرا است که برای اجرای هم‌روند چندین فرایند MPI با استفاده از CUDA طراحی شده است، به طوری که این روند برای برنامه MPI کاملاً شفاف باشد. اگر دیمن کنترلی MPS روی سیستم در حال اجرا باشد، برنامه CUDA در حالت MPS اجرا می‌شود.

هنگامی که CUDA برای اولین بار در یک برنامه مقداردهی اولیه می‌شود، درایور CUDA تلاش می‌کند به دیمن کنترلی MPS متصل شود. اگر اتصال ناموفق باشد، برنامه به کار خود همانند حالت عادی و بدون MPS ادامه می‌دهد. اما اگر اتصال به دیمن کنترلی موفقیت‌آمیز باشد، درایور CUDA از دیمن درخواست می‌کند تا یک سرور MPS را از طرف آن راه‌اندازی کند. اگر از قبل یک سرور MPS در حال اجرا باشد و شناسه کاربری (UID) فرایند آن سرور با فرایند کلاینت درخواست‌کننده مطابقت داشته باشد، دیمن کنترلی این موضوع را به کلاینت اطلاع داده و کلاینت به سرور متصل می‌شود. اگر هیچ سرور MPS روی سیستم در حال اجرا نباشد، دیمن کنترلی یک سرور MPS با همان شناسه کاربری (UID) کلاینت درخواست‌کننده راه‌اندازی می‌کند. اگر سرور MPS از قبل در حال اجرا باشد اما شناسه کاربری متفاوتی با فرایند کلاینت داشته باشد، دیمن کنترلی از سرور موجود می‌خواهد تا به محض پایان کار تمامی کلاینت‌هایش خاموش شود. پس از خاتمه سرور قبلی، دیمن کنترلی سرور جدیدی با شناسه کاربری کلاینتِ در صف انتظار اجرا می‌کند.

سرور MPS کانتکست (context) مشترک GPU را ایجاد کرده و کلاینت‌های خود را مدیریت می‌کند. یک سرور MPS می‌تواند از تعداد محدودی کانتکست CUDA که توسط معماری سخت‌افزاری آن تعیین می‌شود پشتیبانی کند. برای قابلیت محاسباتی SM 3.5 تا SM 6.0 این محدودیت ۱۶ کلاینت همزمان به ازای هر GPU است. برای قابلیت محاسباتی SM 7.0 این محدودیت ۴۸ کلاینت است. MPS برای برنامه‌های CUDA شفاف است و تمامی پیچیدگی‌های ارتباط بین فرایند کلاینت، سرور و دیمن کنترلی درون باینری‌های درایور پنهان شده است.

در حال حاضر، CUDA MPS تنها در لینوکس ۶۴ بیتی در دسترس است، به دستگاهی با قابلیت پشتیبانی از آدرس‌دهی مجازی یکپارچه (UVA) نیاز دارد و باید دارای قابلیت محاسباتی SM 3.5 یا بالاتر باشد. برنامه‌هایی که به رابط‌های برنامه‌نویسی پیش از CUDA 4.0 نیاز دارند، تحت CUDA MPS پشتیبانی نمی‌شوند. برخی قابلیت‌های خاص تنها از قابلیت محاسباتی SM 7.0 به بعد در دسترس هستند.

برای جزئیات بیشتر به مستندات MPS در NVIDIA Docs مراجعه کنید.

گزینه‌ها (OPTIONS)

-d

دیمن کنترلی MPS را در حالت پس‌زمینه راه‌اندازی می‌کند، با این فرض که کاربر دسترسی لازم (مانند دسترسی ریشه/root) را داراست. فرایند والد به محض اینکه دیمن کنترلی شروع به گوش دادن به اتصالات کلاینت‌ها کند، خارج می‌شود.

-f

دیمن کنترلی MPS را در حالت پیش‌زمینه راه‌اندازی می‌کند، با این فرض که کاربر دسترسی لازم (مانند دسترسی ریشه/root) را داراست. پیام‌های اشکال‌زدایی (دیباگ) به خروجی استاندارد ارسال می‌شوند.

-multiuser-server

شرط تک‌کاربری بودن (تک-UID) را برمی‌دارد و اجازه می‌دهد هر شناسه کاربری (UID) بتواند به سرور MPS که با کاربر ریشه (root) راه‌اندازی شده متصل شده و آن را به اشتراک بگذارد.

-h, --help

نمایش پیام راهنما.

<no arguments>

رابط کاربری پیشانه (front-end) برای دیمن کنترلی MPS را راه‌اندازی می‌کند که خود دیمن باید از قبل راه‌اندازی شده باشد. این رابط کاربری تا زمان رسیدن به انتهای فایل (EOF) دستورات را از ورودی استاندارد (stdin) می‌خواند. دستورات با نویسه خط جدید (newline) از هم جدا می‌شوند. اگر دستور نامعتبری ارسال و رد شود، پیام خطا در خروجی استاندارد (stdout) چاپ خواهد شد. وضعیت خروج در صورت برقراری ارتباط موفق با دیمن، صفر خواهد بود. در صورتی که دیمن یافت نشود یا ارتباط به طور غیرمنتظره‌ای قطع گردد، یک مقدار غیرصفر بازگردانده می‌شود. برای اطلاعات بیشتر درباره وضعیت خروج، به دستور "quit" در زیر مراجعه کنید.

دستورات پشتیبانی‌شده توسط دیمن کنترلی MPS:

get_server_list: چاپ فهرستی از شناسه‌های فرایند (PID) تمامی سرورهای MPS.
get_server_status PID: چاپ وضعیت سرور با شناسه داده‌شده (PID).
start_server -uid UID: راه‌اندازی یک سرور MPS جدید برای کاربر مشخص‌شده (UID).
shutdown_server PID [-f]: خاموش کردن سرور MPS با شناسه مشخص‌شده PID. سرور MPS تنها پس از قطع ارتباط تمامی کلاینت‌ها خارج می‌شود و ممکن است مادامی که کلاینتی متصل است کلاینت‌های جدیدی را بپذیرد. آرگومان -f خاموش‌سازی فوری و اجباری را اعمال می‌کند. اگر کلاینتی کرنل معیوبی را اجرا کند که تا ابد اجرا شود، ممکن است خاموش‌سازی اجباری سرور MPS لازم باشد، چرا که سرور MPS کارهای GPU را از جانب کلاینت‌های خود ایجاد و صادر می‌کند.
get_client_list PID: چاپ فهرستی از شناسه‌های فرایند (PID) تمام کلاینت‌های متصل به سرور MPS با شناسه داده‌شده PID.
quit [-t TIMEOUT]: خاموش کردن فرایند دیمن کنترلی MPS و تمامی سرورهای MPS. دیمن کنترلی در حین انتظار برای به پایان رسیدن کار سرورها و کلاینت‌های کنونی MPS، از پذیرش کلاینت‌های جدید خودداری می‌کند. اگر TIMEOUT (بر حسب ثانیه) تعیین شده باشد، دیمن در صورت در حال اجرا ماندن سرورهای MPS پس از TIMEOUT ثانیه، آن‌ها را به اجبار خاموش خواهد کرد.
این دستور همگام (synchronous) است. رابط کاربری فرانت‌اند منتظر خاموش شدن دیمن می‌ماند و سپس وضعیت خروج دیمن را بازمی‌گرداند. وضعیت خروج تنها و تنها زمانی صفر است که تمامی سرورهای MPS به‌صورت منظم و بدون اشکال خارج شده باشند.
دستورات موجود برای دیمن کنترلی MPS در معماری Volta:
get_device_client_list PID: فهرست کردن دستگاه‌ها و PIDهای برنامه‌های کلاینتی که این دستگاه را شمارش کرده‌اند. این دستور به صورت اختیاری PID نمونه سرور را می‌پذیرد.
set_default_active_thread_percentage percentage: تنظیم درصد پیش‌فرض ریسمان‌های فعال (active thread) برای سرورهای MPS. در صورتی که سروری از قبل ایجاد شده باشد، این دستور تنها بر سرور بعدی تأثیر می‌گذارد. مقدار تنظیم‌شده با اجرای دستور quit از دست می‌رود. مقدار پیش‌فرض ۱۰۰ است.
get_default_active_thread_percentage: استعلام درصد ریسمان‌های فعال در دسترس پیش‌فرض کنونی.
set_active_thread_percentage PID percentage: تنظیم درصد ریسمان‌های فعال برای نمونه سرور MPS با PID داده‌شده. تمامی کلاینت‌هایی که پس از آن روی آن سرور ایجاد شوند از حد جدید پیروی می‌کنند. کلاینت‌های موجود تحت تأثیر قرار نمی‌گیرند.
get_active_thread_percentage PID: استعلام درصد ریسمان‌های فعال در دسترس فعلی نمونه سرور MPS با PID داده‌شده.
set_default_device_pinned_mem_limit dev value: تنظیم حد پیش‌فرض حافظه قفل‌شده (pinned memory) دستگاه برای سرورهای MPS. در صورتی که سروری از قبل ایجاد شده باشد، این دستور تنها بر سرور بعدی تأثیر می‌گذارد. مقدار باید به صورت یک عدد صحیح و به دنبال آن یکی از حروف “G” یا “M” باشد که به ترتیب مقدار را بر حسب گیگابایت یا مگابایت مشخص می‌کند.
get_default_device_pinned_mem_limit dev: استعلام حد پیش‌فرض کنونی حافظه قفل‌شده دستگاه.
set_device_pinned_mem_limit PID dev value: لغو و بازنویسی حد حافظه قفل‌شده دستگاه برای سرور MPS با PID داده‌شده. تمامی کلاینت‌هایی که پس از آن روی آن سرور ایجاد شوند از حد جدید پیروی می‌کنند. کلاینت‌های موجود تحت تأثیر قرار نمی‌گیرند.
get_default_device_pinned_mem_limit PID dev: استعلام حد کنونی حافظه قفل‌شده دستگاه نمونه سرور MPS با PID داده‌شده برای دستگاه dev.
terminate_client server PID client PID: خاتمه دادن به تمامی پردازش‌های در انتظار GPU مربوط به فرایند کلاینت با شناسه client PID مشخص‌شده که بر روی سرور MPS مشخص‌شده با server PID اجرا می‌شود.
ps [-p PID]: گزارش یک تصویر لحظه‌ای (snapshot) از فرایندهای کلاینت کنونی.
set_default_client_priority priority: تنظیم سطح اولویت کلاینت که برای کلاینت‌های جدید استفاده خواهد شد. مقادیر اولویت تنها به عنوان پیشنهاد (hint) به درایور CUDA در نظر گرفته می‌شوند و بسته به بستر اجرایی ممکن است نادیده گرفته شده یا لغو شوند. priority از قاعده‌ای پیروی می‌کند که در آن اعداد کوچک‌تر اولویت‌های بالاتر محسوب می‌شوند و مقدار اولویت پیش‌فرض 0 است. تنها مقدار پشتیبانی‌شده دیگر برای priority عدد 1 است که نشان‌دهنده اولویت پایین‌تر از حد معمول است.
get_default_client_priority: استعلام مقدار اولویت پیش‌فرض کنونی که برای کلاینت‌های جدید استفاده خواهد شد.

محیط (ENVIRONMENT)

CUDA_MPS_PIPE_DIRECTORY: مشخص کردن دایرکتوری حاوی لوله‌های نام‌گذاری‌شده (named pipes) و سوکت‌های دامنه یونیکس (UNIX domain sockets) مورد استفاده برای ارتباط میان بخش کنترل MPS، سرور MPS و کلاینت‌های MPS. مقدار این متغیر محیطی باید در دیمن کنترلی MPS و تمامی فرایندهای کلاینت یکسان باشد. دایرکتوری پیش‌فرض /tmp/nvidia-mps است.
CUDA_MPS_LOG_DIRECTORY: مشخص کردن دایرکتوری حاوی فایل‌های وقایع (log) مربوط به MPS. این متغیر تنها توسط دیمن کنترلی MPS استفاده می‌شود. دایرکتوری پیش‌فرض /var/log/nvidia-mps است.
CUDA_VISIBLE_DEVICES: مشخص کردن دستگاه‌های CUDA که برای دیمن کنترلی قابل مشاهده هستند. یک مقدار عددی شاخص (index) یا UUID دریافت می‌کند.
CUDA_DEVICE_MAX_CONNECTIONS: مشخص کردن تعداد اتصالات ترجیحی بین میزبان (host) و دستگاه (device).
CUDA_MPS_ACTIVE_THREAD_PERCENTAGE: مشخص کردن بخشی از ریسمان‌های در دسترس که کلاینت‌ها می‌توانند در سخت‌افزارهای +Volta از آن استفاده کنند. تنظیم این متغیر برای دیمن کنترلی، درصد پیش‌فرض ریسمان‌های فعال را برای تمام سرورهای ایجادشده تنظیم می‌کند، در حالی که تنظیم آن برای یک کلاینت یا کانتکست کلاینت، درصد ریسمان فعال را برای همان واحد محدود می‌سازد و نمی‌تواند از مقدار تعیین‌شده برای دیمن کنترلی بیشتر باشد.
CUDA_MPS_ENABLE_PER_CTX_DEVICE_MULTIPROCESSOR_PARTITIONING: مشخص کردن اینکه آیا کانتکست‌های مجزای کلاینت اجازه دارند مقادیر متفاوتی برای CUDA_MPS_ACTIVE_THREAD_PERCENTAGE داشته باشند یا خیر.
CUDA_MPS_PINNED_DEVICE_MEM_LIMIT: مشخص کردن مقدار حافظه GPU در دسترس برای فرایندهای کلاینت MPS.
CUDA_MPS_CLIENT_PRIORITY: مشخص کردن مقدار اولویت پیش‌فرض کلاینت در زمان مقداردهی اولیه.

فایل‌ها (FILES)

فایل‌های لاگ ایجادشده توسط دیمن کنترلی MPS در دایرکتوری مشخص‌شده:

control.log: ثبت راه‌اندازی و خاموش شدن دیمن کنترلی MPS، دستورات صادرشده توسط کاربر به همراه نتایج آنها و وضعیت سرورهای MPS.
server.log: ثبت راه‌اندازی و خاموش شدن سرورهای MPS و وضعیت کلاینت‌های MPS.