sh5util(1) Slurm Commands sh5util(1)

sh5util - ابزاری برای ادغام فایل‌های HDF5 افزایهٔ acct_gather_profile جهت گردآوری داده‌های تفصیلی کارهای Slurm

sh5util

دستور sh5util فایل‌های HDF5 تولیدشده در هر گره را برای هر گام از یک کار ادغام کرده و به یک فایل واحد HDF5 برای آن کار تبدیل می‌کند. فایل حاصل را می‌توان با ابزارهای متداول HDF5 مانند HDF5View، h5dump، h5edit یا h5ls مشاهده و دستکاری کرد.

همچنین sh5util دارای دو حالت استخراج است. در حالت نخست، مجموعه محدودی از داده‌ها را برای گره‌ها، گام‌ها و سری‌های دادهٔ مشخص در قالب «مقادیر جداشده با کاما» (CSV) در فایلی می‌نویسد که می‌تواند به سایر ابزارهای تحلیلی مانند صفحات گسترده وارد شود.

حالت دوم، (Item-Extract) یک قلم داده را از یک سری زمانی برای تمام نمونه‌های همه گره‌ها از نمایهٔ HDF5 یک کار استخراج می‌کند.

- نمونه‌ای با بیشترین مقدار آن قلم را می‌یابد.

- یک فایل CSV حاوی مقادیر کمینه (min)، میانگین (ave)، بیشینه (max) و مجموع مقادیر قلم را برای هر گره و به ازای هر نمونه می‌نویسد.

استخراج سری داده از فایل ادغام‌شدهٔ کار.

گزینه‌های حالت استخراج (Extract):
فایل ادغام‌شده برای استخراج از آن (پیش‌فرض ./job_$jobid.h5)
نام گره برای استخراج (پیش‌فرض همه است)
سطحی که سری به آن متصل است (پیش‌فرض Node:Totals)
مقدار Task بیانگر تمام وظایف و Task_# (# شناسهٔ وظیفه است) می‌باشد (پیش‌فرض همه‌چیز است)
چاپ این توضیحات راهنمای استفاده.

استخراج یک قلم داده از تمام نمونه‌های یک سری داده از همه گره‌ها در یک فایل ادغام‌شدهٔ کار.

گزینه‌های حالت استخراج قلم (Item-Extract):
نام قلم داده در سری (یادداشت زیر را ببینید).
قالب به صورت <job[.step]> است. ادغام این کار/گام (یا فهرستی از گام‌های کار جدا شده با کاما). این گزینه الزامی است. عدم تعیین گام منجر به پردازش تمام گام‌های یافت‌شده خواهد شد.

شناسه‌های وظایف آرایه‌ای و شناسه‌های مؤلفه‌های ناهمگن (het) پشتیبانی نمی‌شوند. در عوض از شناسه‌های معمولی کار استفاده کنید:

$ sacct -X -j 5077 --format=JobId,JobIdRaw
JobID        JobIDRaw
------------ ------------
5077_1       5078
5077_2       5079
5077_3       5077
$ sh5util -S -j 5079 # for merging 5077_2 only
sh5util: Merging node-step files into ./job_5079.h5

چاپ اقلام یک سری موجود در فایل کار.

گزینه‌های حالت فهرست (List):
فایل ادغام‌شده برای استخراج از آن (پیش‌فرض ./job_$jobid.h5)
مسیر فایلی که باید در آن نوشته شود. پیش‌فرض برای ادغام ./job_$jobid.h5 است پیش‌فرض برای استخراج ./extract_$jobid.csv است
مکان دایرکتوری که فایل‌های گره-گام در آن قرار دارند؛ مقدار پیش‌فرض در acct_gather.conf تعیین می‌شود.
به جای حذف فایل‌های گره-گام پس از ادغام آن‌ها در فایل کار، آن‌ها را نگه می‌دارد.
نمایش پیام کوتاه نحوه استفاده.
کاربری که کار را پروفایل‌سازی کرده است. (برای کاربر root مناسب است؛ پیش‌فرض کاربری است که این دستور را اجرا می‌کند.)

Power
CPU_Frequency
Reads
Megabytes_Read
Writes
Megabytes_Write
Packets_In
Megabytes_In
Packets_Out
Megabytes_Out
CPU_Frequency
CPU_Time
CPU_Utilization
RSS
VM_Size
Pages
Read_Megabytes
Write_Megabytes

اجرای sh5util یک فراخوانی رویه از راه دور (RPC) به slurmctld ارسال می‌کند. اگر فراخوانی‌های زیادی از سوی sh5util یا سایر دستورات کلاینت Slurm که RPC به دیمن slurmctld ارسال می‌کنند به طور هم‌زمان دریافت شود، می‌تواند منجر به کاهش کارایی دیمن slurmctld و احتمالاً ایجاد وضعیت منع سرویس (DoS) گردد.

دستور sh5util یا سایر دستورات کلاینت Slurm را که فراخوانی رویه از راه دور به slurmctld ارسال می‌کنند، از درون حلقه‌ها در اسکریپت‌های شل یا برنامه‌های دیگر اجرا نکنید. اطمینان حاصل کنید که برنامه‌ها فراخوانی‌های sh5util را به حداقل میزان لازم برای داده‌های مورد نظر محدود می‌سازند.

ادغام فایل‌های گره-گام (به عنوان بخشی از یک اسکریپت sbatch):
$ sbatch -n1 -d$SLURM_JOB_ID --wrap="sh5util --savefiles -j $SLURM_JOB_ID"
استخراج تمام داده‌های وظیفه از یک گره:
$ sh5util -j 42 -N snowflake01 --level=Node:TimeSeries --series=Tasks
استخراج تمام داده‌های انرژی:
$ sh5util -j 42 --series=Energy --data=power

Copyright (C) 2013 Bull.
Copyright (C) 2013-2022 SchedMD LLC.

نرم‌افزار Slurm یک نرم‌افزار آزاد است؛ شما می‌توانید آن را تحت شرایط مجوز عمومی همگانی گنو (GNU General Public License) همان‌طور که توسط بنیاد نرم‌افزارهای آزاد منتشر شده است، چه نسخه ۲ مجوز یا (به انتخاب خودتان) هر نسخه بعدی، بازتوزیع کرده یا تغییر دهید.

نرم‌افزار Slurm به این امید که مفید واقع شود توزیع شده است، اما بدون هرگونه ضمانت؛ حتی بدون ضمانت ضمنی قابلیت فروش یا مناسب بودن برای یک هدف خاص. برای جزئیات بیشتر به GNU General Public License مراجعه کنید.

sreport(1), sacct(1), sbatch(1), acct_gather.conf(5), slurm.conf(5)

Slurm Commands Slurm 26.05