acct_gather.conf(5) Slurm Configuration File acct_gather.conf(5)

acct_gather.conf - فایل پیکربندی اسلورم برای افزایه‌های acct_gather

فایل acct_gather.conf یک فایل با قالب UTF-8 است که پارامترهای مورد استفاده توسط افزایه‌های مرتبط با acct_gather اسلورم (Slurm) را تعریف می‌کند. این فایل همواره در همان دایرکتوری فایل slurm.conf قرار دارد.

نام پارامترها به حروف بزرگ و کوچک حساس نیستند، اما مقادیر پارامترها به حروف بزرگ و کوچک حساس می‌باشند. هر متنی که پس از علامت "#" در فایل پیکربندی بیاید تا انتهای آن سطر به عنوان توضیح (comment) در نظر گرفته می‌شود. اندازه هر سطر در فایل به ۱۰۲۴ نویسه محدود است.

تغییرات اعمال‌شده در فایل پیکربندی پس از راه‌اندازی مجدد دیمن‌های اسلورم اعمال می‌شوند.

پارامترهای زیر در acct_gather.conf برای کنترل رفتار عمومی افزایه‌های گوناگون در اسلورم تعریف شده‌اند.

فایل acct_gather.conf با سایر فایل‌های conf. اسلورم متفاوت است. هر افزایه مشخص می‌کند که چه گزینه‌هایی در دسترس هستند. هر افزایه‌ای که قرار است بارگذاری شود باید در فایل slurm.conf ذیل ورودی‌های پیکربندی زیر مشخص شود:

• AcctGatherEnergyType (نوع افزایه=acct_gather_energy)
• AcctGatherInterconnectType (نوع افزایه=acct_gather_interconnect)
• AcctGatherFilesystemType (نوع افزایه=acct_gather_filesystem)
• AcctGatherProfileType (نوع افزایه=acct_gather_profile)

اگر افزایه مربوط به یک گزینه بارگذاری نشود، آن گزینه برای اسلورم ناشناخته خواهد بود و باعث می‌شود دیمن در زمان مقداردهی اولیه با خطای مهلک (fatal) متوقف گردد. اگر تصمیم گرفتید انواع افزایه‌ها را در slurm.conf تغییر دهید، حتماً گزینه‌های مرتبط را در acct_gather.conf نیز تغییر دهید.

ورودی الزامی در slurm.conf:

AcctGatherEnergyType=acct_gather_energy/gpu
این افزایه هیچ گزینه‌ای را از acct_gather.conf نمی‌خواند.
مجموعه داده ارائه‌شده توسط افزایه: Energy.

ورودی الزامی در slurm.conf:

AcctGatherEnergyType=acct_gather_energy/ipmi

گزینه‌های مورد استفاده برای acct_gather_energy/ipmi به شرح زیر هستند:

این پارامتر تعداد ثانیه‌های بین نمونه‌برداری‌های دسترسی به BMC است. در حالت ایده‌آل این مقدار باید بزرگتر یا مساوی با JobAcctGatherFrequency باشد، در غیر این صورت افزایه JobAcctGather در نظرسنجی‌های متوالی مقادیر تکراری دریافت خواهد کرد.
در صورت تنظیم روی "yes"، میزان مصرف بین آخرین نمونه دسترسی BMC و به‌روزرسانی مصرف گام، برای به دست آوردن مصرف دقیق‌تر وظیفه تقریب زده می‌شود. این تعدیل در شروع گام و در هر بار به‌روزرسانی مصرف، از جمله پایان گام، انجام می‌شود. تقریب‌ها تجمیع نمی‌شوند و تنها اولین و آخرین تعدیل‌ها برای محاسبه مصرف استفاده می‌شوند. مقدار پیش‌فرض "no" است.
مشخص کردن اختیاری شناسه‌های حسگرهای مورد استفاده. چندین مقدار <key=values> را می‌توان با جداکننده ";" تنظیم کرد. کلید "Node" الزامی است و برای دانستن انرژی مصرفی نودها (scontrol show node) و کارها (sacct) استفاده می‌شود. سایر کلیدها اختیاری هستند و توسط مدیر نام‌گذاری می‌شوند. این کلیدها تنها زمانی مفید هستند که پروفایل برای ذخیره توان (بر حسب وات) هر کلید برای انرژی فعال شده باشد. مقادیر <values> اعداد صحیح هستند، مگر در زمان استفاده از DCMI. چندین مقدار را می‌توان با جداکننده "," تنظیم کرد. مجموع حسگرهای فهرست‌شده برای هر کلید استفاده می‌شود. پارامتر EnergyIPMIPowerSensors اختیاری است و مقدار پیش‌فرض آن "Node=<value>" است که در آن "<value>" شناسه اولین حسگر توان بازگردانده‌شده توسط ipmi-sensors است.
برای نمونه:
EnergyIPMIPowerSensors=Node=16,19,23,26;Socket0=16,23;Socket1=19,26;SSUP=23,26;KNC=16,19
EnergyIPMIPowerSensors=Node=29,32;SSUP0=29;SSUP1=32
EnergyIPMIPowerSensors=Node=1280

رابط مدیریت مرکز داده (DCMI) - افزایه acct_gather_energy/ipmi از جمع‌آوری داده‌های توان از طریق دستورات توسعه‌یافته DCMI IPMI پشتیبانی می‌کند. در صورت پیکربندی، افزایه ipmi با توجه به پیکربندی، با استفاده از پرچم‌های "System Power mode" یا "Enhanced System Power Statistics mode" از DCMI استعلام می‌گیرد.

برای پیکربندی هر یک، می‌توان از مقادیر حسگر ویژه DCMI یا DCMI_ENHANCED استفاده کرد، برای مثال:
EnergyIPMIPowerSensors=Node=DCMI
EnergyIPMIPowerSensors=Node=DCMI_ENHANCED

پارامترهای زیر در acct_gather.conf برای کنترل مقادیر پیش‌فرض پیکربندی IPMI برای libipmiconsole تعریف شده‌اند.

مشخص کردن نام کاربری BMC.
مشخص کردن گذرواژه BMC.
مجموعه داده‌های ارائه‌شده توسط افزایه نامی به صورت <IPMI_SENSOR_LABEL>Power دارند.

این افزایه نیازمند نصب بودن فایل‌های توسعه freeipmi و قابلیت پیوند به آن‌ها در زمان پیکربندی (configure) است. در غیر این صورت افزایه کامپایل و ساخته نخواهد شد. هنگام ساخت RPM می‌توان rpmbuild ... --with freeipmi را مشخص کرد تا این وابستگی‌ها به طور صریح بررسی شوند.

ورودی الزامی در slurm.conf:

AcctGatherEnergyType=acct_gather_energy/rapl
این افزایه هیچ گزینه‌ای را از acct_gather.conf نمی‌خواند.
مجموعه داده ارائه‌شده توسط افزایه: Power.

ورودی الزامی در slurm.conf:

AcctGatherEnergyType=acct_gather_energy/xcc

گزینه‌های مورد استفاده برای acct_gather_energy/xcc تنها شامل ارتباطات درون‌باندی با کنترلر XClarity هستند، از این رو مجموعه پیکربندی‌های کمتری پشتیبانی می‌شود:

این پارامتر تعداد ثانیه‌های بین نمونه‌های دسترسی به XCC است. مقدار پیش‌فرض ۳۰ ثانیه است.
زمان انتظار (بر حسب ثانیه) برای مقداردهی اولیه بستر IPMI XCC برای یک ریسه جدید جمع‌آوری. مقدار پیش‌فرض ۱۰ ثانیه است.
مجموعه داده‌های ارائه‌شده توسط افزایه: Energy, CurrPower.

ورودی الزامی در slurm.conf:

AcctGatherFilesystemType=acct_gather_filesystem/lustre
این افزایه هیچ گزینه‌ای را از acct_gather.conf نمی‌خواند.
مجموعه داده‌های ارائه‌شده توسط افزایه: Reads, ReadMB, Writes, WriteMB.

ورودی الزامی در slurm.conf:

AcctGatherProfileType=acct_gather_profile/hdf5

گزینه‌های مورد استفاده برای acct_gather_profile/hdf5 به شرح زیر هستند:

این پارامتر مسیر پوشه اشتراکی است که افزایه acct_gather_profile داده‌های دقیق را درون آن می‌نویسد (معمولاً به عنوان یک فایل HDF5). فرض می‌شود این دایرکتوری روی یک سیستم‌فایل مشترک میان کنترلر و تمام نودهای محاسباتی قرار دارد. این یک پارامتر الزامی است.
فهرستی جدا شده با کاما از انواع داده‌ها که برای ارسال هر کار جمع‌آوری می‌شوند. مقادیر مجاز عبارتند از:
تمام انواع داده‌ها جمع‌آوری می‌شوند. (نمی‌تواند با سایر مقادیر ترکیب شود.)
هیچ نوع داده‌ای جمع‌آوری نمی‌شود. این حالت پیش‌فرض است. (نمی‌تواند با سایر مقادیر ترکیب شود.)
داده‌های انرژی جمع‌آوری می‌شوند.
داده‌های سیستم‌فایل (Lustre) جمع‌آوری می‌شوند.
داده‌های شبکه (InfiniBand) جمع‌آوری می‌شوند.
داده‌های وظیفه (ورودی/خروجی، حافظه و...) جمع‌آوری می‌شوند.

ورودی الزامی در slurm.conf:

AcctGatherProfileType=acct_gather_profile/influxdb

افزایه InfluxDB همان اطلاعات افزایه HDF5 را فراهم می‌کند اما در عوض اطلاعات را به سرور پیکربندی‌شده InfluxDB ارسال می‌نماید.

افزایه InfluxDB بر اساس پروتکل نسخه 1.x از InfluxDB طراحی شده است. هر سایتی که از سرور v2.x اینفلاکس‌دی‌بی استفاده می‌کند باید یک نقطه پایانی سازگاری با v1.x به همراه احراز هویت کاربری و رمز عبور صحیح پیکربندی نماید. احراز هویت با توکن در حال حاضر پشتیبانی نمی‌شود.

نام پایگاه‌داده InfluxDB v1.x که اطلاعات پروفایل‌سازی قرار است در آن نوشته شود. نام باکت (bucket) در InfluxDB v2.x که اطلاعات پروفایل‌سازی در آن نوشته می‌شود.
فهرستی جدا شده با کاما از انواع داده‌ها که برای ارسال هر کار جمع‌آوری می‌شوند. مقادیر مجاز عبارتند از:
تمام انواع داده‌ها جمع‌آوری می‌شوند. نمی‌تواند با مقادیر دیگر ترکیب شود.
هیچ داده‌ای جمع‌آوری نمی‌شود. این مقدار پیش‌فرض است. نمی‌تواند با مقادیر دیگر ترکیب شود.
داده‌های انرژی جمع‌آوری می‌شوند.
داده‌های سیستم‌فایل (Lustre) جمع‌آوری می‌شوند.
داده‌های شبکه (InfiniBand) جمع‌آوری می‌شوند.
داده‌های وظیفه (ورودی/خروجی، حافظه و...) جمع‌آوری می‌شوند.
فهرستی جدا شده با کاما از برچسب‌های اضافی برای الحاق به هر اندازه‌گیری InfluxDB. نیازمند تنظیم ProfileInfluxDBFlags=grouped_fields است. برچسب‌های معتبر عبارتند از:
نام کلاستر اسلورم.
شناسه SLUID کار.
شناسه کاربری (UID) کاربری که کار را اجرا کرده است.
نام کاربری کاربری که کار را اجرا کرده است.
فهرستی جدا شده با کاما از پرچم‌هایی که رفتار افزایه InfluxDB را تنظیم می‌کنند. پرچم‌های معتبر عبارتند از:
انتشار تمام فیلدها از یک نمونه منفرد در قالب یک خط اندازه‌گیری InfluxDB، به طوری که نام مجموعه داده (مانند "task"، "network"، "filesystem"، "energy") به عنوان اندازه‌گیری در نظر گرفته می‌شود، به جای یک اندازه‌گیری به ازای هر فیلد. این کار باعث کاهش کاردینالیتی سری‌های InfluxDB شده و ابهام ناشی از نام‌های یکسان فیلدها از افزایه‌های مختلف را برطرف می‌کند.
میزان تناوب ارسال داده‌ها به سرور InfluxDB بر حسب ثانیه. توجه داشته باشید که در عمل، داده‌های پروفایل زودتر از هر JobAcctGatherFrequency ثانیه یک‌بار ارسال نخواهند شد. مقدار 0 بافرینگ در افزایه را غیرفعال می‌کند تا داده‌ها به محض جمع‌آوری به سرور InfluxDB ارسال شوند. در تمامی موارد، هر زمان که بافر داخلی افزایه پر شود و در پایان هر گام کار، داده‌ها به InfluxDB ارسال می‌گردند. مقدار پیش‌فرض ۳۰ ثانیه است.
نام میزبان ماشینی که نمونه InfluxDB روی آن اجرا می‌شود و درگاه مورد استفاده توسط HTTP API. درگاه مورد استفاده توسط HTTP API همان موردی است که از طریق گزینه bind-address فایل influxdb.conf در بخش [http] پیکربندی شده است. مثال: 
ProfileInfluxDBHost=myinfluxhost:8086

گذرواژه نام کاربری پیکربندی‌شده در ProfileInfluxDBUser. در InfluxDB v2.x الزامی و در v1.x اختیاری است.
نام خط‌مشی نگهداری (retention policy) در InfluxDB v1.x برای پایگاه‌داده پیکربندی‌شده در گزینه ProfileInfluxDBDatabase. اگر تنظیم نشود، InfluxDB در خط‌مشی نگهداری پیش‌فرض می‌نویسد.

برای InfluxDB v2.x، این مقدار به نقطه پایانی سازگاری v1 موسوم به /write ارسال می‌شود و همراه با ProfileInfluxDBDatabase، نگاشت DBRP را انتخاب می‌کند که به یک باکت v2 منتهی می‌شود. نسخه‌های جدید v2.x به صورت خودکار یک نگاشت پیش‌فرض DBRP برای هر باکت ایجاد می‌کنند، بنابراین خالی گذاشتن این گزینه معمولاً کافی است.

نام کاربری InfluxDB که باید برای دسترسی به پایگاه‌داده پیکربندی‌شده در ProfileInfluxDBDatabase استفاده شود. در v2.x الزامی و در v1.x اختیاری است. این گزینه تنها در صورتی نیاز است که InfluxDB v1.x با احراز هویت فعال در بخش پیکربندی [http] تنظیم شده باشد و حداقل دسترسی WRITE روی پایگاه‌داده به کاربر داده شده باشد. همچنین ProfileInfluxDBPass را ببینید.
حداکثر زمان بر حسب ثانیه که یک پرس‌وجوی HTTP به سرور InfluxDB می‌تواند طول بکشد. پس از این مهلت، داده‌ها کنار گذاشته می‌شوند. توجه داشته باشید که زمان انتظار طولانی در صورتی که سرور InfluxDB پاسخ ندهد می‌تواند نودهای شما را تخلیه کند، و در زمان خاتمه کار، ارسال آخرین مجموعه داده بیشتر از UnkillableStepTimeout طول بکشد. از نظر داخلی، این گزینه پارامتر کتابخانه‌ای CURLOPT_TIMEOUT را تنظیم می‌کند. پیش‌فرض ۱۰ ثانیه است.

این افزایه نیازمند نصب فایل‌های توسعه libcurl و امکان پیوند به آن در زمان کامپایل و پیکربندی است. در غیر این صورت افزایه ساخته نخواهد شد.

اطلاعات درباره نحوه نصب و پیکربندی InfluxDB و مدیریت پایگاه‌های داده، خط‌مشی‌های نگهداری و موارد مشابه در وب‌سایت رسمی آن در دسترس است.

اطلاعات جمع‌آوری‌شده از هر نود محاسباتی که کاری روی آن اجرا می‌شود به نمونه InfluxDB گوش‌دهنده روی ProfileInfluxDBHost نوشته می‌شود. به منظور جلوگیری از بارگذاری بیش‌ازحد روی نمونه InfluxDB با درخواست‌های اتصال ورودی، این افزایه از یک بافر داخلی استفاده می‌کند که با نمونه‌ها پر می‌شود. هنگامی که بافر پر شد، یک درخواست نوشتن HTTP API انجام شده و بافر برای نگهداری نمونه‌های بعدی خالی می‌شود. یک درخواست نهایی نیز هنگامی که یک وظیفه پایان می‌یابد، حتی اگر بافر پر نباشد، انجام می‌گیرد.

درخواست‌های ناموفق نوشتن HTTP API بدون هشدار دور ریخته می‌شوند. این بدان معناست که اطلاعات پروفایل جمع‌آوری‌شده در بافر افزایه در صورتی که به هر دلیلی نتواند در پایگاه‌داده InfluxDB نوشته شود، از دست می‌رود.

پیام‌های افزایه همراه با گزارش‌های slurmstepd در SlurmdLogFile ثبت می‌شوند. به منظور عیب‌یابی هرگونه مشکل، توصیه می‌شود موقتاً سطح اشکال‌زدایی slurmd را به debug3 افزایش داده و Profile را به پرچم‌های اشکال‌زدایی اضافه کنید. این کار می‌تواند به ترتیب با تنظیم گزینه‌های SlurmdDebug و DebugFlags در slurm.conf یا به صورت پویا از طریق دستورات scontrol setdebug و setdebugflags انجام شود.

از گرافانا (Grafana) می‌توان برای ایجاد نمودارها بر اساس داده‌های نگهداری‌شده توسط InfluxDB استفاده کرد. این نوع ابزار امکان ساخت داشبوردها، جداول و سایر گرافیک‌ها را با استفاده از سری‌های زمانی ذخیره‌شده فراهم می‌کند.

ورودی الزامی در slurm.conf:

AcctGatherInterconnectType=acct_gather_interconnect/ofed

گزینه‌های مورد استفاده برای acct_gather_interconnect/ofed به شرح زیر هستند:

این پارامتر نشان‌دهنده شماره پورت کارت اینفینی‌باند محلی است که مایل به نظارت بر آن هستیم. درگاه پیش‌فرض 1 است.
مجموعه داده‌های ارائه‌شده توسط افزایه: PacketsIn, PacketsOut, InMB, OutMB

ورودی الزامی در slurm.conf:

AcctGatherInterconnectType=acct_gather_interconnect/sysfs

گزینه‌های مورد استفاده برای acct_gather_interconnect/sysfs به شرح زیر هستند:

فهرستی از نام‌های رابط‌ها که با کاما از هم جدا شده‌اند تا آمارها از آن‌ها جمع‌آوری شود. میزان مصرف از تمامی رابط‌های فهرست‌شده با یکدیگر جمع بسته می‌شود و به صورت جداگانه تفکیک نمی‌گردد.
مجموعه داده‌های ارائه‌شده توسط افزایه: PacketsIn, PacketsOut, InMB, OutMB 

###
# Slurm acct_gather configuration file
###
# Parameters for acct_gather_energy/impi plugin
EnergyIPMIFrequency=10
EnergyIPMICalcAdjustment=yes
#
# Parameters for acct_gather_profile/hdf5 plugin
ProfileHDF5Dir=/app/slurm/profile_data
# Parameters for acct_gather_interconnect/ofed plugin
InfinibandOFEDPort=1

Copyright (C) 2012-2013 Bull. Copyright (C) 2012-2022 SchedMD LLC. Produced at Bull (cf, DISCLAIMER).

این فایل بخشی از اسلورم (Slurm)، یک برنامه مدیریت منابع است. برای جزئیات بیشتر به https://slurm.schedmd.com مراجعه کنید.

نرم‌افزار اسلورم یک نرم‌افزار آزاد است؛ شما می‌توانید آن را تحت شرایط مجوز عمومی همگانی گنو (GNU GPL) که توسط بنیاد نرم‌افزار آزاد منتشر شده است، چه نسخه ۲ مجوز یا (به انتخاب خودتان) هر نسخه بعدی، مجدداً توزیع کرده و/یا تغییر دهید.

اسلورم با این امید توزیع شده است که مفید واقع شود، اما بدون هیچ‌گونه ضمانتی؛ حتی بدون ضمانت ضمنی قابلیت فروش یا تناسب با یک هدف خاص. برای جزئیات بیشتر به مجوز عمومی همگانی گنو مراجعه کنید.

slurm.conf(5)

Slurm Configuration File Slurm 26.05