VLLM2PCP(1) General Commands Manual VLLM2PCP(1)

vllmbench2pcp - واردکننده نتایج بنچمارک vLLM

vllmbench2pcp [-hv] [-a archive] [-H hostname] results [...]

دستور vllmbench2pcp یک ابزار واردکننده معیارهای کارایی است که از نتایج JSON یک بنچمارک vLLM، یک آرشیو PCP ایجاد می‌کند.

این آرشیو بازه زمانی فعال بودن بنچمارک و تکرارهای (iterations) اجرای آن را پوشش می‌دهد. معیارهای گسسته PCP برای هر جنبه ثبت‌شده از یک اجرا ایجاد شده و یک بار در آغاز و یک بار در پایان هر تکرار ثبت می‌شوند که به دنبال آن یک رکورد نشانه‌گذاری (mark record) قرار می‌گیرد.

این کار به ابزارهای PCP اجازه می‌دهد تا در کنار سایر معیارهای سیستمی (کرنل، سخت‌افزار، vLLM و غیره) که در طول بنچمارک جمع‌آوری شده‌اند، این معیارها را به شکلی معنادار گزارش کنند.

تنها آرگومان اجباری خط فرمان، فایل JSON مربوط به results از فراخوانی vllm bench است. این فایل JSON می‌تواند به صورت اختیاری با فراداده‌های اضافی Model Furnace بسته‌بندی شده باشد؛ در صورت شناسایی، برچسب‌های اضافی PCP (مانند نام مدل و سرور استنتاج) استخراج و ذخیره خواهند شد.

گزینه‌های موجود در خط فرمان عبارتند از:

نام archive خروجی PCP تولیدی را مشخص می‌کند. به طور پیش‌فرض، نام آرشیو با استفاده از برچسب زمانی آغاز اجرای بنچمارک تعیین خواهد شد.
مقدار hostname را تعیین می‌کند که در سرایند برچسب آرشیو PCP درج خواهد شد.
نمایش پیام راهنما و خروج.
گزارش پیشرفت به محض شناسایی هر اجرا و ذخیره مقادیر آن.

PCPIntro(1), pminfo(1), pmrep(1), LOGARCHIVE(5) و PMNS(5).

PCP Performance Co-Pilot