التحميل مجاناً لكن نقدم بعض الخدمات المدفوعة ادعمنا بالإشتراك فيها
حذف الإعلانات وتسريع تصفح المكتبة.
يبدأ التحميل بضغطة زر دون انتظار تجهيز الكتاب.
لا حدود لمرات التحميل.
يمكنك رفع كتب بلا حدود بالمكتبة.
تمكين القراء من تحميل كتبك دون إنتظار.
حذف الاعلانات على الكتب التي تنشرها.
لا مشاكل في روابط التحميل لكتبك المرفوعة.
| مؤلف: | Eng Ahmed Saeed |
| قسم: | الذكاء الصناعي وتعليم الألة [تعديل] |
| اللغة: | الإنجليزية |
| الصفحات: | 42 |
| حجم الملف: | 1.01 ميجا بايت |
| نوع الملف: | |
| تاريخ الإنشاء: | 03 نوفمبر 2026 |
| ترتيب الشهرة: | 898,216 رقم 1 هو الأشهر ! |
| رابط مختصر: | نسخ |
| المزيد من الكتب مثل هذا الكتاب | |
A complete, reproducible inference benchmark of Qwen3.8-27B (Unsloth Dynamic NVFP4) served with vLLM 0.33.0 on a single node with four NVIDIA GeForce RTX 5090 GPUs. The report compares five serving configurations behind one OpenAI-compatible API: single GPU (TP=1), tensor parallel across 2 and 4 GPUs (TP=2, TP=4), data parallel replicas (DP=4), and a hybrid DP=2 × TP=2 layout.
Measured results cover single-user decode speed, short-context throughput sweeps from 1 to 256 concurrent requests, 128K-context concurrency limits, oversubscription and queueing behaviour, time-to-first-token on 128K prompts, maximum bootable context (up to the model’s native 262,144 tokens), needle-in-a-haystack retrieval at ~120K tokens, and a GSM8K accuracy sanity check. A dedicated section analyses multi-token-prediction (MTP) speculative decoding with a depth sweep (k=0 to k=4) and an MTP on/off comparison, showing where speculative decoding helps latency and where it costs throughput.
Key findings include a 3,167 tok/s peak throughput with DP=2 × TP=2, 186.7 tok/s single-user decode with TP=4 (245 tok/s greedy), 17 simultaneous 128K requests on TP=4 with zero preemptions, and the impact of missing GPU peer-to-peer on PCIe-only RTX 5090 cards. Every launch command, server flag, KV-cache size, GPU telemetry sample (utilisation, VRAM, power, temperature), and workaround for FlashInfer FP4 autotune and OOM issues is documented, so the results can be reproduced or adapted to other Blackwell consumer-GPU deployments.
Ideal for ML engineers, MLOps teams, and self-hosters sizing local LLM inference clusters, choosing between tensor and data parallelism, or planning long-context agent workloads on consumer GPUs.
كن أول من يقيم ويراجع ويقتبس من الكتاب
كن أول من يقيم ويراجع ويقتبس من الكتاب
الكتب الإلكترونية هي مكملة وداعمة للكتب الورقية ولا تلغيه أبداً بضغطة زر يصل الكتاب الإلكتروني لأي شخص بأي مكان بالعالم.
قد يضعف نظرك بسبب توهج الشاشة، أدعم ناشر الكتاب بشراءك لكتابه الورقي الأصلي إذا تمكنت من الوصول له والحصول عليه فلا تتردد بشراءه.
أنشر كتابك الآن مجانا
نحن بحاجة لملفات تعريف الارتباط لكي يعمل هذا الموقع. يرجى تمكينها للمتابعة.
نحن نظهر لك هذه الرسالة لأننا نحترم خصوصيتك.
بإستخدامك هذا الموقع أنت توافق لنا على جمع ملفات تعريف الارتباط "الكوكيز" لتقديم تجربة مستخدم أفضل،
المزيد من التفاصيل.
لا يمكن تصفح الموقع طالما رفضت استخدام الكوكيز لأن الموقع يعتمد عليه بشكل أساسي للعمل
الملكية الفكرية محفوظة للمؤلفين المذكورين على الكتب والمكتبة غير مسئولة عن افكار المؤلفين
يتم نشر الكتب القديمة والمنسية التي أصبحت في الماضي للحفاظ على التراث العربي والإسلامي
، والكتب التي يتم قبول نشرها من قبل مؤلفيها.
وينص الإعلان العالمي لحقوق الإنسان على أنه "لكل شخص حق المشاركة الحرة في حياة المجتمع الثقافية، وفي الاستمتاع بالفنون، والإسهام في التقدم العلمي وفي الفوائد التي تنجم عنه. لكل شخص حق في حماية المصالح المعنوية والمادية المترتِّبة على أيِّ إنتاج علمي أو أدبي أو فنِّي من صنعه".