13/13اختباراً ناجحاً
تدقيق واتساب Cloud API وWebhook آمن
أداة تكشف هل ربط واتساب رسمي فعلاً وباسم من، وWebhook يتحقق من توقيع Meta ولا يعالج الرسالة مرتين.
نموذج 35B على بطاقة 4GB: من 6 إلى 37 رمزاً في الثانية
تشخيص بطء نموذج محلي، والسبب لم يكن العتاد بل ذاكرة Swap ممتلئة. ثم ضبط وقياس نحو 20 نموذجاً.
- llama.cpp
- CUDA
- Proxmox LXC
- Python
النتيجة المقاسة
6 → 37
رمزاً في الثانية
المشكلة
نموذج MoE بحجم 35 مليار معامل على سيرفر منزلي ببطاقة GTX 1650 (4GB) كان يولّد 6 رموز في الثانية فقط، وأغلب إعدادات التشغيل معطلة.
ما بنيته
- قياس قبل أي تغيير: الحاوية كانت تستخدم Swap بحجم 4GB ممتلئاً بالكامل، فكان النموذج (21.7GB) يُنقل إلى القرص.
- إزالة الـ Swap ورفع حد الذاكرة وخفض swappiness على المضيف، فارتفعت السرعة من 6 إلى 34 رمزاً في الثانية وحدها.
- إعادة بناء llama.cpp في مجلد منفصل حتى لا يتوقف الإنتاج، ثم ضبط توزيع الطبقات بين البطاقة والمعالج.
- خمس نقاط تشغيل مضبوطة يمكن التبديل بينها، وتقييم جودة الكود لخمسة نماذج بمقاييس مخفية.
النتيجة المقاسة
- سرعة التوليد: من 6.05 إلى 36.8 رمزاً في الثانية. معالجة المدخلات: من 2.57 إلى قرابة 140.
- زمن أول رمز لمدخلات من 12 ألف رمز: من 109.9 إلى 85.7 ثانية (−22%).
- يشغّل الآن مهاماً آلية ليلية بدون أي تكلفة API. وبصراحة: النموذج صحيح في المهام الصغيرة لكنه أبطأ بكثير، وتعثر في مهام متعددة الملفات وبعض النصوص العربية.
تحتاج شيئاً مشابهاً؟
كل دراسات الحالة
30/30مساراً صوتياً، خسارة 0%
سيرفر صوت LiveKit ذاتي الاستضافة لتطبيق Flutter
غرف صوتية على سيرفر خاص بدل الدفع بالدقيقة، بتثبيت بأمر واحد وتوكنات للصوت فقط.
34اختباراً ناجحاً
سيرفر Odoo يعمل بدون إنترنت مع مزامنة للسحابة
يعمل المحل على Odoo محلي دائماً، وخدمة في الخلفية ترفع الفواتير والعملاء للسحابة عند عودة الإنترنت دون تكرار.