Tests et comparatifs

Tests détaillés et comparatifs de matériel grand public.

Rechercher un projet, un skill, du matériel... Rechercher

2 projets trouvés

Tri : Plus récent Meilleure correspondance Le plus populaire Le moins populaire Le plus forké Le moins forké Mis à jour récemment Mis à jour il y a longtemps Le plus vu

Filtres 1

Matériel

128 Go de RAM DDR4 (2) 2 × NVIDIA RTX 3090 (24 Go) (2) AMD EPYC 7401P (24 cœurs) (2) Carte mère GIGABYTE MZ31-AR0 (2) PCIe 3.0 x16 (sans NVLink ni P2P) (2)

Skills

Benchmarking (2) inférence (2) Inférence LLM locale (2) Linux (2) llama.cpp (2) Qengine (2) Quantification (INT4, FP8, GGUF) (2) vLLM (2) Configuration GPU / CUDA (1) Strata (1)

Réinitialiser les filtres ↩ Retirer le dernier filtre

Terminé ⚔️ Comparatif

Qwen 3.8 27B sur 2 RTX 3090 + 128GB de RAM : QEngine, ULTRAMAX, vLLM ou llama.cpp ?

J'ai comparé 4 moteurs pour Qwen 3.8 27B, la version dense du modèle, sur ma machine : 2 RTX 3090 de 24 Go, 128 Go de RAM et un PCIe 3.0. Tout vient de mon banc, avec les mêmes prompts. Deux réserves, que je rappelle à chaque fois : les chiffres ne viennent pas tous de la même session, et la comparaison n'est pas à quantification égale.

Inférence LLM locale Linux Benchmarking +5

• en
• fr

fabz 🧪 🧠 🌱 🏅 32

Terminé ⚔️ Comparatif

Qwen 3.8 Flash Next sur 2 RTX 3090 + 128Go de RAM : QEngine, Strata, vLLM ou llama.cpp ?

J'ai hésité entre ces 4 moteurs pour faire tourner Qwen 3.8 Flash Next (QFN) sur ma machine : 2 RTX 3090 de 24 Go, 128 Go de RAM et un PCIe 3.0. J'ai mesuré moi-même QEngine et Strata. Pour vLLM et llama.cpp, je m'appuie sur les chiffres publiés par d'autres sur des rigs 2×3090.

Inférence LLM locale Linux Configuration GPU / CUDA +7

• en
• fr

fabz 🧪 🧠 🌱 🏅 51