Lets Run GLM-4.7-REAP - ALL the Intelligence at HALF the RAM? Local AI REVIEW

Lets Run GLM-4.7-REAP - ALL the Intelligence at HALF the RAM? Local AI REVIEW

Testons GLM-4.7-REAP : toute l’intelligence avec la moitié de la RAM ? Avis de Local AI

par xCreate

Sciences formelles & physiques IA — Modèles & Recherche UYQIntelligence artificielle (IA)UYQFIntelligence artificielle générative
🎙 xCreate 👥 26K 📅 25 janvier 2026 ⏱ 10 min 👁 7K 📄 revue d'actualité 🧭 2026-09-09
Disponible en : Français (actuel) English

Mots-clés

GLM-4.7REAPperplexitylocal LLMCerebras

Résumé

Cette vidéo de la chaîne xCreate évalue les versions REAP (Reduced Expert Activation) du modèle GLM-4.7, publiées par Cerebras, promettant une performance quasi identique avec 40% de mémoire en moins. Le présentateur teste deux tailles : 218B et 268B paramètres, sur un Mac Studio M3 Ultra avec 512GB de RAM. Il commence par montrer des générations d’images 3D, où la version REAP 268B semble proche de l’original, mais la 218B est moins bonne. Il mesure ensuite la perplexité : les versions REAP ont des scores (1.5 et 1.8) nettement supérieurs à la version de base Q6 (1.218), indiquant une qualité de prédiction moindre. Des tests de raisonnement (problème du chirurgien, trolley problem) montrent des résultats corrects sur la 268B. Pour la génération de code, il compare une version Q6 avec experts réduits vs la REAP 268B : la REAP produit plus de tokens mais aboutit à un rendu visuel jugé inférieur pour Word et Photoshop. Il note que la REAP utilise seulement 207-213 GiB de RAM contre ~360 pour la version complète, mais que la version complète quantifiée en Q3.9 offre une meilleure perplexité avec moins de mémoire que la REAP. Il conclut en doutant de la promesse de ‘performance quasi identique’, tout en saluant l’effort de réduction mémoire, et espère des améliorations futures.

214 mots

Évaluation critique

Valeur des informations & solidité de l’argumentation

La valeur principale réside dans le test concret et comparatif de deux variantes REAP sur une même configuration matérielle. L’argumentation s’appuie sur des mesures de perplexité, de vitesse d’inférence, d’utilisation mémoire et sur des évaluations qualitatives de rendus 3D ou d’applications bureautiques générées. Toutefois, les tests sont limités en nombre d’échantillons et non standardisés ; la perplexité n’est testée que sur un type de tâche (codage). Le présentateur reconnaît une part de hasard dans les graines de génération. Sa conclusion remet en cause l’affirmation de Cerebras de manière cohérente, mais sans protocole rigoureux. L’usage d’une comparaison avec une version à experts réduits est intéressante mais peu approfondie.

Rigueur scientifique, qualité des sources, adéquation du titre

La rigueur scientifique est moyenne : les résultats sont présentés sous forme de captures et de mesures locales, mais aucune réplication indépendante. Les sources citées se limitent aux liens Hugging Face des modèles testés et à l’application Inferencer, sans référence aux publications officielles de Cerebras. L’adéquation titre/contenu est partielle : le titre suggère une performance conservée à moitié RAM, or les tests montrent une dégradation visible, surtout pour le code. Les commentaires ne sont pas analysés (aucun fourni), donc aucune tendance publique n’est évaluée.

206 mots

Adéquation titre / contenu

Le titre est accrocheur mais partiellement trompeur : la performance n'est pas 'identique' selon les tests, et la RAM réduite est confirmée mais au détriment de la qualité.

Qualité & fiabilité

6/10

Test empirique sur un modèle spécifique, mais méthodologie peu détaillée (perplexité mesurée sur un seul échantillon, tests subjectifs). Sources limitées aux liens Hugging Face et au site de l'app. Les performances mesurées sont reproductibles dans le contexte donné.

Moments clés

Repères établis par PSI à partir de la transcription : le créateur n'a pas défini de chapitres.

Sources citées

  • GLM-4.7-MLX-6.5bit (modèle de base) — Modèle de référence utilisé pour comparer avec les versions REAP
  • GLM-4.7-REAP-218B-A32B-MLX-6.5bit — Version REAP de 218 milliards de paramètres testée
  • GLM-4.7-REAP-268B-A32B-MLX-6.5bit — Version REAP de 268 milliards de paramètres testée
  • Inferencer App — Application utilisée pour exécuter les modèles localement
  • Vidéo sur GLM 4.7 (de base) — Vidéo complémentaire sur GLM 4.7

Sources concordantes

  • GLM-4.7-REAP-268B-A32B-MLX-6.5bit — Les résultats de perplexité obtenus sont cohérents avec l'hypothèse d'une moindre qualité due à l'élagage.

Sources discordantes

  • GLM-4.7-MLX-6.5bit — La version de base montre une perplexité inférieure, indiquant que les affirmations de Cerebras sur une performance identique sont exagérées.

Références externes

Apport & nouveautés

Cette vidéo apporte un retour concret sur l’utilisation des variantes REAP de GLM-4.7, un modèle open-weight récent. Elle documente des mesures pratiques (perplexité, vitesse, mémoire) sur matériel haut de gamme, montrant que la compression par élagage d’experts entraîne une dégradation notable, surtout en génération de code. Elle propose une alternative (quantification de la version complète) qui peut être plus efficace.

Pour aller plus loin :

  • Réduction d’experts dans les MoE — Concepts liés aux modèles à mélange d’experts et élagage.
  • Perplexité (traitement du langage) — Mesure utilisée pour évaluer la qualité de prédiction.
  • Quantification en apprentissage automatique — L’alternative proposée pour réduire la mémoire.
  • Cerebras Systems — Fabricant du matériel, partenaire d’OpenAI (accord de 10 milliards mentionné).

117 mots

Profil radar

Le profil radar montre une note moyenne en quantité d'information et en niveau technique (6/10), mais plus faible en qualité d'information et en fiabilité (5/10), reflétant un contenu basé sur des essais empiriques sans protocole strict.

Fiabilité 5/10