Mot-clé : inference-speed
-
Carnet de fondateurJ’ai passé un mois à essayer de remplacer les modèles qui écrivent notre code
Pendant un mois, j’ai essayé des modèles open-weight dans notre pipeline de développement. Entre les limites de raisonnement, les formats de réponse et le comportement des fournisseurs, le changement m’a demandé plus de travail que prévu. Ce sont des notes de juin, sans benchmark de coûts.
Mis à jour le
Lire la suite →