5️⃣ Points clés ici :

Quand on fait tourner l’inférence à grande échelle, la performance ne consiste pas seulement à mettre un meilleur matériel sur le problème.

Qu’est-ce qui fait vraiment la différence ? Des décisions architecturales intelligentes. La session a expliqué comment des choix de conception spécifiques peuvent modifier drastiquement à la fois le débit et la latence — parfois plus que la mise à niveau de vos puces ne pourrait jamais le faire.

C’est un jeu système, pas une course matérielle.