Meetup IA Criteo x NVIDIA : des recommandations par LLM à grande échelle

NVIDIA et Criteo montrent en une soirée comment faire passer des recommandations par LLM du prototype à la production. Zakaria Ouzarf et Marius Alonso, de Criteo, expliquent comment ils ont construit un classifieur de pertinence produit sur des modèles open-weight, entièrement sur site : fine-tuning, distillation, quantification et optimisation de l'inférence, avec les impasses et les chiffres. Marek Pikulski, de NVIDIA, présente la pile d'inférence derrière la recommandation générative, dont la beam search et le scoring multi-articles dans TensorRT LLM. Accueil à 18h, présentations dès 18h30, table ronde, puis buffet et boissons. Gratuit, mais l'inscription demande l'accord des organisateurs et l'adresse exacte n'est communiquée qu'après acceptation. L'événement a lieu à Paris. Pourquoi y aller : une occasion rare d'entendre des chiffres de production sur des systèmes de recommandation par LLM tournant sur votre propre matériel. Idéal pour les ingénieurs ML et inférence.