"Эффективные модели и оптимизация LLM". Лекция Егора Швецова
Лекция от приглашённого эксперта: "Эффективные модели и оптимизация LLM". Докладчик: Егор Швецов – Руководитель направления Центра ИИ Сколтеха. 00:00:01 О лекторе и теме лекции 00:02:25 Motivation:Computation cost 00:20:29 Software meets Hardware 00:29:02 Data types 00:45:10 Quantization 01:19:31 Mixed precision 01:47:41 Binarization 01:53:01 What is next 01:53:32 Sparsification 02:01:43 Pruning Vs. Quantization? 02:07:04 LLM sparsification Презентация: https://docs.google.com/presentation/d/16sLQ3zx0V-YDh3WW1u6Jifm_DgFqou3M/edit?usp=sharing&ouid=106186252606111113086&rtpof=true&sd=true
Лекция от приглашённого эксперта: "Эффективные модели и оптимизация LLM". Докладчик: Егор Швецов – Руководитель направления Центра ИИ Сколтеха. 00:00:01 О лекторе и теме лекции 00:02:25 Motivation:Computation cost 00:20:29 Software meets Hardware 00:29:02 Data types 00:45:10 Quantization 01:19:31 Mixed precision 01:47:41 Binarization 01:53:01 What is next 01:53:32 Sparsification 02:01:43 Pruning Vs. Quantization? 02:07:04 LLM sparsification Презентация: https://docs.google.com/presentation/d/16sLQ3zx0V-YDh3WW1u6Jifm_DgFqou3M/edit?usp=sharing&ouid=106186252606111113086&rtpof=true&sd=true