LLM: обучение и использование. 3. Inference LLM

  1. 00:05Квантизация
  2. 24:49Инференс
  3. 36:51VLLM
  4. 59:29Llamacpp
  5. 01:05:26Оценка качества LLM
  6. 01:26:35Выводы
  7. 01:28:27Вопросы слушателей