llama.cpp

Движок для запуска LLM на обычном железе

github.com/ggml-org/llama.cpp ↗
01

Что это

Открытая основа Ollama, LM Studio и многих других: запускает квантованные модели на процессоре, Mac и видеокартах.

02

Теги

  • запустить локально
  • open source
  • открытые модели
  • квантование
  • офлайн
03

Похожие

Hugging Face

Главный хаб открытых моделей

001

Сотни тысяч моделей и датасетов, демо-приложения Spaces и библиотеки для обучения. Точка старта для любой работы с open source.

codingFreemium

Ultralytics

Создатели YOLO для распознавания объектов

002

Популярные открытые модели YOLO для детекции, сегментации и трекинга плюс облачная платформа для обучения на своих данных.

imageFreemium

SuperAnnotate

Настраиваемая разметка для обучения LLM и зрения

003

Конструктор интерфейсов для разметки любых задач, включая оценку ответов моделей, плюс команда асессоров.

modelsПлатный