vLLM96,4 bin

vllm-project/vllm

Açık kaynakÜcretsizYapay ZekaKendi sunucunda çalışır

vLLM nedir?

Büyük dil modellerini yüksek verimle sunan çıkarım ve servis motoru. GitHub'da 96.407 yıldızı var ve Yapay Zeka kategorisinde 21. sırada. Kendi sunucuna kurup verini kendin tutabilirsin.

GitHub açıklaması: A high-throughput and memory-efficient inference and serving engine for LLMs

Platformlar

DockerKomut satırı

Yapay Zeka kategorisindeki diğer araçlar

OpenClaw394 bin

Bilgisayarında ve mesajlaşma uygulamalarında görevleri senin yerine yapan kişisel yapay zeka asistanı.

Kendi sunucunda çalışırDockerKomut satırı

Hermes Agent260,8 bin

Kullandıkça öğrenen ve kendini geliştiren, terminalde çalışan yapay zeka ajanı.

Kendi sunucunda çalışırKomut satırı

OpenCode224,8 bin

Terminalde ve masaüstünde kod yazdıran açık kaynaklı yapay zeka kodlama ajanı.

WindowsMacLinuxKomut satırı

AutoGPT187,9 bin

Yapay zeka ajanlarını görsel arayüzle kurup çalıştırmaya yarayan platform.

Kendi sunucunda çalışırWebDocker

Ollama186 bin

Büyük dil modellerini kendi bilgisayarında tek komutla indirip çalıştırmanı sağlar.

Kendi sunucunda çalışırWindowsMacLinuxDockerKomut satırı

Stable Diffusion WebUI165,3 bin

Tarayıcıdan Stable Diffusion ile yerel olarak yapay zeka görselleri üretmenizi sağlar.

Kendi sunucunda çalışırWindowsLinuxWeb

Dify160,5 bin

Yapay zeka uygulamaları, ajanlar ve RAG hatları kurmak için açık kaynaklı platform.

Kendi sunucunda çalışırWebDocker

Open WebUI157,9 bin

Ollama ve OpenAI uyumlu modeller için kendi sunucunda çalışan sohbet arayüzü.

Kendi sunucunda çalışırWebDocker