Bestenliste

Beste Open-Source Frameworks für On-Device AI · 2026

LLMs und Agenten lokal — auf Laptop, Edge-Device oder air-gapped Servern. Keine Cloud nötig.

  1. 01

    Ollama

    3AGI

    Lokale LLMs als Runtime

    Lokale, private Agent-Stacks ohne Cloud-Abhängigkeit.