Rbitnet

Eine lokale Inferenzengine in Rust.

Loïc / azerothl
Entdecken
Kategorie
KI und Agenten
Entwickelt von
Loïcazerothl
Plattform
OrdinateurServeur local
Verfügbarkeit
Selbst gehostet
Projekt
Öffentlicher Quellcode

Über diese App

Rbitnet bietet eine lokale Inferenzengine in Rust und einen OpenAI-API-kompatiblen HTTP-Server. Es lädt GGUF-Modelle entsprechend den in der Dokumentation unterstützten Architekturen.

Es dient unter anderem als lokale Engine für Akasha. Das Repository veröffentlicht Versionen und Anleitungen zur Ausführung oder Integration in andere Werkzeuge.

Was du machen kannst

  • Exécuter les modèles GGUF pris en charge.
  • Exposer une API HTTP compatible avec OpenAI.
  • Utiliser un moteur local depuis Akasha.