ObviousIdea ist jetzt auf GitHub, und wir unterstützen lokale KI mit Ollama

vonFabrice Stunden

ObviousIdea ist jetzt auch auf GitHub verfügbar: github.com/obviousidea.

Das ist ein kleiner, aber wichtiger Schritt für uns. GitHub ist ein praktischer Ort, um Code, Beispiele, Issue-Tracking, technische Notizen und kleine Utilities rund um unsere Produkte zu teilen. Außerdem gibt es Entwicklern und fortgeschrittenen Nutzern eine klarere Möglichkeit, dem zu folgen, was wir bauen.

ObviousIdea auf GitHub mit lokaler KI und einer von Ollama inspirierten Workstation

Warum wir Ollama unterstützen

Wir möchten auch unsere Unterstützung zeigen für Ollama. Lokale KI wird zu einer ernsthaften Option für Menschen, die nicht wollen, dass jedes Dokument, jeder Screenshot oder jede technische Anmerkung ihren Computer verlässt.

Lokal

Modelle können auf deinem eigenen Gerät laufen. Das ist nützlich, wenn Ihr Workflow private Screenshots, Kundendaten, interne Tools, juristisches Material oder Quellcode umfasst.

Flexibel

Man kann verschiedene Modelle für unterschiedliche Aufgaben wählen, von kleinen, schnellen Modellen bis zu größeren Modellen, wenn die Hardware es zulässt.

Privat und erschwinglich

Lokale Inferenz kann Cloud-Kosten pro Anfrage vermeiden und die Datenexposition verringern. Für viele Experimente ist es praktisch kostenlos, sobald die Hardware vorhanden ist.

Es gibt einen ehrlichen Vorbehalt: Lokale KI profitiert von starker Hardware. Für gute Leistung unter Windows ist eine neuere NVIDIA-GPU in der Regel der bequemste Weg. Ollamas eigene Hardware-Dokumentation listet NVIDIA-GPU-Unterstützung mit Compute Capability 5.0+ und aktuellen Treibern auf, mit RTX 30xx, 40xx und 50xx Karten unter den unterstützten Familien.

Light Capture lokale KI-Screenshot-Suchillustration ohne eingebetteten Text

Warum das für Light Capture

Unser nächstes Produkt, Light Capture, ist auf Screenshots als echte Arbeitsdateien ausgelegt: Erfassen, Suchen, OCR, Kommentare, Metadaten und Überprüfen. Das führt natürlich zu KI-unterstützten Arbeitsabläufen.

  • Generiere nützliche Tags für Screenshot-Sammlungen.
  • Fasse zusammen, was in einem Screenshot erscheint, ohne ihn an einen Cloud-Dienst zu senden.
  • Verbessern Sie die Suche, indem Sie OCR, Kommentare und lokale KI-Beschreibungen kombinieren.
  • Bewahren Sie sensible Aufnahmen auf dem Rechner des Benutzers auf, wenn Datenschutz wichtig ist.

Cloud-KI wird weiterhin nützlich sein, wenn Geschwindigkeit, Bequemlichkeit oder Modellqualität Priorität haben. Aber lokale KI gibt den Nutzern eine weitere Wahl, und wir denken, dass Entscheidungen wichtig sind.

Folge ObviousIdea auf GitHub

Unsere GitHub-Präsenz finden Sie unter github.com/obviousidea. Wir werden es schrittweise als Standort für entwicklerorientiertes Material, Beispiele und öffentliche technische Arbeit rund um ObviousIdea Produkte nutzen.

Besuchen Sie ObviousIdea auf GitHub
Entdecken Sie Ollama

Quellen: Ollama und Ollama GPU-Dokumentation.