Companion und lokale KI¶
Experimentelle lokale Modelle
Die Schreibschutz- und Sicherheitsgrenzen gelten für jeden Provider. Die Leistung der lokalen LiteRT-Modelle hängt vom Android-Gerät und dem verfügbaren Arbeitsspeicher ab.
AI Companion¶
Schreibgeschützte Architektur¶
flowchart LR
DATA[Trackingdaten] --> CTX[Kontextaufbereitung]
CTX --> SNAP[schreibgeschützter Auszug]
SNAP --> SVC[Provider-Service]
SVC --> P1[LiteRT auf dem Gerät]
SVC --> P2[Ollama oder privater Endpunkt]
SVC --> P3[eingerichteter Cloud-Endpunkt]
P1 & P2 & P3 --> VAL[Ausgabe validieren]
VAL --> CHAT[sichtbare Antwort]
VAL --> MEM[optionaler Gedächtnisvorschlag]
MEM -. kein Schreibpfad .-> DATA
Der Provider erhält keinen Datenbankzugriff und keine Werkzeuge zum Ändern von Check-ins, Countern, Rückfällen, Aufgaben oder Einstellungen.
Providerwahl und Freigabe¶
- Aktivierte und konfigurierte Endpunkte werden nach Priorität geprüft.
- Externe Endpunkte benötigen eine ausdrückliche Datenfreigabe.
- Fallback erfolgt nur bei erlaubten technischen Fehlern.
- Ein lokaler Fehler sendet Daten niemals still an einen Server oder Cloud-Anbieter.
- Jeder Endpunkt erhält nur den für das gewählte Kontextbudget zusammengestellten Auszug.
Lokale LiteRT-Profile¶
Der lokale Provider verwendet LiteRT-LM Android und bietet derzeit:
- Gemma 4 E4B mit 2K, 4K oder 8K Gesamtkontext und optionalem Thinking,
- Qwen3 4B Instruct 2507 mit 2K Kontext ohne Thinking.
Modelle werden nur nach ausdrücklicher Aktion heruntergeladen, per SHA-256 geprüft und aus Backups ausgeschlossen. Erzeugte Textstücke können live in die Antwortblase fließen; gespeichert wird nur die vollständige sichtbare Antwort. Interne Gedanken werden nicht als Antworttext gespeichert.
Thinking wird nur bei unterstützten Modellen oder Endpunkttypen angeboten. Die Companion-Einstellungen verwenden für lokale und entfernte Provider denselben Gesprächspfad; der Modelltest prüft zuerst den Providerstatus, statt eine doppelte Statusaktion zu benötigen.
Kontext und lokales Gedächtnis¶
In den Details eines entfernten Endpunkts bietet Denkaufwand für
Llama-kompatible Server Aus, Niedrig, Mittel und Hoch.
Antwort-Zeitlimit (Sekunden, 10–600) bestimmt die Wartezeit auf eine Antwort;
standardmäßig sind es 120 Sekunden. Bisher aktiviertes Thinking bleibt Hoch,
bis es geändert wird. Bei einem langsameren Thinking-Modell Niedrig auswählen,
300 Sekunden eintragen und speichern. Server können den Denkaufwand ignorieren;
natives Ollama unterstützt Abstufungen für gpt-oss, sonst nur Thinking an/aus.
Lokale LiteRT-Regler bleiben unverändert. Ein Zeitlimit wird getrennt von einem
nicht erreichbaren Server gemeldet; Streaming oder PC-Chat werden damit nicht aktiviert.
Unveränderte Trackingauszüge können zehn Minuten im Arbeitsspeicher wiederverwendet werden, getrennt nach Gespräch, Endpunkt und Sprache. Geänderte Einträge, Einstellungen, der lokale Tag oder Notizensuchen erneuern sie. Eindeutige Rückfragen wie „Warum?“ oder „Erklär das“ nutzen den Chatverlauf, ohne erneut die Messreihen zu senden. Unklare oder neue Datenfragen erhalten weiterhin einen begrenzten Trackingauszug. Es entsteht keine neue Datenbank oder Datei. Der Widerruf der Freigabe oder das Deaktivieren der KI leert diesen Zwischenspeicher. Ob ein Server bereits verarbeitete Tokens wiederverwendet, hängt von seiner Cache-Unterstützung ab; eine schnellere Antwort ist nicht garantiert.
Das gewählte Datenbudget begrenzt die gesamte entfernte Anfrage: Systemanweisungen, Frage, Gespräch, Tracking-Auszug, Protokollanteil und Antwortreserve. Bei langen Historien können ältere Tageswerte und Ereignisse entfallen; aktuelle Details und Monatsaggregate werden bevorzugt behalten. Abdeckungsangaben und Anzahlen beschreiben den tatsächlich enthaltenen Auszug; ausgelassene Datensätze können keine Quellen für Belege oder Erinnerungen werden. Gespeicherte Daten bleiben unverändert, und fehlende Werte bleiben unbekannt.
Meldet ein kompatibler Server ein kleineres Kontextlimit, versucht Steady denselben Endpunkt mit weniger Eingabe erneut, höchstens zweimal. Antwortplatz bleibt reserviert; dieser Fehler führt nicht zu einem Cloud-Fallback. Überschreiten bereits geschützte Anweisungen, Frage und Antwort das Budget, fordert die App ein größeres Budget oder kürzere eigene Hinweise an. Die Token-Bemessung ist eine Schätzung, nicht der genaue Tokenizer des Servers.
Der Kontext kann sparse Messreihen, Feldschema, Counter- und Reset-Historie, dynamische Ereignisse, Aufgabenübersichten, Monatsaggregate, ausgewählte Freitexte, bestätigte lokale Erinnerungen und lokale Personenprofile enthalten. Im Recovery-Build mit aktivierten Programmressourcen können zusätzlich ausdrücklich freigegebene Inventar-Einträge einfließen. Ein Coverage-Manifest beschreibt, was vollständig oder gekürzt enthalten war.
Dauerhafte Erkenntnisse können vorgeschlagen und lokal verschlüsselt gespeichert werden. Sie lassen sich in den Einstellungen einsehen, einzeln löschen oder vollständig leeren. Das Deaktivieren des Gedächtnisses löscht vorhandene Einträge nicht stillschweigend.
Kurze Bestätigungen wie „ja“ oder „genau“ setzen ein bestehendes Gespräch fort, ohne automatisch erneut den Tracking-Datenauszug zu senden. Wiederholt ein Provider eine der letzten Antworten nahezu wortgleich, fordert Steady genau einmal eine neue Fortsetzung an. Bleibt auch diese Antwort ein Duplikat, zeigt die App eine kurze transparente Anschlussfrage ohne neue Erinnerungs- oder Quellenvorschläge.
Die lokalen LiteRT-Modelle können Laden, Thinking und sichtbare Antwort als echte Stream-Phasen unterscheiden. Entfernte Llama-/Ollama-Endpunkte arbeiten derzeit nicht streamend; deshalb zeigt Steady dort keinen erfundenen Phasenwechsel anhand eines Timers an.
Öffentliche und Cloud-Endpunkte müssen HTTPS verwenden. Für einen als privat markierten Llama-/Ollama-Endpunkt ist HTTP auf Loopback-, LAN- und privaten VPN-Adressen erlaubt. HTTP verschlüsselt den übertragenen Kontext nicht und sollte deshalb nur in einem vertrauenswürdigen LAN oder über ein verschlüsseltes VPN genutzt werden; Weiterleitungen werden nicht akzeptiert.
Deterministische Sicherheitsgrenze¶
Eine eng begrenzte Menge akuter Hochrisikoformulierungen wird vor einem Provideraufruf durch feste lokale Regeln geprüft. Bei einem Treffer wird eine vordefinierte lokale Antwort verwendet und die Nachricht nicht an den Provider gesendet. Diese Grenze arbeitet deterministisch und unabhängig vom ausgewählten KI-Endpunkt.