Kontext
@StephaneB verwendet die Aktion « IA fragen » in einer Szene, um eine Nachricht zu generieren, die sich bei jeder Ausführung ändert, z. B.: « Sag mir, dass das heiße Wasser bei {{temperature}} °C bald bereit sein wird, in einem originellen Satz ». Der Wert wird bereits durch eine Variable der Szene injiziert, die KI muss nichts im Haus suchen. Sie dient nur zur Umformulierung.
Festgestelltes Problem
Jede Ausführung dieser Aktion dauert 15 bis 20 Sekunden, unabhängig vom Gerät, das Gladys ausführt.
Nach Analyse der Logs eines Benutzers wird mehr als 95 % der Zeit in Aufrufe des KI-Modells verbracht, und der Ablauf ist immer derselbe:
- Ein erster KI-Aufruf klassifiziert die Anfrage. Sobald eine Temperatur oder ein Gerät erwähnt wird, wird die Anfrage als Frage zum Zustand des Hauses klassifiziert, selbst wenn der Wert bereits im Text steht.
- Aufgrund dieser Klassifizierung zwingt Gladys die KI, mindestens ein Tool aufzurufen. Das Modell wird daher den Zustand zufälliger Geräte lesen, ohne jeden Bezug zur Nachricht. Dies ist der längste Schritt, 8 bis 10 Sekunden.
- Ein zweiter KI-Aufruf verfasst schließlich die Nachricht.
- Manchmal eine zusätzliche Runde: In einem beobachteten Fall hat die KI selbst entschieden, die Nachricht in einen virtuellen Sensor der Installation zu schreiben, was niemand von ihr verlangt hat.
Die Frage umzuformulieren ändert nichts, da dieses Verhalten von Gladys entschieden wird, bevor das Modell den Text des Benutzers liest.
Vorschlag
Ein Kontrollkästchen in der Aktion « IA fragen » des Szeneneditors hinzufügen: « IA den Zugriff auf Geräte und deren Steuerung erlauben ».
Kästchen angekreuzt (aktuelles Verhalten, Standardwert):
- Die KI hat Zugriff auf die Tools von Gladys: Lesen von Zuständen, Steuerung von Geräten, virtuelle Sensoren, Wetter usw.
- Dies ist der Modus, der für Szenen wie « Kamera beobachten und reagieren » oder « Haus überprüfen und mich benachrichtigen » geeignet ist.
Kästchen nicht angekreuzt:
- Gladys führt den Klassifizierungsschritt und die Toolsuche nicht mehr aus.
- Ein einzelner KI-Aufruf wird gesendet, mit der Frage und dem optionalen Kamerabild, ohne jedes Tool.
- Die KI kann daher weder etwas im Haus lesen noch ändern: Die Szene bleibt vorhersehbar.
- Die Antwortzeit sinkt auf 2 bis 4 Sekunden statt 15 bis 20.
Bestehende Szenen werden nicht verändert: Ohne die gespeicherte Option verhalten sie sich so, als wäre das Kästchen angekreuzt.
Vorteile
- Dynamische Nachrichten fast sofort für die häufigste Verwendung dieser Aktion, indem einfach das Kästchen abgewählt wird.
- Garantie für den Benutzer, dass eine einfache Nachrichtenszene niemals seine Geräte beeinflusst.
- Reduzierte Kosten bei Gladys Plus, ein einzelner Aufruf statt drei oder vier.
Was nicht durch dieses Ticket abgedeckt ist
Die manchmal zu breite Klassifizierung der Anfragen durch den Router (z. B. die Kategorie « Szenen » wird gewählt, obwohl der Benutzer bittet, keine Szene zu erstellen) verdient eine separate Verbesserung, da sie auch den Chat betrifft.
