Sag Hallo zur spannenden Welt großer Sprachmodelle, speziell in Bezug auf die No-Code-Umgebung namens Flowise.
Unser Hauptfokus heute ist das Konzept des ‚Langzeitgedächtnisses‘ innerhalb der Anwendung von Chat GPT. Wenn du Chat GPT betrittst, ist auf der linken Seite eine Spalte gezeigt, die deinen bisherigen Chatverlauf darstellt. Das Aufregende daran ist, dass du mühelos einen Chat fortsetzen kannst, den du schon Wochen zuvor aktiviert hattest. Es ähnelt der typischen Verwendung von WhatsApp, wo der Status deiner Chats erhalten bleibt.
Aber es gibt hier einen Kniff, den du vielleicht nicht erwartest: Chat GPT verfügt nicht wirklich über ein eigenständiges Gedächtnis. Jedes Mal, wenn eine Anfrage gestellt wird, wird Chat GPT den Chatverlauf erneut vorgelegt, um daraus die Antwort zu generieren. Das legt nahe, dass Chat GPT keine Informationen langfristig behält. Stattdessen stellt die Plattform, auf der es läuft, einen temporären Speicher bereit. Dies hat einige Nachteile, zum Beispiel bei Server-Neustarts oder technischen Schwierigkeiten, wo der gesamte Chatverlauf verloren gehen kann.
Aber keine Sorge, es gibt Lösungen. Einige Anbieter bieten sogenannte ‚Langzeitgedächtnisse‘ an, die vergleichsweise preisgünstig sind und es ermöglichen, Informationen über längere Zeiträume zu behalten. Dies ist ideal für kleinere Betriebe oder Hobbynutzer, die nicht viel für Speicherplatz ausgeben wollen.
Nehmen wir als Beispiel das Flowise-Modell ‚Conversation Chain‘ vor. Es verbindet ein Sprachmodell, in diesem Fall GPT 3.5 Turbo, mit einem Backup-Speicher namens ‚Upstash Redis Backup Chat Memory‘. Einige benutzerdefinierte Parameter wie ‚Session ID‘ und ‚Session Timeout‘ können auch eingestellt werden, um den Chatverlauf einer bestimmten Person oder Session zu behalten.
Um dich durch den Prozess zu führen, starten wir eine neue Sitzung und fragen das Modell: ‚Wie heiße ich?‘ Da wir noch keine Session ID oder Session Timeout festgelegt haben, weiß das Modell es nicht.
Aber wenn wir eine Session ID von 120 Sekunden setzen, erinnert sich das Modell an die vorherige Interaktion beim nächsten Mal und antwortet korrekt.
Zusammenfassend, diese Funktion bietet interessante Möglichkeiten, um Chatverläufe zu behalten und individualisierte Erlebnisse zu bieten. Ich bin sicher, du wirst viel Freude daran haben, diese Funktion in Flowise zu erforschen und zu implementieren, so wie ich es getan habe!