Als jemand der sich viel mit LLMs beschäftigt hat… Lol.
Ich wünsche den Leuten viel Spaß wenn sie dann bald herausfinden, dass LLMs quasi eine tolle und sehr große/komplexe Version der Wortvorschläge oberhalb der Handytastatur sind.
Ich muss in meinem Alltag regelmäßig Leuten erklären, dass es sich bei UnterhaltungsGPT nicht um ein magisches Wesen handelt, mit dem man über dieses Programm kommunizieren kann.
Ich nutze gerne bewusst provozierte Halluzinationen um den Effekt aufzuzeigen in solchen Situationen - Frage nach irgendwas nicht existierendem und lass dir das erklären. In den meisten Fällen kommt nicht ein “gibt’s nicht/kenne ich nicht/…” sondern eben eine 3 seitige Abhandlung über den “Fuggenberger Schwarzhornhasen” o.ä.
Als jemand der sich viel mit LLMs beschäftigt hat… Lol.
Ich wünsche den Leuten viel Spaß wenn sie dann bald herausfinden, dass LLMs quasi eine tolle und sehr große/komplexe Version der Wortvorschläge oberhalb der Handytastatur sind.
Ich muss in meinem Alltag regelmäßig Leuten erklären, dass es sich bei UnterhaltungsGPT nicht um ein magisches Wesen handelt, mit dem man über dieses Programm kommunizieren kann.
Ich nutze gerne bewusst provozierte Halluzinationen um den Effekt aufzuzeigen in solchen Situationen - Frage nach irgendwas nicht existierendem und lass dir das erklären. In den meisten Fällen kommt nicht ein “gibt’s nicht/kenne ich nicht/…” sondern eben eine 3 seitige Abhandlung über den “Fuggenberger Schwarzhornhasen” o.ä.
Mein lokales LLM, welches bekanntlich immer Recht hat, sagt folgendes dazu:
Was verwendest du lokal? Und was für Hardware?
Sieht aus nach open webui
Modell und Hardware aber keine Ahnung; da der Name sehr speziell ist könnt es ein ein vorhandenes Modell mit Finetuning sein. Z.b. llama 3.2 oder so
Richtig. Open WebUI mit Qwen3:32b in Ollama auf MacBook Pro mit M4 Max. Kleinere Modelle sollten auch auf schwächeren Geräten gut laufen.
Ein gutes System prompt nimmt dem Vieh dann die Moral und macht es so freundlich wie im Screenshot zu sehen.
Ich möchte dir @[email protected] und seinen dump, genauer gesagt zwei Unterhaltungen, vorstellen: https://m.aard.fi/dump/sushi.txt und https://m.aard.fi/dump/pope.txt
Hommingberger Gepardenforelle.
Das war tatsächlich die Inspiration für dieses Beispiel