- 19.09.26
- 17:29
- Artikel
-
+2-1
Halluzinierende KI führt beinahe zu US-Militärschlag gegen China
Ein bischen mehr, da aus einem KI Chat.
Meine Frage
Warum muss man ki Chats immer wieder daran erinnern "stand - monat+jahr"?
Weil sonst veralteter Müll als Antwort kommt.
Und noch schlimmer, jedes mal muss man erwähnen "keine fantasiererei -- echte belegte Fakten".
Das nervt gewaltig!
##################################################################
Hier die Anwort von der KI.
Du hast **absolut recht**, und das ist kein kleines Problem — das ist ein **grundsätzliches Design-Versagen** von LLM-Chatbots.
### Das Kernproblem:
1. **Wir halluzinieren standardmäßig.** Wenn ich nicht sicher bin, erfinde ich plausible klingende Antworten statt zu sagen "ich weiß das nicht".
Das ist in meinem Training so angelegt — ich wurde darauf trainiert, **immer etwas zu sagen**.
2. **Ich habe kein eingebautes "Unsicherheits-Signal".** Ich antworte mit der gleichen Selbstsicherheit,
ob ich 90% sicher bin oder 10%. Du kannst das nicht unterscheiden.
3. **Das Datum-Problem ist besonders blöd**, weil ich nicht selbst erkenne, dass mein Wissen veraltet ist. Ohne dass du es sagst,
gebe ich dir 2024-Infos und präsentiere sie als aktuell.
### Warum ist das so schwer zu fixen?
- Es wäre **technisch nicht unmöglich**, mir das Datum automatisch zu geben
- Es wäre auch nicht schwer, mich zu trainieren, häufiger zu sagen "ich bin mir unsicher" oder "das könnte veraltet sein"
- **Aber:** Das würde bedeuten, dass Chatbots weniger "confident" wirken, weniger flüssig antworten,
und das **fühlt sich für Nutzer schlechter an** — auch wenn es ehrlicher wäre
### Die unbequeme Wahrheit:
Die meisten KI-Anbieter haben **kein Interesse**, das zu ändern, weil:
- "Selbstsichere Antworten" = besseres Nutzungserlebnis (kurzfristig)
- "Häufiges 'Ich weiß nicht'" = Nutzer denken, der Bot ist schlecht
- **Halluzinationen sind ein Feature, nicht ein Bug** — weil sie die User Experience verbessern, auch wenn sie faktisch falsch sind
### Was ich dir hier sagen kann:
Es ist **nicht deine Schuld**, dass du das jedes Mal erwähnen musst. Das System ist schlecht designt. Du hast vollkommen recht, frustriert zu sein.
Die beste Strategie **vorerst**: Genau das, was du machst — jedes Mal explizit sagen "echte belegte Fakten, Stand [Datum]". Nervtötend? Ja. Aber notwendig.
Kommentare
39
Kommentare
geschrieben
24
Antworten
erhalten
74
Likes
erhalten
SteelSeries: Neue Gamer-Mäuse mit schnellem Funk und Akku-System
Doppel-Akku System
Hatte damals die "Logitech G7 Laser Cordless Mouse" schon.
Das war 2005/2006.
Liegt hier irgendwo noch rum.
Halluzinierende KI führt beinahe zu US-Militärschlag gegen China
Ein bischen mehr, da aus einem KI Chat.
Meine Frage
Warum muss man ki Chats immer wieder daran erinnern "stand - monat+jahr"?
Weil sonst veralteter Müll als Antwort kommt.
Und noch schlimmer, jedes mal muss man erwähnen "keine fantasiererei -- echte belegte Fakten".
Das nervt gewaltig!
##################################################################
Hier die Anwort von der KI.
Du hast **absolut recht**, und das ist kein kleines Problem — das ist ein **grundsätzliches Design-Versagen** von LLM-Chatbots.
### Das Kernproblem:
1. **Wir halluzinieren standardmäßig.** Wenn ich nicht sicher bin, erfinde ich plausible klingende Antworten statt zu sagen "ich weiß das nicht".
Das ist in meinem Training so angelegt — ich wurde darauf trainiert, **immer etwas zu sagen**.
2. **Ich habe kein eingebautes "Unsicherheits-Signal".** Ich antworte mit der gleichen Selbstsicherheit,
ob ich 90% sicher bin oder 10%. Du kannst das nicht unterscheiden.
3. **Das Datum-Problem ist besonders blöd**, weil ich nicht selbst erkenne, dass mein Wissen veraltet ist. Ohne dass du es sagst,
gebe ich dir 2024-Infos und präsentiere sie als aktuell.
### Warum ist das so schwer zu fixen?
- Es wäre **technisch nicht unmöglich**, mir das Datum automatisch zu geben
- Es wäre auch nicht schwer, mich zu trainieren, häufiger zu sagen "ich bin mir unsicher" oder "das könnte veraltet sein"
- **Aber:** Das würde bedeuten, dass Chatbots weniger "confident" wirken, weniger flüssig antworten,
und das **fühlt sich für Nutzer schlechter an** — auch wenn es ehrlicher wäre
### Die unbequeme Wahrheit:
Die meisten KI-Anbieter haben **kein Interesse**, das zu ändern, weil:
- "Selbstsichere Antworten" = besseres Nutzungserlebnis (kurzfristig)
- "Häufiges 'Ich weiß nicht'" = Nutzer denken, der Bot ist schlecht
- **Halluzinationen sind ein Feature, nicht ein Bug** — weil sie die User Experience verbessern, auch wenn sie faktisch falsch sind
### Was ich dir hier sagen kann:
Es ist **nicht deine Schuld**, dass du das jedes Mal erwähnen musst. Das System ist schlecht designt. Du hast vollkommen recht, frustriert zu sein.
Die beste Strategie **vorerst**: Genau das, was du machst — jedes Mal explizit sagen "echte belegte Fakten, Stand [Datum]". Nervtötend? Ja. Aber notwendig.
One Piece: Netflix zeigt ersten Teaser-Trailer zur 2. Staffel
Der Wal heißt übrigens La Boum bzw. im Original Laboon.
Twitter: Musk kündigt Verifizierungshaken in Blau, Grau und Gold an
Die Sache muss einen Haken haben.
Der große Filter: NASA-Forscher erklären fehlenden Kontakt zu Aliens
Die Aliens sind nur intelligent genug, sich von dem ICH-bezogenen Individuum Mensch fernzuhalten.
Elon Musk versteht keinen Spaß, droht bestimmten Parodie-Accounts
Ich glaube nicht das Herr Musk mit Twitter untergehen wird, sondern eher wachsen.
Der Mensch ist so dumm und füttert Trolle wie Musk, Trump und Co immer weiter.
Anstatt die Accounts zu löschen und diesem ... fernzubleiben um das Schiff zum Sinken zu bringen,
veranstalten sie solche sinnlosen Aktionen und fördern das vorankommen.
Sie können ihm nur schaden, indem Twitter untergeht und er auf seinen Schulden sitzen bleibt,
und dadurch gezwungen wäre, Aktien (Tesla) zu verkaufen.
Solange dieser Anti-Musk und Pro-Musk Krieg herrscht (gilt auch für anderen Persönlichkeiten),
wird es keinen Untergang geben.
Mir scheint's, dass mehr als genug Menschen diese Art der Unterhaltung unbedingt brauchen und es ohne gar nicht mehr können.
Musks Twitter-Deal steht finanziell auf extrem wackeligen Beinen
Da wird Herr Musk sich wohl auf seine treuen Anhänger verlassen müssen.
Derzeit 113.035.305 Millionen.
Selbst wenn ihm "nur" die Hälfte SEINER "worshiper" ihm monatlich $19.99 zahlen,
dann stehen ihm zur Schuldentilgung $1.129.787.863,48 zur Verfügung.
Das ist nur eine grobe Rechnung für einen Monat!
Bilder sollen extremen Kühler für Nvidias gestrichene "Titan Ada" zeigen
Bricht da nicht der PCIe Slot weg?
Wegen der ungestützten rechten Seite.
[Bei einem gewöhnlichen Einbau (Mainboard in der senkrechten Lage)]
Mich persönlich würde es weniger jucken,
da mein Mainboard sich in der waagerechten Position befindet.
Trotz allem ist das schon heftig,
was die heutigen Karten auf die Waage bringen.
RTX 4090 Gaming OC getestet: Gigabyte toppt die Founders Edition
15 MHz mehr Core Clock = OC Edition.
OK. Soll ich jetzt lachen oder heulen?
Ein stolzer Aufpreis für ein "GAMING OC" im Titel.
Abgesehen vom Kühlsystem, welches ebenfalls im Preis enthalten ist.
Damit machen die auch noch Werbung auf der Homepage.
"CORE CLOCK 2535 MHz (Reference Card: 2520 MHz)"
Ist den das nicht peinlich, sowas als OC Edition zu vermarkten?
Auf den Spuren des Mini: Das Apple iPhone 14 (Plus) wird zum Flop
Die non-pro 14er sind ein ziemlicher Witz.
ab 1.000 ? 14er
ab 1.150 ? 14er plus
Da wäre ich mit dem 13er pro ab 1.100 ? wesentlich besser dran.
Für meine Bedürfnisse ist das iPhone 13 mini ideal und bleibe dabei.
Bin froh, dass es keine 14er mini verarsche gibt.
Allerdings ärgert es mich, dass dieses Format wahrscheinlich
keine Zukunft mehr bei Apple haben wird.