Amazons neuer KI-Chatbot Amazon Q verrät vertrauliche interne Infos

Amazons neuer KI-Chatbot Q steht wegen Problemen mit der Verschwiegenheit und fehlerhaften Antworten in der Kritik. Mitarbeiter des Konzerns schlagen bereits Alarm - der Chatbot ist dabei "erwischt worden", wie er Betriebsgeheimnisse preisgab.

Q leitet unter "schweren Halluzinationen"

Das meldet das Online-Magazin Platformer. Dokumente, die dem Magazin zugespielt wurden, zeigen dabei, dass Q laut den Mitarbeitern unter "schweren Halluzinationen leidet" und vertrauliche Informationen preisgibt, darunter den Standort von AWS-Rechenzentren und interne Rabattprogramme.

Q wird als unternehmenstaugliche Version von ChatGPT von Amazon angepriesen und soll vor allem sicherer sein als Tools, die für Verbraucher gedacht sind. Die internen Dokumente aus der Testphase weisen jedoch auf das Risiko hin, dass Q auch schaden kann, da ungenaue oder falsche Informationen abgeliefert werden.


In einem dieser Dokumente über Probleme mit Q heißt es, dass der Chatbot unter Umständen "halluzinieren und schädliche oder unangemessene Antworten geben kann. Amazon Q könnte so etwa veraltete Sicherheitsinformationen als Antwort zurückgeben, die Kundenkonten gefährden könnten". Solche Probleme sind schon von anderen Sprachmodellen bekannt, es trifft also nicht allein Q.

Amazon spielt nun aber laut dem Bericht die Bedeutung der Kritik aus den Mitarbeitergesprächen herunter und behauptet, dass man derzeit kein Sicherheitsproblem feststellen konnte. Die durchgesickerten Dokumente geben laut Platformer jedoch Anlass zu Bedenken. Q läuft derzeit noch in der Betaphase und ist bislang nicht allgemein verfügbar.

Eine Sprecherin sagte: "Als Ergebnis dieses Feedbacks wurde kein Sicherheitsproblem festgestellt. Wir sind dankbar für alle Rückmeldungen, die wir bereits erhalten haben, und werden Q weiter optimieren, während es von einem Produkt in der Vorschauphase zur allgemeinen Verfügbarkeit übergeht."

Das zeigt nun vor allem, dass es eine große Meinungsverschiedenheit bei Amazon zu geben scheint, wie gut und sicher Q funktioniert.


Siehe auch: