Microsoft entschuldigt sich für seinen Holocaust-leugnenden Chatbot

@Speggn: Super Beitrag! :)

@Niccolo Machiavelli: macht keinen Unterschied. Wenn man es so sieht, dann ist der Bot wohl nur einige Tage alt gewesen und würde für Aussagen, die er selbst tätigt, nicht rechtlich zur Verantwortung gezogen werden. Oder kennst du Fälle, in denen Eltern für Kinder, die weniger als ein Jahr alt sind, haften?

Dass der Chatbot im Prinzip kein Kind ist, dass er autonom lernt - aber möglicherweise rechtswidrige Tweets dazu geführt haben, dass er ausgegeben hat was er ausgegeben hat - sollte eigentlich Grund genug sein hier nicht von Eltern sprechen zu müssen.

Political Correctness ist Zensur. Das steht für mich fest. Ich für meinen Teil leugne gar nichts und unterstütze auch gar nichts - und engagiere mich politisch so wenig wie möglich. Trotzdem bin ich jedes Mal verwundert warum man die Fehler nicht den Menschen oder Menschengruppen zuschreibt, die sie begangen haben (von denen lebt mittlerweile nahezu keiner mehr), und aufhört die ganze Welt dadurch auch nach über 50 Jahren zu erpressen.
Ja es ist passiert, ja es war natürlich falsch, ja die Menschengruppe hat wohl irgendwelche Wiedergutmachung verdient (aber nicht von mir, da ich mit dem ursprünglichen Schaden nie etwas zu tun hatte). Aber diese immer-präsente Geiselhaft nervt.

@divStar: "Oder kennst du Fälle, in denen Eltern für Kinder, die weniger als ein Jahr alt sind, haften?" Das Gesetz macht hier keine Vorgaben bezüglich Alter. Die Eltern haften für Schutzbefohlene, wenn sie die Aufsichtspflicht vernachlässigen.

"Dass der Chatbot im Prinzip kein Kind ist, dass er autonom lernt - aber möglicherweise rechtswidrige Tweets dazu geführt haben, dass er ausgegeben hat was er ausgegeben hat - sollte eigentlich Grund genug sein hier nicht von Eltern sprechen zu müssen."

Das war nur eine Analogie. Das Kind begreift nicht (vollständig), was es tut, genauso wenig der Chatbot. Aber beide handeln autonom. Wenn diese Autonomie dazu führen kann, dass Gesetze verletzt und Regeln gebrochen werden, müssen sie beaufsichtigt werden. Oder glaubst du, Google darf autonomen Autos einfach herumfahren lassen und sich die Hände in Unschuld waschen, wenn sie einen Regelverstoß oder gar Schlimmeres verursachen? Google als Halter haftet in vollem Maße. Mindestens im Rahmen der Regeln zum auskömmlichen Zusammenlebens in Form einer Entschuldigung, bis hin zum wirtschaftlichen Schaden und Schmerzensgeld in voller Höhe. Autonomie der Fahrzeuge hin oder her.

"Trotzdem bin ich jedes Mal verwundert warum man die Fehler nicht den Menschen oder Menschengruppen zuschreibt, die sie begangen haben (von denen lebt mittlerweile nahezu keiner mehr), und aufhört die ganze Welt dadurch auch nach über 50 Jahren zu erpressen."

Genau diese fehlende Differenzierung soll Political Correctness verhindern. Du kritisierst nicht ihre Anwendung sondern ihre Abwesenheit. Das Verbot des Verspotten oder das Leugnen des Holocaustes bezieht sich in keiner Weise auf Lebende, nicht verantwortliche Deutsche, sondern auf Personen, die den Holocaust leugnen, beschönigen, relativieren oder ihn gar als Schablone für das Handeln in anderen Bereichen verwenden wollen. Laut Grundgesetz ist die Würde des Menschen unantastbar. Und diese Handlungen tasten die Würde noch lebender Opfer oder auch von heutigen Menschen, die in das Opferschema fallen zweifellos an. Gegner der Political Correctness stören sich an ihr, eben weil sie *nicht* an differenzierten, zielgenauen Einschätzungen interessiert sind, sondern auf bestem Stammtischniveau Sippenhaft für alle Menschen einer bestimmten Gruppe fordern oder andere wegen irrelevanter Eigenschaften beleidigen.

@HardStyler3: Sie stammten allesamt von Tay und das ist ein "Kind" Microsofts, dessen von Microsoft implementiert Filter und durchgeführte Stressteste nicht im Ansatz ausreichend waren, um den Missbrauch von Tay zu verhindern.

Alles nachlesbar im Oben verlinkten Blogbeitrag von Microsoft.

@Tomarr: Hör doch endlich mal mit den Kind vergleich auf, der ist an den Haaren herbeigezogen, ist mir ja klar wieso man den "Kindchen vergleich" vor sich herträgt, kann ja nur ein Böser Mensch sein der schlecht über ein "Kind" schreibt.
Es gibt keine vergleichende Grundlage mit einen Menschlichen Kind, weder was die Kognitiven Fähigkeiten betrifft noch die des Lernvermögen.
Diese KI ist eine fehlerhafte Software, den Softwarefehler kann man durchaus mit einer Zero-Day-Lücke vergleichen, der jetzt gepacht werden soll, für grundlegende Produktfehler sollte der Hersteller sich entschuldigen, auch wenn das nicht in so mansche Biologische Cloud geht bzw. wegen des Speziellen Herstellers das verweigert wird!

Die KI wurde von Erwachsenen entwickelt, deren Etliche und Moralische Wertungen sollten Grundlage sein bzw. sind sie es, da entsprechende Filter implementiert sind/wurden (laut Microsoft).
Das heißt "Die KI lag schon an der Leine" nur eben nicht ausreichend, dafür und den daraus folgenden Konsequenzen entschuldigt sich Microsoft.

NOCHMAL:
Microsoft hat ein Fehlerhaftes Produkt freigegeben, das dazu genutzt wurde Menschen "zu verletzen", weil Microsoft die Produkthaftung in diesen Fall ernster nimmt steht es auch mittels Entschuldigung dafür ein!

@Kribs: Und andere haben der Software diese negativen Eigenschaften beigebracht weil die Software halt fehlerlos funktioniert, Punkt. Wenn man eine lernfähige KI Programmiert dann ist sie logischerweise von beiderlei Seiten beeinflussbar. Wenn man jetzt der KI erklären würde warum, wieso und weshalb das alles schlecht ist wäre das besser als ein einfacher Index. Weil dann kann nämlich auch ein Diktator kommen und seine Ansichten in der KI vertiefen.

@Tomarr: Zitat: "... weil die Software halt fehlerlos funktioniert, Punkt."
Man, man, man wie kann man nur derartig verbohrt sein, eben genau das Gegenteil ist der Fall!

Sorry, das einzige was an >einer< KI intelligent ist, ist >wenn< nur die Programmierung, bei noch keiner KI konnte ein Turing-Sprung nachgewiesen werden (der Turing-Test (nach Alan Turing) ist sowieso Blödsinn, MI vs. KI) oder besser ausgedrückt, BEI KEINER "KI "KONNTE INTELLIGENZ NACHGEWIESEN WERDEN!

KI´s sind bessere Marionetten, die im Rahmen ihrer Programmierung genau das tun wozu sie geschaffen wurden und NICHTS ANDERES (was ja eine Bedingung für Intelligenz wäre)!

KI`s sind schneller als der Mensch, weil sie Reduziert auf die Umsetzung der Programmierten Befehle ausgelegt sind, was sie bei mangelhafter Programmierung anfällig für Angriffe macht, genau das ist hier geschehen.

Die Fragestellung ist also,
war die missbräuchliche Ausnutzung der fehlerhaften Programmierung voraussehbar,
Eindeutig JA,
denn seit wir mit Programmen umgehen werden diese missbraucht, das ist ein Unumstößlicher FAKT der nicht genug berücksichtigt wurde!

Somit ein Mittelbar Schuldhaftes Verhalten der Tay Programmierer/Entwickler, Q.E.D!

Das man sich für Fehler entschuldigt verlangt zwar kein Gesetz, ist aber eindeutig "Gutes Benehmen"!

*Großschreibung ist kein Schreien sondern nur betonen.