iPod-Erfinder über KI: Ich rede keinen Unsinn, ich bin nicht Sam Altman

Die KI-Entwicklung läuft zu einem guten Teil in eine völlig falsche Richtung - so sieht es zumindest Tony Fadell, der Entwickler des iPods und Gründer von Nest Labs. Die großen Sprach-Modelle seien als "Alleskönner" schlicht nicht geeignet.

KI ist kein Alleskönner

Fadell kritisierte auf der Konferenz TechCrunch Disrupt 2024 das Bestreben, KI-Modelle als "Alleskönner" zu entwickeln. Seiner Meinung nach ziele dies darauf ab, Science-Fiction-Visionen Realität werden zu lassen, während LLMs in Wahrheit oft "Besserwisser" seien. Sie würden in ihrer jetzigen Form schlicht unzuverlässige Ergebnisse liefern.

"LLMs sind großartig für bestimmte Dinge", räumte er ein, aber diese Modelle könnten mit ihren Halluzinationen dennoch gefährliche Fehlinformationen erzeugen. Fadell plädierte daher dafür, spezialisierte KI-Agenten, die klar über ihre Grenzen und Fehler kommunizieren, zu entwickeln.

Auf YouTube ansehen
"Ich möchte wissen, womit ich es zu tun habe", sagte Fadell weiter. Menschen sollten nachvollziehen können, wie die KI arbeitet und wo ihre Schwächen liegen, bevor sie diese für bestimmte Aufgaben einsetzen. Er forderte, dass Regierungen Maßnahmen ergreifen sollten, um Transparenz bei KI-Systemen zu erzwingen. Als warnendes Beispiel führte er aktuelle Berichte aus dem medizinischen Bereich an: Dort hatte ChatGPT in 90 Prozent der Fälle falsche Informationen in Patientenakten generiert. "Solche Fehler können Menschenleben kosten", warnte Fadell.

15 Jahre Erfahrung

Er verwies außerdem darauf, dass er bereits seit Jahren KI-Technologien in seine Produkte integriert und erinnerte an die Entwicklung des intelligenten Nest-Thermostats im Jahr 2011, bei der ebenfalls KI-Algorithmen eingesetzt wurden. Damals, so Fadell, habe man jedoch bewusst vermieden, die Begriffe "KI" oder "Machine Learning" zu verwenden, da dies die Menschen damals noch abgeschreckt hätte. "Heute wollen alle KI überall", fügte er hinzu und verwies darauf, wie stark sich die öffentliche Wahrnehmung verändert habe.

Und um seine Ansichten zu untermauern, hielt er sich auch mit Seitenhieben nicht zurück. "Ich beschäftige mich seit 15 Jahren mit KI - ich rede hier keinen Unsinn. Ich bin nicht Sam Altman, okay?", so Fadell. Die Reaktion des Publikums ließ nicht lange auf sich warten: Verwunderung und einige verhaltene Beifallsrufe folgten seiner klaren Ansage.


Siehe auch: