Ex-Google-Chef Eric Schmidt: KIs sind so gefährlich wie Atomwaffen

KIs inspirieren Science-Fiction- und Cyberpunk-Autoren seit bereits Jahrzehnten zu so manchen positiven Ideen, aber vor allem auch Schreckensszenarien. Letztere haben sich auch in vielen Köpfen festgesetzt und so warnte nun Ex-Google-CEO Eric ... mehr... DesignPickle, Prozessor, Cpu, Forschung, Chip, Wissenschaft, Ki, Künstliche Intelligenz, AI, Artificial Intelligence, Stockfotos, Science, scientist, Wissenschaftler, Gehirn, Bot, Kopf, Binärcode, Binär, Denken, Hirnsteuerung, Gehirnwellen, Gehirnchip, Künstliches Gehirn, Hirn, Hirnforschung, cyberkinetic, Gedanke, cyberkinetics

DesignPickle, Prozessor, Cpu, Forschung, Chip, Wissenschaft, Ki, Künstliche Intelligenz, AI, Artificial Intelligence, Stockfotos, Science, scientist, Wissenschaftler, Gehirn, Bot, Kopf, Binärcode, Binär, Denken, Hirnsteuerung, Gehirnwellen, Gehirnchip, Künstliches Gehirn, Hirn, Hirnforschung, cyberkinetic, Gedanke, cyberkinetics

Prozessor, Cpu, Forschung, Chip, Wissenschaft, Ki, Künstliche Intelligenz, AI, Artificial Intelligence, Stockfotos, Science, scientist, Wissenschaftler, Gehirn, Bot, Kopf, Binärcode, Binär, Denken, Hirnsteuerung, Gehirnwellen, Gehirnchip, Künstliches Gehirn, Hirn, Hirnforschung, cyberkinetic, Gedanke, cyberkinetics

Diese Nachricht vollständig anzeigen.

Jetzt einen Kommentar schreiben

[o1] am ++3 --

So bizarr empfinde ich den Vergleich eigentlich nicht. KI's könnten in ihrer Gesamtheit sogar noch gefährlicher sein, weil sie nicht nur auf "lokale" Ereignisse beschränkt wären, sondern zeitlich und örtlich absolut uneingeschränkt agieren könnten, sofern die Welt entsprechend vernetzt ist.

Wir sehen jetzt schon, welche Schäden Desinformationskampagnen anrichten können. Und das ist auch der effizienteste Weg, weil die abstrakt zeitlich versetzte Folgewirkung solcher Kampagnen von der Gesellschaft nicht als unittelbare Gefahr wahrgenommen wird. Wie der Frosch im Kochstopf, der nicht merkt, dass es langsam heiß wird.

Wenn sich eine KI dieser asymmetrischen Methoden bedienen würde... Es muss nicht immer alles explodieren. Es reicht ein Volk hinsiechen zu lassen. Macht sich auch besser für die Geschichtsbücher, weil der Aggressor nicht unmittelbar zu benennen ist.

Sperrverträge wird es wohl nicht geben. Die damaligen Generationen haben die Schrecken der Kriege in ihren eigenen Ländern erlebt und waren entsprechend kompromissbereiter. Den heutigen Entscheidungsträgern fehlt diese Demut und Erfahrung.
Es kommt noch dazu, dass sich die extrem schnell entwickelnden privaten Unternehmen (die ja die entsprechenden Technologien maßgeblich vorantreiben) mit den jeweiligen Staaten so eng verflochten sind - eine Kontrollinstanz käme schlicht nicht hinterher.

Bearbeitet am 27.07.22 um 12:33 Uhr.

[o2] am ++1 --2

Alberne Forderung. Was bitte ist denn KI? Eine Atombombe kann man klar definieren, eine KI nicht. Für einen Buchhalter vor 80 Jahren ist eine simple Tabellenkalkulation schon Magie. Sie macht gefühlt seinen Job automatisch, ist so eine Art KI. Selbst für die Generation meiner Eltern sind viele moderne Anwendungen schon eine Art KI, denn der Computer tut etwas was sie nicht überblicken können. Für andere wiederum ist heutige KI kein Stück intelligent, denn Computer erkennen nur Muster. Das aber sehr effektiv. Manchmal nur anders als man sich das wünscht. Statt Eisbären von Autos zu unterscheiden, unterscheidet er, ob der 17. Pixel hell oder dunkel ist. Intelligent ist das nicht, aber undurchschaubar für den Menschen. Und je mehr Daten Computer zum Analysieren bekommen umso effektiver können sie Muster erkennnen und umso unverständlicher wird es für den Menschen zu verstehen was da passiert. Das kann gut oder schlecht sein. Schon heute können Computer besser Krebs diagnostizieren als Fachärzte, besser psychische Veränderungen erkennen als Psychologen, ... aber auch besser überwachen, ... Ja, Computer können große Schäden anrichten, so gesehen hat Eric Schmidt recht. Aber das konnten sie schon immer. Wer erinnert sich an den Film Wargames von 1983, Atomkrieg fast ausgelöst durch Computer. Nicht ganz unrealistisch. Viele Fime in denen Vernetzung eine weltweite Bedrohung auslösen, oftmals auch mit einem wahren Kern. Und das alles ohne KI. Ich kann mit einem Raspberry Pi Menschen töten, wenn ich damit Intensivstationen hacke oder Ampelsteuerungen übernehme. Das kann ich per Programm sogar automatisieren, so dass das alleine hackt. Ganz ohne KI, denn keiner wird behaupten, dass ein Raspberry Pi intelligent ist. Die Angst vor KI ist nur Paranoia. Die Gefahren sind real, aber das unabhängig von KI oder nicht KI. Früher hätte man niemals eine Maschine selbständig einen Defibrillator am Menschen ausführen lassen. Heute sind Herzschrittmacher völlig normal. Selbst Hirnschrittmacher sind schon Jahrzehnte im Einsatz. Man sollte mit dem sinnlosen KI-Angstmachen aufhören und vernünftige Technikfolgenabschätzung machen. Unabhängig von populistischen Begriffen.

[re:1] am ++--

@Nunk-Junge: Solange der (dumme) Mensch eine (schlauere) KI nicht an die Steuerung von Abwehrsystmen und Atomraketenabschussbasen lässt, ist alles gut.
Wargames sollte vielleicht ein kleiner Denkanstoß sein, wenn aufgrund Fehlentscheidungen eine KI deinen Ascheschatten an die Wand projiziert.

Dumme KIs sind z.B. bei Tesla als angeblicher Autopilot verbaut, die einen weißen Laster nicht von einer leeren weißen Werbetafel unterscheiden können.
Oder eine Radfahrerin in den USA, die über die Straße mit dem Fahrrad huscht nicht als Hindernis sieht, um zu bremsen.

Solange KIs das nicht können sind sie ungeeignet für sensible Systeme.

[re:1] am ++2 --

@Belarus: Um dieses 'solange' geht es ja gerade. Wir sind die letzten 40 Jahre vom gerade-mal-1-Mhz-C64 zur heutigen Technik gelangt. Nun lass die Technik durch Machine-Learning noch helfen sich selbst, Prozesse und Automatismen zu verbessern, Rechenleistungen erhöhen und Quantencomputer breit etablieren. 20 Jahre. Wie weit sind echte KIs dann noch weg?

Und dann bauen wir die in Technik von Boston Dynamics ein und nennen das T-Irgendwas.

[re:1] am ++--

@WinYesterday: https://youtu.be/5VygwTBgph4 - ein Privatprojekt...

[re:2] am ++--

@Belarus: Solange...lass mich überlegen: Der US-Präsident kann von überall weltweit über Netz die Atomraketen starten...Netz? Bestimmt nicht öffentlich...aber definitiv überall... was hindert eine KI zu sagen: Ich bin auch der Präsident (frei nach Monty Python)? ...Nichts.

[o3] am ++--1

Gibt es überhaupt irgend eine KI die den Turing-Test bestanden hat?
M.E. verdient erst eine KI diesesn Titel wenn dieser Test bestanden wurden!

Sich im Vorfeld darüber zu Echauffieren ist total Sinn befreit.

[re:1] am ++1 --

@The Grinch: Stimmt. Man geht ja auch erst zum Arzt, wenn man sich in den Fuß geschossen hat und versucht nicht, einen möglichen Unfall im Vorfeld zu verhindern.

[re:2] am ++3 --

@The Grinch: Ja: https://www.spiegel.de/netzwelt/gadgets/eugene-goostman-computer-besteht-erstmals-turing-test-a-974131.html - kann man aber drüber streiten. Es gibt aber lustigerweise Menschen, die den Turing-Test NICHT bestanden haben. Finde nur gerade den Link nicht mehr.

Bearbeitet am 27.07.22 um 17:03 Uhr.