Elon Musk teilt aus: Mark Zuckerberg hat von "KIs nur wenig Ahnung"
Leider überwiegen in der technikaffinen Community, sowohl bei Wissenschaftlern, Ingeneuren und SW-Entwicklern, die begeistert das technisch Machbare immer weiter vorantreiben wollen, als auch bei Businessleuten, Managern und Investoren, denen die glitzernden Dollarzeichen aus den Augen springen, unktitische, teilweise naive und/oder verantwortungslose Euphorie und das pure Ignorieren von kritischen Einwänden. Die Haltung "es gibt hier kein Problem, und wenn, dann bekommen wir es in Griff, wie wir das immer auch schon in der Vergangenheit getan haben" ist verständlich und nachvollziehbar. Sie ist dennoch falsch und gefährlich. Ich kann jedem nur empfehlen, ein oder zweimal das Buch von Nick Bostrum zu lesen, um nur mal eine Ahnung davon zu bekommen, wie komplex und derzeit völlig ungelöst das Kontrollproblem bei der Entwicklung von AI ist. Wir wissen es einfach nicht, aber im Gegensatz zu den Gefahren anderer Technologien, wie z. B. der Kernenergie, bei der selbst ein GAU lokal begrenzt bleibt, hat die Menschheit nur einen Versuch bei der Erschaffung von allgemeiner AI, bei der niemand ausschließen kann, dass sie sich in kürzester Zeit zur Superintelligenz entwickelt, die dann möglicherweise nicht mehr zu kontrollieren ist. Allein der Umstand, dass es niemand ausschließen kann, sollte zu mehr Vorsicht, zu mehr Ehrfurcht und zu sehr viel stärkerem Nachdenken und Forschen zu den Risiken von AI führen. Würden Sie in ein Flugzeug steigen, das mit einer Wahrscheinlichkeit von auch nur 10% demnächst abstürzen würde?
Oder würde heute ein Astronom einen Asteroiden auf Kollisionskurs zur Erde entdecken, der vielleicht in 40 Jahren zum Auslöschen allen Lebens auf der Erde führen könnte, würde dann nicht die Menschheit massiv gewaltige Ressourcen für die Verhinderung der Katastrophe freisetzen? Na klar; niemand bei klarem Verstand würde sagen "Es wird schon nicht so schlimm kommen..."
Kommentare
1
Kommentare
geschrieben
0
Antworten
erhalten
0
Likes
erhalten
Elon Musk teilt aus: Mark Zuckerberg hat von "KIs nur wenig Ahnung"
Leider überwiegen in der technikaffinen Community, sowohl bei Wissenschaftlern, Ingeneuren und SW-Entwicklern, die begeistert das technisch Machbare immer weiter vorantreiben wollen, als auch bei Businessleuten, Managern und Investoren, denen die glitzernden Dollarzeichen aus den Augen springen, unktitische, teilweise naive und/oder verantwortungslose Euphorie und das pure Ignorieren von kritischen Einwänden. Die Haltung "es gibt hier kein Problem, und wenn, dann bekommen wir es in Griff, wie wir das immer auch schon in der Vergangenheit getan haben" ist verständlich und nachvollziehbar. Sie ist dennoch falsch und gefährlich. Ich kann jedem nur empfehlen, ein oder zweimal das Buch von Nick Bostrum zu lesen, um nur mal eine Ahnung davon zu bekommen, wie komplex und derzeit völlig ungelöst das Kontrollproblem bei der Entwicklung von AI ist. Wir wissen es einfach nicht, aber im Gegensatz zu den Gefahren anderer Technologien, wie z. B. der Kernenergie, bei der selbst ein GAU lokal begrenzt bleibt, hat die Menschheit nur einen Versuch bei der Erschaffung von allgemeiner AI, bei der niemand ausschließen kann, dass sie sich in kürzester Zeit zur Superintelligenz entwickelt, die dann möglicherweise nicht mehr zu kontrollieren ist. Allein der Umstand, dass es niemand ausschließen kann, sollte zu mehr Vorsicht, zu mehr Ehrfurcht und zu sehr viel stärkerem Nachdenken und Forschen zu den Risiken von AI führen. Würden Sie in ein Flugzeug steigen, das mit einer Wahrscheinlichkeit von auch nur 10% demnächst abstürzen würde?
Oder würde heute ein Astronom einen Asteroiden auf Kollisionskurs zur Erde entdecken, der vielleicht in 40 Jahren zum Auslöschen allen Lebens auf der Erde führen könnte, würde dann nicht die Menschheit massiv gewaltige Ressourcen für die Verhinderung der Katastrophe freisetzen? Na klar; niemand bei klarem Verstand würde sagen "Es wird schon nicht so schlimm kommen..."