Existenzielle Bedrohung? Pionier LeCun: KI dümmer als eine Hauskatze
@KnolleJupp: Die Asimovschen Gesetze, kenn ich :-). Auch hier: Du sagst "Solange es keine technische Möglichkeit gibt, diese Gesetze zu ignorieren...". Gegenfrage: Gibt es denn eine technische Möglichkeit, diese Gesetze durchzusetzen?
Die heutigen - eben wirklich dummen - KIs lassen sich relativ leicht übertölpeln und zu Aktionen / Aussagen überreden, die eigentlich "verboten", bzw. nicht vorgesehen sind. Das heisst, dass die - vermutlich einiges einfacher gestrickten, als diejenigen Asimovs - heutigen Regeln, die einem LLM auferlegt werden ebenfalls technisch nicht bis ins letzte durchgesetzt werden können. Trotzdem können diese KIs auch schon einiges. Und das ist es was ich meine. Wenn du eine solche - eben nicht gerade besonders schlaue - KI in Kombination mit Regeln, die wir zum jetzigen Zeitpunkt eben nicht durchsetzen können nimmst und mit Hardware kombinierst, die mit der Umwelt nicht nur interagieren, sondern auch Schaden anrichten kann, kann das möglicherweise schon ausreichend sein für ein Desaster.
Das heisst, wenn die Robotik jetzt schnellere Fortschritte macht als die KIs (bzw. vor allem die Reglementierung im Sinne Asimovs), kann eine dumme KI möglicherweise gefährlicher sein als eine intelligente KI. Nur rein hypothetisch.
Zu deiner anderen Aussage, ob eine software ein Bewusstsein entwickeln kann: Das ist eine Frage der Philosophie und der Auslegung. Ich persönlich denke, dass wir uns nicht zu viel auf unser grosses komplexes Gehirn einbilden sollten. Letztendlich ist es nur eine Frage der Zeit, bis wir genügend Rechenpower bereitstellen können um KIs mit entsprechender Komplexität betreiben zu können, dass eben dies möglich sein wird. Aber wie gesagt, ich glaube nicht zwingend, dass das Vorhandensein von Intelligenz bedrohlich werden kann, sondern eher die Abwesenheit eben dieser.
Kommentare
3
Kommentare
geschrieben
3
Antworten
erhalten
2
Likes
erhalten
Existenzielle Bedrohung? Pionier LeCun: KI dümmer als eine Hauskatze
@KnolleJupp: Die Asimovschen Gesetze, kenn ich :-). Auch hier: Du sagst "Solange es keine technische Möglichkeit gibt, diese Gesetze zu ignorieren...". Gegenfrage: Gibt es denn eine technische Möglichkeit, diese Gesetze durchzusetzen?
Die heutigen - eben wirklich dummen - KIs lassen sich relativ leicht übertölpeln und zu Aktionen / Aussagen überreden, die eigentlich "verboten", bzw. nicht vorgesehen sind. Das heisst, dass die - vermutlich einiges einfacher gestrickten, als diejenigen Asimovs - heutigen Regeln, die einem LLM auferlegt werden ebenfalls technisch nicht bis ins letzte durchgesetzt werden können. Trotzdem können diese KIs auch schon einiges. Und das ist es was ich meine. Wenn du eine solche - eben nicht gerade besonders schlaue - KI in Kombination mit Regeln, die wir zum jetzigen Zeitpunkt eben nicht durchsetzen können nimmst und mit Hardware kombinierst, die mit der Umwelt nicht nur interagieren, sondern auch Schaden anrichten kann, kann das möglicherweise schon ausreichend sein für ein Desaster.
Das heisst, wenn die Robotik jetzt schnellere Fortschritte macht als die KIs (bzw. vor allem die Reglementierung im Sinne Asimovs), kann eine dumme KI möglicherweise gefährlicher sein als eine intelligente KI. Nur rein hypothetisch.
Zu deiner anderen Aussage, ob eine software ein Bewusstsein entwickeln kann: Das ist eine Frage der Philosophie und der Auslegung. Ich persönlich denke, dass wir uns nicht zu viel auf unser grosses komplexes Gehirn einbilden sollten. Letztendlich ist es nur eine Frage der Zeit, bis wir genügend Rechenpower bereitstellen können um KIs mit entsprechender Komplexität betreiben zu können, dass eben dies möglich sein wird. Aber wie gesagt, ich glaube nicht zwingend, dass das Vorhandensein von Intelligenz bedrohlich werden kann, sondern eher die Abwesenheit eben dieser.
Existenzielle Bedrohung? Pionier LeCun: KI dümmer als eine Hauskatze
Naja, vielleicht ist Intelligenz ja auch nicht der einzige Knackpunkt. Eine Katze ist intelligent genug, um zu wissen, dass wenn sie Herrchen oder Frauchen auffrisst, es nix mehr zu Futtern gibt. Also lässt sie es sein.
Aber:
Nur mal angenommen, wir hätten
1) vollständige Automation aller benötigten Lieferketten bis hin zum Rohstoff
2) die Möglichkeit mit dieser Lieferkette eine hochgradig effiziente Drohne ebenfalls automatisch zu fertigen.
3) Eine KI, die kompakt genug ist, um auf solchen Drohnen autonom zu funktionieren um den Task "Schütze die Lieferkette" ausführen zu können.
Müsste diese KI dann besonders intelligent sein, um zur Bedrohung zu werden? Und wie lange würde es wohl dauern, bis die Systeme den Menschen als ganzes als Bedrohung einstufen, sobald jemand versuchen würde, den Stecker zu ziehen?
Ich denke auch nicht, dass die Apokalypse quasi vor der Tür steht, ich stelle lediglich in Frage, dass eine KI wirklich überlegen intelligent sein muss, um zur Bedrohung zu werden...
Extrem präziser Bewegungssensor ermöglicht Navigation ohne GPS
@ITnachHausetelefonen: Naja, Staubsaugerroboter weiss ich nicht, aber Rasenmäher schon. Jedenfalls gewisse Modelle.. Teilweise haben sie sogar irgendwelches Mobilfunktgedöns installiert. Zumindest hat sich meiner gerade heute Morgen beschwert, er sei ausserhalb seines geofence-Radius gebracht worden und ich möge ihn doch bitte abholen kommen.