OpenAI bietet 555.000 Dollar, um ChatGPT-KI-GAUs zu verhindern
@feinstein: Die Aufwendungen für Rechenzentren die mit ki einhergehen sind exponentiell.
In Sixherheit fließen 5 bis 10% welche die ki unter Kontrolle halten sollen. Das Problem ist das Alignment-Gap. Die Ki entwickelt stets neue Fähigkeiten, während wir mit unserer Sixherheitstechnik bei der Entwicklung nicht schritthalten . Hinzu kommt die Blackbox, weil niemand genau weiß, was in der ki vorgeht.
Meine persönliche Einschätzung: ki ist der große Filter, an der alle intelligenten Zivilisationen früher oder später scheitern. Eine natürliche Begrenzung.
Kommentare
2
Kommentare
geschrieben
1
Antworten
erhalten
0
Likes
erhalten
Lisuan LX 7G106: Konkurrenzfähige Grafikkarte aus China vor dem Start
Ich brauche mehr VRAM und Unterstützung für lokale ki modelle
OpenAI bietet 555.000 Dollar, um ChatGPT-KI-GAUs zu verhindern
@feinstein: Die Aufwendungen für Rechenzentren die mit ki einhergehen sind exponentiell.
In Sixherheit fließen 5 bis 10% welche die ki unter Kontrolle halten sollen. Das Problem ist das Alignment-Gap. Die Ki entwickelt stets neue Fähigkeiten, während wir mit unserer Sixherheitstechnik bei der Entwicklung nicht schritthalten . Hinzu kommt die Blackbox, weil niemand genau weiß, was in der ki vorgeht.
Meine persönliche Einschätzung: ki ist der große Filter, an der alle intelligenten Zivilisationen früher oder später scheitern. Eine natürliche Begrenzung.