Tencent: Googles KI-Plattform hat große Sicherheitslücken

Huawei, Honor, Gesichtserkennung, Face ID, 3D-Scanner Bildquelle: Honor
Sicherheitsforscher des chinesischen IT-Giganten Tencent haben bei Googles TensorFlow-System für künstliche Intelligenz schwerwiegende Sicherheitslücken entdeckt. Von Entwicklern auf der Plattform erstellte Bots lassen sich demnach fernsteuern, wenn diese eine als unsicher er­kann­te Komponente von Google nutzen. Laut Yang Yong, Leiter eines Sicherheitsteams bei Tencent, ermöglicht die Sicherheitslücke die komplette Übernahme von Bot-Systemen, die dann missbräuchlich genutzt werden könn­ten. Aufgrund der von Bots verwalteten Daten und ihrer autonomen Funktionsweise sei dies besonders problematisch. Bei KI-Anwendungen zur Gesichtserkennung, die besonders in sicherheitsrelevanten Bereichen zum Einsatz kommen, könnten sich Hacker über TensorFlow unbemerkt Zugang verschaffen.


KI-Plattform in die Cloud

TensorFlow wurde von Google 2015 als kos­ten­los über die Cloud nutzbare Plattform für KI-Anwendungen eingeführt. Über verschiedene APIs lassen sich dort mit relativ einfachen Mit­teln automatisierte Systeme mit künstlicher Intelligenz realisieren. Unter anderem kann Googles TensorFlow mit Mini-Rechnern wie dem Raspberry Pi eingesetzt werden. Eine im Som­mer vor­ge­stell­te Schnittstelle für das KI-System ermöglicht etwa die automatische Ob­jekt­er­ken­nung in Bildmaterial.

TensorFlow nutzt auf Googles Servern laufende neuronale Netzwerke und Modellsimulationen, um sich selbst kontinuierlich zu verbessern. Die angebundenen Rechner dienen primär zur Erfassung und Übermittlung der benötigten Daten. In der Zukunft will Google aber noch stärker die Rechenleistung der Endgeräte mit einbinden, um die zu übertragenen Datenmengen deutlich zu reduzieren, und damit die La­ten­zen zu senken. Bestimmte, einfache TensorFlow-Funktionen lassen sich bereits jetzt mit den Ressourcen von Smartphones auch ohne Cloud-Anbindung nutzen.

Google investiert sehr intensiv in die KI-Forschung. Einer Forschungsgruppe des Konzerns ist inzwischen sogar die Entwicklung eines autonom lernenden Systems gelungen, welches selbst KI-Systeme erzeugen kann. Dieses wertet die Ergebnisse zahlreicher Instanzen ver­schie­de­ner Tochter-KIs in jeweils leichten Variationen aus, um so das Design des Systems immer weiter zu optimieren. Huawei, Honor, Gesichtserkennung, Face ID, 3D-Scanner Huawei, Honor, Gesichtserkennung, Face ID, 3D-Scanner Honor
Diese Nachricht empfehlen
Kommentieren6
Jetzt einen Kommentar schreiben


Alle Kommentare zu dieser News anzeigen
Kommentar abgeben Netiquette beachten!
Einloggen

Video-Empfehlungen

Tipp einsenden