Tausendmal effizienter: Microsoft jagt Kinderpornos jetzt mit der Cloud

Microsoft, Cloud, Kinderpornographie, Bildanalyse, photodna Microsoft, Cloud, Kinderpornographie, Bildanalyse, photodna
Der Software-Konzern Microsoft will den Kampf gegen die Verbreitung von Kinderpornographie im Internet auf ein neues Niveau heben und den zuständigen Stellen einen wesentlich leichteren Zugang zu Technologien geben, die ihre Arbeit erheblich erleichtern können. Man darf hoffen, dass dabei alle Fallstricke auch ausreichend bedacht wurden.

Wie das Unternehmen jetzt ankündigte, werde man die PhotoDNA-Software jetzt als Cloud-Service bereitstellen. Dabei handelt es sich um ein Produkt zur Bildanalyse, das seit dem Jahr 2009 verfügbar ist und in Zusammenarbeit mit dem Darthmouth College entwickelt wurde. Inzwischen arbeiten rund 70 Unternehmen und Organisationen mit der Technologie.

PhotoDNA kann automatisiert große Mengen an Bildern auf ihren Inhalt analysieren und aus einem ganzen Pool an Aufnahmen beispielsweise jene herausfiltern, auf denen illegale Inhalte - wie etwa Aufnahmen vom sexuellen Missbrauch Minderjähriger - zu sehen sind. Zum Einsatz kommt die Technik bei verschiedenen Strafverfolgungsbehörden aber auch bei Firmen wie Facebook und Twitter, auf deren Plattformen täglich riesige Mengen an Bildern hochgeladen werden.

Es ist bisher allerdings nicht ohne weiteres möglich, dass beispielsweise ein beliebiges Polizeidezernat, das sich mit dem Thema beschäftigt, die Software einsetzt. Für ihren Betrieb war bisher eine Menge Zeit für das Fein-Tuning, Erfahrung und Geld von Nöten. Das soll sich nun aber ändern, indem die wesenltichen Aufgaben von Microsoft-Experten übernommen und die Software selbst als Cloud-Dienst bereitgestellt werden. Firmen können es so wesentlich einfacher einrichten und in ihre Prozesse integrieren, um die Inhalte auf ihren Systemen zu scannen. Kosten fallen dabei nicht an.

Der Umzug in die Cloud ist eigentlich naheliegend - immerhin werden aktuell täglich rund 1,8 Milliarden neue Fotos ins Netz gestellt, von denen rund 720.000 illegale Inhalte sind. Die Bewältigung von Mengen, die auch nur annähernd in solche Dimensionen gehen, ist in großen Datenzentren am besten aufgehoben. Das geht einher mit einer wesentlichen Verbesserung des Algorithmus, die die Microsoft-Entwickler inzwischen hinbekommen haben. PhotoDNA soll in der neuen Cloud-Fassung rund tausendmal effizienter arbeiten als vorhergehende Versionen.

Allerdings stellt ein solcher Dienst in der Cloud auch besondere Anforderungen an die Sicherheit. Denn Schwachstellen in dem System können im Zweifel dazu führen, dass ausgerechnet die Gegenseite den Service quasi als Suchmaschine missbraucht, um leicht an äußerst sensible Inhalte zu gelangen.

Zum Thema: PhotoDNA hinter OneDrive: Razzia bei deutschem Nutzer nach zweifelhaftem Upload
Verwandt
Dieses Video empfehlen
Kommentieren17
Jetzt einen Kommentar schreiben
 
Sehr schön, na hoffentlich werden die ganzen analysierten Metadaten der Bilder dann auch gleich kategorisiert, Benutzern zugeordnet und fein säuberlich in einer Datenbank gespeichert, damit man schön einfach über alle jemals gescannten Bilder suchen kann. Die NSA hat sicher noch ein bisschen Kapazität. Und das lässt sich dann bei Bedarf ganz schnell erweitern, z.B. suche nach Männern mit langem Bart und Turban...
 
@dodnet: ... im Alter zwischen.
 
Klingt für mich sehr nach einer Aktion wieder Daten zu sammeln unter dem Vorwand des "Jugendschutzes". Gerade nach den NSA-Skandalen sollte man da doch vorsichtiger sein - aber es wird natürlich nichts hinterfragt sobald auch nur die Worte "Jugendschutz" oder "Terrorismus" fallen.
 
@Matti-Koop: Ich seh das wie du, aber gerade bei sexueller Ausbeutung von Kindern kann und will man halt nicht dagegen argumentieren.
 
@Matti-Koopa: Das Produkt ist doch nicht neu. Das neue daran ist nur, dass es nun als Cloud Service verfügbar gemacht wird. Es wird z.B. schon von Facebook genutzt, diese müssen den Dienst bisher aber komplett selber betreiben und anpassen. Wo bei Facebook ggf. Experten sitzen, die das auch hin bekommen, ist das bei 99% aller Behörden nicht der Fall.
Daher hat man dies nun in die Cloud ausgelagert... dadurch wird das System an sich aber nicht neu.
Jeder der bei Facebook oder Twitter Bilder hoch lädt, da laufen diese Bilder durch genau diese Software... und bei einigen anderen Diensten auch.

Und ich denke es sollte allem klar sein: Wenn niemand außer dir dein Foto haben soll, dann a) möglichst nicht digital und b) wenn doch, dann nirgendwo hoch laden!
 
@Scaver: Mir geht es nicht um die Software selber sondern um die Tatsache dass diese nun in der Blackbox ("Cloud") läuft.
Skype ist auch nicht "neu" - wurde jedoch vor einigen Jahren komplett auf NSA-Cloud umgestellt. Genausowenig wie Office 365 "neu" war.
Hier ist es nun eine Software die nun regelmäßig zigtausende Bilder - teilweise von staatlichen Einrichtungen, wie ich das interpretiere - gefüttert bekommt.
 
@Matti-Koopa: So nun nochmal... das füttern mit Millionen neuer Bilder fast täglich passiert doch heute schon bei der Software. Siehe wie gesagt bei Facebook. JEDES Bild läuft dadurch und wird entsprechend den Einstellungen von Facebook beurteilt.

Künftig wird es nicht anders sein, außer dass man sich mit den Betrieb nicht mehr selber kümmern muss.
Es ändert sich also nur "wo" die Software läuft. Ich verstehe dein Problem damit nicht (mag ja eines geben, ich sehe es nur nicht).
Und wenn es dir um NSA und Co. geht, denen ist es egal, ob das Ding auf den Servern von Facebook läuft oder von MS. Da beide unter das selbe US Recht fallen, haben die gleichermaßen Zugriff darauf.
 
Öffentlich zur Verfügung gestellte Bilder sollten auf illegalen Inhalt überprüft werden und grade bei Kinderpornographie finde ich das sehr wichtig. Die frage ist wo zieht man hier die Grenze?

Muss FB gescannt werden, eigentlich schon, wie jede andere Cloud eigentlich auch, daraus ergeben sich aber Probleme. Darf FotoDNA, das auf Azure läuft, also ein MS Service wirklich alles durchsuchen?

Und was passiert mit den ganzen automatischen Foto-Backup Funktionen von OneDrive, DropBox und Co? Werden dann auch die Bilder einer Mutter gelöscht, die ihre nackten Kinder beim baden photographiert hat? Hat sie rechtliche Konsequenzen zu befürchten?

Das ist ein sehr heikles Thema, bei dem der Staat zumindest GUTE Richtlinien vorgeben sollte und auch die Aufgabe des Jugendschutzes sollte nicht in erster Linie Sache eines Privaten Unternehmens wie MS sein. Die haben leider nicht nur Gutes im Sinn, wie alle großen Unternehmen
 
@henne_boy: Onedrive, genauso wie der Service von Google & Co. werden schon lange mit PhotoDNA gescannt. Die Bilder werden selbstveständlich nicht gelöscht sondern es werden die Behörden verständigt.
http://www.mobiflip.de/photodna-warum-foto-onedrive-hausdurchsuchung/
 
@henne_boy: Die Grenzen sind nirgendwo eindeutig. Grundsätzlich gelten hier immer 2 Faktoren: 1) die Gesetze des Landes, aus dem der Kunde kommt und 2) die AGB, sofern sie nicht 1) widersprechen.

Ja, Facebook löscht solche Fotos wie von dir genannt auch jetzt schon bzw. lässt den Upload erst gar nicht zu. Mutter die ihre Kinder badet, wenn die Kinder nackt zu sehen sind, ist bei Facebook nicht erlaubt. Dies ergibt sich aus den AGB und diese richten sich nach den sehr prüden Ansichten der Amis. Gilt z.B. auch für stillende Mütter, wenn man die Brust sieht.
Ob das rechtliche Konsequenzen hat, kommt auf das Land an, in dem man sich beim Upload befindet bzw. wo man lebt.
In DE hat man definitiv nichts zu befürchten bei den oben genannten Arten von Bildern.... sofern klar zu erkennen ist, dass man hier private Fotos sichert. Macht man diese natürlich Leuten mit gewissen "Vorlieben" bewusst zugänglich, erfüllt man natürlich den Straftatbestand, auch oder gerade wenn es ein Bild der eigenen Kinder ist.

MS und Co. kann nur 2 Dinge tun: Zum einen können sie unerwünschte Inhalte löschen. Da kann man nicht viel machen, wenn die Löschung nicht gegen die AGB/Nutzungsbedingungen verstößt. Zum anderen können sie vermeintlich illegale Inhalte an die zuständigen Behörden melden. Diese prüfen auf Grundlage der geltenden Gesetze und Rechtsprechungen, ob da etwas zu unternehmen ist oder nicht.
Weitere Richtlinien bedarf es da, zumindest in der EU, nicht. Denn das ist alles schon ganz klar durch Gesetze und Urteile geregelt, wann so ein Foto als private Erinnerung und wann als KiPo gilt!
 
@Scaver: Danke für die Infos, ganz behoben ist das Problem damit jedoch nicht.

Viele Menschen kennen die genau Rechtssprechung und die AGBs nicht (ich gehöre da sicherlich auch zu). Ich weiß leider nicht ob in den DropBox AGBs steht wann ein Bild illegalen Inhalts ist. Normalerweise macht man sich da auch keine Gedanken drüber beim Fotos knipsen in der Sonne. Unwissenheit und Desinteresse ist ein Problem.

Ein Punkt sehe ich aber bestätigt: Der Staat ist inzwischen anscheinend auf die Services con FotoDNA angewiesen und damit auf Private Unternehmen. Völlig auf sich gestellt wären die Strafverfolgungs Behörden wohl sehr eingeschenkt in ihren Möglichkeiten.

Bei meinem Post grade ist das Problem mit dem Datenschutz auch etwas in den Hintergrund geraten. FotoDNA ist ein automatisierter Service, der auf sehr viel Zugriff hat und es besteht die Möglichkeit das er nebenbei eine Datenbank mit Metadaten für jeden Benutzer anlegt.

In Bildern stecken so viele Infos inzwischen, egal ob Ort, Zeit, welche Kamera, Motiv, Personen, Urspungs PC/Speicher, häufigkeit der Bilder, wo veröffentlicht - damit könnte man schon ein sehr genaues Profil anlegen
 
@henne_boy: Wenn ein Bild nicht den AGB entspricht wirst Du das merken, wenn Du es nicht hoch laden kannst bzw. es wieder gelöscht wird.
Wenn es den AGB widerspricht, ist es damit aber noch nicht illegal. Sie könnten in die AGB schreiben, dass man keine Fotos von Lila Teddybären hoch laden darf. Dann darf man das uach nicht. Illegal sind Fotos von lila Teddybären aber noch lange nicht.
Illegal bedeutet, dass es gegen gültige Gesetze verstößt!

Die Staatsbehörden waren das schon immer. Denn die Entwicklung solcher Systeme ist zu kostspielig, wenn der Staat das selber vornehmen würde... vor allem wenn dann jede Behörde wieder ihr eigenes Süppchen kochen würde.
Ist ähnlich wie mit Betriebssystemen für PCs, da entwickeln sie auch nicht ihre eigenen Systeme. Gibt aber Länder, die das durchaus machen.

Ja, die Gefahr mit den Metadaten besteht, aber diese besteht jetzt auch schon. Google macht das, wenn man etwas bei Youtube oder Picasa hoch lädt. Facebook wenn man dort oder bei WhatsApp etwas hoch lädt, Twitter macht es usw usw.

Das hat man theoretisch schon jetzt überall, wo man etwas hoch lädt. Denn auf die eine oder andere weise wird alles bereits gescannt um Urheberrechtsverletzungen, Illegale Inhalte oder Inhalte die gegen AGB verstoßen zu finden.

Wie gesagt, der einzige Unterschied ist... bisher musst Facebook, Twitter, Behörden und jeder andere diesen Service selber betreiben. Das können sie sich nun sparen und damit eine Menge Geld, wenn MS dies in der Cloud betreibt.

Ich bin generell auch kein Fan von "alles in die Cloud", aber hier macht es Sinn. Und alles was man hier an "Schmu" machen kann, kann man auch ohne die Cloud machen (und wird ggf. auch schon gemacht).

Wie immer bleibt es ja jedem frei einen Dienst zu wählen, der so etwas nicht nutzt.
 
Es ist schon echt pervers die penetrante Datensammelei nun mit dem abgündigsten rechtfertigen zu wollen, was unsere Gesellschaft kennt. MS und co. interessieren sich doch kein Stück für die betroffenen, sie sehen nur die Dollar Noten durch den Gewinn der Daten.
Welchen zuverlässigeren Partner kann es geben als den eigenen Staat? Geheimdienste zahlen schnell, diskret und zuverlässig. Was will man mehr?
 
@Thermostat: MS interessiert sich kein Stück? Also unterstellst Du MS bestenfalls, dass sie KiPo tolerieren!
und gerade MS kann an ALLE Daten auch im Hintergrund kommen und da würde auch keine Verschlüsselung helfen, wenn die Daten nicht bereits verschlüsselt aufs System kommt.
Da braucht MS keine Dienste, das wäre relativ unbemerkbar im Hintergrund von Windows möglich!
 
Ich kann mir schlecht vorstellen, dass 720000 der 1,8 Mrd. täglich hoch geladenen Fotos illegal sein sollen.
Ich hätte jetzt eher geschätzt, dass es sich dabei um auf Facebook hoch geladenen Schnappschüsse von Mahlzeiten handelt, die die Leute gerade essen.
 
Eigentlich eine Sauerei schon wieder jeden unter Generalverdacht zu stellen. Außerdem ist es ein Problem, weil ja u.U. relevant ist, aus welchem Land der Uploader kommt. Was ist mit dem Foto von z.B. meinen Kindern im Bett? Ich seh da viel zu viel Potential für Fehlalarme. So intelligent kann keine Software sein.
Also, noch weniger die Cloud / Internet für Fotos nutzen. Einschließlich eMail und Co
 
und tschüss windowsphone.
Kommentar abgeben Netiquette beachten!