Forbes

Wir kennen Geschichten, in denen Angehörige versehentlich private Details in sozialen Medien preisgeben. Doch stellen Sie sich ein weitaus beunruhigenderes Szenario vor: Sie selbst teilen Ihre intimsten Gedanken und privatesten Anfragen – nicht mit Freunden und Familie, sondern unbemerkt mit der ganzen Welt! Genau das geschieht Nutzern von Metas KI-Anwendung.

"Meta AI Assistant": Ein Werkzeug zur Datensammlung

Ende April gestartet, hat sich die Anwendung "Meta AI Assistant" – im Grunde ein auffälliger Chatbot zur Datenerfassung – schnell zu einem unverzichtbaren virtuellen Helfer für viele Menschen weltweit entwickelt. Nur einen Monat nach dem Start brüstete sich Meta damit, dass die Anwendung die Milliardengrenze an Nutzern überschritten hatte. Doch es bleibt ein gravierendes Problem: Alles, was Sie Metas KI fragen, kann in einem öffentlichen Feed landen und so der Welt zur Belustigung preisgegeben werden.

Die versteckte Teilungsfalle

Gleich nach dem ersten Login drängt die App zum Start. Das Erste, was ein neuer Nutzer sieht, ist ein übersichtlicher Bildschirm voller vorgeschlagener Anfragen, von "Lass uns uns kennenlernen" bis zu "Beschreibe mich in drei Emojis". Wenn ein unbedarfter Nutzer – etwa ein technikunkundiger Großvater – hier beginnt, könnte er versehentlich auf ein kleines "Teilen"-Symbol in der oberen Ecke stoßen, das seine Anfrage in den "Discovery Feed" der App hochlädt. Obwohl Meta auf seiner Website behauptet: "Sie haben immer die Kontrolle: Nichts wird in Ihrem Feed geteilt, es sei denn, Sie entscheiden sich dafür, es zu posten", sieht die Realität anders aus.

Von privat zu öffentlich

Eine schnelle Analyse des Discovery Feeds der App offenbart eine Flut von Interaktionen, die die Nutzer mit größter Wahrscheinlichkeit nicht öffentlich teilen wollten. Inmitten des mittlerweile erwarteten KI-generierten Inhalts – Dinge wie "Teenager geht lässig mit seinem Raptor spazieren" oder "Wonder Woman fährt einen grünen 1965er Ford Mustang Fastback" – finden sich Dutzende von Chatbot-Anfragen mit erstaunlich intimen persönlichen Informationen.

Ein Nutzer fragte beispielsweise: "Wie kann ich meinen Stuhlgang verbessern?". Der Chatbot antwortete mit allgemeinen Ratschlägen und forderte dann explizit persönliche Details an: "Wie sieht Ihre aktuelle Ernährung und Ihr Lebensstil aus? Haben Sie spezifische Probleme mit dem Stuhlgang?" Ein anderer Nutzer fragte mit Tippfehlern: "Ich habe einen hohen Cholesterinspiegel und habe oft Schwierigkeiten beim Stuhlgang, hängt das zusammen?" Das Erschreckendste ist: Wenn Sie sich mit einem bestehenden Facebook- oder Instagram-Konto bei Meta AI angemeldet haben, ist der dort sichtbare Name – für die meisten Nutzer Ihr richtiger Name – unter Ihren öffentlichen Anfragen sichtbar.

Der unglückliche Nutzer, der mit Darmproblemen zu kämpfen hatte, hat beispielsweise ein Profil, das andere private Fragen enthält, wie "Was ist der einfachste Weg, Schamläuse loszuwerden?" gefolgt von "Gibt es einen Grund, warum ich sie immer wieder bekomme?". Ähnlich wie im Discovery Feed sind die Datenschutzverletzungen endlos.

Weitere Beispiele, die wir gefunden haben, sind Lehrer, die Testfragen generieren, Nutzer, die um Beziehungstipps bitten, andere Anfragen zur Sexualhygiene, detaillierte Diskussionen über medizinische Vorgeschichten und Hilfe beim Verfassen eines "aufrichtigen" Briefes an einen Richter vor einer strafrechtlichen Verurteilung.

Sprachliche Anfragen

Erstaunlicherweise zeichnet die Anwendung auch Sprachanfragen auf und lädt sie hoch, unabhängig von ihrer Dauer. Wir fanden eine Aufnahme, die über eine Stunde dauerte, in der das Gespräch von Candace Owens' Meinung zu Black Lives Matter zu der Frage überging, ob jemand "aktiv versucht, George Soros zu töten", und dann zu der Bitte um detaillierte Wegbeschreibungen basierend auf dem aktuellen Standort des Nutzers. Ein anderer verbrachte mehrere Minuten damit, seine Steuerprobleme zu erläutern. "Was soll ich tun, wenn ich letztes Jahr etwa zweihunderttausend verdient und vergessen habe, meine Steuern zu deklarieren", fragte er. "Wenn Sie Steuern schulden, wird Ihnen das Finanzamt wahrscheinlich einen Bescheid über den fälligen Betrag schicken", schlug der Chatbot vor. "Nun, ich werde warten, bis sie mich anrufen, denke ich", seufzte der Nutzer. Andere Gespräche drifteten in Themen ab, die besser in einem Inkognito-Tab aufgehoben wären.

Blindes Vertrauen

Einerseits offenbart all dies das erstaunliche Maß an Vertrauen, das die Menschen bereits in diese neuen Produkte setzen – und inwieweit sie schnell für viele zu einer Krücke geworden sind. Ein Nutzer fragte beispielsweise: "Was soll ich sagen, um meiner Nichte zu gratulieren, die an der UCLA ihren Abschluss gemacht hat?" Andererseits unterstreicht dies auch die kolossale Verantwortung von Meta als Anbieter eines de facto öffentlichen Dienstes – und das erschreckende Ausmaß an mangelnder Verantwortung, das das Unternehmen während seines gesamten Bestehens stets gezeigt hat.

Quelle: Forbes