Traue niemals einer KI, auch wenn du selbst die Daten lieferst.

Wie CBC berichtet, wurde ein Mann aus Winnipeg um mehrere Hundert Dollar betrogen, als er eine vermeintliche Facebook-Kundendienstnummer anrief. Nachdem er Probleme hatte, sein Facebook-Konto auf ein neues Handy zu übertragen, fand seine Frau online eine Telefonnummer, die als Facebook-Kundensupportnummer ausgewiesen war. Eine Überprüfung durch die Meta AI-Suchfunktion bestätigte die Nummer fälschlicherweise als legitim.

Bei dem Anruf gab der Mann seine Facebook-Zugangsdaten weiter, was dazu führte, dass der Betrüger sein Konto übernahm und behauptete, er wurde gehackt. Während des Gesprächs wurde auch auf das PayPal-Konto des Mannes zugegriffen, und es wurden 500 Dollar für eine Apple-Geschenkkarte abgebucht. Ein Bitcoin-Kauf wurde glücklicherweise von der Bank verhindert.

Die Büchse der Pandora geöffnet

Es ist bekannt, dass KI nicht immer die Wahrheit sagt. Zum Beispiel behauptete Google Gemini, dass Käse auf einer Pizza mit Klebstoff besser hält oder dass Batman ein Polizist ist (*1). Das mag lustig klingen, kann aber schnell zum Problem werden. Nicht jede Falschinformation ist so offensichtlich, wie der Fall des Mannes aus Winnipeg zeigt. Seine Frau findet eine Servicenummer, die mit Sicherheit von einer Betrugsseite stammt, denn Facebook hat keine. Sicherheitshalber lässt er sie von der Meta-AI auf ihre Richtigkeit überprüfen und erhält ein Okay. Im Prinzip hat er nichts falsch gemacht, außer der KI zu vertrauen. Aber wer hätte das in diesem Fall nicht getan, da die KI von dem Unternehmen stammt, an das er sich wenden wollte?

Der Ausverkauf unserer Daten

Wir erleben derzeit, dass fast alle großen Plattformen Verträge mit KI-Anbietern abschließen. Um nur zwei Beispiele zu nennen: Reddit und WordPress. Reddit hat einen Vertrag mit einem KI-Anbieter abgeschlossen, der nun den User Generated Content auf Reddit nutzt, um sein Sprachmodell zu trainieren. Dafür zahlt er viel Geld. Jetzt kennen wir alle Reddit. Dort gibt es unglaublich viel nützliches Wissen, aber auch eine ziemlich etablierte Trollkultur. All diese Daten fließen in das Training des Sprachmodells ein. Dass eine KI Klebstoff empfiehlt, damit der Käse auf der Pizza besser hält, wie bei Google Gemini geschehen, dürfte auch in Zukunft weitere Stilblüten treiben. Und das ist noch harmlos im Vergleich zu dem, was auf uns zurollt. Dass eine KI auch mit Daten trainiert wird, die aus sehr obskuren Quellen stammen, liegt letztlich auf der Hand. Im Prinzip kann man fast davon ausgehen, dass die großen Tech-Unternehmen bereits alle verfügbaren Daten aus dem Internet aufgesaugt haben, um ihre Sprachmodelle zu trainieren. Das wird letztendlich zu einem Problem für KI werden, denn wenn nicht genug neue Inhalte generiert werden, da KI ja schon alles für uns übernimmt, wird es kaum eine Weiterentwicklung geben.

Und dann ist da noch das scheinbar selbstherrliche Verhalten der Plattformbetreiber, die alles, was User Generated Content ist, als ihr Eigentum betrachten. Auch Automattic, die Firma hinter WordPress, hat einen Vertrag mit einer KI-Firma abgeschlossen. WordPress ist und bleibt Open Source, aber die auf WordPress.com gehosteten Blogs liefern nun die Daten für den Deal. Das gilt übrigens auch, wenn man auf seinem selbst gehosteten Blog das Jetpack-Plugin verwendet. Deinstalliert das einfach, denn für alles gibt es Alternativen.

Diese Selbstverständlichkeit, mit der man uns letztlich ausbeutet, um uns später vielleicht tolle KI-Abos zu verkaufen oder noch mehr Daten von uns abgreift, um damit viel Geld zu scheffeln, widert mich einfach nur an.

KI ist nicht grundsätzlich schlecht

Natürlich gibt es nicht das eine Sprachmodell, KI ist unglaublich vielfältig. Das gilt eigentlich für alles, von den Trainingsdaten bis hin zur Anwendung. KI ist technologisch ein großer Fortschritt, nur in den Händen der Tech-Bros aus dem Silicon Valley eher eine Katastrophe. Trotz aller bekannten Probleme zieht KI in fast jedes Betriebssystem ein. Man legt einfach los und für die möglichen Schäden fühlt man sich dann nicht verantwortlich.

Ich bin wirklich ein progressiver Mensch und ich liebe Technologie, aber ich stehe diesem KI-Tsunami der großen Tech-Unternehmen sehr kritisch gegenüber.

Fußnoten:
(*1) Batman ist Polizist: The Verge