Mistral-Chef nennt US-Forderungen nach KI-Regulierung einen Trick

Und das vor dem Hintergrund, dass die rechtliche und regulatorische Entwicklung in der EU eigentlich genau in die andere Richtung geht - die Position ist “Software ist ein Industrieprodukt wie andere Produkte auch, und der Hersteller muss Mängel zeitnah beheben und für Schäden haften”. Dieses Einfordern der Herstellerhaftung (die sonst für jedes Produkt auf dem EU Markt gilt, vom Kinder-Dreirad bis zum Großkran) gefährdet das verantwortungslose Geschäftsmodell der LLM Anbieter.

Genau das - es ist völlig irre, wenn man sich anschaut, wie die Softwareindustrie aktuell agieren kann und wie sehr sich das von anderen Industrien unterscheidet. Das Windows Update frittiert den ganzen Rechner und killt wichtige Daten? “Kein Backup, kein Mitleid, fress Scheiße” tönt es dann statt dass Microsoft für den angerichteten Schaden Schadensersatz zahlen muss. Irgendein LLM behauptet, dass jemand ein Pädophiler ist? Da kann man nichts machen, ist Technik, aber wenn ein Blogger oder eine Zeitung irgendwas leicht wackeliges schreibt, kommen die Medienanwälte angeflogen und klagen dich in Grund und Boden. Du lädst einen Song von Taylor Swift runter? Abmahnung und tausende Euro Kosten. Die KI-Firmen kopieren einfach mal alles? Tja, kann man nix machen

Ich denke auch, wenn KI unsere digitale Infrastruktur zerlegt, dann war das Problem weniger die KI, sondern die Infrastruktur. Die ganzen Hackerangriffe und automatisierten Angriffe gab es schon lange vor KI. Jede:r, die mal einen Server ans Internet gehangen und in den Zugriffslog geguckt hat, weiß was für ein absurder Heuschreckenschwarm an Bots da im Minutentakt Logins durchprobieren. Natürlich hat KI das irgendwo alles nochmal effizienter gemacht und kann wahrscheinlich auch komplexere Angriffe automatisieren, aber dass wieder irgendeine Datenbank geleakt oder ein Amt lahmgelegt wurde, gab es trotzdem schon wöchentlich in den IT-Nachrichten.

Gibt ja immer diese Aussage von “Ein wirklich sicheres System kann es nicht geben.” Wie ich den Satz hasse. Mir ist die unüberschaubare Komplexität von Software natürlich schon bewusst, aber das heißt nicht, dass man einfach die Hände hochwerfen und jede Software yolo-viben kann. Ich erinnere mich an einen recht alten Blogpost von Bruce Schneier, der die IT-Infrastruktur als ‘Wilder Westen’ bezeichnet hat. Jetzt haben wir einen Wilden Westen mit zusätzlich einer Roboterinvasion.

Vielleicht ist das ja auch Absicht, wenn man braune Menschen töten kann indem man deren Schulen oder Krankenhäuser unter dem Vorwand “die KI hat da Terroristen gefunden” bombardiert (oder - vorerst nur in den USA - deren Krankenversicherungsanträge ablehnt). Außerdem ist das jetzt ja Super-Intelligenz, also viel besser als ein Mensch, damit kann niemand mehr verlangen dass deren Entscheidungen von Menschen überprüft werden müssen. Der Maschinengott ist unfehlbar, hört nur noch auf den Maschinengott!