Nehmen wir ein Beispiel. Wenn INSEE Statistiken mit einem Dutzend Parametern generiert, gibt es normalerweise nicht viel zu befürchten: Es wird dem Algorithmus nicht erlauben, sich die Adressen der Leute zu merken, noch ihre ehelichen Beziehungen. Darüber hinaus wird es einfach sein, ein statistisches Modell oder einen resultierenden Algorithmus zu erstellen, der gegenüber falschen Daten robust ist, wie z. B. die Verwendung von Durchschnittslöhnen anstelle von Durchschnittslöhnen. Statistiker haben diese Art von Nuancen über Jahrzehnte gelernt, aber nur, wenn die Modelle klein sind.

Heute stehen wir jedoch KI mit einer Million, Milliarden oder sogar Billionen Parametern gegenüber. Forscher aus KuaishouDer ländliche Konkurrent von TikTok in China gab 2021 bekannt, dass er ein Empfehlungssystem auf der Grundlage von 100 Billionen Parametern trainiert hatte … Die Beobachtung ist für alle sozialen Netzwerke gleich und potenziell sehr gefährlich. Unser Papier erinnert uns einfach daran, dass ein Modell grob gesagt viel weniger Parameter haben sollte als Benutzer, um robust zu sein und die Privatsphäre zu schützen.

Die wichtigsten KIs, an die wir heute denken, wenn wir den Begriff hören, sind Chatbots wie ChatGPT. Allerdings, wie wir 2019 mit Lê ​​Nguyên Hoang erklärt haben in unserem Buch, die wichtigsten im Hinblick auf die sozialen Implikationen von KI sind heute die algorithmischen Empfehlungssysteme sozialer Netzwerke. Sie sind diejenigen, die die Informationshygiene des Planeten erschaffen. Im Jahr 2018 hat sich jeder YouTube-Nutzer drei von jedem Video, das er aktiv angesehen hat, passiv angesehen. Diese Algorithmen führen auf völlig unregulierte Weise wiederholte Expositionen in sehr großem Umfang bei Milliarden von Menschen durch und sind in der Lage, Modelle mit Hunderten von Milliarden Parametern einzusetzen.

Zurück zu Chatbots, OpenAI hat nicht einmal öffentlich offenbart, wie viele Parameter ChatGPT-4 hat, was sehr aufschlussreich ist. Wenn eines im Vordergrund stehen sollte, dann die Frage der Parameter. So wie wir bei der Regelung des Autoverkehrs das Konzept der Geschwindigkeitsbegrenzung eingeführt haben: nicht mehr als 30 km/h in Wohngebieten, nicht mehr als 80 km/h auf Kreisstraßen… Natürlich außer in Deutschland. Aber anders als künstliche Intelligenz schafft heute kein deutsches Auto 100.000 km/h.