Ein Ende August 2026 veröffentlichter Praxistest prüft, wie weit Sprachmodelle auf eigener Hardware gekommen sind. Das Ergebnis: Der Rückstand auf die grossen Cloud-Dienste beträgt grob ein halbes Jahr. Ein brauchbarer Aufbau beginnt bei rund zweitausend Euro, der grösste Posten ist die Grafikkarte. Durch Verkleinern der Modellgewichte auf vier Bit sinkt der Speicherbedarf von über fünfzig auf etwa dreizehn Gigabyte, ohne spürbaren Qualitätsverlust. Stark sind diese Modelle beim Bedienen von Werkzeugen, schwach beim reinen Faktenwissen.
Wann sich das rechnet
Drei Argumente sprechen im Schweizer Umfeld dafür: Klarheit über den Bearbeitungsort von Personendaten, planbare Kosten bei dauerhaft hohem Volumen und Unabhängigkeit von der Modellpolitik eines Anbieters.
Sinnvoll ist selten die reine Lehre, sondern eine Aufteilung nach Datenklassen. Vertrauliches bleibt im Haus, Anspruchsvolles und Unkritisches läuft in der Cloud. Das ERP liefert dabei die strukturierte Grundlage.