EU-Cloud vs. On-Premise KI: Welcher Weg passt zu Ihrer Kanzlei?

Warum diese Entscheidung wichtiger ist, als die meisten KI-Berater zugeben

Wenn Sie sich mit KI für Ihre Kanzlei beschäftigen, stoßen Sie schnell auf zwei grundsätzlich verschiedene Ansätze: Cloud-basierte Modelle oder lokal betriebene Systeme. Die meisten Berater empfehlen pauschal die eine oder die andere Variante - je nachdem, was sie selbst anbieten.

Wir halten das für falsch. Die richtige Antwort hängt von Ihrer Kanzlei ab - von Ihrer Größe, Ihren Anwendungsfällen, Ihrem Budget und Ihrem Sicherheitsbedürfnis. Deshalb vergleichen wir beide Wege ehrlich, mit allen Stärken und Schwächen.

Weg 1: EU-Cloud mit Claude über AWS Bedrock

So funktioniert es

Anthropics Sprachmodell Claude wird über Amazon Bedrock in der AWS-Region Frankfurt (eu-central-1) bereitgestellt. Ihre Kanzlei greift über eine verschlüsselte API-Verbindung auf das Modell zu. Die Daten verlassen die EU nicht - es handelt sich um eine vollständig europäische Infrastruktur.

Technisch läuft es so ab: Ihre Anfrage wird über HTTPS an den Bedrock-Endpunkt in Frankfurt gesendet, dort von Claude verarbeitet und die Antwort zurückgeschickt. AWS speichert die Eingaben nicht über die Sitzung hinaus, und es findet kein Training mit Ihren Daten statt.

Der Zugang lässt sich über eine eigene Web-Oberfläche, ein Kanzlei-internes Chat-Tool oder direkt als Erweiterung bestehender Software realisieren.

Vorteile der EU-Cloud

• Beste verfügbare Modellqualität. Claude gehört zu den leistungsfähigsten Sprachmodellen weltweit - insbesondere bei juristischen und steuerlichen Texten zeigt es eine hohe Genauigkeit und differenzierte Argumentation.
• Kein Hardware-Investment. Sie brauchen keine speziellen Rechner, keine GPU-Server, keinen IT-Betrieb. Ein handelsüblicher Laptop mit Internetverbindung reicht.
• Schnelle Einrichtung. Ein funktionsfähiger, sicherer KI-Zugang lässt sich in wenigen Tagen aufsetzen.
• Automatische Updates. Wenn Anthropic ein besseres Modell veröffentlicht, profitieren Sie sofort - ohne Migration oder Neuinstallation.
• Skalierbarkeit. Ob 3 oder 30 Nutzer gleichzeitig - die Cloud skaliert mit. Keine Wartezeiten, keine Hardware-Engpässe.

Nachteile der EU-Cloud

• Laufende Kosten. Sie zahlen pro Anfrage (nach Token-Verbrauch). Bei intensiver Nutzung durch viele Mitarbeiter summiert sich das - typischerweise auf 150-500 EUR pro Monat für eine mittelgroße Kanzlei mit 10-20 Nutzern.
• Internetverbindung erforderlich. Ohne stabiles Internet keine KI. Für Kanzleien in ländlichen Regionen oder bei Netzwerkausfällen ein relevanter Punkt.
• Vertrauen in Drittanbieter. Auch wenn die Daten in der EU bleiben: Sie vertrauen AWS und Anthropic vertraglich zu, dass keine unbefugte Verarbeitung stattfindet. Dieses Vertrauen ist rechtlich abgesichert (AVV, Zertifizierungen), aber es bleibt ein Drittanbieter im Spiel.
• Abhängigkeit von Anbieter-Entscheidungen. Preisänderungen, Modell-Abkündigungen oder geänderte Nutzungsbedingungen liegen nicht in Ihrer Hand.

Weg 2: On-Premise mit Open-Weight-Modellen

So funktioniert es

Open-Weight-Modelle wie Llama 3 (Meta) oder Mistral Large werden auf eigener Hardware in Ihrer Kanzlei betrieben. Die Modelle sind frei verfügbar und können ohne Lizenzgebühren genutzt werden.

Als Hardware eignen sich moderne Apple-Silicon-Rechner besonders gut: Ein Mac Studio mit M4 Ultra und 192 GB RAM kann Modelle mit 70 Milliarden Parametern flüssig ausführen. Alternativ kommen kleine GPU-Server mit NVIDIA-Karten in Frage - wobei Apple-Geräte den Vorteil haben, dass sie leise, energieeffizient und wartungsarm arbeiten.

Der Zugang für die Mitarbeiter erfolgt typischerweise über ein lokales Web-Interface im Kanzlei-Netzwerk. Von außen ist das System nicht erreichbar.

Vorteile von On-Premise

• Maximale Datensouveränität. Kein einziges Byte verlässt Ihr Netzwerk. Für Berufsgeheimnisträger die sicherste aller Optionen - § 203 StGB ist kein Thema, weil keine Offenbarung an Dritte stattfindet.
• Einmalige Kosten. Nach der Investition in Hardware (typischerweise 5.000-15.000 EUR je nach Ausbaustufe) fallen keine laufenden Lizenz- oder API-Kosten an.
• Volle Kontrolle. Sie bestimmen, welches Modell läuft, wann Updates eingespielt werden und wer Zugriff hat. Keine externen Nutzungsbedingungen, keine Abhängigkeit.
• Offline-fähig. Die KI funktioniert ohne Internetverbindung - auch im Zug, im Homeoffice ohne stabiles Netz oder bei Provider-Ausfällen.
• Aufsichtsrechtliche Klarheit. In Gesprächen mit der Rechtsanwaltskammer oder dem Steuerberaterverband ist „die Daten verlassen unser Haus nicht” das stärkste Argument.

Nachteile von On-Premise

• Geringere Modellqualität bei Spitzenaufgaben. Für einfache bis mittlere Aufgaben (Zusammenfassungen, Standardschreiben, Recherche-Aufbereitung) liefern lokale Modelle exzellente Ergebnisse. Bei besonders komplexen juristischen Argumentationen oder nuancierten steuerlichen Sachverhalten hat Claude aktuell noch einen messbaren Qualitätsvorsprung.
• Hardware-Investment. Die Anschaffungskosten sind höher als der Einstieg in die Cloud. Für eine Sozietät mit 5 Berufsträgern ist das überschaubar - für eine Einzelkanzlei kann es eine Hürde sein.
• IT-Aufwand. Jemand muss die Hardware betreiben, Modelle aktualisieren und bei Problemen eingreifen. Das muss kein IT-Experte sein - aber ganz ohne technisches Grundverständnis geht es nicht.
• Begrenzte Skalierbarkeit. Wenn 10 Nutzer gleichzeitig Anfragen stellen, wird es auf einem einzelnen Rechner eng. Für größere Kanzleien braucht es mehrere Geräte oder eine sorgfältige Nutzungsplanung.

Ehrlicher Qualitätsvergleich nach Anwendungsfall

Aufgabe	EU-Cloud (Claude)	On-Premise (Llama/Mistral)
Zusammenfassung von Urteilen, Verträgen, Bescheiden	Exzellent	Sehr gut
Standardschreiben (Mandanteninfo, Fristmitteilung)	Exzellent	Sehr gut
Komplexe juristische Argumentation (Schriftsatz-Entwurf)	Exzellent	Gut - bei einfachen Konstellationen sehr gut, bei mehrdimensionalen Sachverhalten spürbar schwächer
Steuerliche Analyse (Gestaltungsberatung)	Sehr gut	Gut
Übersetzung (Verträge, Korrespondenz)	Exzellent	Sehr gut
Interne Recherche (Wissensdatenbank durchsuchen)	Sehr gut	Sehr gut - hier kein relevanter Unterschied
Aufbereitung von DATEV-Auswertungen	Sehr gut	Gut bis sehr gut

Die Qualitätslücke wird kleiner. Vor einem Jahr war der Unterschied deutlich - heute ist er für 80 % der Kanzleiaufgaben kaum relevant. Aber er existiert, und es wäre unseriös, das zu verschweigen.

Fünf Fragen für Ihre Entscheidung

Bevor Sie sich festlegen, beantworten Sie diese Fragen ehrlich:

1. Wie sensibel sind Ihre typischen Anwendungsfälle?

Wenn Sie KI primär für interne Aufgaben nutzen (Zusammenfassungen, Textbausteine, Wissensmanagement), sind beide Wege geeignet. Wenn Sie direkt mit hochsensiblen Mandantendaten arbeiten wollen (z. B. Analyse vertraulicher Unterlagen), bietet On-Premise die höhere Sicherheitsstufe.

2. Wie viele Nutzer werden die KI regelmäßig verwenden?

Bei unter 10 Nutzern ist die Cloud oft günstiger. Ab 15-20 regelmäßigen Nutzern kann On-Premise wirtschaftlich attraktiver werden - die einmalige Hardware-Investition amortisiert sich durch wegfallende API-Kosten.

3. Haben Sie jemanden, der sich um Hardware kümmern kann?

On-Premise braucht keinen Vollzeit-Admin - aber jemanden, der bei Bedarf ein Update einspielt oder einen Neustart durchführt. Wenn das niemand in Ihrer Kanzlei kann und Sie keinen externen IT-Dienstleister haben, ist die Cloud der einfachere Weg.

4. Wie wichtig ist Ihnen maximale Modellqualität?

Wenn Sie KI gezielt für anspruchsvolle inhaltliche Arbeit einsetzen wollen (etwa das Erstellen von Argumentationslinien für Schriftsätze im beA oder die Analyse komplexer Verrechnungspreisstrukturen), profitieren Sie vom Qualitätsvorsprung der Cloud-Modelle.

5. Wie steht Ihre Kanzlei zu Cloud-Diensten generell?

Manche Kanzleien nutzen bereits bedenkenlos Cloud-basierte Kanzleisoftware, DATEV-Rechenzentrum oder RA-MICRO Cloud. Für diese ist der Schritt zur KI-Cloud klein. Andere haben ein grundsätzliches Unbehagen bei externen Diensten - dann passt On-Premise besser zur Kanzleikultur.

Der Hybrid-Ansatz: Starten Sie smart

Unsere Empfehlung für die meisten Kanzleien: Starten Sie mit der EU-Cloud und ergänzen Sie später On-Premise.

Der Grund ist pragmatisch: Die Cloud ermöglicht einen schnellen, risikoarmen Einstieg mit geringem Investment. Ihre Mitarbeiter lernen den Umgang mit KI, Sie identifizieren die wirklich nützlichen Anwendungsfälle, und Sie verstehen, wo KI Ihnen den größten Hebel bietet.

Auf dieser Basis entscheiden Sie dann informiert, ob sich eine On-Premise-Ergänzung lohnt - etwa für standardisierte Massenaufgaben, bei denen API-Kosten ins Gewicht fallen, oder für besonders vertrauliche Anwendungsfälle.

Ein typischer Fahrplan:

1. Monat 1-2: Claude via EU-Cloud einrichten. Drei bis fünf Anwendungsfälle mit dem Team testen.
2. Monat 3-4: Nutzung auswerten. Welche Aufgaben bringen den größten Zeitgewinn? Wie hoch sind die API-Kosten?
3. Ab Monat 5: Bei Bedarf On-Premise für ausgewählte Aufgaben ergänzen. Die Cloud bleibt für die qualitätsintensiven Anwendungsfälle.

Fazit

Es gibt keinen universell richtigen Weg. Die EU-Cloud mit Claude bietet den schnellsten Einstieg und die beste Modellqualität - mit dem Nachteil laufender Kosten und einer Restabhängigkeit von Drittanbietern. On-Premise bietet maximale Datensouveränität und planbare Kosten - erfordert aber eine Hardware-Investition und etwas IT-Kompetenz.

Die schlechteste Entscheidung ist keine Entscheidung. Denn während Sie abwägen, nutzen Ihre Mitarbeiter möglicherweise bereits ChatGPT über ihre privaten Accounts - ohne jede Absicherung.

Treffen Sie eine bewusste Wahl. Beide Wege sind besser als der Status quo.

---

Sie möchten herausfinden, welcher Ansatz zu Ihrer Kanzlei passt? In unserer KI-Einführungsberatung klären wir gemeinsam die richtige Architektur. Mehr zum Thema Datenschutz und Berufsgeheimnis finden Sie unter Datensouveränität.