Lassen Sie mich Ihnen eine Geschichte über ein Unternehmen erzählen, das eine EU-native Anwendung und einen KI-Stack auf den Markt bringen wollte. Zu Beginn des Jahres 2025 begannen wir bei Greater aktiv über ein wirklich EU-natives Angebot nachzudenken. Die politische und öffentliche Meinung über große Technologieunternehmen begann sich zu ändern, und die Compliance und die Regulierung in der EU nahmen rapide zu.
Da die meisten von uns im Herzen Ingenieure sind, haben wir zunächst einige klare Parameter festgelegt:
- Alles, was wir verwenden, muss im Besitz eines EU-Unternehmens sein bzw. von diesem lizenziert werden oder als Open Source zur Verfügung stehen.
- Open Source muss unter Apache, MIT oder GPLv3 (oder kompatiblen Lizenzen) stehen
- Wenn Open-Source-Software ganz oder teilweise im Besitz von Unternehmen außerhalb der EU ist, wird besonders genau hingeschaut.
Bescheidene Anfänge
Wir hatten unsere Parameter, wir hatten unsere Vision, und nun konnten wir loslegen... oder doch nicht? Wir begannen mit einem ersten Treffen, um eine Reihe von Technologien und Anbietern auszuwählen, mit denen wir zusammenarbeiten wollten. Und wissen Sie was? Vieles davon war im Besitz von Unternehmen außerhalb der EU und wurde von diesen gewartet. Aber, was noch überraschender war, vieles war es nicht. Der Markt ist gewachsen. Da sich alle auf die großen Technologieunternehmen konzentrieren, haben viele ein lebhaftes Ökosystem von Unternehmen übersehen, die sich seit langem Grundsätze wie Datenschutz und digitale Souveränität auf die Fahnen geschrieben haben. Selbst etwas "Einfaches" wie die Auswahl eines Cloud-Anbieters erwies sich als Herausforderung. Der Raum der europäischen Hoster und Cloud-Anbieter ist viel größer, als wir uns jemals vorgestellt haben.
Ich könnte jetzt auf alle Details eingehen, warum eines besser ist als ein anderes, aber um ehrlich zu sein, haben die meisten von ihnen ihre eigenen Stärken und Schwächen.
Exoscale
Wir haben uns schließlich für Exoscale als Infrastrukturpartner entschieden, einfach weil wir ein gutes Gefühl hatten und gute Erfahrungen mit den Entwicklungsteams gemacht haben. Um es ganz klar zu sagen: Greater ist ein großer Beratungspartner im Bereich DevOps/Cloud Native, aber Kubiqo steht erst am Anfang. Dennoch hat uns Exoscale vom ersten Tag an als ernstzunehmenden Partner gesehen und entsprechend behandelt. Das war bei anderen Cloud-Anbietern nicht immer der Fall. Unsere Erfahrungen reichten von "Klar, lasst uns Partner werden, bitte zahlt uns ein paar tausend Euro im Monat" bis hin zu gar keiner Reaktion.
Die Eingeweihten unter Ihnen werden jetzt vielleicht sagen: Moment mal, Exoscale ist ein Schweizer Unternehmen, kein EU-Unternehmen. Das ist in gewisser Weise richtig. Allerdings hat A1 Digital Exoscale vollständig übernommen, und A1 Digital ist ein österreichisches Unternehmen. Wir sind also wieder in der EU.
Zurück zu SUSE
Nachdem wir uns um die Infrastruktur gekümmert hatten, stellte sich die nächste Frage: Was werden wir betreiben? Dieser Teil war ein Kinderspiel. Wir wollten moderne Anwendungen hosten, daher war Kubernetes aufgrund seiner unvergleichlichen Skalierbarkeit und Automatisierung die natürliche Wahl. Greater hatte bereits eine Partnerschaft im Bereich Cloud Native mit SUSE. Dennoch haben wir einen neuen Auswahlprozess eingeleitet, um sicherzustellen, dass die Technologie wirklich zu unserem Serviceangebot passt. Am Ende waren Produkte wie RKE2, K3s, Rancher und SUSE Security (NeuVector) zu gut, um sie zu ignorieren. Nach einigen Diskussionen beschlossen wir daher, erneut mit SUSE zusammenzuarbeiten, diesmal nicht nur als Consulting-Partner, sondern als Managed Service Provider (MSP).
Der Support, den wir erhalten haben, war hervorragend. SUSE hat uns während der Entwicklung aktiv unterstützt und sogar einige Fehler beseitigt.
Einstieg in den AI-Hype
Und dann mussten wir uns mit dem kommerziellen rosa Elefanten im Raum befassen: KI. Der Hype um KI ist real. Als Ingenieure können wir nicht einfach die Augen verschließen und es als Marketing-Mätzchen abtun. Sogar unsere tägliche Arbeit hat sich verändert. KI hilft uns jetzt, Informationen schneller zu finden und dient als "Gummiente", um unsere eigenen Ideen und unseren Code zu testen. Dennoch sind wir an die KI mit denselben Parametern herangegangen wie an den Rest unserer Plattform. Das war eine interessante Herausforderung, und wieder einmal hat SUSE mit seinem SUSE AI-Angebot überzeugt.
Gemeinsam entwickelten wir eine Idee: die Integration lokaler KI-Funktionen in unseren Anwendungsstack. Wir arbeiteten mit dem SUSE AI-Entwicklungsteam an einem Proof of Concept, bei dem KI-Workloads innerhalb von Anwendungen mit einem vollständig lokalen KI-Stack auf Basis von Kubernetes und unterstützt durch die Exoscale GPU-Infrastruktur ausgeführt wurden. Wir waren begeistert. Open-Source-LLMs wie Llama oder Gemma lokal und vollständig in unsere Anwendungen integriert auszuführen, ohne jemals die EU-Grenzen verlassen zu müssen, war ein Durchbruch. Wir haben die Plattform dann mit RAG (Retrieval-Augmented Generation) Trainingsmöglichkeiten unter Verwendung einer Vektor-DB erweitert. Jetzt können Sie LLMs ausführen, die mit unternehmens- oder anwendungsspezifischem Wissen angereichert sind, und zwar innerhalb der EU.
Abschlusserklärung
Natürlich verwenden wir auch viele andere Tools wie CI/CD, Automatisierung, Beobachtbarkeit und vieles mehr, aber wir werden diese in einem späteren Artikel behandeln. Das ist eine ganz andere Geschichte. Abschließend möchte ich den drei Unternehmen, die bei der Gründung von Kubiqo mitgewirkt haben, meinen aufrichtigen Dank aussprechen: Exoscale, SUSE und Greater . Vielen Dank für Ihr Vertrauen und Ihre Unterstützung. Und an alle, die an einer Zusammenarbeit mit uns interessiert sind, sei es als Kunde, Partner oder Kollege, zögern Sie nicht, uns über LinkedIn zu kontaktieren oder uns eine E-Mail an info@kubiqo.io zu schicken.