Seltenes Spezialwissen, teure GPUs, fremde Programmiersprachen … die Anforderungen, die der Einsatz von KI stellt, können überwältigend wirken. Einige unserer Kunden schauen nun auf ihre Bestandsanwendungen und fragen sich: Kann ich das überhaupt einsetzen? Nach meinem Besuch auf der Entwicklerkonferenz „JAX“ sage ich: Ja – und jetzt ist der beste Zeitpunkt zu beginnen!

Inhaltsverzeichnis

• Motivation: KI als Teil meiner Softwarelösungen
• KI und Java? Natürlich geht das!
• RAG – die Mutter der KI-Architekturen
• KI auch offline nutzen
• MCP: Das „USB-C für KIs“ als Enabler für agentische Systeme
• Fazit: KI ist kein Greenfield-Privileg

Motivation: KI als Teil meiner Softwarelösungen

Anfang Mai hatte ich die Möglichkeit, die JAX in Mainz zu besuchen, eine Entwicklerkonferenz rund um die Themen Java, Architektur- und Softwareinnovation. Ein bestimmtes Thema durfte dort nicht fehlen: Künstliche Intelligenz! Es gab insgesamt 24 Vorträge mit KI-Bezug – und ich habe sie mittlerweile alle gesehen.

Dabei war ich nicht auf der Suche nach dem zwanzigsten Programmierassistenten, der mich als Entwickler noch effizienter machen könnte. Viel spannender fand ich die Frage: Wie kann ich KI in meine Anwendungen integrieren, sodass meine Nutzerinnen und Nutzer davon profitieren? Ich habe vier große Trends identifiziert, die ich im Folgenden vorstellen möchte. Dabei möchte ich auch zeigen: Das Thema ist nicht nur für Green-Field-Projekte interessant, auch Bestandssysteme werden eine wichtige Rolle spielen.

KI und Java? Natürlich geht das!

Im Themenfeld KI ist Python klar die dominierende Programmiersprache. Tatsächlich bieten aber alle Anbieter wie OpenAI, Claude usw. technologieneutrale Schnittstellen (sogenannte REST APIs) an, die in praktisch jeder Programmiersprache konsumierbar sind. Python hatte einfach einen Heimvorteil. Nun ziehen andere Sprachen wie Java nach: Frameworks wie „Spring AI“ oder „Quarkus-Langchain4j“ erreichen gerade ihre Produktionsreife.

Um das klarzustellen: natürlich bleibt auch Python für viele Projekte eine attraktive Option! Wer sich aber bislang gescheut hat, das Thema KI anzugehen, aus Angst, seine bestehenden Java-Anwendungen komplett umbauen zu müssen, der sollte sich oben genannte Frameworks genauer anschauen!

Zwischenfazit: Es muss nicht immer Python sein.

RAG – die Mutter der KI-Architekturen

Das Architekturmuster „Retrieval-Augmented Generation“ (RAG) hat in kurzer Zeit eine wahnsinnig große Verbreitung gefunden. Fast jeder Vortrag hat es zumindest einmal erwähnt. Gefühlt jeder hat es schon im Einsatz oder arbeitet daran. Worum geht es? Ziel ist es, der KI nicht nur Fragen zum Weltwissen stellen zu können, sondern auch zu den eigenen Unternehmensdaten. Ein paar Beispiele:

• „Hey KI: Wie hoch ist eigentlich unser Budget-Limit für Hotelreservierungen auf Dienstreisen?“
• „Ich brauche eine Zusammenfassung aller Meeting-Mitschriften aller Projekte zu Thema X“
• „Was hat Kunde Müller in den letzten sechs Monaten reklamiert – und wie haben wir darauf reagiert?“

Wie genau das funktioniert, spare ich hier aus, aber einen Hinweis zur Technologie möchte ich doch geben: Genau wie der Irrglaube „KI benötigt Python“ in vielen Köpfen verankert ist, denken viele, RAG benötige sogenannte Vektor-Datenbanken. Aus Sicht des IT-Betriebs also das nächste komplizierte Nischenprodukt, das man verstehen, installieren und pflegen muss.

Die gute Nachricht ist: Die meisten etablierten Datenbanksysteme und Suchmaschinen unterstützen in den neueren Versionen auch Vektoren: Elastic Search, Postgres, MySQL, in naher Zukunft auch Microsoft SQL Server. Auch hier stehen die Chancen also sehr gut, mit bestehender Infrastruktur auszukommen!

Zwischenfazit: Es muss nicht immer eine Vektor-Datenbank sein!

KI auch offline nutzen

Die häufigsten Argumente gegen den Einsatz von KI, die ich im Moment höre, sind gar nicht technologischer Natur: Regulatorische Einschränkungen, Datenschutzbedenken, Security, abgeschottete Offline-Umgebungen. Kurz gesagt: OpenAI und Co dürfen nicht eingesetzt werden oder sind schlicht nicht erreichbar. Auch hierfür entwickeln sich gerade Lösungen: kommerziell einsetzbare Open-Source-Modelle, die so klein sind, dass sie sogar auf der Laptop-CPU laufen können, sind schon heute Realität.

Natürlich sind diese Modelle bei weitem nicht so gut wie die großen Hyperscaler wie Claude, ChatGPT, Gemini und Co. Aber vielleicht sind sie ja gut genug, um einen spezifischen Anwendungsfall im Unternehmen zu lösen? Wenn wir einfach die Flinte ins Korn werfen und sagen: „Ich darf KI halt nicht einsetzen“, dann werden wir es nie herausfinden.

Zwischenfazit: Es müssen nicht immer OpenAI & Co sein.

MCP: Das „USB-C für KIs“ als Enabler für agentische Systeme

Der neuste Hype ist sicherlich das Model Context Protocol (MCP). Es ermöglicht, Adapter für bestehenden Anwendungen zu erstellen, sogenannte MCP Server. Diese können dann in andere KI Tools per Plug and Play eingebunden werden. Wenn zum Beispiel mein Hotelbuchungsportal einen MCP Server hat, könnte ich es in Claude Desktop anbinden und dort dann den Auftrag geben: „Buche mir ein Hotel in Mainz für nächsten Mittwoch!“

Kombinieren wir das nun mit unserem RAG System, könnten wir noch den Zusatz anhängen: „Das Hotel muss unseren Budget-Richtlinien entsprechen“. Unser intelligentes System kommt dann von selbst auf die Idee, dass es zunächst die Richtlinie aus dem RAG System abfragen und in seine Hotelsuche einfließen lassen muss. In diesem Moment sind wir bei den berüchtigten „agentischen Systemen“ angekommen. Das ist die große Vision unserer Branche: Die KI ist nicht mehr nur Sparring Partner in einem netten Chat, sondern erledigt für uns möglichst autonom Aufgaben. Natürlich steckt hier noch vieles in den Kinderschuhen, aber erste Machbarkeitsstudien sehen schon heute beeindruckend aus.

Zwischenfazit: Mit MCP erschließen wir Bestandsanwendungen für die Verwendung durch Agenten.

Fazit: KI ist kein Greenfield-Privileg

Die Integration von KI in bestehende Anwendungen muss kein Mammutprojekt sein – und sie ist schon gar kein exklusives Spielfeld für Start-ups oder Greenfield-Projekte. Im Gegenteil: Gerade in gewachsenen IT-Landschaften liegt enormes Potenzial, wenn wir bewährte Systeme durch KI sinnvoll ergänzen. Die Technologien dafür sind da – von REST-Schnittstellen über moderne Java-Frameworks bis hin zu Vektor-Unterstützung in etablierten Datenbanken. Selbst für abgeschottete oder besonders sensible Umgebungen gibt es heute schon praktikable Ansätze. Wer jetzt beginnt, kann Schritt für Schritt konkrete Mehrwerte schaffen.

War dieser Artikel hilfreich für Sie? Oder haben Sie weiterführende Fragen zur Integration von KI in Bestandsanwendungen? Schreiben Sie uns einen Kommentar oder rufen Sie uns gerne an.