KI in der IT-Beschaffung: Handreichung für öffentliche Auftraggeber – Teil 4

Nachdem die ersten drei Beiträge (siehe Teil 1: Vergabeblog.de vom 03/04/2025 Nr. 70410, Teil 2: Vergabeblog.de vom 24/04/2025 Nr. 70678 und Teil 3: Vergabeblog.de vom 03/07/2025 Nr. 71500) dieser Reihe einen Überblick über aktuelle Marktentwicklungen und Herausforderungen bei der Beschaffung von IT / KI, sowie Empfehlungen für die Beschaffung von IT mit KI-Anteilen und KI gegeben haben, geht dieser Beitrag nun in Richtung praktischer Ansätze für Vergabestellen: Wie kann KI hier helfen?

Was ist technisch möglich?

Wie wir alle wissen, durchläuft eine Vergabe unterschiedliche Phasen. Zwar werden teils unterschiedliche Begriffe verwendet, im Grunde werden aber die folgenden Phasen durchlaufen (insofern anwendbar):

• Vergabevorbereitung
• Teilnahmeantrags- und Angebotsphasen mit Bieterfragen
• Prüfungs- und Wertungsphasen
• Verhandlungsphasen, bzw. Gespräche
• Zuschlagsphase mit Entscheidungsfindung und Absageschreiben

Folgend ist eine einfache Übersicht von Aktivitäten, in denen KI, Stand heute, unterstützen könnte. Hierbei ist zu bedenken, dass es hierzu aktuell kaum Angebote am Markt gibt – diese lassen sich allerdings recht einfach recherchieren:

Bei der Bedarfsermittlung könnte KI …

• historische Beschaffungs- und Nutzungsdaten auswerten, um zukünftigen Bedarf zu prognostizieren
• Mustererkennung über Vergabedaten mehrerer Auftraggeber durchführen zur Identifizierung ratsamer Bedarfsbündelungen

Bei der Markterkundung könnte KI …

• schnelle, tiefere Marktinformationen bereitstellen und -recherchen durchführen – auch sprach- und länderübergreifend
• Leistungsbeschreibungen und Kriterien gegen Marktfähigkeiten prüfen

Für Leistungsbeschreibungen und Kriterien könnte KI …

• Texte und Vorlagen generieren: Moderne Sprachmodelle (LLMs) können Entwürfe für Leistungsbeschreibungen oder Teile davon in weiten Teilen formulieren
• Dokumente auf Widersprüche, Lücken oder Unklarheiten hin analysieren
• Vorschläge unterbreiten, welche Eignungs- und Zuschlagskriterien in einem bestimmten Beschaffungssegment üblich sind und wie sie üblicherweise priorisiert werden
• komplexe Excel-Wertungsmatrizen entwerfen
• mit der Vorbelegung von eForms-Feldern gemäß den Inhalten der Vergabeunterlagen dienen

Bezüglich Bieterfragen könnte KI …

• konkretisierende Abwägungen zu eingegangenen Bieterfragen formulieren
• Vorschläge zu Antworten generieren – basierend auf den ganzheitlichen Vergabeunterlagen
• Konsistenz aller Bieterfragenbeantwortungen prüfen im Licht der aktuellen Fragen

Bei der Prüfung und Wertung von Angeboten könnte KI …

• einen ersten Vollständigkeitsabgleich durchführen
• auf formale Korrektheit vorprüfen
• bei der Konsolidierung und Aufarbeitung von Wertungsergebnissen unterstützen
• Wertungsergebnisse prägnant darstellen
• objektive Bewertungskriterien einstufen
• besonders relevante Textstellen für die Wertung markieren
• bei der Bewertung spezieller Kriterien unterstützen, bzw. in Form eines Abgleichs mit Anforderungen bezüglich z.B. Nachhaltigkeits-Normen
• eine schnelle Navigation zwischen entsprechenden Antworten und Dokumenten unterstützen
• Auffälligkeiten identifizieren, Widersprüche in Angeboten suchen und Änderungen der Vergabeunterlagen kennzeichnen
• bei der Erkennung von Indizien zu Bieterabsprachen unterstützen

Bei Verhandlungen könnte KI …

• Gesprächsinhalte transkribieren
• Mitschriften zusammenfassen
• Aufgabenlisten erstellen

In der Zuschlagsphase könnte KI …

• eine Plausibilitätsprüfung durchführen
• Anschreiben entwerfen
• Entscheidungsgründe aufbereiten

Zusammengefasst bietet KI entlang aller Prozessschritte zahlreiche mögliche Unterstützungsfunktionen – wenn die datenschutzrechtlichen, rechtlichen und technischen Rahmenbedingungen stimmen.

Vergabeplattformen

In Deutschland existiert eine Reihe etablierter E-Vergabeplattformen, über die öffentliche Auftraggeber ihre Ausschreibungen elektronisch abwickeln. Diese Plattformen wickeln den gesamten eVergabe-Prozess ab (Bekanntmachung, Bereitstellen der Vergabeunterlagen, digitale Angebotsabgabe, Bieterkommunikation, Zuschlagserteilung).

Wie lässt sich KI in solche Plattformen integrieren? Hier sind zwei Aspekte zu unterscheiden: zukünftig ggf. mögliche KI-Funktionen in den Plattformen selbst und technische Integrationsschnittstellen.

Solange Plattformanbieter keine echten Mehrwertfunktionen – auf Basis KI – selbstständig in ihre Plattformen integrieren, sind die entsprechenden Möglichkeiten recht schmal bzw. rar. Nach den letzten mir bekannten Informationen sind die geplanten plattformseitigen KI-Funktionen noch recht unambitioniert. Wobei es viele Ansatzpunkte gäbe, die echte Mehrwerte liefern würden.

Alle Vergabelösungen bieten zwar Standardschnittstellen an, um mit anderen Systemen zu kommunizieren – jedoch ist die Gestaltung der Plattformen meines Erachtens heute noch nicht auf die Integration externer KI-Funktionen ausgelegt bzw. ausreichend vorbereitet.

Denkbar wäre es (die Betonung liegt hier auf denkbar), z.B. einen KI-Assistenten in der Oberfläche des VMS erscheinen zu lassen, der kontextbezogene Hilfestellungen gibt. Technisch würden diese Module dann die vorhandenen Schnittstellen nutzen, um im Hintergrund auf KI-Modelle zuzugreifen. Der Mehrwert wäre allerdings auch recht begrenzt.

Davon abgesehen könnten externe KI-Funktionen lediglich vorgelagert (im internen Prozess vor Einstellen der Vergabe) als auch nachgelagert (etwa im Angebotscontrolling) halbwegs sinnvoll „andocken“.

Vergabestellen sollten also im Auge behalten, welche Updates ihre Plattformen oder Konkurrenzplattformen erhalten.

Wie also selber umsetzen (OnPremise vs. Cloud)?

Um die erwähnten datenschutzrechtlichen, rechtlichen und technischen Rahmenbedingungen zu erfüllen, spielt das Betriebsmodell der KI-Lösung natürlich eine entscheidende Rolle.

On-Premise: KI-Systeme auf der eigenen Infrastruktur zu betreiben, ist möglich, wenn auch anspruchsvoll und nicht kostengünstig. Daten verlassen nicht das Haus, und es gelten erst einmal die gleichen Sicherheitsmaßnahmen wie für andere interne Verfahren. On-Prem kann bedeuten, eine fertige zugekaufte KI-„Appliance“ zu betreiben oder eigene KI-Modelle (Open Source) aufzusetzen. Mit allen Vor- und Nachteilen. Und jede der oben genannten Aktivitäten bedeutet hier eigentlich einen eigenen Use-Case. Einfach ein LLM mit Chatfenster zu installieren wäre für Vergabestellen relativ wenig hilfreich. Übrigens ist es in der Regel noch unempfehlenswerter, ein lokales LLM auf normalen Arbeitsrechnern oder Laptops zu installieren (Performance).

EU-Cloud: Viele Anbieter bieten an, KI-Services ausschließlich in EU-Rechenzentren auszuführen. Zudem gibt es europäische Cloud-Anbieter (z. B. Deutsche Telekom Open Telekom Cloud), die KI-Plattformen bereitstellen. Hier wird in der Regel mehr Aufwand für Sicherheit betrieben als OnPremise. Man betreibt die KI in diesem Sinne jedoch selber. Mit allen Vor- und Nachteilen.

SaaS-Cloud: Hier kaufen Sie sich eine geeignete KI-Funktion von einem Anbieter ein. Der entsprechende Markt für Hilfe bei Vergabeverfahren ist noch recht überschaubar – jedoch wird bei diesen Angeboten in der Regel dem Thema Datenschutz eine hohe Aufmerksamkeit gewidmet.

Was ist Ihr Use Case? Ein Vorschlag für Verwaltungen allgemein

Der für mich mit Abstand beste Use-Case für öffentliche Verwaltungen ist: LLM plus RAG-System für eAkte und Datenablagen.

Viele Leser fragen sich vermutlich an der Stelle: Was ist das?

Stellen Sie sich vor: Sie sind an Ihrem Rechner und erhalten eine kleine Anfrage. Sie öffnen diese und fangen an zu lesen. Dann sehen Sie: Es geht um Straßenbeleuchtung. Ihr Referat. Sie sind vor ein paar Monaten in dieses Referat gewechselt. Und Sie fragen sich: Haben wir zu diesem Thema nicht schon einmal geantwortet? Und beginnen zu recherchieren: eAkte, Dateiablagen, Archiv, Erinnerungen von Kollegen.

Wer von Ihnen kennt das nicht?

Ein RAG-System würde diese Recherche in vielen Fällen überflüssig machen. Dieses könnte innerhalb von Sekunden, passend zu der Anfrage, jegliche Kommunikation, Dokumente etc. finden, welche der Anfrage thematisch ähneln. Und das auch ganz ohne Halluzination.

Wäre das nicht lebensverändernd?

Typischerweise lässt sich ein RAG wie folgt beschreiben:

1. Die internen Dokumente werden segmentiert (Chunking) und in Vektoren (Embeddings) umgewandelt. Diese Embeddings speichert man in einer lokalen Vektor-Datenbank.
2. Eine Abfrage des Nutzers wird ebenfalls als Vektor abgebildet und mit den gespeicherten Vektoren verglichen, um die passenden Textbausteine zu finden.
3. Diese gefundenen Texte (z.B. die x relevantesten Passagen) werden zusammen mit der Nutzerfrage als Prompt an ein LLM geschickt.
4. Das LLM erzeugt eine Antwort, die idealerweise Zitate oder Verweise auf die gelieferten Passagen enthält.
5. Antwortausgabe: Die Antwort wird dem Nutzer angezeigt, angereichert mit Quellenangaben oder einer Liste der Quellen.

In einer hybriden Variante können einzelne Teile eines solchen Systems auch unterschiedlich verteilt sein: Beispielsweise könnten Embeddings und Vektorensuche On-Premise (oder in der Cloud) laufen, während das LLM via Cloud-API angebunden ist. Hier kenne ich auch schon gute Anbieter aus Deutschland, welche diese Leistung aus deutschen Rechenzentren anbieten oder beim Kunden direkt aufbauen.

Zum Thema Rechte und Dokumente mit Geheimhaltungsstufen gibt es technisch auch schon Ansätze, wie z.B. dass das LLM von bestimmten Quellen keine Texte erhält, sondern nur Dokumenten-IDs. Diese Dokumente könnten wiederum nur von Personen mit den entsprechenden Rechten manuell gesichtet werden.

Fazit

In Summe stehen KI-Werkzeuge für vergaberechtliche Anforderungen in den Startlöchern. Wichtig ist, dass Sie sich überlegen, wie Ihnen eine KI insbesondere bei aufwändigen, anspruchsvollen oder sich wiederholenden Aufgaben am besten helfen könnte. Bei korrekter Anwendung hilft die KI nicht nur bei Effizienzgewinnen, sondern kann sogar eher ein Hüter der Vergaberegeln sein.

Und: Verstehen Sie KI als eine Art Helfer und nicht als Entscheider – und erst recht nicht als Ersatz für den Menschen.

Die Devise lautet: Chancen nutzen, Risiken beherrschen – dann überwiegen die Vorteile von KI in der öffentlichen Beschaffung klar die möglichen Nachteile.