Wenn Künstliche Intelligenz halluziniert – KI in Vergabeverfahren

Künstliche Intelligenz wird in der Angebotsbearbeitung längst nicht mehr nur für Textentwürfe genutzt. Sie fasst Leistungsverzeichnisse zusammen, strukturiert Anforderungen, unterstützt bei Bieterfragen, vergleicht Zuschlagskriterien oder bereitet Nachweise vor. Das kann erheblich entlasten. Wenn eine KI jedoch halluziniert, kann daraus in öffentlichen Vergabeverfahren schnell ein handfester Angebotsfehler werden.  

In unserer Blogserie „KI in Vergabeverfahren“ beleuchten wir, wie KI bei der Teilnahme an öffentlichen Ausschreibungen erfolgreich eingesetzt werden kann. Aspekte wie die Recherche und Bearbeitung von Ausschreibungen wurden in den vorherigen Beiträgen beleuchtet. Dieser Beitrag zeigt, was es bedeutet, wenn KI halluziniert, warum das im Vergabeverfahren riskant sein kann und wie Bieter KI dennoch gewissenhaft und gewinnbringend im Arbeitsalltag einsetzen können. 

Was bedeutet es, wenn KI halluziniert?

Halluzinationen sind Ausgaben eines KI-Systems, die sprachlich überzeugend wirken, inhaltlich aber falsch, unbelegt oder frei erfunden sind. Anders als ein klassischer Rechenfehler sind sie häufig schwer erkennbar, weil sie sich in einem professionellen Ton präsentieren und scheinbar logisch in den Kontext passen. 

Im Vergabekontext kann diese Plausibilität besonders riskant sein. Bieter arbeiten mit umfangreichen Unterlagen, Anlagen, Formblättern und teilweise uneinheitlichen Begrifflichkeiten. Eine KI, die aus solchen Informationen eine glatte Zusammenfassung erzeugt, kann Unsicherheiten überdecken. Aus einer Muss-Anforderung wird dann im Text eine Empfehlung, aus einer Wertungsmatrix eine unverbindliche Orientierung oder aus einer Nebenbestimmung eine vermeintlich allgemeine Branchenregel.

Der Kern des Problems liegt darin, dass viele Sprachmodelle keine Wahrheitsmaschinen sind. Sie berechnen wahrscheinliche sprachliche Fortsetzungen auf Basis gelernter Muster. Ohne saubere Anbindung an die konkreten Vergabeunterlagen können sie formulieren, was typischerweise zu einer Ausschreibung passen würde – nicht zwingend das, was in diesem Verfahren tatsächlich gilt.

Wie kommt es zu KI-Halluzinationen?

Halluzinationen entstehen nicht zufällig, sondern aus mehreren strukturellen Ursachen. Sprachmodelle wurden auf großen Datenmengen trainiert und erkennen Muster in Sprache, Recht, Verwaltung und Fachtexten. Sie wissen dadurch viel über typische Ausschreibungslogik, aber nicht automatisch, welche Fassung eines Leistungsverzeichnisses, welche Bieterinformation oder welche Frist im konkreten Verfahren maßgeblich ist.

Ein häufiger Auslöser ist ein unvollständiger Kontext. Wenn nur die Bekanntmachung, nicht aber Anlagen, Vertragsbedingungen oder nachträgliche Bieterinformationen ausgewertet werden, entstehen Lücken. Die KI füllt diese Lücken unter Umständen mit naheliegenden Annahmen. 

Auch mehrdeutige Prompts erhöhen das Risiko. Wer fragt: „Welche Unterlagen muss ich einreichen?“, erhält möglicherweise eine allgemeine Liste typischer Angebotsbestandteile. Präziser wäre die Frage, welche Unterlagen nach den konkret bereitgestellten Vergabeunterlagen zwingend mit Angebotsabgabe einzureichen sind und an welcher Stelle dies geregelt ist. Bei KI in Ausschreibungen entscheidet deshalb nicht nur das Modell, sondern auch die Qualität des Arbeitsprozesses über die Zuverlässigkeit.

Hinzu kommt die Dynamik öffentlicher Vergabeverfahren. Änderungen durch Bieterfragen, Klarstellungen, korrigierte Formblätter oder neue Fristsetzungen können ältere Informationen verdrängen. Eine KI, die nicht mit der aktuellen Dokumentenlage arbeitet, kann eine formal überholte Antwort liefern. Für den Bieter zählt jedoch nicht, was früher einmal in den Unterlagen stand, sondern was zum Zeitpunkt der Angebotsabgabe verbindlich ist.

Angebotsfehler vermeiden: KI-Ausgaben müssen belegbar sein

Wer Angebotsfehler vermeiden will, sollte KI-Ausgaben nicht als Ergebnis, sondern als Arbeitshypothese behandeln. Entscheidend ist, ob jede relevante Aussage auf eine konkrete Stelle in den Vergabeunterlagen zurückgeführt werden kann. Eine Zusammenfassung ohne Fundstelle ist bei formalen Anforderungen nur eingeschränkt brauchbar.

Besonders kritisch sind alle Punkte, die über Zulassung, Wertung oder Ausschluss des Angebots entscheiden können. Die Vergabestelle ist an die Grundsätze von Wettbewerb, Transparenz und Gleichbehandlung gebunden. Bieter wiederum tragen die Verantwortung dafür, ihr Angebot vollständig, fristgerecht und entsprechend den Vorgaben einzureichen.

In der Praxis bewährt sich ein quellenorientiertes Vorgehen. Die KI kann etwa gebeten werden, Anforderungen nicht nur zusammenzufassen, sondern jeweils Dokument, Abschnitt, Seitenzahl oder Randnummer zu nennen. Anschließend muss geprüft werden, ob die Aussage zutreffend wiedergegeben wird. Fehlt diese Rückbindung, sollte die Antwort nicht in die Angebotsbearbeitung übernommen werden.

Sinnvoll ist zudem eine klare Trennung zwischen unterstützenden und entscheidungsrelevanten Aufgaben. Für Gliederungsvorschläge, erste Textentwürfe, Verständnishilfen oder interne Checklisten kann KI wertvolle Dienste leisten. Bei Ausschlussrisiken, Fristen, Eignungsnachweisen, Preisangaben und Erklärungen zum Angebot ist eine manuelle Kontrolle unerlässlich.

Wie Bieter KI kontrolliert in den Angebotsprozess einbinden

Ein professioneller Umgang mit KI beginnt bei der Rollenverteilung. Die KI kann strukturieren, verdichten, Hinweise geben und Widersprüche markieren. Die Entscheidung, wie eine Anforderung zu verstehen ist und wie das Angebot darauf reagiert, bleibt beim verantwortlichen Bearbeitungsteam.

Auch die Pflicht, Vergabeunterlagen zu prüfen, lässt sich nicht an ein KI-System delegieren.

Bieter können sich mithilfe von KI einen guten ersten Überblick darüber verschaffen, was in der Ausschreibung gefordert wird und wo diese Informationen zu finden sind. Vor allem die Frage nach den Fundstellen wichtiger Informationen hilft bei der effizienten Sichtung langer Ausschreibungstexte.

Wie Sie sicher mit unserem KI-Assistenten arbeiten

Nicht nur Nutzer, auch Anbieter von KI-Assistenten tragen Verantwortung für einen risikobewussten Einsatz. Die a24salescloud verfügt über einen integrierten KI-Assistenten, der Kunden bei der Arbeit mit öffentlichen Ausschreibungen unterstützt. Wichtig ist dabei: Alex, unser KI-Assistent, ist als Assistenzsystem konzipiert. Er unterstützt bei der Orientierung, trifft aber keine verbindlichen Rechts- oder Angebotsentscheidungen.

Bei der Entwicklung, Konfiguration und Qualitätssicherung unseres KI-Assistenten fließt die gebündelte Erfahrung unseres Teams aus über 125 Jahren Tätigkeit am öffentlichen Ausschreibungsmarkt ein. Ergänzend werden externe Fach- und Rechtsquellen berücksichtigt, um vergaberelevante Fragestellungen fachlich fundiert einzuordnen. Ziel ist es, Kunden im Chatformat eine schnelle und strukturierte erste Orientierung zu Bekanntmachungen zu ermöglichen. Diesen fachlichen Entwicklungs- und Prüfprozess haben wir bewusst intern gesteuert, um unseren Kunden einen gewissenhaft trainierten KI-Assistenten bereitzustellen und Halluzinationsrisiken so weit wie möglich zu reduzieren.

Alex kann dabei helfen, relevante Passagen zu identifizieren, Fristen, Nachweise, Eignungskriterien oder Zuschlagskriterien schneller aufzufinden und Prüfaufgaben vorzubereiten. Die verbindliche Grundlage bleiben jedoch immer die Vergabeunterlagen selbst. Deshalb sollten entscheidungsrelevante Punkte weiterhin anhand der Originalunterlagen geprüft werden. Gerade diese klare Rollenverteilung macht den Einsatz von KI im Vergabeverfahren verantwortungsvoll.

Zwischen Effizienzgewinn und Prüfpflicht 

KI kann die Bearbeitung öffentlicher Ausschreibungen beschleunigen und übersichtlicher machen. Sie hilft, umfangreiche Dokumente zu erschließen, Aufgaben zu priorisieren und interne Abläufe zu strukturieren. Der Nutzen entsteht aber nur, wenn die Technologie in einen kontrollierten Prozess eingebunden wird. Wenn eine KI halluziniert, ist nicht nur die einzelne falsche Antwort problematisch. Kritisch ist vor allem das Vertrauen in eine scheinbar vollständige Auswertung. In Vergabeverfahren dürfen Bieter sich nicht von sprachlicher Sicherheit täuschen lassen. Maßgeblich bleiben die Vergabeunterlagen, die Kommunikation der Vergabestelle und die dokumentierte Prüfung.

KI darf den Blick in die Unterlagen erleichtern, aber nicht ersetzen. Wer Antworten mit Fundstellen absichert und wichtige Punkte wie Anforderungen und Fristen manuell prüft, kann KI gewinnbringend einsetzen, ohne die formalen Risiken zu unterschätzen. So wird der KI-Assistent zu einem Werkzeug für mehr Struktur und bessere Vorbereitung.

Probieren Sie es selbst aus!

Testen Sie hier ganz kostenlos und unverbindlich, wie unser KI-Assistent Alex die Arbeit mit Ausschreibungen erleichtert.
 

Fragen und Antworten (FAQs)

Was bedeutet es, wenn eine KI halluziniert?

• Von einer Halluzination spricht man, wenn ein KI-System sprachlich überzeugende, inhaltlich aber falsche oder unbelegte Aussagen produziert. Solche Antworten wirken professionell und plausibel, weshalb sie im Arbeitsalltag besonders leicht übersehen werden.

Warum sind KI-Halluzinationen in Vergabeverfahren besonders riskant?

• In öffentlichen Ausschreibungen entscheiden formale Details über Zulassung, Wertung oder Ausschluss eines Angebots. Gibt eine KI falsche Fristen, Nachweise oder Vertragsbedingungen wieder, drohen Angebotsfehler, die sich in fristgebundenen Verfahren oft nicht mehr korrigieren lassen.

Welche arbeitet man sicher und gewinnbringend mit KI?

• Sicher und gewinnbringend arbeitet man mit KI, wenn man sie als Assistenzsystem nutzt: Sie kann Informationen strukturieren, Fundstellen auffindbar machen und erste Entwürfe vorbereiten. Entscheidungsrelevante Aussagen sollten jedoch immer anhand der Originalunterlagen geprüft und fachlich eingeordnet werden.