Eine Vektordatenbank ist der Speicher, in dem die Embeddings eines KI-Modells abgelegt werden, also die Zahlenreihen, die Texte ihrer Bedeutung nach abbilden. Zu einer Anfrage findet sie die inhaltlich nächstliegenden Einträge, gesucht nach dem geringsten Abstand im Raum statt nach übereinstimmenden Zeichen.
- Vektordatenbank
Ein Speicher für die Embeddings eines KI-Modells, der zu einer Anfrage die inhaltlich nächsten Einträge findet.
Beispiel: „In der Vektordatenbank liegen 4.000 Abschnitte aus unseren Angeboten, zu jeder Frage liefert sie die fünf passendsten.“Was sie zusätzlich speichert: zu jedem Vektor die zugehörige Textstelle und Angaben wie Quelle, Datum oder Zugriffsrechte. Ohne diese Angaben lässt sich ein Treffer später weder belegen noch filtern.
Abgrenzung zur gewöhnlichen Datenbank: Die beantwortet „zeige alle Einträge mit Wert X“. Eine Vektordatenbank beantwortet „zeige die fünf Einträge, die dem hier am ähnlichsten sind“. Viele verbreitete Datenbanken können inzwischen beides.
Wie die Suche funktioniert
Über den Abstand zwischen Zahlenreihen.
Anthropic beschreibt den Ablauf im Beitrag Introducing Contextual Retrieval: Die Abschnitte werden über ein Embedding-Modell in Vektoren übersetzt, die ihre Bedeutung abbilden, und in einer Vektordatenbank abgelegt, die eine Suche nach inhaltlicher Ähnlichkeit erlaubt. Zur Laufzeit findet die Datenbank darüber die passendsten Abschnitte zur Frage.
Wann man wirklich eine braucht
Ab einer gewissen Menge. Bei einigen hundert Abschnitten reicht es, alle Abstände bei jeder Anfrage durchzurechnen; das dauert Millisekunden und braucht keine eigene Datenbank. Erst bei Zehntausenden lohnt der Aufbau, weil dann ein Suchindex nötig wird, der nicht mehr jeden Eintrag anfasst. Wie die Abschnitte vorher zugeschnitten werden, entscheidet das Chunking.
Was sie nicht löst
Die genaue Trefferlage. Eine Suche nach Bedeutung findet den Abschnitt über Preise auch ohne das Wort „Preis“, verfehlt aber gelegentlich eine Artikelnummer oder einen Eigennamen, auf den es genau ankommt. Anthropic weist im selben Beitrag darauf hin und kombiniert deshalb die Bedeutungssuche mit einer klassischen Stichwortsuche.
Ebenso wenig löst sie die Frage der Rechte. Eine Vektordatenbank liefert, was inhaltlich passt, und kümmert sich von sich aus nicht darum, wer den Treffer sehen darf. Wer Inhalte unterschiedlicher Vertraulichkeit ablegt, filtert deshalb schon bei der Suche und verlässt sich nicht darauf, dass das Modell es später richtet.