RAG (Retrieval-Augmented Generation)

RAG står for Retrieval-Augmented Generation. Det er en etableret AI-metode, hvor et system finder relevante oplysninger og giver dem til en sprogmodel som grundlag for et svar.

I en B2B-virksomhed kan oplysningerne komme fra produktdokumentation, godkendte cases, servicevilkår eller andre udvalgte kilder. Modellen får dermed adgang til virksomhedsspecifik viden, når opgaven løses. Kilderne kan opdateres, uden at modellen skal trænes på ny for hver ændring.

Sådan fungerer RAG: Retrieve, augment og generate

Forestil dig, at en sælger spørger en intern AI-assistent: Hvad indeholder vores onboarding for enterprise-kunder?

1. Retrieve: Find oplysningerne. Systemet søger i de tilsluttede kilder og henter relevante afsnit, eksempelvis fra onboardingbeskrivelsen og de gældende servicevilkår. Det kan søge efter både bestemte ord og indhold med en beslægtet betydning.
2. Augment: Giv modellen et grundlag. De fundne oplysninger føjes til spørgsmålet sammen med instruktioner om, hvordan de skal bruges. Modellen kan eksempelvis få besked på at holde sig til materialet og markere manglende oplysninger.
3. Generate: Formulér svaret. Sprogmodellen bruger materialet til at skrive et sammenhængende svar. Løsningen kan også vise kildehenvisninger, så sælgeren kan kontrollere oplysningerne.

I en typisk RAG-løsning får modellen udvalgte dele af materialet ved den enkelte forespørgsel. Hele virksomhedens dokumentarkiv bliver altså ikke læst igennem hver gang.

Hvad bruger B2B-virksomheder RAG til?

RAG er relevant i opgaver, hvor svaret afhænger af virksomhedens konkrete viden. Mulige anvendelser er:

• Salg: Udkast til kundesvar baseret på gældende produktfunktioner, vilkår og dokumenterede cases.
• Marketing: Produkttekster og kampagneudkast med afsæt i godkendte budskaber og faktuelle oplysninger.
• Kundeservice: Svar baseret på vejledninger, supportartikler og kendte problemer.

Eksempelvis kan marketing bede AI om et webinarudkast om en ny produktfunktion. RAG kan hente den aktuelle produktbeskrivelse og relevante kundecases. Teamet skal stadig vurdere vinklen og kontrollere, at formuleringerne holder sig inden for dokumentationen.

Sammenhængen med grounding, knowledge bases og source of truth

Grounding betyder, at AI-svar forankres i konkrete, verificerbare oplysninger. RAG er en metode til grounding: Systemet henter materiale, som modellen kan bruge som grundlag. Grounding kan også ske ved, at en bruger selv giver modellen relevant materiale.

En knowledge base er den organiserede viden, løsningen kan søge i. Den kan bestå af dokumenter, artikler eller andre datakilder. Dens værdi afhænger blandt andet af, om indholdet er dækkende, forståeligt og tilgængeligt for søgningen.

AI-ready brand knowledge base bruger HappiLeap som et praktisk arbejdsbegreb for en struktureret, vedligeholdt samling af brand- og virksomhedsviden, der er egnet til AI-brug. Den kan give en RAG-løsning et mere sammenhængende grundlag for produktbeskrivelser, positionering og dokumentation.

En source of truth er den udpegede autoritative reference for en bestemt oplysning. Aftal eksempelvis, hvilken kilde der bestemmer, hvad et abonnement indeholder. RAG-løsningen skal kunne prioritere den gældende reference, når andre dokumenter beskriver noget andet.

Hvilke begrænsninger har RAG?

RAG kan forbedre svarenes faktuelle grundlag. Der er stadig flere steder, hvor kvaliteten kan svigte:

• Kilderne kan være forældede eller modstridende. RAG gør ikke automatisk materialet korrekt. Virksomheden skal sørge for, at ændringer bliver tilgængelige for søgningen. Gamle salgspræsentationer har ofte en imponerende levetid.
• Søgningen kan overse noget vigtigt. Systemet kan hente et relevant afsnit og samtidig mangle en afgørende undtagelse. Det kan give et ufuldstændigt svar.
• Modellen kan stadig fejle. Den kan misfortolke materialet, sammenblande oplysninger eller tilføje udokumenterede påstande. Hallucinationer er fortsat mulige.
• Adgang skal styres. Søgningen skal respektere brugerens rettigheder. En kundeassistent skal eksempelvis ikke kunne hente fortrolige interne oplysninger.

En kildehenvisning hjælper med kontrol. Kontrollér også, at kilden faktisk understøtter den konkrete påstand i svaret.

Hvordan hænger RAG sammen med AI visibility?

AI visibility handler i marketing om virksomhedens synlighed i AI-genererede svar. En intern RAG-løsning bruger de kilder, den har adgang til. At tilslutte interne dokumenter giver derfor ikke i sig selv virksomheden større synlighed i offentlige AI-tjenester.

Arbejdet med klare og konsistente oplysninger kan bruges både internt og i offentligt indhold. Vurder dog de to formål hver for sig: intern svarkvalitet og ekstern synlighed kræver forskellige målinger.

HappiLeap-perspektivet: Test spørgsmålene og kilderne sammen

Begynd med 15-20 spørgsmål, som salg, marketing eller kunder faktisk stiller. Udpeg den gældende kilde og det forventede svar til hvert spørgsmål. Så får I et konkret testgrundlag, før løsningen bliver en fast del af arbejdet.

Vores arbejdsregel er at kontrollere tre ting: Fandt systemet det relevante materiale? Understøtter materialet svarets påstande? Besvarer svaret hele spørgsmålet? Et velformuleret svar kan sagtens dumpe på de to sidste.

Aftal også, hvornår løsningen skal markere manglende dokumentation eller sende opgaven videre til et menneske. Ved ændringer i produkter og vilkår bør de berørte testspørgsmål køres igen. Det gør vedligeholdelse til en synlig opgave med en ansvarlig ejer.