Uge 2 – Retrieval Augmented Generation (RAG)
Uge: 2 (13/4)
Tema: Retrieval Augmented Generation (RAG)
Indhold: Introduktion til RAG-arkitektur. Vi ser hvordan egne dokumenter kan kobles til en LLM via embeddings og retrieval. Fokus på hvornår RAG giver værdi, og hvornår det ikke gør.
Hvad vi gjorde
Efter en introduktion til RAG, hvor vi gennemgik hvad RAG er, og hvornår det giver mening at bruge det, så vi på tre forskellige tilgange til RAG:
- ChatGPTs customGPT
- customGPT.ai
- Dify.ai
Vi diskuterede fordele og ulemper ved hver tilgang, herunder brugervenlighed, omkostninger og fleksibilitet. Derefter implementerede vi en simpel RAG-chatbot ved hjælp af Dify.ai, hvor vi uploadede vores studieordning og brugte den som kilde til at besvare spørgsmål. Vi så også på, hvordan data kan forberedes og struktureres for at forbedre retrieval-processen. I dette tilfælde konverterede vi PDF’en til markdown.
Output / portfolio
Mini-projekt: Byg en simpel RAG-chatbot på eget materiale.
Data
- Studieordning (PDF → konverteret til markdown)