Príprava a implementácia RAG riešenia do produkcie v jazyku PYTHON

• AI/ML Engineers
• Backend developeri
• Data Engineers
• Solution Architects
• Tech Leads
• Innovation teams

Po absolvovaní bude mať účastník:
• produkčný RAG projekt,
• deployment pipeline,
• eval framework,
• monitoring dashboard,
• architektonické best practices

Deň 1 — Architektúra RAG a príprava dát
Téma dňa
Pochopenie architektúry moderného RAG systému a návrh ingestion pipeline.

Účastník bude vedieť:
• vysvetliť komponenty RAG architektúry,
• identifikovať vhodné use cases,
• pripraviť dokumentové zdroje,
• navrhnúť chunking stratégiu,
• implementovať základný ingestion pipeline.

Agenda
1. Úvod do GenAI a RAG
• Limity čistého LLM
• Hallucinácie
• Kontextové okno
• Prečo RAG funguje
• Typy RAG systémov:
o Naive RAG
o Hybrid RAG
o Agentic RAG
o Graph RAG

2. Architektúra produkčného RAG systému
• Data ingestion
• Parsing
• Chunking
• Embeddings
• Vector database
• Retriever
• Reranker
• Prompt orchestration
• LLM serving
• Monitoring

3. Príprava dát
• PDF parsing
• HTML a Confluence ingestion
• OCR pipeline
• Metadata enrichment
• Deduplication
• Verzovanie dokumentov

4. Chunking stratégie
• Fixed-size chunking
• Semantic chunking
• Recursive chunking
• Parent-child documents

5. Praktický workshop
Implementácia:
• document loader,
• chunking pipeline,
• embedding generation.
Technológie:
• Python
• LangChain / LlamaIndex
• OpenAI embeddings / BGE
• Unstructured.io

Praktické zadanie
Pripraviť ingestion pipeline pre internú knowledge base.

Deň 2 — Embeddings, retrieval a vector databázy
Téma dňa
Ako funguje retrieval vrstva a ako optimalizovať kvalitu vyhľadávania.
Learning outcomes
Účastník bude vedieť:
• vybrať embedding model,
• pracovať s vector DB,
• implementovať hybrid search,
• optimalizovať retrieval kvalitu.

Agenda
1. Embeddings deep dive
• Dense embeddings
• Sparse embeddings
• Multilingual embeddings
• Domain adaptation

2. Vector databázy
Porovnanie:
• Pinecone
• Weaviate
• Qdrant
• Milvus
• PostgreSQL + pgvector

3. Retrieval stratégie
• Similarity search
• MMR retrieval
• BM25
• Hybrid retrieval
• Multi-query retrieval
• Self-query retrieval

4. Reranking
• Cross-encoders
• Cohere rerank
• BGE reranker
• Context compression

5. Praktický workshop
Implementácia:
• vector DB,
• semantic search,
• hybrid retrieval,
• reranking pipeline.

Praktické zadanie
Optimalizovať retrieval precision pre firemnú dokumentáciu.

Deň 3 — Prompt orchestration a generovanie odpovedí
Téma dňa
Ako správne skladať retrieval + prompt + generation pipeline.
Learning outcomes
Účastník bude vedieť:
• navrhnúť robustný prompt pipeline,
• implementovať citation-aware odpovede,
• minimalizovať hallucinations,
• implementovať guardrails.

Agenda
1. Prompt engineering pre RAG
• System prompts
• Context injection
• Few-shot prompting
• Citation prompting

2. Kontextové stratégie
• Sliding window
• Context compression
• Retrieval filtering
• Conversational memory

3. Guardrails a bezpečnosť
• Prompt injection
• Jailbreak protection
• Sensitive data filtering
• PII masking

4. Agentic workflows
• Tool calling
• Multi-step retrieval
• Query planning
• Reflection loops

5. Praktický workshop
Implementácia:
• conversational RAG chatbot,
• citations,
• anti-hallucination mechanizmov,
• guardrails.
Technológie:
• LangGraph
• Guardrails AI
• OpenAI / Anthropic APIs

Praktické zadanie
Vytvoriť enterprise chatbot s citáciami zdrojov.

Deň 4 — Evaluácia, observability a kvalita
Téma dňa
Ako merať kvalitu RAG systému a monitorovať produkciu.
Learning outcomes
Účastník bude vedieť:
• evaluovať retrieval,
• merať hallucinations,
• implementovať tracing,
• monitorovať produkčný systém.

Agenda
1. RAG evaluácia
• Retrieval metrics
• Precision@K
• Recall@K
• Groundedness
• Faithfulness

2. LLM-as-a-judge
• Automatická evaluácia
• Human feedback loops
• Golden datasets

3. Observability
Nástroje:
• LangSmith
• Weights & Biases
• Arize AI
• OpenTelemetry

4. Cost optimization
• Token optimization
• Caching
• Smart retrieval
• Model routing

5. Praktický workshop
Implementácia:
• evaluation pipeline,
• tracing,
• dashboards,
• hallucination detection.

Praktické zadanie
Vyhodnotiť kvalitu RAG systému na test datasetoch.

Deň 5 — Deployment a produkčná prevádzka
Téma dňa
Nasadenie enterprise-grade RAG systému do produkcie.
Learning outcomes
Účastník bude vedieť:
• nasadiť RAG do cloudu,
• škálovať inference,
• zabezpečiť produkčný systém,
• pripraviť CI/CD pipeline.

Agenda
1. Produkčná architektúra
• API gateway
• Async processing
• Queue systems
• Microservices vs monolith

2. Deployment stratégie
• Docker
• Kubernetes
• Serverless
• GPU inference

3. Security a governance
• IAM
• Secrets management
• Audit logging
• Compliance (GDPR)

4. CI/CD pre AI systémy
• Model versioning
• Prompt versioning
• Automated evaluation
• Canary releases

5. Záverečný workshop
Nasadenie kompletného RAG riešenia:
• ingestion,
• retrieval,
• orchestration,
• monitoring,
• deployment.

Technológie pouzivane počas kurzu
• Python
• FastAPI
• LangChain
• LlamaIndex
• LangGraph
• Docker
• Kubernetes
• PostgreSQL + pgvector
• Qdrant
• OpenAI / Anthropic APIs

Predošlé kurzy

Tvorba LLM (Large Language Models) v jazyku Python [PYTHON_LLM]