DevTalk #130 - O RAG do Eksploracji Kodu z Łukaszem Szydło

Czy RAG faktycznie rozwiązuje problem dokumentacji, która nigdy nie jest aktualna? Jak sprawić, by LLM odpowiadał na pytania o Twój kod bez wrzucania całego repozytorium do kontekstu? I dlaczego embeddingi to nie jedyne rozwiązanie?

O tym wszystkim opowie Łukasz Szydło - architekt, konsultant i trener, specjalizujący się m.in. w tematach architektury i Domain-Driven Design. Łukasz na co dzień pracuje nad Noesis: narzędziem do automatycznego generowania diagramów i dokumentacji z kodu, więc wie, o czym mówi. W rozmowie dzieli się nie tylko wiedzą techniczną o RAG-ach, ale też praktycznymi spostrzeżeniami z wdrażania tych rozwiązań w realnych projektach.

Z tego odcinka dowiesz się:

• Czym jest RAG (Retrieval Augmented Generation) i jak różni się od fine-tuningu modelu;
• Jak chunking i embeddingi pozwalają na przeszukiwanie ogromnych zbiorów danych;
• Dlaczego graf wiedzy może być lepszy od wektorowej bazy danych w przypadku kodu;
• W jaki sposób RAG może pomóc zespołom uniknąć ciągłego odrywania developerów od pracy;
• Jak deterministyczne parsowanie kodu przewyższa czysto AI-owe podejście;
• Dlaczego większy kontekst w LLM nie zawsze oznacza lepszą odpowiedź.

 

Linki:

• Bot DDDamian znajduje się na Discordzie kursu Domain-Driven Design,
• a Łukasz, razem z Devstyle i innymi, współtworzył kurs Droga Nowoczesnego Architekta oraz jego angielską wersję Designing Next-Gen Architecture.

 

Rozdziały:

00:00 Wstęp i powitanie Łukasza

00:40 Kim jest Łukasz Szydło?

02:10 Co to jest RAG i jak działa?

09:20 Dane strukturyzowane vs nieustrukturyzowane

10:30 Chunking i embeddingi 

22:00 RAG jako wzorzec i GraphRAG

29:30 Koszty i wyzwania RAG-a

36:30 Noesis: narzędzie do analizy kodu

38:00 AST i chunking kodu, czyli podejście standardowe

42:30 Deterministyczne podejście Noesis vs LLM

46:10 Ontologie i nadawanie znaczenia kodowi

50:30 Automatyczna dokumentacja i diagramy

53:40 Dla kogo jest RAG? Korzyści dla programistów i managerów

01:04:20 Przykład RAG-a w praktyce

01:08:10 Podsumowanie i kulinarne pytanie do Łukasza