Про LLM и RAG с Анной Авдюшиной и Александром Константиновым

Анна Авдюшина, руководитель проекта "Платформа помощи преподавателю с ИИ", преподаватель ИТМО, AI Researcher 

Александр Константинов, Lead AI Engineer 

Ведущая подкаста: Мария Серёгина 

О чём поговорим: 

00:00 - Про профессиональный путь Анны и Александра. 

02:38 - Как связаны AI и LLM. 

08:53 - Что такое LLM и где ее имеет смысл использовать в реальной жизни. 

22:19 - Что такое RAG и для каких ситуаций актуально применение этой технологии. 

49:24 - Какие ограничения важно учитывать при планировании использования RAG. 

58:48 - Рекомендации источников информации по теме LLM и RAG. 

Полезные ссылки: 

Context Engineering - https://github.com/davidkimai/Context-Engineering 

Agent Design Pattern Catalogue - https://arxiv.org/abs/2405.10467 

Базовая модель профессий и компетенций - https://skills.a-ai.ru/education/methodology/models 

Как построить систему на основе LLM, когда использовать ограничители, RAG, дообучение - https://eugeneyan.com/writing/llm-patterns/