متخصص پردازش زبان طبیعی

معرفی کلی درس و ارائه ی چند مثال کاربردی

انواع شبکه ها و گراف ها و وظایف بر روی آنها

انواع گراف ها و ساختار داده ای آنها

گراف هایی با حالت های خاص و گراف های متصل

دسته بندی روش های یادگیری ماشین روی گراف ها

شهود روش های تعبیه گرافی و هدف آن

به دست آوردن شباهت با استفاده از قدم زدن تصادفی

الگوریتم node2vec

به دست آوردن تعبیه ها برای یک گراف

بکار گیری الگوریتم nod2vec بر روی یک مجموعه داده با python

خلاصه ای از جلسه قبل و مبانی یادگیری عمیق

یادگیری عمیق برای گراف ها

شبکه های پیچشی گرافی

ریاضیات مدل و فرآیند آموزش

طراحی مدل و قابلیت استنتاج

مقایسه ی شبکه های عصبی گرافی با شبکه های عصبی پیچشی

پیاده سازی شبکه‌های عصبی گرافی پیچشی با pytorch

بررسی یک لایه از GNN

لایه های کلاسیک GNN وساختار GraphSAGE

مکانیسم توجه و شبکه های توجه گرافی

لایه های GNN‌ در عمل

مقدمه ای بر سیستم های توصیه گر

بکار گیری گراف در سیستم های توصیه گر

مدل های مبتنی بر تعبیه برای سیستم های توصیه گر

معرفی روش فیلترینگ مشارکتی گراف عصبی

معرفی روش light GCN

بکارگیری روش lightGCN برای سیستم‌های توصیه‌گر

معرفی روش pinSAGE‌ و کاربرد آن در شبکه pinterest

تولید گراف : شهود و انگیزه ها

مدل های عمیق تولید گراف

تولید نمونه گراف ها به صورت دنباله ای

شرح شبکه های عصبی بازگشتی گرافی

آموزش مدل graph BNN

ارزیابی گراف های تولیدی

کاربرد مدل های تولید گراف عمیق

Course introduction

Linguistics Knowledge

NLP Challenges

Zipf’s Law

Probabilistic Language Modeling: Motivation and Estimation

An Intro to Google Colab

Unigram & Bigram Language Models

Probabilistic Language Modeling: Smoothing1

Probabilistic Language Modeling: Smoothing2

Probabilistic Language Modeling: Evaluation

Neural Language Modeling

Neural Language Model

Sparse Word Representation 1

Sparse Word Representation 2

Dense Word Representation 1

Dense Word Representation 2

Dense Word Representation 3

TF-IDF representation and Word2Vec by gensim

Text Preprocessing

Spell Correction

Persian Text Processing

Text Processing Using NLTK Library

Sequence Processing Recurrent Neural Networks I

Sequence Processing Recurrent Neural Networks II

Sequence Processing Transformers

Text Classification with RNNs

Dialogue Systems: Introduction

Dialogue Systems: Properties of Human Conversation

Dialogue Systems: Rule-based Conversational Chatbots

Dialogue Systems: Corpus-based Conversational Chatbots I

Dialogue Systems: Corpus-based Conversational Chatbots II

Dialogue Systems: Corpus-based Conversational Chatbots III

Seq-to-seq model with Transformer

Contextualized Representation I

Contextualized Representation II

Contextualized Representation for Corpus-Based Chatbots I

Contextualized Representation for Corpus-Based Chatbots II

Use BERT for Classification

Chatbot with GPT-2

Dialogue Systems: GUS, Simple Frame-based Dialogue Systems

Dialogue Systems: Frame-based Dialogue-state Architecture I

Dialogue Systems: Frame-based Dialogue-state Architecture II

Dialogue Systems: Evaluation

Summary

Slot Filling using RNNs

جلسه اول پرسش و پاسخ

جلسه چهارم پرسش و پاسخ

جلسه ششم پرسش و پاسخ

تمرین هفته اول

تمرین هفته دوم

تمرین هفته سوم

تمرین هفته چهارم

تمرین هفته پنجم

تمرین هفته ششم

تمرین هفته هفتم

معرفی دوره

معرفی پردازش زبان طبیعی

regular expression_1

regular expression_2

بخش برنامه نویسی: re library(regular expression)

بخش برنامه نویسی: nltk library (natural language toolkit)

کلمه و پیکره

word tokenization

byte pair encoding Algorithm

word normalization

edit distance

بخش برنامه نویسی: preprocess

معرفی مدل های زبانی

مدل های n-gram

مجموعه های آموزشی و ارزیابی و تست

تعریف perplexity

text classification

logistic regression

مثال هایی از دسته بندی متن با LR

precision, recall, and F1

مقدمه

معیار های فاصله

TF_IDF

بخش برنامه نویسی: TF-IDF

بخش برنامه نویسی: TF-IDF-model

word2vec1

word2vec2

بخش برنامه نویسی: word2vec

RNNها

معماری های شبکه های بازگشتی

بخش برنامه نویسی: RNN

بخش برنامه نویسی: RNN word2vec

Attention1

Attention2

معرفی transformer

self attention

incoder/decoder in transformer

GPT

BERT

part of speech tagging

Named Entity Recognition (NER)

معرفی سیستم های گفتگو

ویژگی های گفتگو

سیستم های مبتنی بر frame

chatbots

ارزیابی سیستم های گفتگو

بخش برنامه نویسی: huggingface (1)

بخش برنامه نویسی: huggingface (2)

بخش برنامه نویسی: fine-tuning

معرفی

روش های مبتنی بر محتوا

روش collaborative filtering/user item

item-item colaborate filtering

ارزیابی

معرفی دوره

اهمیت Generative AI‌، کاربردها تکنیک های موثر

توضیح یادگیری نظارت شده و بدون نظارت و تفاوت ها

روش k-means

روش hierarchichal clustering

PCA

توضیح anomaly detection، کاربرد ها و جمع بندی

آشنایی با ensemble method‌ و کاربرد ها- bagging

آشنایی با boosting method

مقایسه bagging و boosting‌

توضیح روش stacking و جمع بندی

RL ، DL‌ و علت ترکیت مفاهیم

توضیح مفاهیم مرتبط با DQN و policy gradiant method

actor critic method‌

توضیح اولیه شبکه‌های capsule network

بررسی فنی نحوه پردازش و محاسبات ریاضی capsule network

بررسی پیاده‌سازی فنی و کاربردها در آینده

آشنایی با Neural Turing Machines و ساختار ریاضی

پیاده سازی فنی و ساختار معماری Neural Turing Machines

آشنایی با شبکه RNN

آشنایی با LSTM

آشنایی با GRU(Gated Recurrent Unit)

معرفی شبکه‌های GAN‌ و تحلیل ریاضی آن

تحلیل عمیق شبکه‌های GAN

معرفی wGAN و cycleGAN

معرفی اولیه شبکه‌های VAE

بررسی تحلیلی شبکه‌های VAE‌ و ساختار عملکردی

متودهای پیچیده‌تر VAE‌و آینده و چالش‌ها

معرفی اولیه و تاریخچه diffusion models

تحلیل معماری و ریاضیاتی diffusion models

گونه‌های پیچیده‌تر شبکه‌های Diffusion model و آینده و چالش‌ها

معرفی transformer

معرفی و تحلیل BERT

بررسی GPT4-T5 و مقایسه آن‌ها

معرفی اولیه مفهوم transfer learning

بررسی چند نمونه از transfer learningو fine tuning

بررسی کاربردها و آینده

معرفی کلیت prompt engineering

بررسی چند سناریو و advanced prompt engineering

معرفی کلیات multi modal systems

معرفی و بررسی فریم ورک‌های langchain

بررسی سناریوها و آینده multi modal ها

توضیح پروژه پایانی

مقدمه، مشاهده یک پرامپت، مبانی

مبانی و مفاهیم پرامپت‌نویسی

اصول و قواعد پرامپت‌نویسی

مدل‌ها و ابزارهای پرامپت‌نویسی

بررسی تغییر متغیرهای پرامپت‌نویسی و اثر آن‌ها

تمرین نکات اموزشی فصل اول و اجزای پرامپت

پیاده‌سازی یک ایجنت هوش مصنوعی ساده و مرور پرامپت‌های پیشرفته

یادگیری مدل‌های مختلف، ابزارها و بهینه‌سازی پرامپت

روش‌های پیشرفته پرامپت‌نویسی بخش اول

روش‌های پیشرفته پرامپت‌نویسی بخش دوم

پیاده‌سازی دستیار آموزشی

تست دستیار اموزشی و بهبود کیفیت آن

ساخت دستیار آموزشی مالتی ایجنت

روش‌های کاربردی پرامپت‌نویسی بخش اول

روش‌های کاربردی پرامپت‌نویسی بخش دوم

روش‌های کاربردی پرامپت‌نویسی بخش سوم

روش‌های کاربردی پرامپت‌نویسی بخش چهارم

مرور کدهای روش DSP

مرور کد active prompt بخش اول

مرور کد active prompt بخش دوم

مرور کد Tree of Thoughts

مرور کد Automatic reasoning and Tool-use بخش اول

مرور کد Automatic reasoning and Tool-use بخش دوم

مرور کد Program-aided language

مرور کد React

مرور کد Chain of Table

مرور کد Automatic Prompt Engineering

مرور کد Least-to-Most

مرور کد RAG بخش اول

پیاده سازی RAG ساده و بررسی ساختار آن 1

پیاده سازی RAG ساده و بررسی ساختار آن 2

مرور کد RAG بخش دوم

مرور مشکلات prompt نویسی

بررسی کد Text2SQL

آموزش Chainlit و پیاده سازی یک چت بات کامل

مقدمه‌ایی بر سیستم‌های پرسش و پاسخ و چیستی RAG

معماری - ویژگی‌ها و سیر تکامل RAG

پیاده‌سازی پایه‌ای RAG

پیش پردازش و قطعه‌بندی

استراتژی‌های قطعه‌بندی و جاسازی (Embedding)

بهینه‌سازی مدل‌های جاسازی (Embedding)

پیاده‌سازی کامل پایپ‌لاین RAG ساده با FAISS و مدل جاسازی E5

پیاده‌سازی و بررسی استراتژی‌های مختلف قطعه‌بندی متن (Chunking)

بازیابی (Retrieval) و نمایه‌سازی (Endexing)

چالش‌های RAG ساده و فیلترهای پیش بازیابی (Pre-Retrieval)

فیلترهای پسابازیابی (Post-retrieval)

RAG پیمانه‌ای (Modular)

اجزای RAG در کاربرد فرضی و Augmentation

RAG خودبازتابی  (Self-RAG) و RAG تطبیقی (Adaptive)

پیاده‌سازی و مقایسه روش‌های بازیابی برداری، واژگانی، ترکیبی و بازنویسی رتبه (Reranking)

RAG چند وجهی - مقدمه ایی بر RAG گرافی

RAG های مبتنی بر گراف و تفاوت های آن با RAG های متنی

الگوهای بازیابی در GraphRAG

TableRAG - Text2SQL - NL2SQL

الگوهای RAG چندوجهی

پیاده‌سازی TableRAG با تولید و اعتبارسنجی خودکار کوئری‌های SQL

پیاده‌سازی GraphRAG مبتنی بر رویکرد مایکروسافت

مرور و مقایسه انواع RAG و معرفی RAG عامل محور

معرفی نقش طرح‌ریز (Planner) در RAG عامل محور

معرفی نقش حافظه (Memory) در RAG عامل محور

چالش‌های سیستم‌های مبتنی بر RAG و معیارهای ارزیابی عملکرد آنها

مروری بر زیست بوم RAG و کارهای قابل انجام آتی

مقدمه‌ای بر VLM و مدل‌های چندوجهی (MultiModal)

معرفی CLIP

مفهوم Embedding متن و تصویر

تابع هزینه (Loss Function) و نحوه‌ی آموزش CLIP

استفاده از Hugging Face برای درک Embedding متن در CLIP

بررسی Embedding تصویر و مقایسه‌ی Embedding تصویر و متن

آموزش Zero-Shot با CLIP

آموزش مدل Dual Encoder (مشابه CLIP) با فریم‌ورک Keras

معرفی SigLIP

Image Captioning با Qwen

توصیف تصویر فارسی (Persian Image Captioning)

شناسایی اشیاء (Object Detection)

استفاده از مدل چندوجهی Gemma 3 – بخش اول

استفاده از مدل چندوجهی Gemma 3 – بخش دوم

درک ویدئو با Qwen VL – بخش اول

درک ویدئو با Qwen VL – بخش دوم

دلایل Fine-tuning کردن VLM و مفهوم PEFT

روش‌های LoRA و QLoRA

مثال Fine-tuning روی سؤال و جواب تصویری

مثال Fine-tuning روی OCR فرمول‌های ریاضی

مثال Fine-tuning روی عکس‌های رادیولوژی

آشنایی با تکنیک Diffusion

آشنایی با معماری UNet

استفاده از کتابخانه‌ی Diffusers و آموزش تولید تصویر – بخش ۱

استفاده از کتابخانه‌ی Diffusers و آموزش تولید تصویر – بخش ۲

بارگذاری یک مدل از پیش آموزش‌داده‌شده و خروجی گرفتن با DDIM

Fine-tuning مدل

مفهوم Control و Guidance

مفاهیم پایه چت‌بات‌ها و بررسی اجزای اصلی معماری آن‌ها

انواع چت‌بات‌ها و تحلیل معماری‌های رایج در طراحی آن‌ها

ابزارها و فریم‌ورک‌های ساخت چت‌بات و مسیرهای پیاده‌سازی پروژه

راه‌اندازی چت‌بات با Dify و دریافت API Key مناسب

پیاده‌سازی RAG در چت‌بات با استفاده از Dify

طراحی رابط کاربری اختصاصی برای چت‌بات‌ها با Open WebUI

توسعه چت بات با Streamlit

توسعه گام‌به‌گام چت‌بات با Python بخش اول

توسعه گام‌به‌گام چت‌بات با Python بخش دوم

توسعه گام‌به‌گام چت‌بات با Python بخش سوم

پروژه پایانی

مقدمه و آشنایی اولیه یا Mlflow

آشنایی با اجزای MLflow

نصب اولیه MLflow

بررسی رقبای MLflow

تعریف مساله و ساخت مدل‌های اولیه

نحوه مدیریت داده‌های نامتوازن (imbalanced)

ساخت Experiment در MLflow

Experiment Tracking مدل‌ها با MLflow

Model Registry در MLflow

Load Model در MLflow

طریقه نصب Mlflow بر روی سرور با استفاده از داکر

تحلیل اولیه دیتاست و شروع کار با MLFlow

آموزش مدل‌ها و ایجاد ساختار درست پروژه

ساختاردهی پروژه جهت مدیریت در MLFlow

پیکربندی داکر و استفاده در MLFlow

نمایش کل خروجی ها و تحلیل در MLFlow

Introduction

ML Project Life Cycle

ML life Cycle: Case Study

Deployment

Common Deployment Patterns

Monitoring

Pipeline Monitoring

Modeling

Low Average Test Error isn't Good Enough

Establish a Baseline

Performance Auditing

Data-centric AI

Data Definition

Label Consistency

HLP

Data Pipeline

Scoping

Data Lifecycle

Data

Responsible Data

Labelling

Data Issues

Feature Engineering

Preprocessing in Production

TF Transform

Feature Selection Example

ML Metadata

Evolving Data

Advanced Labeling

Neural Architecture Search

Auto ML

Resource Management

Quantization and Pruning

High Performance Modeling

Model analysis

Robustness

Remediation and Monitoring

Interpretability

Model Serving

Serving Systems

Serving Patterns

Online and Batch Inference

Experiment Tracking

Mlops level 0, 1 and 2

CI/CD

Monitoring and Privacy

FastAPI and a Simple Deep Model

TensorFlow Data Validation

Preprocess Data with TensorFlow Transform

Simple TFX Pipeline

Recursive Feature Elimination

Active Learning

Keras Tuner

Post-Training Quantization

Quantization Aware Training

Pruning

Distributed Training: One Device Strategy

Knowledge Distillation