Building Transformer-Based Natural Language Processing Applications

افهم بنية المحوّلات التي تقوم عليها النماذج اللغوية الحديثة وضعها موضع التطبيق. تستكشف التعلّم الذاتي الإشراف في BERT وما تلاه

يوم واحدمتوسطوحدة واحدة

سجّل أو استفسر ←اسأل عبر واتساب

نظرة عامة

افهم بنية المحوّلات التي تقوم عليها النماذج اللغوية الحديثة وضعها موضع التطبيق. تستكشف التعلّم الذاتي الإشراف في BERT وما تلاه، ثم تطبّق نماذج مدرّبة مسبقاً على تصنيف النصوص والتعرّف على الكيانات والإجابة عن الأسئلة، وتنشرها للاستدلال.

ما ستتعلّمه

المحتوى التقني أدناه معروضٌ باللغة الإنجليزية كما ورد في منهاج الدورة، حفاظاً على دقّة المصطلحات.

How transformers are used as the basic building blocks of modern LLMs for NLP applications
How self-supervision improves upon the transformer architecture in BERT, Megatron, and other LLM variants for superior NLP results
How to leverage pretrained, modern LLM models to solve multiple NLP tasks such as text classification, named-entity recognition (NER), and question answering
Leverage pre-trained, modern NLP models to solve multiple tasks such as text classification, NER, and question answering
Manage inference challenges and deploy refined models for live applications

المنهاج

وحدة واحدة

Introduction
Introduction to Transformers
Self-Supervision, BERT, and Beyond
Inference and Deployment for NLP
Final Review

لمن هذه الدورة

علماء البيانات والمطوّرون ممن يعرفون Python وأساسيات التعلّم العميق.

قبل أن تبدأ

Experience with Python coding and use of library functions and parameters
Fundamental understanding of a deep learning framework such as TensorFlow, PyTorch, or Keras
Basic understanding of neural networks