AlumniAI
Платформа для изучения ИИ

Машинное обучение от первой задачи до олимпиад и статей

Курсы по направлениям, тренажёр на Python с автопроверкой прямо в браузере и разборы оригинальных статей. Для школьников и студентов.

Эмблема AlumniAI

Направления

Каталог растёт — новые направления появляются здесь
5 курсов · 63 урока

Основы машинного обучения

Классическое MLНачинающийБесплатно1 модуль · 2 урока

С чего начинается любая задача ML. Карта задач машинного обучения: классификация, регрессия, ранжирование, кластеризация. Курс растёт — новые статьи появляются здесь по мере готовности.

Задачи тренажёра

Все задачи
01
Среднее арифметическое
Основылёгкая
Решить
02
Нормализация массива
NumPyлёгкая
Решить
03
Линейная регрессия вручную
MLсредняя
Решить
04
Gradient Descent
MLсредняя
Решить

Как выглядит урок

Открыть урок целиком
Позиционное кодирование · Урок 8 из 15

RoPE — вращательное позиционное кодирование

Идея. Не прибавлять позицию к вектору, а повернуть вектор на угол, пропорциональный позиции. Тогда оценка внимания зависит только от расстояния:

⟨R(mθ) q, R(nθ) k⟩ = q⊤ R((n − m)θ) k

Где прижилось: GPT-J, PaLM, LLaMA, Mistral, Qwen, DeepSeek.

Читать урокSu и др., 2021 · код на PyTorch · интерактивный график
R(mθ)·qDEEP LEARNINGПозиционноекодирование15 уроков · по статьям

Тарифы

Подписка открывает курсы с отметкой «По подписке»