SlideShare a Scribd company logo
Онлайн обучение
альтернатива Apache Spark
Крот Александр
Москва, 2015
•  Large Scale Machine Learning
•  MapReduce подход
•  Онлайн обучение
– Классификация и регрессия с помощью
линейных функций
– Процесс обновления весов
•  Преимущества онлайн обучения 
•  Выбор функции потерь
•  Метрики качества
•  Обзор Vowpal Wabbit

План
Москва, 2015
 2
•  Пусть дана большая обучающая выборка
объектов
–  Много объектов
–  Большая размерность признакового описания
•  Фичи при этом уже подготовлены
–  Не нужно делать сложный ETL
•  Необходимо построить классификатор или
решить задачу регрессии

Такое пока что бывает очень редко!

Large Scale Machine Learning
Москва, 2015
 3
Логистическая регрессия

MapReduce подход
Москва, 2015
 4
Первая сумма

MapReduce подход
Москва, 2015
 5
Вторая сумма

MapReduce подход
Москва, 2015
 6
•  Пусть дана обучающая выборка объектов
•  Необходимо решить задачу регрессии:
–  Найти такой вектор весов W, что значение целевой
переменной объекта y близка к (W,x)
•  Необходимо обучить классикатор:
–  Найти такой вектор весов W, что метка класса объекта
y близка к sigmoid( (W,x) ) – в случае логистической
регрессии

Онлайн обучение
Москва, 2015
 7
•  Инициализируем начальные веса (обычно W = 0)
•  Далее, итерационно:
–  Получаем признаки очередного объекта x
–  Прогнозируем целевую переменную (метку или
значение) y для этого объекта
–  Обновляем веса так, чтобы y был близок к своему
истинному значению
–  Как правило используются модификации метода
стохастического градиента

Процесс
Москва, 2015
 8
В зависимости от того, что прогнозируем

•  Наиболее часто встречающее значение
–  Квантильная с параметром 0.5
•  Прибыль, продажи, нагрузка
–  Квадратичная
•  Вероятность дефолта, клика
–  Логистическая

Выбор функции потерь
Москва, 2015
 9
•  Используется Progressive Validation
–  Получаем признаки объекта x
–  Делаем линейное предсказание y
–  Измеряем ошибку на текущем объекте
–  Обновляем веса, чтобы уменьшить ошибку на текущем
объекте
•  Метрика качества в момент T – средняя ошибка
на первых T объектах

Метрики качества
Москва, 2015
 10
•  Разработан в Microsoft/Yahoo Research
•  Работает из командной строки
•  Имеет собственный формат данных
–  Label |A feature1:value1 |B feature2:value2
•  Легко делается множество эвристик
–  Квадратичные, кубичные фичи, n-граммы (-q, -cubic, -
ngram)
–  L1, L2 – нормализация
–  Learning Rate

Обзор Vowpal Wabbit
Москва, 2015
 11
•  Решение задачи Титаник
–  Преобразуем фичи (оставляем как есть)
–  Обучаем классификатор: vw train_titanic.vw -f model.vw
--binary --passes 20 -c -q ff --normalized --l1 0.00000001
--l2 0.0000001 -b 24
–  Делаем predict на тестовой выборке: vw -d
test_titanic.vw -t -i model.vw -p preds_titanic.txt
–  Получаем 0.79 AUC

Обзор Vowpal Wabbit
Москва, 2015
 12
Спасибо 

за внимание! 
MLClass.ru
akrot@mlclass.ru
Москва, 2015
Ad

More Related Content

Featured (20)

2024 Trend Updates: What Really Works In SEO & Content Marketing
2024 Trend Updates: What Really Works In SEO & Content Marketing2024 Trend Updates: What Really Works In SEO & Content Marketing
2024 Trend Updates: What Really Works In SEO & Content Marketing
Search Engine Journal
 
Storytelling For The Web: Integrate Storytelling in your Design Process
Storytelling For The Web: Integrate Storytelling in your Design ProcessStorytelling For The Web: Integrate Storytelling in your Design Process
Storytelling For The Web: Integrate Storytelling in your Design Process
Chiara Aliotta
 
Artificial Intelligence, Data and Competition – SCHREPEL – June 2024 OECD dis...
Artificial Intelligence, Data and Competition – SCHREPEL – June 2024 OECD dis...Artificial Intelligence, Data and Competition – SCHREPEL – June 2024 OECD dis...
Artificial Intelligence, Data and Competition – SCHREPEL – June 2024 OECD dis...
OECD Directorate for Financial and Enterprise Affairs
 
How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...
How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...
How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...
SocialHRCamp
 
2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
Marius Sescu
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
Expeed Software
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
Pixeldarts
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
ThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
marketingartwork
 
Skeleton Culture Code
Skeleton Culture CodeSkeleton Culture Code
Skeleton Culture Code
Skeleton Technologies
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
Kurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
SpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Lily Ray
 
How to have difficult conversations
How to have difficult conversations How to have difficult conversations
How to have difficult conversations
Rajiv Jayarajah, MAppComm, ACC
 
2024 Trend Updates: What Really Works In SEO & Content Marketing
2024 Trend Updates: What Really Works In SEO & Content Marketing2024 Trend Updates: What Really Works In SEO & Content Marketing
2024 Trend Updates: What Really Works In SEO & Content Marketing
Search Engine Journal
 
Storytelling For The Web: Integrate Storytelling in your Design Process
Storytelling For The Web: Integrate Storytelling in your Design ProcessStorytelling For The Web: Integrate Storytelling in your Design Process
Storytelling For The Web: Integrate Storytelling in your Design Process
Chiara Aliotta
 
How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...
How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...
How to Leverage AI to Boost Employee Wellness - Lydia Di Francesco - SocialHR...
SocialHRCamp
 
2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot2024 State of Marketing Report – by Hubspot
2024 State of Marketing Report – by Hubspot
Marius Sescu
 
Everything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPTEverything You Need To Know About ChatGPT
Everything You Need To Know About ChatGPT
Expeed Software
 
Product Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage EngineeringsProduct Design Trends in 2024 | Teenage Engineerings
Product Design Trends in 2024 | Teenage Engineerings
Pixeldarts
 
How Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental HealthHow Race, Age and Gender Shape Attitudes Towards Mental Health
How Race, Age and Gender Shape Attitudes Towards Mental Health
ThinkNow
 
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdfAI Trends in Creative Operations 2024 by Artwork Flow.pdf
AI Trends in Creative Operations 2024 by Artwork Flow.pdf
marketingartwork
 
PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024PEPSICO Presentation to CAGNY Conference Feb 2024
PEPSICO Presentation to CAGNY Conference Feb 2024
Neil Kimberley
 
Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)Content Methodology: A Best Practices Report (Webinar)
Content Methodology: A Best Practices Report (Webinar)
contently
 
How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024How to Prepare For a Successful Job Search for 2024
How to Prepare For a Successful Job Search for 2024
Albert Qian
 
Social Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie InsightsSocial Media Marketing Trends 2024 // The Global Indie Insights
Social Media Marketing Trends 2024 // The Global Indie Insights
Kurio // The Social Media Age(ncy)
 
Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024Trends In Paid Search: Navigating The Digital Landscape In 2024
Trends In Paid Search: Navigating The Digital Landscape In 2024
Search Engine Journal
 
5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary5 Public speaking tips from TED - Visualized summary
5 Public speaking tips from TED - Visualized summary
SpeakerHub
 
ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd ChatGPT and the Future of Work - Clark Boyd
ChatGPT and the Future of Work - Clark Boyd
Clark Boyd
 
Getting into the tech field. what next
Getting into the tech field. what next Getting into the tech field. what next
Getting into the tech field. what next
Tessa Mero
 
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search IntentGoogle's Just Not That Into You: Understanding Core Updates & Search Intent
Google's Just Not That Into You: Understanding Core Updates & Search Intent
Lily Ray
 

Online learning - Apache Spark alternatives: Vowpal Wabbit. (18.06.2015)

  • 1. Онлайн обучение альтернатива Apache Spark Крот Александр Москва, 2015
  • 2. •  Large Scale Machine Learning •  MapReduce подход •  Онлайн обучение – Классификация и регрессия с помощью линейных функций – Процесс обновления весов •  Преимущества онлайн обучения •  Выбор функции потерь •  Метрики качества •  Обзор Vowpal Wabbit План Москва, 2015 2
  • 3. •  Пусть дана большая обучающая выборка объектов –  Много объектов –  Большая размерность признакового описания •  Фичи при этом уже подготовлены –  Не нужно делать сложный ETL •  Необходимо построить классификатор или решить задачу регрессии Такое пока что бывает очень редко! Large Scale Machine Learning Москва, 2015 3
  • 7. •  Пусть дана обучающая выборка объектов •  Необходимо решить задачу регрессии: –  Найти такой вектор весов W, что значение целевой переменной объекта y близка к (W,x) •  Необходимо обучить классикатор: –  Найти такой вектор весов W, что метка класса объекта y близка к sigmoid( (W,x) ) – в случае логистической регрессии Онлайн обучение Москва, 2015 7
  • 8. •  Инициализируем начальные веса (обычно W = 0) •  Далее, итерационно: –  Получаем признаки очередного объекта x –  Прогнозируем целевую переменную (метку или значение) y для этого объекта –  Обновляем веса так, чтобы y был близок к своему истинному значению –  Как правило используются модификации метода стохастического градиента Процесс Москва, 2015 8
  • 9. В зависимости от того, что прогнозируем •  Наиболее часто встречающее значение –  Квантильная с параметром 0.5 •  Прибыль, продажи, нагрузка –  Квадратичная •  Вероятность дефолта, клика –  Логистическая Выбор функции потерь Москва, 2015 9
  • 10. •  Используется Progressive Validation –  Получаем признаки объекта x –  Делаем линейное предсказание y –  Измеряем ошибку на текущем объекте –  Обновляем веса, чтобы уменьшить ошибку на текущем объекте •  Метрика качества в момент T – средняя ошибка на первых T объектах Метрики качества Москва, 2015 10
  • 11. •  Разработан в Microsoft/Yahoo Research •  Работает из командной строки •  Имеет собственный формат данных –  Label |A feature1:value1 |B feature2:value2 •  Легко делается множество эвристик –  Квадратичные, кубичные фичи, n-граммы (-q, -cubic, - ngram) –  L1, L2 – нормализация –  Learning Rate Обзор Vowpal Wabbit Москва, 2015 11
  • 12. •  Решение задачи Титаник –  Преобразуем фичи (оставляем как есть) –  Обучаем классификатор: vw train_titanic.vw -f model.vw --binary --passes 20 -c -q ff --normalized --l1 0.00000001 --l2 0.0000001 -b 24 –  Делаем predict на тестовой выборке: vw -d test_titanic.vw -t -i model.vw -p preds_titanic.txt –  Получаем 0.79 AUC Обзор Vowpal Wabbit Москва, 2015 12