AnjLab Harvester

Harvester это система сбора и хранения данных о предложениях, имеющихся на онлайновых торговых площадках, таких как Amazon, Half и других (поддерживается 22 торговые площадки). Система собирает информацию о товарах и предложениях в циклическом режиме, собранные данные могут быть использованы для дальнейшего анализа.

Harvester реализован как многокомпонентная, распределенная и масштабируемая система. Она состоит из центрального управляющего компонента (tracker) и набора агентов (scanners), выполняющих наборы задач (jobs). Система может быть легко масштабирована благодаря возможности легко изменять число работающих агентов, а так же перераспределять задачи между ними. Используемый подход позволяет оперативно отслеживать устранять <узкие места> при работе системы. Более того, Harvester это саморегулируемая система и может динамически изменять свою конфигурацию в зависимости от заданных <целей> и текущей ситуации.

Harvester спроектирован для максимального использования механизмов виртуализации, система может использовать сети виртуальных машин, либо "облачные вычисления" (computing clouds), в частности, Amazon Elastic Computing Cloud. Архитектура системы позволяет адаптировать ее к сбору любой структурированной информации в Интернет.

Техническая информация
Операционная система Linux (Ubuntu)
Платформа Ruby on Rails 2.1
Язык програмирования Ruby
Сервер баз данных MySQL 5.0
Внедрения

Бизнес: сбор новых и подержанных книг и их перепродажа через интернет. Продажи осуществляются на 19 рынках, включая Amazon.com, Ebay, и собственный магазин betterworld.com

Внедрение: Начиная с 2008 года, BetterWorldBooks использует Harvester для сбора всех предложений на продажу книг, размещенных на интернет площадках. Собранная информация используется для:

  • Расчета цен на книги, выставляемых на продажу;
  • Расчета цен на покупку книг для дальнейшей перепродажи ( Buy Back Program);
  • Покупки книг с использованием системы Hunter;
  • Дальнейшего анализа с помощью средств OLAP, выявления трендов и определения тактики компании;

Скриншоты


Harvester Administrative web interface.

Harvester Job Monitor.