Big Data Engineer
12 Ноября 2024
Город:
Новосибирск
Занятость:
Полная занятость
Компания "МКК Страна Экспресс"
Команда ML за 7 лет реализовала более 50 проектов с использованием машинного обучения, таких как кредитный скоринr, поиск фрода, neuro-OCR, распознавание лиц и документов и т. д.
В нашей команде дата-инженеры занимаются организацией данных и витрин для их получения. Главные потребители наших данных – data scientist’ы, которые занимаются поиском закономерностей, значимых признаков в данных и тренировкой моделей машинного обучения.
Стек: JVM стек, все новое пишем на Scala. В работе используем Big Data инструменты: Hadoop, Spark, Airflow; БД Cassandra, Elastic, Clickhouse; для кода – IntelliJ Idea, Git, Maven/Gradle, JUnit.
Спектр задач широкий:
- проектирование и построение DWH
- подготовка витрин данных для отчетности, бизнеса и дата аналитики
- организация пайплайнов сбора данных от бэкендов и других хранилищ
- организация пайплайна подготовки датасетов для обучения ML модулей
- организация сбора метрик с инфраструктуры
- поддержка текущих ETL пайплайнов
На минималках потребуется:
- Java8+, Scala или Python на хорошем уровне
- Знание алгоритмов и структур данных
- Знание SQL и принципов работы классических БД
- Желание развиваться в BigData и ML
Какие еще навыки будут полезны в работе:
- Hadoop, Spark, YARN, Hive, Impala
- noSQL базы: Cassandra, Elastic
- Анализ данных при помощи Python-ноутбуков Jupyter, Zeppelin
- Работа с очередями сообщений: Kafka, Rabbit, JMS
Мы предлагаем:
- Понятную траекторию роста (последовательный и хороший онбординг, регулярные performance review, карьерные консультации, индивидуальная карта развития)
- Обучение и развитие за счет ресурсов компании (Учебный Центр, корпоративная библиотека, оплата внешнего обучения по согласованию)
- Социальный пакет (ДМС с первого дня, скидки от партнеров)
- Насыщенная корпоративная жизнь (радио, подкасты, кибертурнир, собственные мероприятия и участие в крупных событиях отрасли)
- Возможность быть преподавателем, наставником, спикером – каждый выбирает, что подходит именно ему
- Официальное трудоустройство в аккредитованной компании, белая зарплата
Зарегистрируйтесь или войдите, чтобы открыть контакты работодателя
Прикрепите резюме для отклика
Уже с нами?
Войдите, чтобы отправить резюме
05 Ноября
Специалист по внедрению и обучению нейросетей (Data-science, Python, Computer Vision, алгоритмы)
Новосибирск
от 120 000 руб.
Компания "Алабуга, ОЭЗ ППТ" ОЭЗ «Алабуга» — это инфраструктурный партнер полного цикла, который обеспечивает кадровую, социальную, промышленную...
05 Ноября
Data engineer( Hearst Shkulev Media и ИнтерМедиаГруп, Группа компаний )
Новосибирск
Компания "Hearst Shkulev Media и ИнтерМедиаГруп, Группа компаний" ShkulevTech – R&D-команда, разрабатывающая решения для ведущего...
06 Ноября
Новосибирск
от 100 000 до 220 000 руб.
Компания "Surf IT" InlyIT - это компания, занимающаяся разработкой цифровых продуктов для широкого круга пользователей по всему миру. Мы...
06 Ноября
Новосибирск
Компания "Диплей" deeplay — продуктовая ИТ-компания. Мы создаём системы и решения в сфере интеллектуальных игр. Мы ценим идейных людей,...
06 Ноября
Новосибирск
Компания "МАГ Девелопмент" Расширяем команду нашего проекта в области eCommerce. В настоящий момент над программной частью проекта уже...
Вакансия размещена в отрасли