Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Внедрение управления на основе данных в нефтегазовой отрасли

Внедрение управления на основе данных в нефтегазовой отрасли

Александр Ерофеев, CDO, Upstream, Газпром нефть

Big Data & AI Conference 2020

September 17, 2020
Tweet

More Decks by Big Data & AI Conference 2020

Other Decks in Business

Transcript

  1. 2 Газпром нефть «Газпром нефть» в 2020 году 110 стран

    входит в ТОП 10 география бизнеса мировых публичных компаний по объему доказанных запасов углеводородов 2000+ 75 000 сеть АЗС в мире сотрудников 422 млрд руб. 28,6% чистая прибыть EBITDA 2,5 трлн руб. 795 млрд руб. выручка скорректированная EBITDA Нетрадиционные запасы нефти Самое северное континентальное месторождение Нефтедобывающая платформа на арктическом шельфе
  2. 3 Газпром нефть Рост инициатив по цифровой трансформации и спроса

    на данные около 100 по цифровой трансформации около 70% из них зависят от качества и доступности данных > 200 ИТ-систем источников данных > 3.5 петабайт данных Сложность ИТ-ландшафта и множество локальных баз данных в функциональных колодцах Один из основных факторов успеха и вызовов для цифровой трансформации – доступность и качество данных > 10 локальных хранилищ данных Цифровая трансформация приводит к тому, что в основе новых бизнес процессов лежат данные и аналитика Это приводит к тому, что данные становятся активом, необходимый для получения дополнительной прибыли
  3. 4 Газпром нефть Основные проекты по управлению данными в блоке

    разведки и добычи (БРД) Основные сдерживающие факторы до цифровой трансформации § Бизнес не понимает зачем инвестировать в работу с данными § Отдельные инициативы внутри ИТ § Данные не считаются активом Основные принципы 2016 База данных керна 2014 2018 Создание функции и офиса CDO Создание системы верификации данных 2019 Создание и пилотирование процессов и сервисов управления данными на 2-х бизнес проектах Хранилище данных БРД Масштабирование процессов и сервисов БРД через доменные проекты 2020 Доменная модель управления данными Мониторинг качества данных в реальном времени Создание сейсмоархива 2021 Цифровая трансформация Прототипы дашбордов в Qlik для топ-менеджмента Инструменты управления данными Система управления мастер данными(НСИ) § Проекты по данным только, как часть бизнес инициатив § Первоочередная задача идентифицировать спрос на данные и их владельцев, пока это не сделано не делаем инвестиций в данные
  4. 5 Газпром нефть Ожидания от функции CDO ВРЕДНЫЕ И НЕПРАВИЛЬНЫЕ

    ОЖИДАНИЯ Новое направление бизнеса, новая прибыль за счет монетизации данных внутри компании и на рынке Новые специалисты, которые очистят данные и будут отвечать за их качество Внедрят новые технологии AI и BigData, которые автоматически решат все проблемы с данными ОЖИДАНИЯ НАД УДОВЛЕТВОРЕНИЕМ КОТОРЫХ МЫ РАБОТАЕМ Помощь руководителям бизнес-функций в повышении эффективности работы с данными и сделать ее лучше и проще, эффективнее в части работы с данными Создание «правил игры» или процессов управления данными, которым нужно следовать для повышения эффективности Развитие организационной структуры компании, чтобы работы работа с данными стала частью ДНК организации Создание платформы для автоматизации процессов работы с данными
  5. 6 Газпром нефть Компоненты системы управления данными ЛЮДИ ПРОЦЕССЫ ИНСТРУ-

    МЕНТЫ 3 Типа дата профессионалов § Data governance § Business data ownership § Data platform & services 4 Дата сервиса для потребителей данных ü BI и визуализация данных ü Разовая поставка данных по запросу ü Регулярная автоматизированная поставка данных ü Мониторинг и обеспечение качества данных 3 сервиса самообслуживания § Поиск данных § Self service BI § Self service ETL 2 Сервиса для поддержки цифровых программ ü Моделирование данных (архитектура) на основе PPDM ü Создание и предоставление эталонных мастер данных (НСИ) ü Хранилище данных ü МДМ ü BI-инструменты ü Стратегическое управление данными ü Управление структурными элементами данных (Архитектура данных и НСИ) ü Управление качеством данных 7 Процессов УпД на основе DAMA DMBOK § Управление жизненным циклом данных § Управление безопасностью и доступом к данным ü Поддержка бизнес и продвинутой аналитики § Управление контентом ДАТА платформа по принципам OSDU ДАТА- СЕРВИСЫ ü Мониторинг качества данных § Бизнес глоссарий и моделирование данных § Инструменты ИИ (разработка и управление моделей)
  6. 7 Газпром нефть Data driven projects Off shore Gas Digital

    transformation programs Data domains Digital twins Field infrastructure Reporting based on integrated data Production information platform Engineering data cloud Integrated data model Project management center InfrustruEngine eringcture Civil Engineering Gas infrustr ucture Digitalizati on of offshore assets Sales Gas Dashboards Realtime DB Первый приоритет Well construction Power WorkOver ERA- Repairs Realtime DQ Equipment repair management System of energy efficiency Wells Engineering Power Oil production Oil control 2.0 Integrated Operations Center Production Engineering WorkOver Data Digital drilling Cross function and cross program projects Exploration Третий приоритет Digital model of gas distribution Upstream dashboards and DWH DQ tool implementation and development Data market MDM development Atlas 2.0 DataLab Asset of the Future Oil production database DB Integrated modes of asset DB Cognitive geology Reservoir Engineering Второй приоритет Geo data catalog Vega 2.0 Digital twins Seismic data archive Dashboards Data domain implementation Geo DB 2.0 Cognitive geologist Data visualization Фокус на приоритетных бизнес активностях, что уже стартовали Развитие системы от практических задач ориентированных на бизнес результат Начало оказания услуг с MVP Понимание общего объема работ и плана через простые и измеримые КПЭ на на старте Бизнес уже инициировал достаточно много цифровых проектов, спрос на данные кратно превышает наши возможности Принципы
  7. 8 Газпром нефть Данные как сервис: сервисы, с которых начали.

    Обеспечивает проекты необходимыми данными от этапа прототипирования до промышленного внедрения: § разовое получение данных для проверки гипотез § временная подписка для прототипов § регулярное обеспечение данными бизнес-решений Сервис «Поставка данных» Создает и поддерживает в актуальном состоянии Модель данных, позволяющую: § упростить поиск и понимание данных Компании § определить правильный источник данных § переиспользовать данные Сервис «Архитектура данных» КЭД + Глоссарий + Модель данных Создает возможности для достижения целевого качества данных с помощью: § создания проверок на основе требований § мониторинга качества данных § устранения несоответствий (инцидентов) § устранения первопричин несоответствий (проблем) Сервис «Качество данных» Обеспечивает единое информационное пространство с помощью создания и поддержания эталонных справочников: § Разработка методик и регламентов ведения справочников § Формирование и поддержка контента эталонных справочников § Доработка MDM-системы и интеграционных механизмов Сервис «НСИ» → Заказ услуг осуществляться по принципу «одного окна», единого для всех потребителей и владельцев данных компании → Услуги оказываются на основе стандартизованного каталога услуг УпД → Сервисы базируются на трех компонентах инструментах, процессах, людях. Для оказания услуг обязательных все три компоненты. Дает возможность наглядного представления данных для упрощения анализа и процесса принятия решений: § разработка прототипа дашборда в соответствии с требованиями заказчика и перевод в промышленную эксплуатацию § сопровождение дашбордов Сервис «BI и визуализация данных» 1 1 3 2 3
  8. 9 Газпром нефть Основной КПЭ – удовлетворенность потребителей данных или

    CSI Бизнес-глоссарий и КЭД (КЭД в реестре) § Составление перечня критичных элементов данных (КЭД) § Актуализация паспорта домена данных, ответственных за домен и администраторов домена (при необходимости) Модель данных (атрибутов в модели) § Разработка модели данных § Разработка модели интеграционных потоков Хранилище данных (ЭД в КХД) § Поставка данных через хранилище данных § Заключение соглашений на поставку данных Качество данных (проверок) § Формирование бизнес-правил качества данных § Реализация проверок качества данных § Заключение соглашений о качестве данных BI (пользователей) § Разработка заказных дэшбордов (описательная аналитика) § Самостоятельное использование механизмов Self-Service BI НСИ (эталонных справочников в ИТ-сист.) § Создание справочников, необходимых для потребителей § Размещение справочников в MDM-системе § Приведение НСИ в системах к эталонам 2020 300 47 справочников в 8 ИТ-системах 100 справочников в 20 ИТ-системах 300 справочников в 50 ИТ-системах 600 2700 415 600 3000 3000 7000 ЭД в КХД 14 500 790 7000 14 500 790 КЭД в реестре 7000 КЭД в реестре 14 500 КЭД в реестре 2021 2022-2023 300 2700 Не применимо 3000 14 500 14 000 КЭД в реестре Всего (рефернс PPDM) Понимание прогресса, общего объема работ и плана через простые и измеримые КПЭ на старте дата-сервисов
  9. 10 Газпром нефть Организационная модель Разведка и добыча Логистика, транспотирровка,

    сбыт Общекорпо-ративные функции CDO Офис CDO Офис CDO Офис Дата платформа и Дата сервисы (Сервисные команды в ИТ-дочерних обществах) Домены данных Домены данных Домены данных Дочерние общества Дочерние общества Дочерние общества Дочерние общества
  10. 11 Газпром нефть Домен данных Лицензирование | Проекты геологического изучения

    недр | Исследования пластовых систем | Морской инжиниринг | Маркшейдерия Стратегия развития ресурсной базы актива | Скважинные исследования | Добыча нефти и газа на суше | Добыча нефти и газа на суше Баланс и аудит запасов | Разведочная геофизика | Инжиниринг | Энергетика | Добыча нефти и газа на шельфе | Сбыт газа ПТД, планирование и мониторинг | Цифровое геолого-технологическое моделирование | Управление крупными проектами | Газовый бизнес Баланс и аудит запасов | Бурение | ГРП | ВСР и освоение | ГРП | Интегрированные данные добычи | Морская логистика Капитальное строительство | Разведочная геофизика | Разведочная геофизика | Перспективное планирование Домены данных блока разведки и добычи Домен данных – набор данных (предметная область) границы которой определяются бизнес процессами и ИТ-системами Бизнес процесс 1 Бизнес процесс 2 Бизнес процесс 3 Бизнес процесс 4 Бизнес процесс 170 Домены данных 1 Домены данных 2 Домены данных 126 ИТ-система 1 ИТ-система 2 ИТ-система 3 ИТ-система 200
  11. 12 Газпром нефть § Аналитика встроена в операционные процессы §

    У пользователей есть возможность за несколько кликов получить и обработать данные § Неструктурированные данные легко обрабатываются, они доступны пользователю § Легкий поиск необходимой информации СИСТЕМА УПРАВЛЕНИЯ ДАННЫМИ 7 1 2 3 4 5 6 Управление структурными элементами данных Управление жизненным циклом данных Управление контентом Управление безопасностью данных Внедрение и поддержка бизнес- и продвинутой аналитики Организация управления данными Управление качеством данных § Потребители доверяют данным § Определено, что значит качественные данные § Понятно текущее состояние данных § Устраняются инциденты и проблемы качества данных Доверие к данным § Есть и опубликована информация о наличии данных § Данные переиспользуются вместо создания дубликатов Доступность данных Спрос и ответственность за данные Доступность данных § Доступ к данным предоставляется сотрудникам и подрядчикам на основании ролевой модели § Прозрачная классификация данных по уровням конфиденциальности Доступность данных § Известна актуальная версия данных § Определены и соблюдаются правила ввода, хранения и удаления/ архивации данных Доверие к данным § Спрос в виде перечня данных § Ответственность за данные через доменную модель Доступность данных Процессы управления данными
  12. 13 Газпром нефть Портал управления данными • Data API •

    Каталог данных • Поиск по структурам данных • Каталог отчетов • Сервисы самообслуживания • Заказ дата-сервисов Бизнес-пользователи DWH Хранилище данных • Блоковое хранилище данных • ETL инструмент для работы с СИ БРД • Пользовательский ETL • API доступа к данным хранилища • Поиск по структурам данных БРД BI Аналитические данные • Пользовательский BI • Описательная аналитика, включая дэшборды MDM Справочные данные • Эталонные справочники в КСУ НСИ • Обратный поток в СИ БРД Глоссарий и инструменты архитектуры данных • Инструмент для моделирования архитектуры • Бизнес глоссарий • Каталог метаданных DQ Качество данных • DQ мониторинг • Автоматизированный инцидент-менеджмент • Пользовательский DQ* • Сертификация данных • REAL TIME мониторинг КД с буровых • Доступно сейчас • В планах до конца 2020 года • За пределами 2020 года Инструменты для работы с данными
  13. 14 Газпром нефть Требуется разработка или внедрение Идет разработка или

    внедрение Доступен к использованию Implementation Status: Связанные платформы Инструменты для работы с данными Платформа виртуализации Платформа ИИ Data platform Аналитические сервисы Сбор и интеграция данных Data streaming Arenadata Streaming (NiFi, Kafka) Batch data ingestion IBDM, IPC Self-service ETL IPC Хранение данных Unstructured and semi- structured data Arenadata Hadoop (HDFS, HBase, Hive) Structured data Arenadata DB, Postgres Pro Object storage Cloudian Hyperstore (IaaS) BI QlikView, QlikSense Math tools Individual choice for each case Analytical apps Individual choice for each case Обработка данных Streaming processing Arenadata Streaming (NiFi, Kafka) Bath processing IBDM, IPC, Spark Data depersonalization and obfuscation Data API Individual choice for each case Сервисы управления и безопасности Управление данными Data modeling SAP PD Data quality IDQ Metadata management OEMM Business glossary Alteryx External data ingestion Logical storage Data security and access (Ranger, Knox) Workflow management and scheduling(Oozie, Airflow) Monitoring (EFK, Prometheus, Grafana) Managing, deployment and configuration ion (Ambari, Arenadata Cluster Manager) Message broker (Kafka) Self-Service BI Qlik View/Sense Платформа сборки приложеий DevSecOps Платформа контейнеризации Цифровая платформа Системы источники данных Эра: искра БД ГРР СМН ТЕНЗОР КСУ НСИ КГИС ГПН Petrel Echos OIS Production СМБ Эра: ремонты ШТР …
  14. 15 Газпром нефть Сложности, с которыми сталкивались, и как их

    преодолеваем СЛОЖНОСТЬ ЭКОНОМИЧЕСКОГО ОБОСНОВАНИЯ НЕУСТОЯВШИЕСЯ ПРОЦЕССЫ И МЕТОДОЛОГИЯ УПРАВЛЕНИЯ ДАННЫМИ § Низкий приоритет проектов по управлению данными в портфеле проектов в портфеле § Финансирование по остаточному принципу § Фрагментарная работа с данными. Где-то BI, где-то хранилище, где-то модель данных и т.д. § Несколько раз переделываем одни и те же работы § Сложности консолидации результатов разных проектов на уровне компании § Работа с данными необходимыми для бизнес инициатив § Разработка и утверждение методики расчета экономического эффекта для data-проектов § Использование международных стандартов (DMBoK, PPDM, OSDU) § Доработка процессов от практики § Постепенное масштабирование § Наставничество со стороны владельцев процессов § Владельцы процессов сами работают в проектах § Доработка производственных ИТ и цифровых процессов Как проявлялось Как преодолеваем
  15. 16 Газпром нефть Сложности, с которыми сталкивались, и как их

    преодолеваем ДУБЛИРОВАНИЕ ДАННЫХ В ПРОЕКТАХ, НЕСИНХРОННАЯ РАБОТА НЕСКОЛЬКИХ КОМАНД ДОРАБОТКИ, УЛУЧШАЮЩИЕ ВНЕШНИЙ ВИД ДАШБОРДОВ, НО НЕ МЕНЯЮЩИХ ПРОЦЕСС ПРИНЯТИЯ РЕШЕНИЙ § В разных проектах делали одни и те же работы параллельно § Одни и те же показатели называем по разному и наоборот § Графики из презентаций переносили в Qlik, делали массу доработок визуализации, под которой по-прежнему масса ручной работы по сбору и выверке данных § Регулярная сборка модели данных и бизнес терминов § Итерации не длиннее 2-х недель § Создание процесса разработки, в котором обязательна фиксация образа целевого результата на старте § Приоритет проектам нацеленным на повышение эффективности § Внедрение модели зрелости аналитических решений Как проявлялось Как преодолеваем