Artigos

Que é a orquestración de datos, retos na análise de datos

A orquestración de datos é o proceso de mover datos en silos desde varias localizacións de almacenamento a un repositorio centralizado onde se poden combinar, limpar e enriquecer para a súa activación (por exemplo, informes).

A orquestración de datos axuda a automatizar o fluxo de datos entre ferramentas e sistemas para garantir que as organizacións estean a traballar con información completa, precisa e actualizada.

Tempo estimado de lectura: 7 minutos

As 3 fases da orquestración de datos

1. Organiza os datos de diferentes fontes

Se hai datos procedentes de diferentes fontes, xa sexa o CRM, fontes de redes sociais ou datos de eventos de comportamento. E é probable que estes datos se almacenen en varias ferramentas e sistemas diferentes ao longo da pila tecnolóxica (como sistemas legados, ferramentas baseadas na nube e data warehouse o lago).

O primeiro paso na orquestración de datos é recoller e organizar os datos de todas estas fontes diferentes e asegurarse de que estean formateados correctamente para o destino de destino. O que nos leva a: transformación.

2. Transforma os teus datos para unha mellor análise

Os datos están dispoñibles en varios formatos diferentes. Pode ser estruturado, non estruturado ou semiestruturado, ou o mesmo evento pode ter unha convención de nomenclatura diferente entre dous equipos internos. Por exemplo, un sistema pode recoller e almacenar a data como o 21 de abril de 2022 e outro pode almacenala no formato numérico, 20220421.

Para dar sentido a todos estes datos, as empresas moitas veces necesitan transformalos nun formato estándar. A orquestración de datos pode axudar a reducir a carga de conciliar manualmente todos estes datos e aplicar transformacións en función das políticas de goberno de datos e do plan de seguimento da súa organización.

3. Activación de datos

Unha parte crucial da orquestración de datos é poñer os datos dispoñibles para a súa activación. Isto ocorre cando se envían datos limpos e consolidados a ferramentas posteriores para o seu uso inmediato (por exemplo, a creación dunha audiencia de campaña ou a actualización dun panel de intelixencia empresarial).

Por que facer a orquestración de datos

A orquestración de datos é esencialmente a desfeita de datos en silos e sistemas fragmentados. Alluxio agradece que a tecnoloxía de datos sofre grandes cambios cada 3-8 anos. Isto significa que unha empresa de 21 anos pode ter pasado por 7 sistemas de xestión de datos diferentes desde o seu inicio.

A orquestración de datos tamén che axuda a cumprir coas leis de privacidade de datos, eliminar os pescozos de botella e facer cumprir o goberno dos datos: só tres (entre moitas) boas razóns para implementala.

1. Cumprimento das leis de privacidade de datos

As leis de privacidade de datos, como o GDPR e a CCPA, teñen pautas estritas para a recollida, uso e almacenamento de datos. Parte do cumprimento é dar aos consumidores a opción de optar pola recollida de datos ou solicitar que a súa empresa elimine todos os seus datos persoais. Se non sabes ben onde se almacenan os teus datos e quen accede a eles, pode ser difícil satisfacer esta demanda.

Desde que se promulgou o GDPR, vimos millóns de solicitudes de borrado. É fundamental ter unha comprensión sólida de todo o ciclo de vida de datos para asegurarse de que nada escapa.

2. Eliminar os pescozos de botella de datos

Os pescozos de botella son un desafío continuo sen a orquestración de datos. Digamos que es unha empresa con varios sistemas de almacenamento que precisa para consultar información. É probable que a persoa responsable de consultar estes sistemas teña moitas solicitudes que examinar, o que significa que pode haber un atraso entre os equipos. que precisan dos datos e os que alí reciben efectivamente, o que á súa vez pode facer que a información quede obsoleta.

Nun ambiente ben orquestrado, eliminaríase este tipo de arranque e parada. Os teus datos xa se entregarán ás ferramentas posteriores para a súa activación (e eses datos estarán estandarizados, o que significa que podes ter confianza na súa calidade).

Boletín de innovación
Non te perdas as novidades máis importantes sobre innovación. Rexístrese para recibilos por correo electrónico.
3. Aplicar o goberno de datos

O goberno dos datos é difícil cando os datos se distribúen en varios sistemas. As empresas non teñen unha visión completa do ciclo de vida dos datos e a incerteza sobre cales son os datos almacenados (p. ex. pomba) crea vulnerabilidades, como non protexer adecuadamente a información de identificación persoal.

Data Orchestration axuda a remediar este problema ofrecendo unha maior transparencia sobre como se xestionan os datos. Isto permite que as empresas bloqueen de forma proactiva datos non válidos antes de que cheguen ás bases de datos ou afecten aos informes e establezan permisos para o acceso aos datos.

Desafíos comúns con Data Orchestration

Hai varios desafíos que poden xurdir ao intentar implementar Data Orchestration. Aquí tes os máis comúns que hai que ter en conta e como evitalos.

Silos de datos

Os silos de datos son un fenómeno común, se non prexudicial, entre as empresas. A medida que as pilas tecnolóxicas evolucionan e os diferentes equipos posúen diferentes aspectos da experiencia do cliente, é demasiado fácil que os datos queden separados en diferentes ferramentas e sistemas. Pero o resultado é unha comprensión incompleta do rendemento da empresa, desde puntos cegos na viaxe do cliente ata desconfianza na precisión das análises e informes.

As empresas sempre terán datos que flúen desde varios puntos de contacto a varias ferramentas diferentes. Pero romper os silos é esencial se estas empresas queren obter valor dos seus datos.

    Tendencias emerxentes ena Orquestración de datos

    Nos últimos anos xurdiron algunhas tendencias sobre como as empresas xestionan o fluxo e a activación dos seus datos. Un exemplo diso é o procesamento de datos en tempo real, que é cando os datos se procesan en milisegundos de xeración. Os datos en tempo real convertéronse en cruciais en todas as industrias, xogando un papel fundamentalInternet das cousas (por exemplo, sensores de proximidade en coches), asistencia sanitaria, xestión da cadea de subministración, detección de fraudes e personalización case instantánea. Particularmente cos avances na aprendizaxe automática e na intelixencia artificial, os datos en tempo real permiten algoritmos eintelixencia artificial para aprender a un ritmo máis rápido.

    Outra tendencia foi o cambio ás tecnoloxías baseadas nube. Aínda que algunhas empresas mudáronse por completo a nube, outros poden seguir tendo unha mestura de sistemas locais e solucións baseadas na nube.

    Despois, está a evolución da forma en que o software foi construído e implantado, o que afecta a forma en que se realizará a orquestración de datos. 

    Lecturas relacionadas

    Preguntas máis frecuentes

    Cales son os erros comúns que se deben evitar ao implementar a orquestración de datos?

    – Non incorporar a limpeza e validación de datos
    – Non probar fluxos de traballo para garantir procesos fluidos e optimizados
    – Respostas atrasadas a problemas como incoherencias de datos, erros do servidor, pescozos de botella
    – Non contar con documentación clara sobre a cartografía de datos, a liñaxe de datos e un plan de seguimento

    Como medir o ROI das iniciativas de orquestración de datos?

    Para medir o ROI da orquestración de datos:
    – Comprender o desempeño básico
    – Ter un conxunto claro de metas, KPIs e obxectivos en mente para a orquestración de datos
    – Calcular o custo total da tecnoloxía utilizada, xunto co tempo e os recursos internos
    – Mide métricas importantes como o tempo aforrado, a velocidade de procesamento e a dispoñibilidade de datos, etc.

    BlogInnovazione.it

    Boletín de innovación
    Non te perdas as novidades máis importantes sobre innovación. Rexístrese para recibilos por correo electrónico.

    Artigos recentes

    Editores e OpenAI asinan acordos para regular o fluxo de información procesada pola Intelixencia Artificial

    O pasado luns, o Financial Times anunciou un acordo con OpenAI. FT licencia o seu xornalismo de clase mundial...

    Abril 30 2024

    Pagos en liña: aquí tes como os servizos de streaming che fan pagar para sempre

    Millóns de persoas pagan por servizos de streaming, pagando taxas de subscrición mensuais. É unha opinión común que vostede...

    Abril 29 2024

    Veeam ofrece o soporte máis completo para ransomware, desde a protección ata a resposta e a recuperación

    Coveware by Veeam continuará ofrecendo servizos de resposta a incidentes de extorsión cibernética. Coveware ofrecerá capacidades forenses e de remediación...

    Abril 23 2024

    Revolución verde e dixital: como o mantemento preditivo está a transformar a industria do petróleo e do gas

    O mantemento preditivo está a revolucionar o sector do petróleo e do gas, cun enfoque innovador e proactivo para a xestión das plantas...

    Abril 22 2024