Arquitectura de datos para diseñar una plataforma fiable y flexible

La arquitectura de datos define cómo una organización obtiene, organiza, transforma, protege y distribuye sus datos para utilizarlos en aplicaciones, análisis y decisiones de negocio. Relaciona fuentes, modelos, flujos, sistemas y reglas de acceso en un diseño que permite entender cómo funciona la información y cómo debe evolucionar.

Una arquitectura útil permite responder preguntas concretas: de dónde procede un indicador, cuánto tarda en actualizarse, quién puede consultarlo, qué ocurre si falla una carga y qué esfuerzo requiere incorporar una nueva necesidad. Su calidad se comprueba en esas condiciones de uso, además de en su representación técnica.

Esta guía desarrolla los componentes esenciales, las diferencias entre warehouse, lake y lakehouse, el papel de Medallion, data mesh y data fabric, y los criterios para elegir plataformas y modernizar un entorno existente.

Contenido de la guía

¿Qué resuelve la arquitectura de datos?

La arquitectura establece cómo se conectan las necesidades del negocio con las capacidades que hacen utilizables los datos. Su alcance incluye decisiones lógicas, como definir entidades y relaciones, y decisiones físicas, como distribuir almacenamiento y procesamiento.

Por ejemplo, un grupo empresarial puede necesitar comparar ventas entre países. El diseño debe resolver cómo recibe los datos de cada sistema, cómo reconoce productos equivalentes, qué moneda utiliza para comparar y cómo mantiene el histórico cuando cambian las clasificaciones comerciales.

La definición de arquitectura de datos de IBM sitúa el recorrido desde la recopilación hasta el consumo dentro de ese marco. Para aplicarlo a una empresa, conviene distinguir tres decisiones:

  • Estrategia: qué resultados se quieren conseguir y qué iniciativas tienen prioridad.
  • Arquitectura: cómo organizar las capacidades, los datos y sus conexiones para conseguirlos.
  • Implementación: cómo configurar, desarrollar y operar la solución elegida.

Si las prioridades todavía no están claras, conviene definir la estrategia de datos y su hoja de ruta. La arquitectura necesita esos criterios para valorar qué complejidad, disponibilidad y coste tienen sentido.

¿Qué significa que una arquitectura sea flexible?

La flexibilidad consiste en poder incorporar cambios sin rehacer innecesariamente todo el sistema. Requiere límites claros entre componentes, definiciones comprensibles y mecanismos para gestionar dependencias. Añadir más herramientas no garantiza esa capacidad.

Una señal práctica es saber qué consumidores se verían afectados si cambia un campo de origen. Otra es poder añadir una fuente sin duplicar en cada informe la misma lógica de transformación. Los beneficios de una arquitectura de datos moderna en la nube deben evaluarse con ejemplos de ese tipo y con sus costes de operación.

Componentes y recorrido de la información

El recorrido habitual va desde las fuentes hasta las aplicaciones y personas que utilizan la información. Puede combinar distintos caminos según la latencia, el volumen y las reglas de cada uso.

  • Fuentes. Sistemas operativos, archivos, aplicaciones, documentos o eventos que producen los datos.
  • Ingesta e integración. Mecanismos para recibir información, registrar cambios y coordinar los flujos.
  • Almacenamiento. Entornos donde conservar datos, históricos y versiones según su finalidad.
  • Preparación y modelado. Validación, transformación y organización de la información para usos concretos.
  • Acceso y consumo. Consultas, modelos semánticos, informes, APIs y aplicaciones analíticas o de IA.
  • Operación y control. Seguimiento de calidad, seguridad, trazabilidad, costes e incidencias en todo el recorrido.

No todos los casos necesitan cada componente como servicio independiente. La guía de Microsoft sobre arquitecturas de big data describe componentes lógicos y distintos tipos de procesamiento. El diseño concreto debe ajustarlos a los requisitos, evitando convertir una arquitectura de referencia en una lista obligatoria de productos.

Procesamiento por lotes y por eventos

El procesamiento por lotes agrupa datos y los trata según una planificación. El procesamiento de eventos atiende cambios conforme llegan, con las condiciones de latencia y entrega que soporte la solución.

La frecuencia debe elegirse según la decisión que se quiere mejorar. Un cierre mensual y una alerta operativa no necesitan la misma actualización. Reducir latencia puede exigir más capacidad, supervisión y tratamiento de errores, incluidos duplicados y eventos que llegan fuera de orden.

También conviene distinguir ETL, que transforma antes de cargar en el destino previsto, de ELT, que carga antes de transformar en ese entorno. Para desarrollar la relación con las cargas transaccionales y analíticas, se puede consultar las diferencias entre ETL, OLAP y OLTP en data warehousing.

Recurso descargable: se incluyen las buenas prácticas para la integración de datos al revisar los flujos que conectan las fuentes con la plataforma.

11 buenas prácticas para la integración de datos

Criterios para revisar los flujos que conectan las fuentes con la plataforma y detectar mejoras en su diseño.

Data warehouse y alternativas de almacenamiento analítico

Estos conceptos describen formas de organizar y servir información. La elección depende de los tipos de datos, los patrones de se puede consultar y las capacidades necesarias. Una arquitectura puede combinar varios de ellos.

Data warehouse para información analítica integrada

Un data warehouse organiza datos para análisis, reporting e histórico. Permite integrar fuentes y presentar estructuras adecuadas para consultar hechos y dimensiones de negocio. La plataforma concreta determina qué formatos, motores y posibilidades de procesamiento ofrece.

Puede ser una opción adecuada cuando existen métricas compartidas y una necesidad relevante de análisis SQL. No exige que toda la información de la empresa se copie en un único lugar ni que sus tablas permanezcan siempre inmutables.

La información se amplía en la definición y los casos de uso de un data warehouse y en cuándo elegir un data warehouse para una necesidad analítica.

Data mart para un ámbito de consumo concreto

Un data mart delimita información para un departamento, dominio o necesidad analítica. Puede apoyarse en datos integrados previamente o construirse desde otras fuentes, según el diseño. Su utilidad se reduce si introduce definiciones incompatibles con las que necesita compartir.

Se puede consultar las diferencias entre data warehouse y data mart para valorar su alcance y sus relaciones.

Data lake para conservar información de formatos diversos

Un data lake permite almacenar datos en archivos y formatos diversos, incluidos datos que todavía no tienen un modelo de consumo definido. Esa flexibilidad requiere catálogo, permisos, criterios de conservación y controles de calidad: guardar un archivo no significa que otro equipo pueda interpretarlo.

La necesidad de explorar documentos, registros o datos de sensores puede justificar este enfoque. Deben quedar claros su origen, las condiciones de uso y la forma de prepararlos para cada análisis. La información se amplía en la comparación entre data lake y data warehouse.

Lakehouse para combinar almacenamiento flexible y capacidades analíticas

Un data lakehouse combina almacenamiento basado en un lago de datos con capacidades de gestión y análisis, apoyadas en motores, catálogos y tecnologías de tablas. Sus prestaciones dependen de la implementación, los formatos y las integraciones elegidas.

Puede resultar útil cuando ingeniería, BI y ciencia de datos necesitan compartir parte de la información. Esto no elimina automáticamente las copias, los problemas de calidad ni el trabajo de modelado. Tampoco garantiza menor coste que un warehouse en cualquier carga.

Se puede consultar qué es un data lakehouse y cómo se organiza y cómo comparar warehouse, lake y lakehouse en el entorno cloud.

¿Cómo decidir entre estos enfoques?

Conviene plantear un escenario representativo y comprobar qué necesita: tipos de datos, frecuencia de actualización, consultas simultáneas, histórico, permisos y mantenimiento. Después se evalúa qué combinación lo satisface con una complejidad asumible.

La guía sobre cómo diseñar un enterprise data warehouse desarrolla los requisitos de construcción. La comparación entre data lake y data warehouse aborda los criterios de almacenamiento y preparación de la información.

Arquitectura Medallion y capas de preparación de datos

La arquitectura Medallion organiza lógicamente la preparación de los datos en capas. Las denominaciones habituales son bronze, silver y gold. Ayuda a distinguir lo recibido de las fuentes, lo validado y lo preparado para consumidores concretos.

  • Bronze. Conserva datos recibidos con el contexto necesario para seguir su origen y, cuando el diseño lo permita, reprocesarlos.
  • Silver. Aplica validaciones, tratamiento de duplicados, normalización y otras reglas acordadas.
  • Gold. Presenta datos preparados para productos analíticos, métricas y otros usos de negocio.

La documentación de Databricks sobre Medallion lo presenta como un patrón de diseño recomendado, no como un requisito. Los nombres de las capas no sustituyen a las pruebas ni certifican por sí solos la calidad.

Para cada transición, se define qué condiciones debe cumplir un conjunto, qué sucede si falla una validación y quién puede corregirlo. También se decide qué conservar y durante cuánto tiempo para evitar que las capas se conviertan en copias indefinidas sin finalidad.

La relación con lakehouse y calidad se desarrolla en la guía de arquitectura Medallion y sus capas.

Recurso descargable: se puede consultar el caso de éxito de optimización de un ecosistema de datos con arquitectura Medallion para conocer una aplicación documentada por Bismart.

Arquitectura Medallion: un caso de éxito

Una aplicación documentada por Bismart para conocer cómo se organiza y optimiza un ecosistema de datos mediante este patrón.

Data mesh y data fabric en la gestión de productos de datos

Estos enfoques responden a problemas distintos y pueden formar parte de una misma arquitectura. La decisión comienza por identificar si la dificultad está en las responsabilidades, la conexión entre sistemas o la capacidad de ofrecer datos utilizables a otros equipos.

Data mesh y responsabilidad por dominios

Data mesh distribuye responsabilidades sobre los datos entre dominios de negocio, con una plataforma de autoservicio y reglas compartidas. Busca que los equipos que conocen la información participen en su gestión y la ofrezcan como productos utilizables.

Como recoge la explicación de data mesh de IBM, la propiedad por dominios debe convivir con gobierno federado. Crear bases separadas para cada departamento no basta para construir una malla de datos.

Antes de adoptarlo, conviene comprobar si existen equipos con capacidad para mantener productos, atender consumidores y cumplir acuerdos comunes. Se desarrolla cómo implementar una gestión de datos basada en data mesh.

Data fabric y conexión de un entorno distribuido

Data fabric es un enfoque para facilitar integración, acceso y gestión de datos distribuidos, utilizando capacidades como metadatos, catálogo y automatización. No implica necesariamente moverlo todo a un repositorio único.

La descripción de data fabric de IBM permite situar ese enfoque de integración. Es distinto del producto Microsoft Fabric: compartir parte del nombre no los convierte en equivalentes.

La información se amplía en la introducción a data fabric y su papel en la integración y la comparación entre data fabric y data mesh.

Tratar los datos como un producto

Un conjunto pensado para otros consumidores necesita una finalidad clara, un responsable, documentación, condiciones de acceso y expectativas de actualización y calidad. Debe ser posible conocer sus límites y comunicar cambios que afecten a quienes lo usan.

Este criterio puede aplicarse en arquitecturas centralizadas o distribuidas. Se desarrolla qué significa tratar los datos como producto para desarrollar su dimensión operativa.

Cloud y migración con control sobre los datos

La ubicación de una solución debe responder a necesidades de servicio, control y coste. Puede utilizar infraestructura local, nube pública o una combinación. La elección no demuestra por sí sola que una arquitectura sea segura, eficiente o moderna.

Un entorno híbrido conecta recursos locales y cloud. Un entorno multicloud utiliza servicios de varios proveedores de nube. Pueden coincidir, pero presentan necesidades específicas de conectividad, identidad, supervisión y operación.

Se puede consultar cuándo valorar una arquitectura híbrida o multicloud. La combinación debe justificar el esfuerzo de mantener integraciones, competencias y controles adicionales.

Migrar exige revisar dependencias y costes

Antes de mover una carga, se identifica quién la utiliza, cómo se actualiza, qué conexiones mantiene y qué condiciones de recuperación necesita. Se decide si conviene trasladarla, adaptarla, sustituirla o retirarla. Se mantiene un plan de validación y vuelta atrás cuando la criticidad lo requiera.

Se calcula el coste del conjunto: almacenamiento, procesamiento, transferencias, licencias, herramientas auxiliares y trabajo de operación. Se incluyen los periodos en que origen y destino convivirán. Los errores económicos habituales en infraestructura cloud ayudan a revisar supuestos que una estimación inicial puede pasar por alto.

Residencia y soberanía requieren decisiones concretas

La residencia indica dónde se almacenan o procesan datos según el alcance considerado. La soberanía plantea además quién puede ejercer control y bajo qué condiciones. Se revisan la ubicación de réplicas, accesos administrativos, subcontratación, gestión de claves, recuperación y opciones de salida.

La selección de una región no resuelve por sí sola todas esas cuestiones. Se comprueban las condiciones contractuales y técnicas del servicio y se solicita la revisión correspondiente cuando existan obligaciones específicas.

¿Cómo elegir una plataforma de datos?

Una plataforma implementa capacidades; la arquitectura establece cómo se relacionan. Microsoft Fabric, Databricks, Snowflake y los servicios de Azure pueden intervenir en diseños distintos. La comparación debe partir de una carga y unos requisitos definidos.

Los siguientes criterios sirven para formular preguntas verificables durante una evaluación:

  • Usos previstos. BI, ingeniería, exploración, aplicaciones o IA que deben funcionar con los datos.
  • Acceso e integración. Fuentes, formatos, conectividad y forma de gestionar cambios.
  • Prestaciones. Actualización necesaria, concurrencia, respuesta y recuperación.
  • Control. Permisos, trazabilidad, catálogo y aplicación de reglas.
  • Equipo y operación. Competencias disponibles, mantenimiento y soporte.
  • Economía y salida. Coste de una carga representativa, crecimiento y posibilidad de trasladar datos y lógica.

En un entorno que ya utiliza Azure Synapse, los artículos sobre Azure Synapse y su comparación con Azure Databricks y el papel de Synapse en una arquitectura cloud aportan contexto. Conviene contrastar las capacidades y condiciones de cada servicio en la documentación vigente antes de decidir.

La automatización del cómputo también debe evaluarse como una capacidad específica. La introducción a los adaptive warehouses y la gestión de recursos de cómputo aborda ese ámbito; no constituye una categoría de almacenamiento que sustituya a todos los warehouses.

Recurso descargable: si Microsoft Fabric está entre las alternativas, se incluye la guía de Microsoft Fabric sobre características, licencias y migración como punto de partida. Conviene verificar tarifas y disponibilidad para la configuración que se evalúe.

Guía completa de Microsoft Fabric

Características de la plataforma y cuestiones de licencias y migración que conviene revisar al evaluar una alternativa.

Rendimiento SQL y operación de la arquitectura

El rendimiento depende del modelo de datos, las consultas, el volumen, la distribución de la información y los recursos disponibles. Aumentar capacidad puede aliviar un síntoma sin resolver su causa.

Se mide una carga representativa y sus condiciones: duración de consultas, espera, concurrencia y consumo. Después se comprueba si el problema procede de accesos innecesarios, modelos inadecuados, competencia por recursos o decisiones de almacenamiento.

En SQL Server, las vistas dinámicas de gestión para analizar el rendimiento SQL pueden ayudar al diagnóstico. Su disponibilidad y permisos dependen del producto y la versión. Las prácticas para escribir consultas SQL más claras aportan otra perspectiva, que debe contrastarse con el plan de ejecución y el motor utilizado.

La operación requiere además responsables, alertas accionables y pruebas de recuperación. Un flujo que falla debe poder detectarse, investigarse y, cuando corresponda, reprocesarse sin introducir resultados inconsistentes.

¿Cómo diseñar y modernizar una arquitectura de datos?

El diseño debe producir acuerdos suficientes para construir y operar la solución. Una secuencia práctica es trabajar desde el uso hasta sus requisitos y validar el recorrido con una entrega acotada.

  • Definir el caso y sus consumidores. Describir qué decisión, aplicación o proceso necesita datos y quién aceptará el resultado.
  • Examinar el entorno actual. Identificar fuentes, flujos, duplicidades, responsables y restricciones.
  • Acordar los requisitos. Incluir actualización, calidad, disponibilidad, seguridad, retención y recuperación.
  • Diseñar el recorrido. Elegir patrones y componentes, documentando dependencias y alternativas descartadas.
  • Probar con datos y carga representativos. Comprobar resultados funcionales, costes y comportamiento ante fallos.
  • Preparar la operación. Asignar responsables, supervisión y procedimientos para incidencias y cambios.
  • Ampliar con evidencia. Reutilizar lo que funciona y revisar las decisiones cuando cambien las necesidades.

El registro de decisiones puede ser breve: problema, opciones, elección, motivo y condiciones que obligarían a revisarla. Este documento evita que una restricción temporal termine tratándose como una regla permanente.

Para comprobar la arquitectura, se sigue un dato desde su origen hasta un consumidor. Debe ser posible explicar sus transformaciones, controles y responsables, así como el efecto de una corrección en la fuente.

Arquitectura de datos preparada para inteligencia artificial

Preparar datos para IA implica conocer qué información puede utilizarse, cómo se interpreta y cómo se evaluará su uso. La arquitectura debe contemplar los documentos y otros contenidos no estructurados cuando formen parte de los casos previstos.

Si una aplicación recupera información para responder preguntas, se define la fuente autorizada, los permisos, la actualización y la forma de retirar contenido obsoleto. Si se utilizan representaciones derivadas de documentos, se consideran su renovación y sus condiciones de acceso junto con las del original.

Un agente que ejecuta acciones necesita además límites de actuación, registro y mecanismos de intervención. La posibilidad técnica de acceder a un dato no equivale a estar autorizado para utilizarlo en cualquier tarea.

El caso de uso debe determinar las pruebas: respuestas respaldadas por fuentes, respeto de permisos y comportamiento ante información insuficiente, entre otras. Los componentes se eligen después de definir esas condiciones.

Recurso descargable: se incluye la guía para preparar los datos de la empresa para la IA para ordenar esta revisión.

Preparar los datos de la empresa para la IA

Una guía para revisar las condiciones de información necesarias antes de ampliar los casos de uso de inteligencia artificial.

Ejemplo de diseño y criterios de aceptación

El ejemplo plantea una compañía con varios ERP que necesita analizar margen por producto y región. El siguiente ejemplo es ilustrativo; no describe un proyecto de cliente ni promete resultados.

El equipo acuerda qué significa margen, cómo relacionar productos y qué frecuencia necesita el seguimiento. Diseña una recepción de datos, una preparación con controles y un modelo de consumo compartido. Decide conservar el contexto de origen para investigar diferencias y probar correcciones.

Un patrón Medallion podría organizar ese recorrido. Un warehouse también podría resolverlo con zonas de preparación y modelos analíticos. La elección dependerá de las cargas previstas, los sistemas existentes y la capacidad de operación.

Antes de ampliar, se comprueban criterios como estos:

  • Los importes se reconcilian con los orígenes para el periodo y alcance acordados.
  • Las referencias sin correspondencia se detectan y tienen un responsable de resolución.
  • La información llega dentro de la ventana necesaria para decidir.
  • Los permisos separan los accesos según las responsabilidades definidas.
  • Una carga fallida puede investigarse y recuperarse con un procedimiento probado.
  • El coste y el tiempo de respuesta se han medido con una carga representativa.

Estos acuerdos permiten evaluar el diseño con evidencia. Si una necesidad cambia, el equipo puede identificar qué requisito y qué componente deben revisarse.

Preguntas frecuentes sobre arquitectura de datos

¿Qué diferencia hay entre arquitectura y plataforma de datos?

La arquitectura define la organización y relación de datos, flujos y capacidades. La plataforma proporciona servicios para implementarlas. Una misma plataforma puede soportar diseños diferentes, y una arquitectura puede utilizar más de una plataforma.

¿Es mejor un lakehouse que un data warehouse?

Depende de los usos, formatos, consultas, equipo y coste de operación. Conviene comparar alternativas con una carga representativa. El lakehouse no elimina la necesidad de modelar ni el warehouse impide incorporar otras formas de procesamiento.

¿Medallion es lo mismo que data mesh?

No. Medallion organiza capas de preparación de datos. Data mesh distribuye responsabilidades por dominios y promueve productos de datos con reglas compartidas. Un dominio puede utilizar Medallion dentro de una organización que adopte data mesh.

¿Data fabric y Microsoft Fabric son lo mismo?

No. Data fabric es un enfoque de integración y gestión de datos distribuidos. Microsoft Fabric es una plataforma tecnológica concreta. La coincidencia del término no demuestra equivalencia entre sus alcances.

¿Hay que migrar todo a la nube para modernizar?

No. La modernización puede combinar cambios de modelo, integración, control y operación en distintos entornos. Conviene decidir qué mover o mantener según requisitos y dependencias, incluyendo los costes de convivencia y las condiciones de salida.

¿Cómo saber si la arquitectura está funcionando?

Se comprueba si proporciona datos utilizables bajo las condiciones acordadas de calidad, actualización, acceso, recuperación y coste. También se evalúa cuánto esfuerzo requiere incorporar cambios y si los consumidores pueden entender y utilizar la información.

Recursos descargables y lecturas de contexto

La selección del recurso depende de la decisión que se necesita preparar:

Lecturas históricas para entender la evolución

El archivo incluye las herramientas de big data analizadas para 2021, el artículo sobre el fin de soporte de SQL Server 2008 y las tendencias de migración cloud examinadas en 2023. Estas lecturas ofrecen contexto de su época; sus recomendaciones de versión, disponibilidad y previsiones requieren comprobación actual.

El siguiente paso para la arquitectura

El primer paso consiste en seleccionar un caso prioritario y documentar su recorrido desde la fuente hasta el consumidor. Conviene identificar una limitación concreta y acordar cómo comprobar que se ha resuelto. Así se puede decidir qué conviene mantener, mejorar o sustituir.

Los servicios de plataformas de datos de Bismart permiten abordar la selección, implantación y evolución de la plataforma según los requisitos del negocio. Para una necesidad centrada en warehouse, se puede consultar también cómo aborda Bismart la implantación de un data warehouse.