Data Schema Tracker – Şema Evrimini İzleyin¶
AI Destekli Metadata Gözlemlenebilirlik ve Veri Kalitesi Modülü – digna Data Schema Tracker
Amaç¶
Data Schema Tracker veritabanı yapılarınınızın nasıl evrildiği hakkında sizi bilgilendirir.
Sürekli olarak tablo şemalarını, sütunları ve veri tiplerini izleyerek, boru hatlarını, ETL işleri veya BI dashboard'larını aksatabilecek şema driftini — kasıtlı ya da kasıtsız yapısal değişiklikleri — tespit eder.
Şema evriminde şeffaflık sağlayarak digna, kuruluşların veri kalitesine güveni korumasına, veri sistemlerinin gözlemlenebilirliğini sağlamasına ve tespit edilmemiş şema değişikliklerinden kaynaklanan maliyetli üretim olaylarını önlemesine yardımcı olur.
Teknik Genel Bakış¶
Neleri İzler¶
- Eklenen veya Kaldırılan Sütunlar – Yeni eklenen, yeniden adlandırılan veya silinen sütunları tespit eder.
- Veri Tipi Değişiklikleri –
INT → VARCHARveyaDATE → TIMESTAMPgibi değişiklikleri belirler. - Tablo ve View Değişiklikleri – Tablo ve view oluşturma, yeniden adlandırma veya kaldırma işlemlerini takip eder.
- Çevreler Arası Farklılıklar – Geliştirme (Dev), Test ve Üretim ortamları arasındaki şema sürümlerini karşılaştırır.
Tespit & Uyarı¶
- Doğrudan veri platformunuz içindeki veritabanı metadata'sını veya system catalog'ları tarar.
- Her şema anlık görüntüsünü digna’nın observability şemasında saklanan önceki bilinen sürümle karşılaştırır.
- Gösterge panosunda, API üzerinden veya dış bildirim kanallarında (e-posta, Slack, webhook) gerçek zamanlı uyarılar üretir.
- Her şema sürümünü tarihsel izleme ve denetim hazır olması için kaydeder.
Mimari ve Çalışma¶
- Veritabanı İçinde Çalışma: digna tamamen kendi ortamınız içinde çalışır ve veri çıkarmadan metadata görünümlerine sorgular gönderir.
- Hafif Taramalar: yalnızca yapısal bilgilere erişir — asla kullanıcı verilerine dokunmaz.
- Merkezi Depolama: şema metadata'sı ve drift kayıtları görselleştirme ve analiz için digna observability şemasında saklanır.
- Otomasyon: digna Core veya harici orkestrasyon araçları aracılığıyla zamanlanmış veya olay tabanlı taramaları destekler.
Örnek Kullanım Senaryoları¶
| Use Case | Description |
|---|---|
| ETL Stability Monitoring | Yukarı akıştaki yapı değişikliklerini, şema uyumsuzlukları nedeniyle boru hatları başarısız olmadan önce tespit edin. |
| Business Intelligence Reliability | Yeniden adlandırılmış veya eksik sütunlardan kaynaklanan bozuk dashboard'ların oluşmasını önleyin. |
| Data Warehouse Governance | Uyumluluk ve etki analizi için şema evriminin denetlenebilir bir geçmişini tutun. |
| Integration Oversight | Yapısal güncellemeler sonrasında veri gölü ve veri ambarı şemalarının senkronize kalmasını sağlayın. |
Faydalar¶
| Area | Benefit |
|---|---|
| Data Quality | Verileri bozabilecek veya geçersiz kılabilecek tespit edilmemiş şema driftini önler. |
| Observability | Veri ekosistemlerinin genel gözlemlenebilirliğine yapısal izleme ekler. |
| Compliance | Denetim, izlenebilirlik ve değişiklik kontrolü için sürümlenmiş şema geçmişi sağlar. |
| Prevention | Yapısal sorunların raporlama veya üretim hatalarına dönüşmeden önce tespit edilmesini sağlar. |
Nasıl Çalışır¶
- Snapshot Toplama – digna mevcut şema metadata'sının anlık görüntüsünü alır.
- Karşılaştırma – yeni snapshot, önceki sürüm ile karşılaştırılır