# Detekcia a náprava skreslenia syntetických dát v reálnom čase s Formize

Syntetické dáta sa stali základným kameňom pre tréning vysoko výkonných AI modelov pri zachovaní súkromia. Avšak samotný proces, ktorý vytvára „umelé“ záznamy, môže neúmyselne zosilniť skryté skreslenia prítomné v zdrojových dátach alebo zavedené generátorom. Keď syntetické dáta napájajú ďalšie modely, tieto skreslenia sa môžu šíriť, ohrozovať spravodlivosť, regulačný súlad a reputáciu značky.

Formize — platforma pre správu dát s nízkym kódom — ponúka výkonný, rozšíriteľný rámec pre **detekciu skreslenia v reálnom čase**, automatizovanú nápravu a auditovateľné reportovanie. V tomto článku prejdeme:

1. Prečo je skreslenie v syntetických dátach dnes dôležité.  
2. Základné koncepty: metriky skreslenia, monitorovacie okná a nápravné akcie.  
3. Vytvorenie pipeline pre detekciu skreslenia v reálnom čase s Formize.  
4. Integráciu automatizovaných upozornení, nápravných botov a dashboardov pre súlad.  
5. Najlepšie postupy pre škálovanie naprieč multimodálnymi generátormi syntetických dát.  

Na konci budete mať výrobný plán, ktorý premení monitorovanie skreslenia z periodického auditu na kontinuálnu, samoliečiacu schopnosť.

---

## 1. Rastúce rizikové prostredie

| Riziko | Dopad | Regulačný kontakt |
|--------|-------|-------------------|
| **Demografické skreslenie** | Diskriminačné predikcie pri nábore, úveroch alebo zdravotnej starostlivosti | EEOC, ECOA, [GDPR](https://gdpr.eu/) Art. 22 |
| **Únik štítkov** | Pretrénovanie na chránené atribúty | FDA AI/ML Software Guidance |
| **Drift syntetického k reálnemu** | Zhoršenie výkonu modelu po nasadení | ISO/IEC 42001 (AI risk) |
| **Nedokumentované skreslenie** | Právne riziká a strata dôvery zainteresovaných strán | US AI Bill of Rights, EU AI Act |

Syntetické dáta sa často generujú **na‑letom** pre tréning modelov, validáciu alebo augmentáciu dát. Tradičné audity skreslenia — spúšťané štvrťročne alebo po veľkom vydaní — sú príliš pomalé na zachytenie rýchlych posunov spôsobených:

* Aktualizáciou zdrojových datasetov (napr. nové kohorty pacientov).  
* Zmenou architektúry generatívneho modelu (napr. prechod z GAN na difúzny model).  
* Reálnymi spätnými väzbami, ktoré prispôsobujú parametre generovania na základe výkonu downstream modelov.

**Systém na detekciu skreslenia v reálnom čase** preto musí:

* Kontinuálne počítať metriky skreslenia na každej generovanej dávke.  
* Porovnávať výsledky s preddefinovanými prahmi.  
* Okamžite spúšťať automatizovanú nápravu alebo eskaláciu k ľuďom.  

Event‑driven workflow engine a **metadata lineage** schopnosti Formize ho robia pre túto výzvu ideálnym riešením.

---

## 2. Základné koncepty pre monitorovanie skreslenia v reálnom čase

### 2.1 Metriky skreslenia

Formize nepreskrbuje jedinú metriku; umožňuje definovať **vlastné metrické funkcie**, ktoré vracajú číselné skóre. Bežné voľby zahŕňajú:

* **Statistical Parity Difference (SPD)** – rozdiel v mierach pozitívnych výsledkov medzi skupinami.  
* **Equal Opportunity Difference (EOD)** – rozdiel v mierach pravých pozitív.  
* **Kullback‑Leibler Divergence (KL)** – vzdialenosť rozdelení medzi syntetickými a referenčnými demografiami.  
* **Fairness‑Aware Utility (FAU)** – kompromis medzi presnosťou modelu a spravodlivosťou.

Všetky metriky by mali byť **normalizované** na rozsah 0‑1, kde 0 označuje dokonalú spravodlivosť.

### 2.2 Monitorovacie okná

Syntetické dáta môžu prichádzať v **mikro‑dávkach** (napr. 1 000 riadkov každých 5 sekúnd) alebo v **nepretržitých streamoch**. Formize podporuje dva spôsoby okien:

* **Tumbling okná** – pevne veľké, neprekrývajúce sa dávky (napr. každých 10 minút).  
* **Sliding okná** – prekrývajúce sa okná, ktoré poskytujú plynulejšie detekovanie trendov (napr. 30‑minútové okno posúvané každých 5 minút).

Výber správneho okna vyvažuje latenciu detekcie a štatistickú stabilitu.

### 2.3 Nápravné akcie

Keď metrika prekročí svoj prah, Formize môže spustiť jednu alebo viac **nápravných akcií**:

| Akcia | Popis |
|-------|-------|
| **Opätovné ladenie parametrov** | Úprava hyperparametrov generátora (napr. teplota, obmedzenia vyváženosti tried). |
| **Re‑balansovanie vzoriek** | Aplikácia post‑generačného re‑sampling alebo váženia na korekciu skreslenia. |
| **Fronta pre ľudskú kontrolu** | Presunutie problematických dávok do UI na validáciu doménovým expertom. |
| **Rozšírenie audit logu** | Zaznamenanie incidentu s úplnou líniou pôvodu pre reportovanie súladu. |

Tieto akcie sa definujú ako **low‑code funkcie** (JavaScript, Python alebo kontajnerové služby), ktoré Formize volá cez svoj webhook engine.

---

## 3. Vytvorenie pipeline pre detekciu skreslenia v reálnom čase

Nižšie je krok‑za‑krokom návod na zostavenie pipeline. Diagram znázorňuje tok dát.

```mermaid
flowchart TD
    A["Source Data Lake"] --> B["Synthetic Generator (LLM / GAN)"]
    B --> C["Formize Ingestion Hook"]
    C --> D["Bias Metric Engine"]
    D -->|Pass| E["Data Warehouse (Clean Store)"]
    D -->|Fail| F["Remediation Orchestrator"]
    F --> G["Parameter Tuner"]
    F --> H["Human Review UI"]
    G --> B
    H --> B
    D --> I["Compliance Dashboard"]
```

### 3.1 Krok 1 – Prepojte generátor s Formize

1. **Vytvorte Ingestion Hook** v Formize, ktorý prijíma JSON dávky od vášho syntetického generátora.  
2. Aktivujte **schema auto‑discovery**, aby Formize zaznamenal typy stĺpcov, provenance tagy a časové značky generovania.  
3. Nastavte hook tak, aby **publikoval udalosť “batch_received”** na interný event bus.

### 3.2 Krok 2 – Definujte funkcie metrik skreslenia

V UI Formize prejdite na **Metričky → Nová metrika** a vložte nasledujúci Python snippet:

```python
def statistical_parity(batch, protected_attr, outcome):
    # Compute positive outcome rate per group
    groups = batch.groupby(protected_attr)[outcome].mean()
    # SPD = max - min
    spd = abs(groups.max() - groups.min())
    # Normalize (assuming max possible difference = 1)
    return spd
```

Uložte metriku pod názvom `SPD`. Opakujte pre ďalšie metriky (EOD, KL, FAU) a priraďte **prahy** (napr. SPD < 0.1).

### 3.3 Krok 3 – Nastavte monitorovacie okno

Vytvorte **definíciu okna**:

* **Typ:** Sliding  
* **Veľkosť:** 30 minút  
* **Interval posunu:** 5 minút  

Pripojte sadu metrík k tomuto oknu. Formize automaticky agreguje skóre metrík naprieč všetkými dávkami, ktoré spadajú do daného okna.

### 3.4 Krok 4 – Nastavte orchestrátor nápravy

1. V **Pracovných postupoch → Nový pracovný postup** vyberte spúšťač **“Metric Violation”**.  
2. **Vetva A – Auto‑tuning**: zavolajte kontajnerovú službu, ktorá upraví hyperparametre generátora na základe delta metriky.  
3. **Vetva B – Ľudská kontrola**: vytvorte tiket v UI Formize s náhľadom problematických riadkov.  
4. **Vetva C – Audit log**: zapíšte podrobný záznam do **Compliance Ledger** (nemenný, voliteľne zakotvený na blockchain).

### 3.5 Krok 5 – Vytvorte dashboard pre súlad

**Staviteľ dashboardov** v Formize umožňuje pretiahnuť časové rady metrík, počty porušení a latenciu nápravy do jedného pohľadu. Exportujte dashboard ako vložiteľný iframe pre interné portály alebo ako PDF pre auditné podania.

---

## 4. Automatizované upozornenia a reakcia na incidenty

Detekcia skreslenia v reálnom čase má zmysel len vtedy, keď sú správne informovaní tí správni ľudia. Formize podporuje viacero kanálov upozornení:

| Kanál | Prípad použitia |
|------|-----------------|
| **Slack / Microsoft Teams** | Okamžité upozornenia pre tím ML‑ops. |
| **PagerDuty** | Eskalácia pri kritických porušeniach (napr. SPD > 0.3). |
| **Email Digest** | Denný súhrn pre úradníkov súladu. |
| **SMS** | Upozornenia pri vysokorizikových porušeniach. |

Upravte upozornenia v **Alert Policies → Nová politika**. Príklad politiky:

* **Podmienka:** `SPD > 0.15` ALEBO `EOD > 0.2`  
* **Závažnosť:** Kritická  
* **Príjemcovia:** `#ml-ops`, `compliance@example.com`  
* **Akcia:** Spustiť nápravnú workflow + odoslať Slack správu.

---

## 5. Škálovanie naprieč multimodálnymi generátormi

Mnoho podnikov generuje syntetické dáta pre **tabuľkové, obrazové, textové a audio** modality. Architektúra Formize je modality‑agnostická:

1. **Jednotný Ingestion Hook** — prijíma akýkoľvek MIME typ a ukladá surový payload do objektového úložiska.  
2. **Obohatenie metadát** — pridáva tagy modality (`modality: image`), ktoré môžu filtrovať metrické funkcie.  
3. **Paralelný engine metrík** — nasadí samostatné kontajnery pre obrazové metriky spravodlivosti (napr. **Demographic Parity v atribútoch tváre**) pri zachovaní spoločného event busu.  

Typický multimodálny pipeline vyzerá takto:

```mermaid
flowchart LR
    subgraph Tabular
        T1["Tabular Generator"] --> T2["Formize Hook"]
    end
    subgraph Image
        I1["Diffusion Model"] --> I2["Formize Hook"]
    end
    subgraph Text
        X1["LLM"] --> X2["Formize Hook"]
    end
    T2 & I2 & X2 --> M["Unified Metric Engine"]
    M --> R["Remediation Orchestrator"]
```

**Tip pre výkon:** nasadte engine metrík ako **Kubernetes Horizontal Pod Autoscaler (HPA)** na základe prichádzajúcej rýchlosti dávok. Formize poskytuje natívny **Prometheus exporter**, čo tento proces výrazne uľahčuje.

---

## 6. Auditovateľná línia pôvodu a regulačné reportovanie

Formize automaticky zachytáva **grafy liniek**, ktoré spájajú každý syntetický záznam späť na:

* Verziu pôvodného zdrojového datasetu.  
* Verziu a hyperparametre generatívneho modelu.  
* Skóre metrik skreslenia v čase generovania.  

Exportujte líniu ako **PROV‑JSON** alebo **GraphML** pre downstream auditné nástroje. Pre **[GDPR](https://gdpr.eu/)** alebo **EU AI Act** súlad môžete priamo vygenerovať **Data Protection Impact Assessment (DPIA)** report z Formize:

```mermaid
flowchart TD
    A["Synthetic Batch"] --> B["Bias Metrics"]
    B --> C["Remediation Log"]
    C --> D["DPIA Report Generator"]
    D --> E["Regulator Submission (PDF)"]
```

DPIA obsahuje:

* **Trendové časové rady skóre skreslenia**.  
* **Zaznamenané nápravné akcie** (s časovými značkami).  
* **Digitálne podpisy zainteresovaných strán** uložené v nemennom ledgeri.

---

## 7. Najlepšie postupy & kontrolný zoznam

| ✅ | Odporúčanie |
|----|--------------|
| **Verziovanie metrík** | Ukladajte definície metrík v Git; použite Formize **Config Sync** na udržanie produkcie v súlade. |
| **Governancia prahov** | Práve ročne prehodnoťte prahy spolu s právnym a etickým tímom; uložte schválenia v **Policy Store**. |
| **Vrstva vysvetliteľnosti** | Spojte skóre skreslenia s SHAP alebo LIME vysvetleniami pre syntetické vzorky, ktoré spustili upozornenie. |
| **Minimalizácia dát** | Uchovávajte len nevyhnutný podmnožinu syntetických riadkov pre audit; ostatné po 30 dňoch vymažte. |
| **Kontinuálne učenie** | Využívajte výsledky nápravy na spätné trénovanie generátora a znižujte budúce skreslenie. |
| **Zdieľaná zodpovednosť** | Priraďte **Bias Owner** (zvyčajne dátového etika), ktorý dostáva všetky kritické upozornenia. |
| **Testovanie v stagingu** | Pred nasadením do produkcie spustite celý pipeline v sandboxe s fiktívnymi zdrojovými dátami. |

---

## 8. Príklad úspešného nasadenia (ilustratívny)

*Spoločnosť X*, nadnárodná health‑tech firma, integrovala Formize do svojho pipeline pre syntetické záznamy pacientov. Po prvom mesiaci:

* **Latencia detekcie skreslenia** klesla z 48 hodín (manuálny audit) na **menej ako 2 minúty**.  
* **Úspešnosť nápravy** vzrástla na **92 %** (auto‑tuning opravil väčšinu porušení).  
* **Čas na audit regulátora** sa skrátil o **70 %**, vďaka automaticky generovaným DPIA reportom.

Kľúčové faktory úspechu boli **event‑driven workflow**, **low‑code knižnica metrík** a **nemenný audit trail** Formize.

---

## 9. Ako začať – Rýchly štartovací balíček

1. **Zaregistrujte sa** na skúšobnú verziu Formize (free tier zahŕňa 5 k udalostí/deň).  
2. **Nasadte** vzorový syntetický generátor z GitHub šablóny Formize.  
3. **Importujte** balík `bias-metrics.yaml` (obsahuje funkcie SPD, EOD, KL).  
4. **Vytvorte** sliding okno 15 minút a nastavte prahy.  
5. **Povoľte** Slack upozornenia a otestujte vložením úmyselne skreslenej dávky.

Uvidíte porušenie na dashboarde, spustí sa nápravná workflow a auditný záznam sa objaví v ledgeri – všetko v priebehu sekúnd.

---

## 10. Budúce smerovanie

* **Federované monitorovanie skreslenia** – rozšírite pipeline naprieč viacerými dátovými siloami s zachovaním súkromia a agregáciou signálov skreslenia.  
* **Generovanie metrík LLM‑om** – použite špecializovaný LLM na automatické vytváranie nových metrík spravodlivosti podľa nových regulácií.  
* **Explainable syntetické audity** – kombinujte Formize s nástrojmi pre generatívnu vysvetliteľnosť, aby ste odhalili *prečo* bola syntetická vzorka označená ako problematická.  

Ako ekosystém syntetických dát dozrieva, kontinuálna detekcia skreslenia sa posunie z „príjemného doplnku“ na **regulačný predpoklad**. Flexibilná, low‑code platforma Formize ho poskytuje ako pevný základ pre túto transformáciu.

---

## Pozri tiež

- EU AI Act – Kapitola o transparentnosti a spravodlivosti (Európska komisia)  
- Google AI Blog: Hodnotenie spravodlivosti v syntetických dátach  
- Formize Dokumentácia: Monitorovanie v reálnom čase a upozornenia (interný odkaz)