# Az Explainable AI és a Szintetikus Adatkezelés összekapcsolása a Formize-szal

A mesterséges intelligencia már nem csak kísérleti laboratóriumokban, hanem kritikus termelési környezetekben is működik. Két trend uralja ezt a változást:

1. **Szintetikus adatok** – adatvédelmet biztosítanak, felgyorsítják a modell‑tréninget, és kiegészítik a hiányos adatállományokat.  
2. **Explainable AI (XAI)** – a szabályozók, auditálók és végfelhasználók által megkövetelt, hogy megértsék *miért* egy modell adott előrejelzést ad.

Míg mindkét területnek már kiforrott eszköztára van, gyakran elkülönülten kezelik őket. A szintetikus adatcsővezetékek adatot generálnak, az XAI‑eszközök pedig a modell viselkedését magyarázzák, de ritkán létezik egyetlen igazságforrás, amely összekötné a kettőt. Ez a szakadék megfelelőségi kockázatot, auditálhatósági nehézségeket és a stakeholder‑bizalom csökkenését eredményezi.

A Formize, egy low‑code kormányzási platform, már most kiemelkedik a **Zero‑Trust Szintetikus Adatkezelés**, a **valós‑idő auditálás** és a **szabályzat‑automatizálás** terén. Az XAI primitívek beépítésével a szervezetek egy **holisztikus, auditálható és magyarázható szintetikus adat‑életciklust** érhetnek el.

Az alábbiakban bemutatunk egy gyakorlati keretrendszert, az architekturális komponenseket, valamint egy lépésről‑lépésre megvalósítási útmutatót, amely a Formize munkafolyamat‑motorját, szabálymotorját és változtathatatlan audit nyomvonalait használja az XAI és a szintetikus adatkezelés egyesítéséhez.

---

## 1. Miért kell egyesíteni az XAI‑t a Szintetikus Adatkezeléssel?

| Kihívás | Hagyományos megközelítés | Kockázat az egyesítés hiányában |
|-----------|----------------------|---------------------|
| **Szabályozási megfelelés** | Külön megfelelőségi ellenőrzőlisták az adatvédelem és a modell‑magyarázat terén | Inkonzisztens bizonyítékok, esetleges hiányosságok az auditok során |
| **Elfogultság‑detektálás** | Elfogultság‑ellenőrzés a valós adatokon, külön bias‑analízis a modell kimenetén | A szintetikus adatgenerálás során bevezetett rejtett bias észrevétlen maradhat |
| **Nyomonkövethetőség** | Adat‑linakék rögzítve a nyers és szintetikus adatkészletekre, a modellmagyarázatok máshol tárolva | Az auditorok nem tudják összekapcsolni egy adott magyarázatot a generált szintetikus adatverzióval |
| **Incidens‑válasz** | Manuális adat‑szivárgás és modell‑hibák összekapcsolása | Késleltetett helyreállítás, nagyobb jogi kitettség |

Az **explanációk összekapcsolásával a pontosan az adott szintetikus adatverzióval**, amely a modellt táplálta, minden előrejelzés visszakövethető egy **egyetlen változtathatatlan audit nyomvonalon** keresztül. Ez megfelel a felmerülő szabályozásoknak, mint például az **EU AI Act**, az USA **Executive Order on AI**, valamint az ágazatspecifikus irányelvek (pl. az FDA AI/ML Software as a Medical Device útmutatója).

---

## 2. A egységes keretrendszer alapfogalmai

1. **Synthetic Data Artifact (SDA)** – verziózott adatkészlet, amelyet egy szintetikus motor (pl. GAN, diffúziós modell) generál. A Formize minden SDA‑hoz metaadatokat, generálási paramétereket és szabálycímkéket tárol.
2. **Explainability Payload (XP)** – egy XAI‑módszer (SHAP, LIME, Counterfactuals) kimenete, amely egy modell‑inferencia mellé csatolódik. Az XP tartalmazza a jellemző‑fontossági vektorokat, lokális helyettesítő modelleket és konfidencia‑pontszámokat.
3. **Policy‑Bound Provenance Graph (PBP‑Graph)** – egy irányított aciklikus gráf (DAG), amely összekapcsolja az SDA‑kat, modellverziókat, inferencia‑kéréseket és XP‑ket. Minden él egy **Zero‑Trust Policy** által szabályozott, amely ellenőrzi a hozzáférést, a célt és a megőrzési időt.
4. **Immutable Audit Log (IAL)** – egy blokklánc‑alapú napló, amely a PBP‑Graph minden módosítását rögzíti, biztosítva a manipuláció‑ellenállást.

A Formize **Policy Engine** valós időben értékeli a hozzáférési kéréseket a PBP‑Graph alapján, míg a **Workflow Builder** automatizálja a generálás‑magyarázat‑tárolás ciklust.

---

## 3. Architektúra‑vázlat

Az alábbi Mermaid‑diagram szemlélteti az adatáramlást és a szabályvégrehajtási pontokat.

```mermaid
graph TD
    A["Synthetic Data Engine"] -->|Generate| B["Synthetic Data Artifact (SDA)"]
    B -->|Register Metadata| C["Formize Metadata Store"]
    C -->|Trigger| D["Model Training Pipeline"]
    D -->|Produce| E["Trained Model Version"]
    E -->|Serve Inference| F["Inference Request"]
    F -->|Invoke XAI Service| G["Explainability Payload (XP)"]
    G -->|Attach to Inference| H["PBP‑Graph Node"]
    H -->|Policy Check| I["Zero‑Trust Policy Engine"]
    I -->|Log| J["Immutable Audit Log"]
    J -->|Expose| K["Compliance Dashboard"]
```

*Az összes csomópont címkéje dupla idézőjelben van, ahogy a Mermaid megköveteli.*

### Kulcsfontosságú interakciók

- **SDA regisztráció** – A Formize rögzíti a generálási magokat, a véletlen állapotot és a privacy‑budgetet. Ezek a metaadatok a IAL‑ba írás után változtathatatlanok.
- **Modell‑SDA kötés** – A tréning során a pipeline rögzíti a pontos SDA‑verziót, létrehozva egy **modell‑adat él** a PBP‑Graph‑ban.
- **Inference‑XP összekapcsolás** – Minden inferencia‑kéréshez egy XP csatolódik, amely hivatkozik a modellverzióra és a hozzájáruló SDA‑ra.
- **Policy értékelés** – Mielőtt egy XP‑hez hozzáférnének, a Zero‑Trust Policy Engine ellenőrzi a kérő szerepkörét, célját és az adat‑rezidencia‑korlátozásokat.
- **Audit‑nyomvonal megjelenítése** – A Compliance Dashboard vizualizálja a teljes származási láncot a szintetikus adatgenerálástól a magyarázat kiszolgálásáig, egyetlen kattintással lehetővé téve az auditorok számára a megfelelőség ellenőrzését.

---

## 4. Lépésről‑lépésre megvalósítási útmutató

### 1. lépés: Szintetikus adat verziókezelés engedélyezése a Formize‑ban

```goat
# Pseudo‑code for Formize SDK
formize.registerArtifact(
    type="synthetic-data",
    name="customer‑transactions‑v1",
    metadata={
        "generator":"CTGAN",
        "seed":12345,
        "privacy_budget":0.8,
        "generation_timestamp":"2026-09-10T14:32:00Z"
    }
)
```

*A SDK‑hívás automatikusan beírja az artefaktot a változtathatatlan audit naplóba.*

### 2. lépés: Modell‑tréning összekapcsolása az SDA‑val

Hozzon létre egy Formize‑workflow‑t, amely akkor indul, amikor új SDA kerül regisztrálásra.

```yaml
workflow:
  name: "Train Model on New SDA"
  trigger: artifact.created
  condition: artifact.type == "synthetic-data"
  actions:
    - run: "python train_model.py --data {{artifact.id}}"
    - register:
        type: "model-version"
        name: "fraud‑detector‑{{timestamp}}"
        metadata:
          sda_id: "{{artifact.id}}"
          hyperparameters: "{{hyperparams}}"
```

A `register` művelet tárolja a modellverziót és összekapcsolja azt az SDA‑val a `sda_id` mezőn keresztül.

### 3. lépés: XAI szolgáltatás integrálása

Telepítsen egy XAI mikro‑szolgáltatást (pl. SHAP szervert), amely modell‑azonosítót és bemeneti adatot kap, majd XP‑t ad vissza.

```goat
# Example request to XAI service
POST /explain
{
  "model_id": "fraud-detector-20260910",
  "input": {"amount": 1200, "merchant": "XYZ", "time": "22:15"}
}
```

A Formize rögzíti a választ és létrehoz egy XP‑node‑ot.

```goat
formize.registerArtifact(
    type="explainability-payload",
    name="xp-20260911-001",
    metadata={
        "model_id":"fraud-detector-20260910",
        "sda_id":"customer-transactions-v1",
        "shap_values":{"amount":0.42,"merchant":0.31,"time":0.27},
        "timestamp":"2026-09-11T09:15:00Z"
    }
)
```

### 4. lépés: Zero‑Trust szabályok definiálása

```yaml
policy:
  name: "Explainability Access Policy"
  description: "Csak auditorok és adat‑védelmi tisztviselők tekinthetik meg az XP‑ket."
  rules:
    - effect: allow
      principals: ["role:audit", "role:privacy-officer"]
      actions: ["read"]
      resources: ["explainability-payload"]
      conditions:
        - key: "metadata.sda_id"
          operator: "in"
          value: ["customer-transactions-v1", "customer-transactions-v2"]
```

A Formize minden XP‑kérésnél kiértékeli ezt a szabályt, biztosítva a cél‑alapú hozzáférést.

### 5. lépés: Compliance Dashboard építése

Használja a Formize beépített vizualizációs widgetjeit a PBP‑Graph megjelenítéséhez. Adjon hozzá szűrőket:

- **Időintervallum** (pl. az elmúlt 30 nap)
- **Szabályozási terület** ([GDPR](https://gdpr.eu/), [HIPAA](https://www.hhs.gov/hipaa/index.html), [EU AI Act Compliance](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai))
- **Kockázati szint** (magas‑kockázatú magyarázatok)

A dashboard képes **PDF audit csomagot** exportálni, amely tartalmazza minden node kriptográfiai hash‑ét, ezzel teljesítve a szabályozók által kért bizonyítékot.

---

## 5. Elért előnyök

| Előny | Hogyan valósul meg a keretrendszerben |
|---------|----------------------------|
| **Szabályozási felkészültség** | Egy kattintásos bizonyíték, amely összeköti a szintetikus adatverziót → modellt → magyarázatot. |
| **Bias csökkentés** | Az XP‑k felfedik a jellemző‑hozzájárulásokat; az auditorok visszakövethetik a bias‑t a generálási paraméterekig. |
| **Működési hatékonyság** | Automatizált szabály‑ellenőrzés megszünteti a manuális engedélyezési folyamatokat. |
| **Bizalom és átláthatóság** | A végfelhasználók megtekinthetik a magyarázatokat, amelyek kriptográfiailag kapcsolódnak a tanító szintetikus adathoz. |
| **Skálázható auditálhatóság** | Az immutable audit log horizontálisan skálázható; minden új SDA vagy XP csak egy könnyű node‑t ad hozzá. |

---

## 6. Valós példák

### 6.1 Pénzügyi szolgáltatások – Pénzmosás elleni küzdelem (AML)

Egy bank a Formize‑t használja szintetikus tranzakciós adatok generálására AML modell tréninghez. A SHAP magyarázatok minden jelzett tranzakcióhoz csatolva vannak, így a megfelelőségi tisztviselők bizonyíthatják, hogy a modell döntései legitimek, és nem védett attribútumokon alapulnak. Az audit log egy manipulálhatatlan láncot biztosít a szintetikus adatgenerálástól a végső döntésig.

### 6.2 Egészségügy – Klinikai döntéstámogatás

Egy kórház szintetikus betegnyilvántartásokat hoz létre a ritka betegségek adatállományának bővítésére. A diagnózis‑ajánlásokhoz Counterfactual magyarázatok kerülnek tárolásra. Amikor egy orvos kérdést tesz fel egy ajánlással kapcsolatban, a rendszer megmutatja a pontos szintetikus kohortot, amely a modellt befolyásolta, valamint a jellemző‑fontosságokat, ezzel megfelelve a **[HIPAA](https://www.hhs.gov/hipaa/index.html)**‑nak megfelelő auditkövetelményeknek.

### 6.3 Gyártás – Prediktív karbantartás

Szintetikus szenzor‑adatfolyamokat generálnak egy meghibásodás‑előrejelző modell tréningjéhez. A mérnökök LIME magyarázatokat kérnek a magas kockázatú előrejelzésekhez. A Formize szabálymotorja biztosítja, hogy csak hitelesített karbantartási menedzserek láthassák a magyarázatokat, míg az immutable log rögzíti a felhasznált szintetikus adatverziót, támogatva az ISO 55001 megfelelőséget.

---

## 7. Jövőbeli fejlesztések

1. **Federated XAI** – A keretrendszer kiterjesztése federált tanulási környezetekre, ahol minden résztvevő helyileg járul hozzá szintetikus adatokhoz. A Formize összegyűjtheti a származási információkat anélkül, hogy a nyers adatot megosztaná.
2. **AI‑generált szabályajánlások** – LLM‑ek használata új Zero‑Trust szabályok automatikus javaslatára a megfigyelt magyarázati minták alapján (pl. automatikus szigorítás, ha egy jellemző rendszeresen magas kockázatú kimenetet idéz elő).
3. **Dinamikus megőrzés** – Politika‑vezérelt automatikus XP‑k törlése a szabályozott megőrzési időszak lejárta után, miközben kriptográfiai bizonyítékot hagy a törlésről.

---

## 8. Induláshoz szükséges ellenőrzőlista

- [ ] Telepítse a Formize 2.5‑öt (tartalmazza az XAI‑connector SDK‑t).  
- [ ] Regisztrálja szintetikus adatgenerátorait **Artifact Type**‑ként.  
- [ ] Hozzon létre egy **Model‑Training Workflow**‑t, amely rögzíti az SDA‑ID‑kat.  
- [ ] Telepítsen egy XAI mikro‑szolgáltatást (SHAP, LIME, Counterfactual).  
- [ ] Definiáljon **Zero‑Trust Explainability Access Policies**‑t.  
- [ ] Építsen **Compliance Dashboard**‑ot a Formize vizualizációs widgetjeivel.  
- [ ] Futtasson egy pilotot alacsony kockázatú adatállományon, és validálja az audit nyomvonalat a belső audit csapattal.

Ezeknek a lépéseknek a követésével a szervezetek gyorsan elérhetik a **transzparens, auditálható és szabályozott AI pipeline‑t**, amely egyesíti a szintetikus adatkezelést az explainable AI‑val.

---

## Lásd még

- EU AI Act – 13. cikk a transzparenciáról és információszolgáltatásról  
- Formize dokumentáció: Zero‑Trust Policy Engine  
- SHAP: Egy egységes megközelítés a modell‑predikciók értelmezéséhez (GitHub)