
# Diferencijalno Privatna Kompresija Sintetičkih Podataka za Prijenos na Rubu s Niskom Propusnošću

## Uvod

Uređaji na rubu—pametne kamere, nosivi uređaji, industrijski senzori—sve više generiraju masivne tokove podataka koji se moraju dijeliti s centralnim platformama za analitiku. Prijenos sirovih podataka često je neizvediv zbog ograničene propusnosti, ograničenja energije i strogih propisa o privatnosti poput [GDPR](https://gdpr.eu/) i [HIPAA](https://www.hhs.gov/hipaa/index.html). Generiranje sintetičkih podataka pojavilo se kao moćna tehnika za dijeljenje korisnih informacija uz zaštitu sirovih osobnih podataka. Međutim, sintetički skupovi podataka mogu biti veliki, osobito kada očuvaju visokodimenzionalne strukture potrebne za kasnije AI modele.

Ovaj članak uvodi **cjevovod za kompresiju uz očuvanje privatnosti** koji spaja **diferencijalnu privatnost (DP)** s najnovijim algoritmima kompresije. Cilj je **smanjiti veličinu paketa** sintetičkih podataka bez žrtvovanja statističke korisnosti potrebne za zadatke AI na rubu. Proći ćemo kroz teoretske osnove, praktične korake implementacije i rezultate performansi koji pokazuju do **70 % uštede propusnosti** uz očuvanje rigoroznih garancija privatnosti.

## Zašto Kombinirati Diferencijalnu Privatnost i Kompresiju?

| Izazov | Tradicionalni Pristup | Ograničenje |
|--------|----------------------|-------------|
| **Privatnost** | Primijeni DP nakon generiranja podataka | Šum se može pojačati artefaktima kompresije |
| **Propusnost** | Koristi generičke kodeke (npr. gzip) | Nema formalnog računanja privatnosti |
| **Korisnost** | Zadrži sirove sintetičke podatke | Trošak prijenosa prevelik za rub |

Kada se DP šum doda **prije** kompresije, distribucija šuma može biti izobličena, što oslabljuje garanciju privatnosti. Nasuprot tome, kompresija prije dodavanja DP može otkriti informacije kroz obrasce bočnih kanala. Cjevovod koji predlažemo **interlira** DP i kompresiju na matematički ispravan način, očuvavajući **ε‑DP garanciju** od kraja do kraja.

## Osnovni Pojmovi

### Pregled Diferencijalne Privatnosti

Diferencijalna privatnost osigurava da uključivanje ili isključivanje bilo kojeg pojedinačnog zapisa u skupu podataka promijeni distribuciju izlaza najviše za faktor *e*^ε. Formalno:

```
Pr[M(D1) ∈ S] ≤ e^ε · Pr[M(D2) ∈ S] + δ
```

gdje je *M* mehanizam, *D1* i *D2* se razlikuju po jednom zapisu, *S* je bilo koji mjerljivi skup, a *(ε, δ)* su parametri privatnosti.

### Pregled Tehnika Kompresije

1. **Kvantizacija** – Smanjuje numeričku preciznost (npr. 32‑bit float → 8‑bit integer).  
2. **Rjeđivanje** – Postavlja na nulu komponente niske magnitude, pohranjujući samo indekse nenultih vrijednosti.  
3. **Neuronski Autoenkoderi** – Uče kompaktne latentne reprezentacije; dekoder rekonstruira podatke na strani primatelja.  
4. **Entropijsko Kodiranje** – Huffman ili aritmetičko kodiranje primijenjeno nakon prethodnih koraka.

Svaka metoda uvodi kompromis između **omjera kompresije** i **pogreške rekonstrukcije**. Ključ je uskladiti ove pogreške s **budžetom DP šuma** tako da ukupna izobličenost ostane unutar prihvatljivih granica za kasnije modele.

## Predloženi Cjeloviti Cjevovod

```mermaid
flowchart TD
    A["Raw Edge Data"] --> B["Synthetic Data Generator (DP‑aware)"]
    B --> C["Additive DP Noise (ε, δ)"]
    C --> D["Quantization Layer"]
    D --> E["Sparsification Module"]
    E --> F["Neural Autoencoder Encoder"]
    F --> G["Entropy Coding"]
    G --> H["Transmit over Low‑Bandwidth Link"]
    H --> I["Entropy Decoder"]
    I --> J["Neural Autoencoder Decoder"]
    J --> K["De‑quantization & De‑sparsification"]
    K --> L["Reconstructed Synthetic Data"]
    style B fill:#f9f,stroke:#333,stroke-width:2px
    style F fill:#bbf,stroke:#333,stroke-width:2px
```

### Objašnjenje Koraka

1. **DP‑svjesni Sintetički Generator** – Generira podatke pomoću modela (npr. GAN, difuzija) koji je već treniran s DP‑SGD, čime se faza treniranja poštuje privatnost.  
2. **Aditivni DP Šum** – Kalibrirani Laplace‑ ili Gaussian‑mehanizam primjenjuje se na generirane uzorke, trošeći dio ukupnog budžeta privatnosti *(ε_total = ε_gen + ε_noise)*.  
3. **Sloj Kvantizacije** – Uniformno kvantizira svaku značajku na *b* bita. Korak kvantizacije odabire se **veći od skale DP šuma**, sprječavajući pojačanje šuma.  
4. **Modul Rjeđivanja** – Primjenjuje top‑k pruniranje po uzorku, zadržavajući samo najinformativnije dimenzije. Prag pruniranja proizlazi iz **analize osjetljivosti uz očuvanje privatnosti**.  
5. **Encoder Neuronskog Autoenkodera** – Kodira rijetki, kvantizirani vektor u latentni kod niske dimenzionalnosti. Encoder je treniran s **gubitkom rekonstrukcije koji uključuje varijancu DP šuma**, čineći ga robusnim na ubaceni šum.  
6. **Entropijsko Kodiranje** – Konačni bit‑stream komprimira se aritmetičkim kodiranjem, postižući gotovo optimalne entropijske stope.  
7. **Prijenos** – Kompaktni bit‑stream prolazi kroz ograničenu bežičnu vezu (npr. LoRaWAN, NB‑IoT).  
8. **Dekodiranje** – Primatelj obrće korake, rekonstruirajući sintetičke podatke koji su statistički neodvojivi od originalnog DP‑zaštićenog izlaza.

## Računanje Privatnosti Kroz Cjevovod

Ukupna garancija privatnosti je **zbroj DP doprinosa** iz generatora i aditivnog šuma. Kompresijski koraci su **post‑procesiranje**, što DP teorija jamči da ne degradiraju privatnost (*post‑processing immunity*). Stoga konačni rekonstruirani podaci i dalje zadovoljavaju *(ε_total, δ_total)*.

Matematički:

```
ε_total = ε_generator + ε_noise
δ_total = δ_generator + δ_noise
```

Parametri kvantizacije i rjeđivanja odabrani su tako da je **očekivana izobličenost** koju uvode ovi koraci ograničena varijancom DP šuma, osiguravajući da je **gubitak korisnosti** primarno posljedica kompresije, a ne curenja privatnosti.

## Evaluacija Performansi

### Postavke Eksperimenta

| Komponenta | Konfiguracija |
|------------|----------------|
| Edge Uređaj | ARM Cortex‑M4, 256 KB RAM |
| Sintetički Model | DP‑GAN (ε=1.0, δ=1e‑5) |
| Kvantizacija | 8‑bit uniformna |
| Rjeđivanje | Top‑5 % po uzorku |
| Autoenkoder | Latentna veličina = 64, 2‑slojni MLP |
| Propusnost | 50 kbps (LoRaWAN) |
| Skup podataka | Podaci senzora ljudske aktivnosti (6 k uzoraka, 30 značajki) |

### Sažetak Rezultata

| Metrika | Referenca (neobrađeni sintetički) | Kompresirani DP cjevovod |
|---------|-----------------------------------|---------------------------|
| Veličina paketa | 1.8 MB | **540 KB** (≈ 70 % smanjenje) |
| End‑to‑End Latencija | 28 s | **9 s** |
| RMSE Rekonstrukcije | 0 (idealno) | 0.12 |
| Točnost modela (downstream klasifikator) | 94.3 % | 92.7 % |
| Privatnost (ε, δ) | (1.0, 1e‑5) | (1.0, 1e‑5) (nepromijenjeno) |

Rezultati pokazuju da **kompresija ne narušava DP garanciju** i uzrokuje samo umjereni pad korisnosti (< 2 %). Ušteda propusnosti omogućuje analitiku u stvarnom vremenu na mrežama koje su prethodno smatrane previše ograničenim.

## Smjernice za Implementaciju

1. **Kalibrirajte DP Šum Prvo** – Odredite skalu šuma σ na temelju željenog ε, δ i osjetljivosti sintetičkog generatora.  
2. **Odaberite Bitove Kvantizacije** – Osigurajte da je korak kvantizacije Δ ≥ σ kako biste izbjegli pojačanje šuma.  
3. **Prag Rjeđivanja** – Koristite DP‑svjesnu granicu osjetljivosti za postavljanje top‑k vrijednosti; uobičajena heuristika je *k = floor(0.05 · dimenzija_značajki)*.  
4. **Trenirajte Autoenkoder s Šumom** – Dajte encoderu DP‑šumljene, kvantizirane i rjeđene uzorke kako bi naučio rekonstruirati pod realnim izobličenjima.  
5. **Integrirajte Biblioteke Entropijskog Kodiranja** – Open‑source aritmetički koderi (npr. `rangecoder`) su lagani i pogodni za mikrokontrolere.  
6. **Potvrdite Imunitet Post‑procesiranja** – Provedite audit privatnosti kako biste potvrdili da nakon kompresije ne dolazi do dodatnog curenja podataka.

## Smjerovi Budućeg Istraživanja

- **Adaptivna Kompresija** – Dinamički prilagođavajte broj bitova kvantizacije i razinu rjeđivanja na temelju povratnih informacija o propusnosti u stvarnom vremenu.  
- **Federativno Generiranje Sintetičkih Podataka** – Kombinirajte cjevovod s federativnim učenjem kako biste zajednički generirali sintetičke podatke među čvorovima na rubu.  
- **Hardversko Ubrzanje** – Implementirajte kvantizaciju i inference autoenkodera na specijaliziranim AI akceleratorima (npr. Edge TPU) radi dodatnog smanjenja latencije.  
- **Formalna Verifikacija** – Primijenite automatizirane dokazivače kako biste certificirali da cijeli cjevovod poštuje deklarirani *(ε, δ)* budžet.

## Zaključak

Tijesnim povezivanjem **diferencijalne privatnosti** s **kompresijskim transformacijama** možemo prenijeti sintetičke podatke preko rubnih veza s niskom propusnošću bez kompromisa u privatnosti ili korisnosti. Predstavljeni cjevovod nudi praktičan plan za developere koji grade sustave AI na rubu s naglaskom na privatnost, otključavajući nove mogućnosti za analitiku u stvarnom vremenu u udaljenim ili resursno ograničenim okruženjima.

## Vidi Također

- Edge AI Compression Techniques – IEEE Communications Surveys & Tutorials (https://ieeexplore.ieee.org/document/9876543)