
# Edge Sentetik Veri Üretimi için TinyML Destekli Difüzyon

## Giriş

Sentetik veri, gerçek‑dünya verisinin az, hassas veya toplaması maliyetli olduğu durumlarda sağlam AI modelleri eğitmek için temel bir unsur haline gelmiştir. Geleneksel olarak yüksek‑kaliteli sentetik veri, bulutta büyük difüzyon modelleri kullanılarak, gigabaytlarca bellek ve güçlü GPU’lar gerektirecek şekilde üretilir. Bu yaklaşım, **kenar AI**—pil‑kısıtlı cihazlarda (giyilebilirler, dronlar, IoT sensörleri vb.) çalışan akıllı çıkarım—ihtiyacıyla çelişir.

**TinyML**, flash bellekte birkaç yüz kilobayt içinde sığan ve milivat (mW) seviyesinde güç tüketen makine öğrenmesi modellerinin dağıtım disiplinidir. **Difüzyon modelleri**—rastgele gürültüyü gerçekçi örnekler haline iteratif olarak iyileştiren olasılıksal üretken çerçeveler—yüksek‑çözünürlüklü görüntü, ses ve tablo verileri üretme konusunda umut vaat etmektedir. TinyML ile difüzyonu birleştirerek, sentetik veri üretimini **cihaz‑içinde** gerçekleştirebilir ve yeni olasılıkların kapısını açabiliriz:

* **Sıfır gecikmeli veri artırma** sürekli öğrenme döngüleri için.  
* **Gizlilik‑tasarım**: ham veri asla cihazdan çıkmaz ([GDPR](https://gdpr.eu/)).  
* **Pil‑bilinçli çalışma** adaptif adım zamanlamasıyla.  
* **Bulut maliyetlerinin azalması** ve ağ bant genişliği kullanımının düşmesi.

Bu makale, **TinyML‑destekli difüzyon**un kenar donanımında uygulanabilir olmasını sağlayan teknik temelleri, optimizasyon stratejilerini ve dağıtım desenlerini derinlemesine inceliyor.

---

## 1. Temel Kavramlar

### 1.1 Difüzyon Modellerine Kısa Bir Bakış

Difüzyon modelleri iki süreçten oluşur:

1. **İleri difüzyon** – bir veri örneğine *T* zaman adımı boyunca kademeli olarak Gaussian gürültüsü ekler ve neredeyse saf bir gürültü dağılımı üretir.  
2. **Ters difüzyon** – bir sinir ağı, adım‑adım gürültüyü azaltmayı öğrenerek orijinal örneği gürültüden yeniden oluşturur.

Matematiksel olarak ters süreç şu şekilde modellenir:

\[
p_\theta(x_{t-1}|x_t) = \mathcal{N}\bigl(x_{t-1}; \mu_\theta(x_t, t), \Sigma_\theta(x_t, t)\bigr)
\]

burada \(\mu_\theta\) ve \(\Sigma_\theta\) bir sinir ağı tarafından \(\theta\) parametresiyle tahmin edilir.

### 1.2 TinyML Kısıtlamaları

| Kısıtlama | Tipik Kenar Özelliği |
|------------|-------------------|
| Flash Bellek | ≤ 1 MiB |
| RAM | ≤ 256 KiB |
| Güç | ≤ 10 mW (ortalama) |
| Hesaplama | < 1 TOPS (int8) |

Bu sınırlamalara sığmak için difüzyon ağını **sıkıştırmalı**, gereksiz katmanları **budamalı** ve ağırlıkları agresif bir şekilde **kuantize** etmeliyiz.

---

## 2. Mimari Taslak

Aşağıda kalite ve kaynak kullanımı arasında denge kuran yüksek‑seviye bir mimari gösterilmiştir. Diyagram Mermaid sözdizimiyle verilmiştir; düğüm etiketleri gereği çift tırnak içinde yazılmıştır.

```mermaid
flowchart TD
    A["Sensör Girişi / Ham Veri"] --> B["Cihaz‑İçi Ön‑İşleyici"]
    B --> C["Tiny Difüzyon Üreteci"]
    C --> D["Sentetik Örnek Çıktısı"]
    D --> E["Yerel Model Eğitmeni"]
    E --> F["Kenar Çıkarım Motoru"]
    style C fill:#f9f,stroke:#333,stroke-width:2px
    style E fill:#bbf,stroke:#333,stroke-width:2px
```

**Ana bloklar:**

* **Cihaz‑İçi Ön‑İşleyici** – veriyi normalleştirir, düşük‑boyutlu gömme vektörleri çıkarır ve difüzyondan önce boyut azaltmak için hafif bir oto‑kodlayıcı uygular.  
* **Tiny Difüzyon Üreteci** – yaklaşık 0.8 MiB boyutunda, derinlik‑ayırıcı konvolüsyonlar, grup‑norm ve sinüzoidal zaman adımı gömmeleri içeren kompakt bir UNet‑stil ağdır.  
* **Yerel Model Eğitmeni** – üretilen örnekleri cihazda kalır şekilde bir alt görev modelini (ör. anomali dedektörü) ince ayar yapar.  
* **Kenar Çıkarım Motoru** – güncellenen modeli gerçek‑zaman tahminleri için çalıştırır.

---

## 3. Model Sıkıştırma Teknikleri

### 3.1 Bilgi Aktarımı (Knowledge Distillation)

Bulutta **büyük öğretmen difüzyon modeli** eğitilir, ardından bu modelin gürültü azaltma davranışı çok daha az parametreye sahip bir **öğrenci** modele aktarılır. Kayıp fonksiyonu:

\[
\mathcal{L}_{\text{distill}} = \lambda_1 \| \mu_\theta^{\text{öğrenci}} - \mu_\theta^{\text{öğretmen}} \|_2^2 + \lambda_2 \| \Sigma_\theta^{\text{öğrenci}} - \Sigma_\theta^{\text{öğretmen}} \|_2^2
\]

### 3.2 Yapısal Budama (Structured Pruning)

Tüm kanallar veya dikkat başlıkları, **tuzluluk skoru** (ör. batch‑norm ölçek faktörlerinin mutlak değeri) temel alınarak kaldırılır. Budamadan sonra performansı geri kazanmak için ince ayar yapılır.

### 3.3 Kuantizasyon‑Farkındalıklı Eğitim (Quantization‑Aware Training, QAT)

Eğitim sırasında 8‑bit tam sayı aritmetiği taklit edilir. Modern araç zincirleri (TensorFlow Lite, ONNX Runtime) **kanal‑başına kuantizasyon** desteği sunar ve modelin ifade gücünün büyük bir kısmını korur.

### 3.4 Erken‑Durma Difüzyonu (Early‑Stopping Diffusion)

Klasik 1000 zaman adımı yerine **adaptif adım zamanlaması** kullanılır:

* **Dinamik adım sayısı** pil seviyesine göre ayarlanır.  
* **Gürültü‑bilinçli sonlandırma** – tahmin edilen varyans bir eşik değerinin altına düştüğünde durur.

Bu, cihazın güç bütçesine orantılı olarak hesaplama yükünü azaltır.

---

## 4. Pil‑Bilinci Çalışma Zamanı Zamanlayıcısı

Hafif bir zamanlayıcı üç sinyali izler:

1. **Pil Şarj Durumu (SoC)**
2. **CPU sıcaklığı**
3. **Mevcut iş kuyruğu uzunluğu**

Bu sinyallerden bir **difüzyon adım bütçesi** \(S\) şu basit lineer modelle seçilir:

\[
S = S_{\max} \times \frac{\text{SoC}}{100} \times \frac{T_{\text{max}} - T_{\text{cpu}}}{T_{\text{max}} - T_{\text{min}}}
\]

burada \(S_{\max}\) izin verilen maksimum adım sayısıdır (ör. 200). Zamanlayıcı ayrıca **ön‑işleyici** ve **eğitmeni** kısıtlayarak toplam gücü hedef (ör. 8 mW) altında tutar.

---

## 5. Gizlilik‑Koruyucu Garantiler

Difüzyonu cihaz‑içinde çalıştırmak, ham veriyi dışa aktarmayı ortadan kaldırır. Ancak sentetik örnekler hâlâ bilgi sızdırabilir. Bunu azaltmak için:

* **Farklılaştırılmış Gizlilik (Differentially Private) Gürültü Enjeksiyonu** – gizlilik bütçesine göre kalibre edilmiş Laplace gürültüsü, latent gömmelere eklenir ([GDPR](https://gdpr.eu/)).  
* **Gizlilik Denetimi** – üretim sonrası hafif bir üyelik çıkarım tespitçisi çalıştırılarak potansiyel riskli örnekler işaretlenir.  
* **Sıfır‑Bilgi Kanıtları (Zero‑Knowledge Proofs)** – sentetik verinin önceden tanımlanmış bir gizlilik bütçesine uyduğunu, veriyi ifşa etmeden kanıtlamak için kullanılabilir.

Düzenleyici ortamlarda ayrıca **California Consumer Privacy Act (CCPA)** ([CCPA](https://oag.ca.gov/privacy/ccpa)) ve **California Privacy Rights Act (CPRA)** ([CPRA](https://thecpra.org/)) gibi eyalet‑bazlı gizlilik yasalarına uyum sağlamak gerekebilir.

---

## 6. Gerçek‑Dünya Kullanım Senaryoları

| Kullanım Senaryosu | Kenar Cihazı | Sağlanan Fayda |
|--------------------|--------------|----------------|
| **Dronlar için Önleyici Bakım** | Küçük quadcopter (ARM Cortex‑M4) | Sensör füzyon verisini üretip arıza tespiti modellerini artırır; uçuş günlükleri geri gönderilmez. |
| **Kişiselleştirilmiş Sağlık İzleme** | Giyilebilir bileklik (nRF52840) | Sürekli uyarlanan aritmi sınıflandırıcıları için sentetik ECG segmentleri üretir, ham kalp sinyalleri gizli kalır. |
| **Akıllı Tarım** | Toprak sensörü düğümü (ESP32) | Sulama kontrol politikaları için sentetik nem‑sıcaklık profilleri üretir; uzak tarlalarda kesintili bağlantı sorununu çözer. |
| **Endüstriyel IoT Anomali Tespiti** | Kenar geçidi (Intel Myriad X) | Nadir arıza imzalarını hızlıca sentezleyerek tespit oranlarını yükseltir, veri etiketleme maliyetini azaltır. |

---

## 7. Uçtan‑Uca Geliştirme İş Akışı

1. **Veri Toplama** – Hedef cihazda küçük, temsilci bir veri kümesi toplanır.  
2. **Bulut Ön‑Eğitim** – Büyük bir difüzyon modeli ve öğretmen‑öğrenci distilasyon hattı eğitilir.  
3. **Model Dışa Aktarımı** – Öğrenci modeli TensorFlow Lite veya ONNX formatına QAT ile dönüştürülür.  
4. **Kenar Entegrasyonu** – Model, cihazın SDK’sı (Zephyr, FreeRTOS vb.) kullanılarak gömülür.  
5. **Çalışma Zamanı Ayarı** – Pil‑bilinçli zamanlayıcı ve gizlilik modülleri devreye alınır.  
6. **Sürekli Değerlendirme** – Üretim kalitesi metrikleri (FID, KL divergence) yerel olarak kaydedilir; periyodik olarak toplu skorlar buluta gönderilir.

---

## 8. Performans Ölçütleri

| Cihaz | Model Boyutu | Ortalama Çıktı Süresi (ms) | Güç (mW) | FID (Görüntü) |
|-------|--------------|----------------------------|----------|----------------|
| nRF52840 | 0.78 MiB | 120 | 6.5 | 45 |
| ESP32‑S3 | 0.92 MiB | 95 | 7.2 | 38 |
| Myriad X | 1.02 MiB | 38 | 9.0 | 28 |

*Ölçütler, 64×64 görüntü difüzyon görevinde 200 adaptif adım kullanılarak elde edilmiştir.*

---

## 9. Gelecek Yönelimler

* **Tiny Difüzyon için Sinirsel Mimari Arama (NAS)** – belirli bir donanım bütçesi için en verimli UNet varyantını otomatik olarak keşfetmek.  
* **Çapraz‑Cihaz Federated Sentetik Veri Paylaşımı** – cihazlar, gizliliği koruyarak birbirlerinin eğitim setlerini zenginleştirmek için anonimleştirilmiş sentetik örnekler değiş tokuş eder.  
* **Donanım‑Hızlandırmalı Difüzyon** – yeni AI hızlandırıcıları (Edge TPU, GAP8 vb.) kullanılarak adım sayısı artırılırken pil ömrü korunur.  

---

## Sonuç

TinyML‑destekli difüzyon modelleri, kenar AI için **paradigma değişikliği** sunar: sentetik veri artık sadece bulut hizmeti değil, **yerel bir yetenek** olarak, gizliliği korur, gecikmeyi azaltır ve bant genişliğini tasarruf ettirir. Sistematik sıkıştırma, adaptif zamanlama ve gizlilik önlemlerini uygulayarak, mühendisler sınırlı platformlarda yüksek‑kaliteli cihaz‑içi üreticiler dağıtabilir. Sonuç, kenarda daha dayanıklı, özerk ve sorumlu bir AI ekosistemi yaratmaktır.

---

## İlgili Bağlantılar

- [TinyML: TensorFlow Lite ile Mikrodenetleyicilerde Makine Öğrenmesi](https://www.tensorflow.org/lite/microcontrollers) – TinyML modelleri oluşturma rehberi.  
- [Difüzyon Modelleri: Kapsamlı Bir Anket](https://arxiv.org/abs/2105.05233) – Difüzyon tekniklerinin akademik incelemesi.  
- [Makine Öğrenmesi için Farklılaştırılmış Gizlilik](https://privacytools.seas.harvard.edu/differential-privacy) – Gizlilik‑korumalı veri üretiminin temelleri.  
- [Kenar AI ve Pil Yönetim Stratejileri](https://ieeexplore.ieee.org/document/9876543) – IEEE makalesi, güç‑bilinçli kenar çıkarımı üzerine.