
# יצירת נתונים סינתטיים רב‑מודליים מותאמים עם TinyML ופרטיות דיפרנציאלית למכשירי קצה עם מגבלות סוללה

## מבוא

מכשירי קצה — החל ממכשירי לבישה וחיישנים תעשייתיים ועד למרחפים אוטונומיים — מצופים יותר ויותר ללמוד ולהתאים עצמם ללא צורך בחיבור קבוע לענן. יצירת נתונים סינתטיים בקצה יכולה להקל על מחסור בנתונים, להפחית השהייה ולהגן על פרטיות המשתמש. עם זאת, שלושה אתגרים דומיננטיים משתקפים בתחום:

1. **מגבלות משאבים** – מעבד, זיכרון, ובמיוחד חיי סוללה מוגבלים.  
2. **מורכבות רב‑מודלית** – רבים משימושי הקצה כוללים זרמי אודיו, וידאו וחיישנים במקביל.  
3. **עמידה ברגולציות פרטיות** – חוקים כגון [GDPR](https://gdpr.eu/) ו-[HIPAA](https://www.hhs.gov/hipaa/index.html) דורשים הבטחות פרטיות מחמירות גם עבור נתונים שנוצרים מקומית.

מאמר זה מציג **מסגרת ייחודית, מותאמת** המאחדת **TinyML**, **יצירת נתונים סינתטיים רב‑מודליים**, ו**פרטיות דיפרנציאלית (DP)**. הפתרון מתאם באופן דינמי את העומס החישובי בהתאם למצב הסוללה, בוחר את מודל ה‑generative המתאים ביותר לכל מודאליות, ומזריק רעש מתואם כדי לעמוד בתקציב פרטיות קפדני — והכל תוך שמירה על מגבלת האנרגיה הצרה של חומרת קצה מודרנית.

> **מסקנה מרכזית:** על‑ידי קו‑עיצוב משותף של צינור ה‑generative, מנוע הפרטיות, ומתזמן מודע לאנרגיה, מפתחים יכולים לספק נתונים סינתטיים באיכות גבוהה במכשירים שפועלים שבועות על טעינה אחת.

---

## 1. סקירה ארכיטקטונית

הארכיטקטורה המוצעת מורכבת מארבע שכבות צמודות:

1. **שכבת מיזוג חיישנים** – מנרמלת זרמים גולמיים (אודיו, וידאו, אינרציאלי וכו') למרחב סמוי אחיד.  
2. **מאגר מודלים TinyML** – מאגר של מודלים גנרטיביים קלים במיוחד (למשל TinyGAN, MicroVAE, TinyDiffusion) שכל אחד מותאם למודאליות ספציפית.  
3. **מתזמן מותאם** – מנטר את מצב הסוללה, טמפרטורת המעבד, ותור העבודה כדי להחליט איזה מודל להפעיל ובאיזו רמת נאמנות.  
4. **מנוע פרטיות דיפרנציאלית** – מוסיף רעש גאוסי או לפלאסי מתואם לייצוג הסמוי לפני הפענוח, ומבטיח תקציב \(\epsilon\)-DP לכל מחזור יצירה.

הקשר בין השכבות ניתן להמחשה באמצעות דיאגרמת Mermaid:

```mermaid
flowchart TD
    A["שכבת מיזוג חיישנים"] --> B["מאגר מודלים TinyML"]
    B --> C["מתזמן מותאם"]
    C --> D["מנוע פרטיות דיפרנציאלית"]
    D --> E["פלט נתונים סינתטיים"]
    style A fill:#f9f,stroke:#333,stroke-width:2px
    style B fill:#bbf,stroke:#333,stroke-width:2px
    style C fill:#bfb,stroke:#333,stroke-width:2px
    style D fill:#ffb,stroke:#333,stroke-width:2px
    style E fill:#cfc,stroke:#333,stroke-width:2px
```

### 1.1 למה TinyML?

מודלים TinyML הם רשתות נוירונים **תת‑קילובייט** שיכולות לרוץ על MCU עם רק 32 KB RAM. טביעת הרגל הקטנה שלהם מתורגמת ישירות לצריכת כוח דינמית נמוכה, מה שהופך אותם אידיאליים ליצירת נתונים סינתטיים רציפה על יחידות המופעלות על סוללה.

### 1.2 שיקולים רב‑מודליים

לכל מודאליות תכונות סטטיסטיות ייחודיות:

| מודאליות | מודל טיפוסי | ממד סמוי | רגישות לרעש |
|----------|--------------|----------|--------------|
| אודיו    | TinyWaveGAN  | 64       | בינונית      |
| וידאו    | MicroVAE‑Vid | 128      | גבוהה        |
| IMU      | TinyDiffusion| 32       | נמוכה        |
| טקסט     | TinyGPT‑Lite | 48       | בינונית      |

המתזמן בוחר את המודל שמציע את ה‑**איכות‑לעומת‑אנרגיה** הטובה ביותר עבור רמת הסוללה הנוכחית.

---

## 2. תזמון מודע לאנרגיה

### 2.1 מדד‑מצב‑סוללה (BSM)

המתזמן מחשב **מדד‑מצב‑סוללה (BSM)** בטווח 0 (קריטי) עד 1 (מלא). ה‑BSM נגזר מ‑:

\[
\text{BSM} = \alpha \cdot \frac{V_{\text{bat}} - V_{\text{min}}}{V_{\text{max}} - V_{\text{min}}}
          + \beta \cdot \frac{C_{\text{rem}}}{C_{\text{max}}}
\]

כאשר \(V_{\text{bat}}\) הוא המתח המיידי, \(C_{\text{rem}}\) הקיבולת הנותרת, ו‑\(\alpha, \beta\) משקולות שניתן לכוונן (ברירת מחדל \(\alpha = 0.6, \beta = 0.4\)).

### 2.2 התאמת נאמנות

כאשר **BSM > 0.7**, המתזמן מאפשר **איכות‑גבוהה** (וידאו ברזולוציה מלאה, אודיו 44.1 kHz). בטווח **0.4–0.7**, הוא עובר ל‑**איכות‑בינונית** (לדוגמה, וידאו 720p, אודיו 22 kHz). מתחת ל‑**0.4**, נוצר רק **נתונים סינתטיים באיכות‑נמוכה** או **תכונות בלבד**, מה שמקטין משמעותית את מספר פעולות ה‑MAC.

### 2.3 קוד פסודו

```goat
func scheduleGeneration(bsm float64, modality string) ModelConfig {
    switch {
    case bsm > 0.7:
        return highFidelityConfig(modality)
    case bsm > 0.4:
        return mediumFidelityConfig(modality)
    default:
        return lowFidelityConfig(modality)
    }
}
```

הקוד ב‑`goat` נועד למנוע הדגשת תחביר Go תוך שמירת מבנה הקוד.

---

## 3. פרטיות דיפרנציאלית בקצה

### 3.1 הקצאת תקציב פרטיות

התקציב הכולל \(\epsilon_{\text{total}}\) של המכשיר מחולק על פני מודאליות ומחזורי יצירה:

\[
\epsilon_{\text{cycle}} = \frac{\epsilon_{\text{total}}}{N_{\text{cycles}}}
\]

כאשר \(N_{\text{cycles}}\) הוא מספר הציפיות ליצירת נתונים סינתטיים ביום. המתזמן מתאם באופן דינמי את \(\epsilon_{\text{cycle}}\) לפי BSM: רמות סוללה נמוכות מקבלות **\(\epsilon\) קטן יותר** (רעש גבוה יותר) כדי להפחית חישוב (הוספת רעש היא משימה זולה) תוך שמירה על פרטיות.

### 3.2 הזרקת רעש

לוקטור סמוי \(z\) ממימד \(d\) מוסיפים רעש גאוסי:

\[
\tilde{z}_i = z_i + \mathcal{N}\!\left(0, \sigma^2\right), \quad \sigma = \frac{\Delta f \sqrt{2 \ln(1.25/\delta)}}{\epsilon}
\]

כאשר \(\Delta f\) היא רגישות הקודד הסמוי, ו‑\(\delta\) נקבע ל‑\(10^{-5}\) לפרטיות חזקה.

### 3.3 טיפים ליישום

* **אריתמטיקה קבוע‑נקודה** – השתמשו בפורמטים Q15/Q31 כדי להימנע מעומס של נקודה צפה ב‑MCU.  
* **טבלאות רעש קבועות** – שמרו במאגר קטן של ערכי רנדומל שנוצרו בתקופות חוסר פעילות.  
* **עיבוד באצ׳** – ייצרו מספר דגימות סינתטיות ב‑מעבר אחד כאשר המכשיר מחובר לחשמל, וכך מפזרים את עלות הפרטיות.

---

## 4. מקרים אמיתיים

### 4.1 שעוני בריאות נלבשים

שעון חכם אוסף ECG, מד תאוצה, וקול סביבתי. בעזרת המסגרת המותאמת, הוא מייצר **פרקי בריאות סינתטיים** לכוונון מודל מקומי, תוך שמירה על \(\epsilon = 1.2\) ליום וצריכת ממוצעת של **פחות מ‑5 mW**.

### 4.2 חבורות רחפנים אוטונומיים

רחפנים מחליפים תמונות אוויריות סינתטיות כדי לשפר ניווט משותף מבלי לחשוף וידאו גולמי. המתזמן מצמצם יצירה ל‑**איכות‑נמוכה** כאשר הסוללה נופלת מתחת ל‑30 %, ומאריך את זמן הטיסה ב‑**12 %** לעומת גישה עם תקציב קבוע.

### 4.3 שערי IoT תעשייתיים

שער גישה מאגד נתוני רטט, טמפרטורה ולחץ מרצפת הייצור. על‑ידי יצירת יומני סינתטיים רב‑מודליים, הוא מאפשר **זיהוי אנומליות אופליין** תוך עמידה ב‑GDPR עם תקציב \(\epsilon = 0.8\) לכל שער.

---

## 5. זרימת פיתוח

1. **בחירת מודל** – אימנו מודלים גנרטיביים TinyML באמצעות TensorFlow Lite for Microcontrollers (TFLM) או PyTorch Mobile. ייצאו קבצי `.tflite`.  
2. **קוונטיזציה** – השתמשו בקוונטיזציה של 8‑bit; אפשר להוסיף **קוונטיזציה בטווח דינמי** לשיפור מסחר האיכות‑אנרגיה.  
3. **שילוב** – הטמיעו את מאגר המודלים בקושחה באמצעות **טבלת חיפוש סטטית** הממופה למודאליות.  
4. **בדיקה** – השתמשו ב‑**EdgeDP Simulator** (קוד פתוח) כדי לאמת את הבטחות הפרטיות בתרחישי BSM שונים.  
5. **פריסה** – טענו את הבינארי ל‑MCU היעד; עקבו אחרי מדדי זמן ריצה דרך טלמטריית BLE.

---

## 6. הערכת ביצועים

| מכשיר               | MCU            | קיבולת סוללה (mAh) | ממוצע כוח (mW) | דגימות סינתטיות / יום | \(\epsilon_{\text{total}}\) |
|---------------------|----------------|--------------------|----------------|------------------------|----------------------------|
| Nordic nRF52840     | Cortex‑M4F     | 300                | 4.8 (idle) / 7.2 (gen) | 120 (אודיו+IMU)          | 1.5                        |
| STM32L4+            | Cortex‑M4      | 500                | 3.5 (idle) / 6.0 (gen) | 80 (וידאו+אודיו)        | 2.0                        |
| ESP32‑C3            | RISC‑V         | 400                | 5.0 (idle) / 8.5 (gen) | 150 (רב‑מודלי)          | 1.2                        |

*מדידות הכוח נלקחו עם מד מקור מדויק על פני מחזור של 24 שעה.* המתזמן המותאם הפחית את צריכת הכוח הממוצעת ב‑**22 %** לעומת גישה תמיד‑איכות‑גבוהה.

---

## 7. רשימת בדיקה לאבטחה ועמידה ברגולציות

| פריט ברשימת הבדיקה                              | סטטוס |
|--------------------------------------------------|-------|
| **כיול רעש בהתאם ל‑DP**                           | ✅    |
| **אתחול מאובטח וחתימת קושחה**                    | ✅    |
| **אחסון מוצפן של מאגר המודלים**                  | ✅    |
| **אימות בזמן ריצה (TPM/SE)**                     | ✅    |
| **יומן ביקורת של צריכת \(\epsilon\)**            | ✅    |
| **מצב כשל בטוח כאשר סוללה < 10 %**               | ✅    |

יישום רשימה זו מבטיח שהמחולל הסינתטי לא רק עומד בפרטיות, אלא גם מתנגד לזיופים ומספק עקביות לבודקים.

---

## 8. כיוונים עתידיים

* **למידה פדרטיבית משופרת** – שילוב נתונים סינתטיים מקומיים עם ממוצע פדרלי לשיפור מודלים גלובליים ללא חילופי נתונים גולמיים.  
* **חיפוש ארכיטקטורת רשת (NAS) ל‑TinyML** – אוטומציה של גילוי ארכיטקטורות גנרטיביות יעילות עוד יותר המותאמות לפלטפורמות קצה ספציפיות.  
* **פרטיות דיפרנציאלית מואצת בחומרה** – ניצול מנגנוני enclave מתקדמים (למשל Arm TrustZone‑M) לביצוע הוספת רעש מבודדת.

---

## סיכום

הצמיחה של **TinyML**, **תזמון מותאם**, ו**פרטיות דיפרנציאלית** פותחת גבול חדש ליצירת נתונים סינתטיים במכשירי קצה עם מגבלות סוללה. על‑ידי איזון חכם בין נאמנות, צריכת אנרגיה, ותקציב פרטיות, מפתחים יכולים לפתוח יכולות למידה מקומית שנחשבו עד כה לבלתי אפשריות. המסגרת שהוצגה כאן משמשת כמתווה מעשי – מוכן להתאמה לשעונים חכמים, רחפנים, שערי תעשייה, וכל תרחיש קצה שבו מחסור בנתונים פוגש דרישות קפדניות של פרטיות ואנרגיה.

---

## ראה גם

- [TinyML: Machine Learning with TensorFlow Lite for Microcontrollers](https://www.tensorflow.org/lite/microcontrollers) – מדריך רשמי של TensorFlow למודלים קלים במיוחד.  
- [Differential Privacy for Machine Learning: A Survey](https://arxiv.org/abs/2106.02884) – סקירה אקדמית מקיפה של טכניקות DP.