מהו ONNX (Open Neural Network Exchange)?

ONNX (Open Neural Network Exchange) הוא תקן פתוח שנועד לאחד ולהחליף מודלים של למידת מכונה. הושק בשנת 2017 על ידי מיקרוסופט, Meta (לשעבר Facebook) ו-AWS, והוא פותר בעיה מרכזית בעולם ה-AI: חוסר התאימות בין מסגרות שונות (כגון PyTorch ו-TensorFlow), כלים ופלטפורמות חומרה.

במילים פשוטות, ONNX הוא “מתרגם” אוניברסלי לרשתות נוירונים, המאפשר למפתחים להעביר מודלים بحرية מסביבה אחת לאחרת.

אנלוגיה: אם רשת נוירונים היא מסמך מורכב, ONNX הוא פורמט PDF. ניתן ליצור מסמך בכל עורך (PyTorch, TensorFlow), אך לאחר שמירה כ-PDF, הוא ייפתח במהירות ובאופן עקבי בכל מכשיר באמצעות קורא אוניברסלי (ONNX Runtime).

---

כיצד עובד ONNX

ONNX מייצג כל מודל כ-גרף חישובי. גרף זה מורכב מצמתים (פעולות מתמטיות או אופרטורים) וקשתות (זרמי נתונים בצורת טנסורים). התקן מגדיר סט אחיד של אופרטורים ופורמטים של נתונים שמובנים על ידי כל הכלים התואמים.

תהליך העבודה כולל בדרך כלל שני שלבים מרכזיים:

1. ייצוא: מודל מאומן במסגרת מסוימת (למשל PyTorch) מומר לקובץ .onnx.
2. פריסה (Inference): הקובץ .onnx המתקבל מופעל באמצעות סביבת ריצה ייעודית ומהירה — ONNX Runtime.

---

יתרונות מרכזיים של ONNX

תאימות מסגרות:
היתרון המרכזי הוא חופש ההעברה של מודלים. לדוגמה, ניתן לאמן מודל ב-PyTorch, נוח למחקר, ואז לפרוס אותו באמצעות ONNX Runtime, המותאם להפעלה מהירה בסביבה פרודקשן.

אופטימיזציה לחומרה:
יצרני חומרה (NVIDIA, Intel, ARM) מספקים ספריות מותאמות לביצוע מודלים בפורמט ONNX. זה מאפשר להגיע לביצועים מקסימליים על חומרה שונה מבלי להתאים את המודל לכל פלטפורמה.

גמישות ועמידות:
התקן אינו קושר את המפתח לטכנולוגיה אחת. אם יופיע מסגרת חדשה ויעילה יותר, ניתן להעביר אליה את המודלים הקיימים בקלות.

---

ONNX Runtime: מנוע ההפעלה

ONNX Runtime הוא רכיב מרכזי במערכת האקולוגית. מדובר בסביבה גבוהה ביצועים להרצת מודלים בפורמט .onnx. פותח על ידי מיקרוסופט, קוד פתוח ומיועד למקסם את מהירות החישוב של גרפי ONNX בכל מכשיר — משרתים רבי עוצמה ועד לטלפונים ניידים. Runtime תומך בשפות רבות (Python, C++, C#, Java) ובפלטפורמות (Windows, Linux, Android, iOS).

---

דוגמה מעשית: מ-PyTorch ל-ONNX Runtime

ייצוא מודל מ-PyTorch:

import torch

# המודל המאומן שלך
model = YourSuperModel() 
# דוגמת קלט להגדרת מבנה הגרף
dummy_input = torch.randn(1, 3, 224, 224) 

torch.onnx.export(model, dummy_input, "model.onnx")

הפעלת המודל עם ONNX Runtime:

import onnxruntime as ort
import numpy as np

# יצירת סשן אינפרנס
session = ort.InferenceSession("model.onnx")

# הכנת נתוני קלט
input_data = np.random.randn(1, 3, 224, 224).astype(np.float32)
input_name = session.get_inputs()[0].name

# קבלת תחזית
result = session.run(None, {input_name: input_data})
print(result)

---

ONNX ו-Hugging Face: התקן הזהב ל-NLP

למודלים מורכבים כמו טרנספורמרים של Hugging Face, תהליך הייצוא מתבצע בצורה פשוטה באמצעות ספריית Optimum, המשמשת כ"גשר רשמי" המטפל אוטומטית בכל פרטי ההמרה.

התקנת החבילות הנדרשות:

pip install transformers onnx onnxruntime optimum[onnxruntime]

ייצוא והפעלה של מודל Hugging Face:

from optimum.onnxruntime import ORTModelForSequenceClassification
from transformers import AutoTokenizer, pipeline

model_id = "distilbert-base-uncased-finetuned-sst-2-english"

# שלב 1: ייצוא המודל ל-ONNX (פעם אחת)
model = ORTModelForSequenceClassification.from_pretrained(model_id, from_transformers=True)
tokenizer = AutoTokenizer.from_pretrained(model_id)
model.save_pretrained("./onnx-model/")
tokenizer.save_pretrained("./onnx-model/")

# שלב 2: הפעלת מודל ONNX מותאם
classifier = pipeline("text-classification", model="./onnx-model/")
result = classifier("ONNX ו-Hugging Face הם שילוב עוצמתי!")
print(result)  # פלט: [{'label': 'POSITIVE', 'score': 0.9998...}]

---

מפתח הביצועים: אופטימיזציה וכימות

ONNX Runtime לא רק מריץ מודלים — הוא מאיץ אותם. אחת השיטות העיקריות היא כימות.

במילים פשוטות: זה תהליך של “פישוט” החישובים בתוך המודל. במקום חישובים בעלי דיוק גבוה (FP32 כמו 3.14159), המודל משתמש במספרים שלמים קלים ומהירים בגודל 8 ביט (INT8, בין -128 ל-127).

יתרונות הכימות:

• 🚀 מהירות גבוהה: פעולות עם מספרים שלמים מתבצעות הרבה יותר מהר.
• 💾 גודל קטן יותר: המודל קטן בכ-4 פעמים.
• 🔋 יעילות אנרגטית: הפחתת צריכת האנרגיה, קריטי למכשירים ניידים ו-edge.

---

שימושים של ONNX

ONNX הפך לתקן תעשייתי ונמצא בשימוש נרחב:

• שירותי ענן: Azure ML, AWS SageMaker, Google Cloud AI.
• יישומים שולחניים וניידים: ONNX Runtime פועל על Windows, Linux, macOS, Android ו-iOS.
• מכשירי edge: הרצה יעילה של מודלים על מכשירים עם משאבים מוגבלים (מצלמות, רחפנים, חיישנים תעשייתיים).

---

מגבלות

למרות היתרונות, קיימות מגבלות. המרה של ארכיטקטורות מורכבות או חדשות עלולה להיתקל בבעיות אם אופרטור ספציפי עדיין אין לו מקבילה ב-ONNX. הקהילה עובדת באופן פעיל להרחבת התמיכה.

---

קישורים שימושיים

• אתר רשמי: https://onnx.ai
• מאגר GitHub: https://github.com/onnx/onnx
• ONNX Runtime: https://onnxruntime.ai
• Hugging Face Optimum: https://github.com/huggingface/optimum