מודלים מקומיים נוחים בכך שאחרי ההורדה הראשונית ניתן להשתמש בהם בכל מקום — אין צורך באינטרנט. כל מה שאתה עובד איתו נשאר במכשיר שלך, ואף "אח גדול" אינו רואה את הנתונים או הבקשות שלך. התשובות מגיעות ללא עיכובים, בדרך כלל הקשורים לשירותי ענן, והעלויות של חישוב מצטמצמות לצריכת החשמל בלבד, מכיוון שהכל מתבצע על החומרה שלך.

המודלים מסתגלים למכשיר: Foundry Local בוחר את הגרסה האופטימלית עבור CPU, GPU או NPU, ומבטיח מהירות ויעילות מקסימליות.

---

🛠 Foundry Local

Foundry Local של מיקרוסופט מפשט את ההפעלה של מודלים מקומיים.
חלק ממשימות ה-AI מבוצעות מקומית, וחלק בענן כאשר זה משתלם.

ניתן לעבוד עם Foundry Local דרך:

• CLI — פקודות פשוטות בטרמינל או PowerShell
• SDK — ספריות מוכרות, כולל REST API תואם OpenAI
• Visual Studio Code AI Toolkit — הפעלת מודלים ישירות ב-IDE

קטלוג המודלים מכיל גרסאות מותאמות לעבודה מקומית. אם המודל כבר הורד, הוא מתחיל מיד מה-cache. השירות המקומי מקבל בקשות כמו שרת ווב, ומאפשר קריאה למודל מתוך סקריפטים או אינטגרציה לכלים שלך.

---

⚙️ דרישות מערכת

• מערכת הפעלה: Windows 10/11 (x64/ARM), Windows Server 2025 או macOS
• זיכרון ודיסק: מינימום 8GB RAM ו-3GB מקום פנוי (מומלץ 16GB / 15GB)
• רשת: אינטרנט נדרש רק להורדה הראשונית של המודל
• האצה (אופציונלי): NVIDIA (סדרה 2000+), AMD (סדרה 6000+), Intel iGPU, Qualcomm Snapdragon X Elite, Apple Silicon
• הרשאות מנהל: נדרשות להתקנה

---

💾 התקנת Foundry Local

1. דרך CLI

Windows:

winget install Microsoft.FoundryLocal --scope machine

אם ההתקנה נכשלה — הורד את קובץ .msix ואת התלויות והתקן דרך PowerShell עם הרשאות מנהל.

macOS: השתמש בהוראות הרשמית בתיעוד.

2. הורדת המתקין

מצא את הגרסה האחרונה ב-Foundry Local GitHub repository והתקן ידנית.

לאחר ההתקנה, בדוק את העזרה:

foundry help

---

🚀 הפעלה ראשונה של מודל

1. בטרמינל, הפעל מודל (למשל phi-3.5-mini).
2. בהפעלה הראשונה הוא יורד למחשב (מספר דקות).
3. הפעלות עתידיות ישתמשו ב-cache.

דוגמה:

foundry model run phi-3.5-mini

להפעלת GPT-OSS-20B:

foundry model run gpt-oss-20b

⚠ נדרש NVIDIA GPU עם 16GB+ VRAM ו-Foundry Local גרסה 0.6.87+.
בדיקת גרסה:

foundry --version

---

🖥 Foundry Local CLI — מדריך

ממשק שורת הפקודה (CLI) של Foundry Local משמש לניהול מודלים, השירות וה-cache המקומי.

---

🔎 סקירה

כדי לראות את כל הפקודות:

foundry --help

קטגוריות פקודות:

• Model — ניהול והפעלה של מודלים
• Service — ניהול שירות Foundry Local
• Cache — עבודה עם cache

---

📦 פקודות למודלים

פקודה	תיאור
foundry model --help	עזרה לפקודות מודלים.
foundry model run <model>	הפעלת מודל (יוריד אותו אם צריך).
foundry model list	רשימת מודלים זמינים.
foundry model info <model>	מידע מפורט על המודל.
foundry model download <model>	הורד מודל ל-cache ללא הפעלה.
foundry model load <model>	טען מודל לשירות.
foundry model unload <model>	הסר מודל מהשירות.

---

⚙️ פקודות שירות

פקודה	תיאור
foundry service --help	עזרה לפקודות שירות.
foundry service start	הפעלת השירות.
foundry service stop	עצירת השירות.
foundry service restart	הפעלת השירות מחדש.
foundry service status	בדיקת סטטוס השירות.
foundry service ps	רשימת מודלים טעונים.
foundry service logs	הצגת לוגים של השירות.
foundry service set <options>	קונפיגורציה (למשל GPU).

---

🗂 פקודות cache

פקודה	תיאור
foundry cache --help	עזרה לפקודות cache.
foundry cache location	הצג נתיב cache.
foundry cache list	רשימת מודלים ב-cache.
foundry cache remove <model>	הסר מודל מה-cache.
foundry cache cd <path>	שנה את ספריית ה-cache.

---

🚀 דוגמאות שימוש

הפעלה מהירה של מודל

# הורד והפעל מודל
foundry model run phi-4-mini

# מידע על המודל
foundry model info phi-4-mini

# הורד מודל ללא הפעלה
foundry model download phi-4-mini

ניהול השירות

foundry service status
foundry service ps
foundry service restart

עבודה עם cache

foundry cache list
foundry cache remove old-model
foundry cache cd /path/to/larger/drive

---

🔧 אפשרויות מתקדמות

# הצג רישיון של מודל
foundry model info phi-4-mini --license

# צור לוגים דיאגנוסטיים
foundry zip-logs

# קונפיגורציה לשימוש ב-GPU
foundry service set --gpu 0

---

📌 עכשיו יש לך מסמך אחד: סקירה של מודלים מקומיים, דרישות מערכת, התקנה, הפעלה ראשונה ומדריך CLI מלא.

רוצה שאכין קובץ .md מוכן לבלוג/מאגר?