עזבתי את ChatGPT עבור AI חינמי, פרטי ומקומי בשם Ollama – הנה הסיבה
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- Ollama הוא בינה מלאכותית ידידותית למשתמש, בהתקנה מקומית.
- תופתעו מהיתרונות שתרוויחו מהאפליקציה הזו.
- לא רק שאולמה היא חינמית ופרטית, אלא שהיא גם קוד פתוח.
Ollama הוא שחקן קטן במשחק AI, אבל הוא צריך להיות הרבה יותר גדול ממה שהוא. ל-AI הניתן להתקנה יש כמה יתרונות שלא תמצאו עם אנשים כמו ChatGPT, והיתרונות האלה הם שמונעים ממני להשתמש אי פעם בשירות מסורתי יותר.
כתבתי על אולמה לעתים קרובות למדי במהלך השנה האחרונה, אבל חשבתי שהגיע הזמן לשתף את הסיבות שאני בוחר להשתמש באפליקציה הזו על פני כל אפליקציה אחרת.
כמו כן: רוצה קידוד אווירה מקומית? ערימת AI זו עשויה להחליף את קלוד קוד וקודקס – בחינם
(גילוי נאות: זיף דייויס, חברת האם של ZDNET, הגישה תביעה נגד OpenAI באפריל 2025, בטענה שהיא הפרה זכויות יוצרים של זיף דייויס בהדרכה ובהפעלת מערכות הבינה המלאכותית שלה.)
מה זה אולמה?
לפני שאני נכנס למה, בואו נדבר על מה.
Ollama הוא כלי חינמי בקוד פתוח שתוכל להוריד ולהתקין במחשב שלך (לינוקס, MacOSאו חלונות). עם Ollama, אתה יכול להפעיל מודלים של שפה גדולים (LLMs) ישירות על המערכת שלך. הנושא העיקרי שיש לקחת בחשבון הוא מהירות המחשב שלך. AI דורש מעט כוח סוס כדי להיות שימושי. זה לא אומר שאתה לא יכול להשתמש בו במכונה בינונית, אבל אם אתה משתמש בו בחומרה בינונית עד נמוכה, הוא ירוץ לאט יותר, וייתכן שלא תוכל לבצע ריבוי משימות בזמן שהוא מעביר את השאילתות שלך.
כמו כן: סימני המים החדשים של OpenAI מקלים על זיהוי זיופי בינה מלאכותית – הנה איך
עם זאת, אם למכונה שלך יש Nvidia GPU, הוא יפעל מהר יותר (אפילו עם חומרה בינונית) מכיוון שהוא יוריד הרבה מהתהליכים ל-GPU, ומשאיר את ה-CPU לעשות דברים אחרים. כדי להפעיל את Ollama בצורה חלקה, המערכת שלך צריכה להכיל מינימום של:
- מעבד: כל מעבד מודרני
- זיכרון RAM של המערכת: 16 ג'יגה-בייט
- GPU (מומלץ): Nvidia עם 8GB+ VRAM או Apple Silicon Mac (M1/M2/M3) עם 16GB+ זיכרון מאוחד להאצת GPU אוטומטית
Ollama מציע GUI ידידותי למשתמש הן עבור MacOS והן עבור Windows, אך ניתן להשתמש בו גם משורת הפקודה. בלינוקס, אתה יכול להשתמש ב- Ollama CLI, אבל יש גם GUIs (כגון Alpaca ו- Msty) שיכולים לעבוד.
עם Ollama, אתה יכול להוריד LLMs רבים ושונים. יש עצום ספריית דגמים שניתן להוריד — תמצאו את DeepSeek, Gemma, Qwen, Mistral, Gpt-OSS, Llama ועוד רבים אחרים.
עכשיו שאתה מבין מַה אולמה היא, בוא נדבר על מַדוּעַ אתה אמור להשתמש בו.
1. זה בחינם
אולמה בחינם. מאז שאני משתמש בה, לא שילמתי אגורה אחת עבור האפליקציה או הדגמים. פשוט התקן את Ollama, מושך דגם ולך. אינך צריך לשלם עבור האפליקציה, הדגמים או השימוש.
זה בחינם. לגמרי ולתמיד בחינם.
זה גם קוד פתוח, אז… בונוס.
כמו כן: תכונות הבינה המלאכותית של גוגל פשוט נעשו יותר מבלבלות
2. זה פרטי
זה אחד גדול בשבילי. אני לא אשתמש בבינה מלאכותית ציבורית או למטרות רווח מכיוון שאני יודע שהשאילתות שלי והתגובות יכולות לשמש צדדים שלישיים. החברות מאחורי AI למטרות רווח יכולות לאסוף את המידע שלך ולהשתמש בו למטרות שונות, וזה לא משהו שאני בסדר איתו. זה לא שאני שואל עם מידע אישי כלשהו (אני משתמש בעיקר בבינה מלאכותית למחקר), אבל אני עדיין לא רוצה שהשאילתות האלה יאספו וישתמשו בהן כדי ליצור פרופיל שלי.
כמו כן: הדפדפנים המאובטחים הטובים ביותר לפרטיות: מומחה נבדק
בדיוק כמו הדפדפנים שלי, אני רוצה שה-AI שלי יהיה פרטי ככל האפשר, ואולמה היא באמת הדרך היחידה לגרום לזה לקרות.
3. זה לא מאתגר את רשת החשמל
שמעת על איך בינה מלאכותית משתמשת בכמות מוגזמת של אנרגיה, נכון? דוח החודש מאת רשות מרכז הנתונים הבינלאומית (ICDA) מציינת כי כ-6% מכלל השימוש בחשמל בארה"ב הולך למרכזי נתונים. "ארה"ב היא ללא ספק מיקום הדאטה סנטר הגדול בעולם, עם 43% מהצריכה העולמית. מרכזי נתונים צורכים 29.2GW של חשמל בארה"ב, וכעת צורכים 6% מהחשמל של המדינה".
זֶה דחייה מפרט את החששות הסביבתיים סביב פריסות בינה מלאכותית בקנה מידה גדול. "רוב שרתי הבינה המלאכותית מאוחסנים במרכזי נתונים, המייצרים פסולת אלקטרונית ועלולים להכיל כימיקלים רעילים, כמו כספית ועופרת. מרכזי נתונים דורשים גם כמויות גדולות של מים לבנייה ולקירור הרכיבים החשמליים".
כמו כן: מודאגים מצרכי האנרגיה הגואה של AI? הימנעות מצ'אטבוטים לא תעזור – אבל 3 דברים יכולים
על ידי שימוש ב- Ollama בהתקנה מקומית, אני נמנע מלהוסיף לבעיה זו. אני יכול לקחת את זה צעד אחד קדימה ולהתקין את Ollama על מחשב נייד, אז אני משתמש רק בסוללה.
אולמה ידידותית לסביבה ואינה מעמיסה על רשת החשמל.
4. זה יותר גמיש
כשאתה משתמש במקומות כמו ChatGPT, אתה מוגבל ל-LLMs שאתה יכול לבחור מהם. עם Ollama, יש לך ספרייה ענקית של LLMs בהישג ידך. אתה יכול אפילו להתקין מספר דגמים ולבחור באיזה מהם להשתמש עבור כל שאילתה.
כמו כן: כיצד הוספתי בקלות בינה מלאכותית לחלופה האהובה עליי של Microsoft Office
זו גמישות שלא תמצא ברוב שירותי הבינה המלאכותית למטרות רווח.
5. זה מסוגל לרשת LAN
יש לי מופע אחד של Ollama מותקן על שרת בתוך ה-LAN שלי. כשזה פועל, אני יכול להשתמש בממשק מבוסס אינטרנט או לחבר אפליקציית GUI מקומית לשרת, כך שאני לא משתמש ב-CPU/GPU במחשב הנייד או בשולחן העבודה שלי. זו אפשרות מצוינת מכיוון שהורדת תהליך הבינה המלאכותית לשרת פירושה שאני לא צריך לדאוג לגבי שאילתות שיביאו לעצירת חומרה פחות חזקה. נוסף על כך, אני צריך להתקין את Ollama רק במכונה אחת כדי להשתמש בה בכל מכשיר המחובר ל-LAN שלי.
6. נגיש לא מקוון
נניח שאתה מאבד את קישוריות האינטרנט שלך, או שאתה באמצע שום מקום בלי אות או Wi-Fi, ואתה צריך (מכל סיבה שהיא) להשתמש ב-AI. אם אתה משתמש בבינה מלאכותית מבוססת ענן של צד שלישי, אין לך מזל. אם התקנת את Ollama במחשב הנייד שלך, יש לך הרבה מזל, כי אתה לא צריך חיבור רשת כדי להשתמש בו. זה גם אומר שאתה יכול להפעיל את Ollama על מכונה עם מרווח אוויר לפרטיות עוד יותר.
כמו כן: כיצד אני מזין את הקבצים שלי ל-AI מקומי לקבלת תגובות טובות יותר ורלוונטיות יותר
זה win-win מסביב.
אני ממליץ לך בחום לנסות מופע מותקן מקומי של Ollama. זה הרבה יותר קל להתחיל לעבוד ממה שאתה חושב (בדומה להתקנת כל אפליקציה ב-MacOS או Windows), זה זול, גמיש, מאובטח וידידותי לסביבה.
מי לא רוצה את כל זה?