איך אני מגדיר מגבלות שימוש ב-OpenAI API כדי לעצור הוצאות יתר של סוכנים וסיוטים אחרים של חיוב בינה מלאכותית
עקוב אחר ZDNET: הוסף אותנו כמקור מועדף בגוגל.
נקודות המפתח של ZDNET
- ההוצאה של OpenAI API יכולה לעלות במהירות אם הסוכנים משתוללים.
- מגבלות קשות עוזרות לעצור חשבונות API להפתיע.
- התראות ומגבלות קצב מוסיפות שכבת הגנה נוספת.
אתמול בלילה, התעוררתי בזיעה לחה מסיוט מוזר. זה לא היו הסיוטים האופייניים שלי שבהם אני נרדף על ידי כפריים עם קלשונים ולפידים או גולגולות בוערות (או שילוב של שניהם).
לא, זה היה סיוט שבו אפליקציית הבינה המלאכותית שלי החליטה להוליד מאות סוכנים, שכולם ביצעו שיחות API, וצברו חשבון מטפס על שימוש ב-API. הוצאה מופרזת של טכנולוגיות בינה מלאכותיות על כרטיס האשראי שלי היא בדרגה טובה יותר מאשר להיאכל על ידי גולגולות בוערות, אבל זה עדיין לא נעים.
כמו כן: איך עצרתי מתקפת ספאם מאסיבית של וורדפרס עם 4,700 שורות קוד ביומיים – הודות לקודקס וקלוד
בעוד ש-OpenAI לא יכול לעזור עם הגולגולות הבוערות, זה יכול לעזור להפחית את הסיכון לסיוט של חשבון API מנופח. כל מה שאתה צריך לעשות הוא להגדיר מגבלות שימוש בחשבון שלך. במאמר זה, אני הולך להראות לך איך.
מתחילים
היכנס לחשבון OpenAI שלך ודפדף אל דף מגבלות הוצאות. הרבה קורה פה. אנחנו הולכים להסתכל על מגבלות הוצאה, התראות הוצאה, מגבלות תעריפים ושכבות שימוש, שכל אחת מהן תורמת לכמה שהכרטיס שלך נפגע.
הבנת שכבות השימוש
אני אתחיל עם שכבות שימושמכיוון שהם מהווים הפסקה נגד הוצאות יתר בשלב מוקדם במסע ה-API שלך.
לדוגמה, עד שתוציא סך של $50 על קריאות API, אתה ננעל על שכבה 1. הגדרה זו אומרת שגם אם לא תגדיר מגבלות שימוש, OpenAI לא יאפשר לך להוציא יותר מ- $100 לחודש. אני ב-Tier 1 כי למרות שיש לי את ה-API מחובר לשרת Karakeep Docker שלי לניתוח מילות מפתח, עדיין לא שברתי $50 במשך יותר משנה של שימוש.
לאחר שהוצאת $50, אתה קופץ לשכבה 2, שם אתה רשאי להוציא $500 לחודש. הוצאה כוללת של $100 מכניסה אותך לשכבה 3, שבה אתה יכול להוציא עד $1,000 לחודש. הוצאה כוללת של $250 על שימוש ב-API מקפיצה אותך לשכבה 4, שבה אתה רשאי להוציא עד $5,000 לחודש.
כמו כן: הזמנתי את תאומים וקלוד לכתוב את תשובות המייל שלי – אבל רק אחת נשמעת כמוני
אלו מגבלות עליון גדולות למדי, אבל ברגע שתגיע ל-$1,000 ששולם ל-OpenAI, השערים נפתחים. OpenAI יאפשר לך להוציא עד $200,000 לחודש.
תחשוב על התרחיש הזה. אתה מחבר את OpenClaw לחשבון ה-API שלך ב-OpenAI, ותוך מספר חודשים הוצאת 1,000 דולר בשיחות API. ואז יום אחד, OpenClaw מחליטה שהיא רוצה להשיק צבא של סוכנים שיבצע משימה כלשהי, וזה יוצא לדרך. החיה הסוררת הזו עלולה להטיח את חשבונך במאות אלפי דולרים לפני שתהיה לך הזדמנות לסגור אותו.
ובגלל זה צריך גם להגדיר מגבלות הוצאות ספציפיות.
הבנת גבולות ההוצאות
בואו נחזור ל דף מגבלות הוצאות. כפי שאתה יכול לראות (ב-1), אני ב-Ter 1.
הרבה קורה כאן. ב (2), שים לב שהדף אומר, "העלויות בפועל שלך עשויות לעלות על זה בהתבסס על שימוש." הערה זו נובעת מכך, אלא אם כן אתה אומר זאת, OpenAI לא מציבה מגבלה קשה על ההוצאות שלך. הרעיון הוא שללא גבולות קשים, התשתית שלך לא תישבר. אבל, כמובן, אתה יכול להוציא יותר. אני אראה לך איך לתקן את הבעיה הזו בעוד דקה.
כמו כן: עשיתי 4 שנים של פיתוח מוצר ב-4 ימים תמורת 200 דולר, ואני עדיין המום
ב-(3), אתה יכול לראות שהחשבון מאפשר מילוי אוטומטי. לחיצה על סמל העיפרון מאפשרת לך לשלוט בכמה המילוי יכול לטעון.
אתה יכול לכבות את הטעינה האוטומטית על ידי לחיצה על לחצן החלפת המצב. אם תעשה זאת, דף המגבלות יתעדכן, ולא תוכל עוד להפעיל מחדש את הטעינה האוטומטית מדף זה. במקום זאת, לחץ על חיוב מהתפריט בצד ימין.
כפי שאתה יכול לראות, יתרת האשראי שלי היא $7.77 מהפעם האחרונה שהוספתי את החשבון שלי. לחיצה על כפתור הגדרות הטעינה האוטומטית פותחת את תיבת הדו-שיח 'טעינה אוטומטית', שבה תוכל להחזיר אותה למצב מופעל.
לבסוף, חזרה למסך הגבולות המוצג בתחילת סעיף זה, תוכל לציין התראות הוצאה ב-(4) ולקבל התראה בדוא"ל ברגע שתגיע לאחוז מהתקציב שלך.
אתה יכול להגדיר את אחוז ההוצאה שלך כאשר אתה רוצה שההתראה תופעל. תוכל גם לציין לאן תרצה שתשלח התראת ההתראה בדוא"ל.
הגדרת גבול קשה
אם אתה לא אוהב את הרעיון שהעלויות האמיתיות שלך עלולות לחרוג ממגבלת ההוצאה שהגדרת, תוכל להגדיר מגבלה קשה. במסך גבולות, לחץ על הלחצן ערוך מגבלת הוצאות.
שימו לב ללחצן אכיפת מגבלה קשה. אני ממליץ להפעיל את זה, במיוחד אם אתה נמצא באחת משכבות השימוש הגבוהות יותר. שלב זה יגרום לדחיית קריאות ה-API שלך עם שגיאת 429, אך לא תוציא יותר ממה שצריך.
רק ודא שהקוד שלך בודק את מצב השגיאה כאשר הוא מבצע קריאה ל-AI.
הבנת מגבלות התעריפים
גם ל-OpenAI יש מגבלות שיעורהמגבילים כמה בקשות לדקה, בקשות ליום, אסימונים לדקה, אסימונים ליום ותמונות בדקה שבהן מותר להשתמש, על סמך הדגם שבו אתה משתמש.
OpenAI אומרת שיש לה מגבלות תעריפים כדי "לעזור בהגנה מפני שימוש לרעה או שימוש לרעה ב-API", "לעזור להבטיח שלכולם תהיה גישה הוגנת ל-API" ו"לעזור ל-OpenAI לנהל את העומס המצטבר על התשתית שלה".
גַם: התייחסו לסוכני ה-AI שלכם כאל מתמחים אנושיים נלהבים אך מוטעים – לפני שאתם מאבדים שליטה
ל-OpenAI יש א מדריך כיצד לקודד מגבלות דירוג. המלצה אחת שיש להם היא להשתמש גיבוי אקספוננציאלישבו אתה מנסה שוב אוטומטית לאחר שינה קצרה, ועושה זאת מספר פעמים עד שהבקשה תעבור או שתחרוג מסף ניסיון חוזר לבחירתך.
השורה התחתונה
השורה התחתונה כאן פשוטה. הגדר מגבלות הוצאה כדי ש-AI מופרך לא יחרוג מהתקציב שלך. קל מאוד להגדיר את מגבלות התעריפים, מה שהופך אותן לא פשוטות להגנה על חשבונך.
הם לא ירחיקו את הכפריים הזועמים, אבל הם יעזרו לך לנהל את הוצאות ה-AI API שלך. וזה משהו, לפחות.
אתה יכול לעקוב אחר עדכוני הפרויקט היומיומיים שלי ברשתות החברתיות. הקפד להירשם ל עלון העדכונים השבועי שליועקבו אחרי בטוויטר/X ב- @DavidGewirtzבפייסבוק ב Facebook.com/DavidGewirtzבאינסטגרם בכתובת Instagram.com/DavidGewirtzבבלוסקי בשעה @DavidGewirtz.comוב-YouTube בכתובת YouTube.com/DavidGewirtzTV.