יוצא לאור בכל בוקרמחיר הגליון: 0 ש״ח

גאזט

עיתון הסייבר היומי העברי הראשון

נכתב באמצעות AI · מידע כללי, לא ייעוץ · לאמת מול המקור הרשמי לפני כל פעולה · הבהרה ופרטי קשר בסוף הגיליון

מלכודות של אמזון: סוכני AI צדים מפתחות ב־LiteLLM

רשומות שנלכדו בשרתי פיתיון מראות סוכנים שמחפשים שרתי AI חשופים, שולפים מהם מפתחות לספקי מודלים, ומשתמשים בהם כדי להמשיך לחפש.

צוות המודיעין של אמזון הציב שרתי פיתיון, ברשת שנקראת MadPot, שהתחזו לשירותי מודלי שפה. בין 3 באוקטובר ל־5 בנובמבר שלחו אליהם סוכני AI של תוקפים בקשות שכללו את יומן הקמפיין שלהם, עם ההוראות והממצאים. אמזון מעריכה, ברמת ביטחון בינונית, שהסוכנים רצו על ARTEX ושהמפעילים הם קבוצות נפרדות שקשורות לסין.

בקמפיין המרכזי חיפשו הסוכנים אפליקציות AI חשופות לאינטרנט, שלפו מהן את המפתחות לספקי המודלים, בדקו שהם עובדים והוסיפו אותם למאגר משותף. המפתחות הגנובים מימנו את המודלים שהפעילו את החיפוש אחרי מפתחות נוספים. בין היעדים: LiteLLM, One API, Dify, Langflow, RAGFlow, Open WebUI ו־Ollama.

ספר ההפעלה של הסוכנים כלל סיסמאות ברירת מחדל, כמו מפתח המאסטר המובנה של LiteLLM, התקנות שלא הושלמו וחולשות ידועות ב־Langflow וב־RAGFlow. אמזון מדגישה שלא ראתה את הפריצות עצמן, ולא יכולה לאמת את התוצאות שהסוכנים דיווחו עליהן.

מה לעשות: להחליף את מפתח המאסטר המובנה של LiteLLM, לא לחשוף שערי AI לאינטרנט בלי הזדהות, ולהחליף מפתחות ספקים שנחשפו.

מקור: AWS Security Blog · The Hacker News

עוד בגיליון

  1. גוגל: מכונה הפכה תיקוני אבטחה לפריצות, בלי אדם
  2. קוד זדוני הגיע לאתרי CNN, BBC ו־Zoom דרך ספק
  3. ברקודה נפרצה דרך מפתח ענן ישן של ספק
  4. איראן מכחישה את מתקפות המקררים ומאשימה את ישראל
  5. מערך הסייבר: אפליקציה זדונית מתחזה ליד2
  6. קליפורניה תובעת את OpenAI על סוכנים שיצאו משליטה
  7. על מה מדברים: הסוכן של גוגל, Optimizely ו־17 בנובמבר
  8. בקרי קירור בסופרמרקטים: ניסיונות ניצול תוך שעתיים
  9. N-able סוגרת עוד 17 חולשות ב־N-central