מלכודות של אמזון: סוכני AI צדים מפתחות ב־LiteLLM
רשומות שנלכדו בשרתי פיתיון מראות סוכנים שמחפשים שרתי AI חשופים, שולפים מהם מפתחות לספקי מודלים, ומשתמשים בהם כדי להמשיך לחפש.
צוות המודיעין של אמזון הציב שרתי פיתיון, ברשת שנקראת MadPot, שהתחזו לשירותי מודלי שפה. בין 3 באוקטובר ל־5 בנובמבר שלחו אליהם סוכני AI של תוקפים בקשות שכללו את יומן הקמפיין שלהם, עם ההוראות והממצאים. אמזון מעריכה, ברמת ביטחון בינונית, שהסוכנים רצו על ARTEX ושהמפעילים הם קבוצות נפרדות שקשורות לסין.
בקמפיין המרכזי חיפשו הסוכנים אפליקציות AI חשופות לאינטרנט, שלפו מהן את המפתחות לספקי המודלים, בדקו שהם עובדים והוסיפו אותם למאגר משותף. המפתחות הגנובים מימנו את המודלים שהפעילו את החיפוש אחרי מפתחות נוספים. בין היעדים: LiteLLM, One API, Dify, Langflow, RAGFlow, Open WebUI ו־Ollama.
ספר ההפעלה של הסוכנים כלל סיסמאות ברירת מחדל, כמו מפתח המאסטר המובנה של LiteLLM, התקנות שלא הושלמו וחולשות ידועות ב־Langflow וב־RAGFlow. אמזון מדגישה שלא ראתה את הפריצות עצמן, ולא יכולה לאמת את התוצאות שהסוכנים דיווחו עליהן.
מה לעשות: להחליף את מפתח המאסטר המובנה של LiteLLM, לא לחשוף שערי AI לאינטרנט בלי הזדהות, ולהחליף מפתחות ספקים שנחשפו.
מקור: AWS Security Blog · The Hacker News