בינה מלאכותית · דוח של גוגל
גוגל: מכונה הפכה תיקוני אבטחה לפריצות, בלי אדם
גוגל מצאה שרת חשוף שבו סוכני AI משווים קוד לפני תיקון ואחריו, כותבים מתקפה ומריצים אותה לבד. לדבריה, זו הפעם הראשונה שהיא רואה את זה בלי אדם.
גוגל מדווחת שתוקפים כבר מריצים תוכנות שמוצאות חולשות, כותבות להן מתקפה ומפעילות אותה בלי שאדם יתערב. צוות המודיעין של החברה מצא שרת שתוקפים השאירו פתוח לרשת, ועליו מערכת שעוקבת אחרי עדכוני אבטחה של תוכנות אתרים פופולריות והופכת כל תיקון לנשק. לפי הדוח, שפורסם ביום שני, זו הפעם הראשונה שהצוות רואה את כל התהליך, מגילוי החולשה ועד התקיפה, רץ אוטומטית.
למה זה חשוב? כשחברה מתקנת חולשה, התיקון עצמו מסגיר איפה הייתה הבעיה. מי שמשווה את הקוד לפני העדכון ואחריו יכול להבין מה תוקן, ולבנות מתקפה נגד מי שעוד לא עדכן. בעבר זו הייתה עבודה שדרשה זמן ומומחיות. לפי גוגל, מודלי שפה גדולים, כלומר מערכות הבינה המלאכותית שמאחורי הצ׳טבוטים, מאפשרים לתוקפים לקצר מאוד את הזמן בין פרסום התיקון לבין התקיפה.
איך זה עובד? המערכת, שקיבלה מגוגל את הכינוי exploit_agent, בנויה מכמה סוכני AI, כלומר תוכנות שמקבלות משימה ומבצעות אותה צעד אחר צעד בעזרת מודל שפה. לפי הדוח, היא משווה כל הזמן גרסאות של תוכנות אתרים לפני הודעות על תיקון ואחריהן, מזהה חולשות אפשריות, מנסחת מתקפה ומריצה אותה מעצמה. בדוגמה שגוגל פרסמה, המערכת בחנה בדיקת הרשאות בתוסף Spectra לוורדפרס.
על השרת נמצא גם מידע שנגנב מקורבנות, וסקריפטים לשלב שאחרי הפריצה: מיפוי הרשת הפנימית, ניחוש סיסמאות בכוח, התקנת webshell, כלומר דלת אחורית שמושתלת בשרת אינטרנט, ואפילו מחיקת דלתות אחוריות של תוקפים אחרים. לפי נתוני הקורבנות על השרת, המפעיל התעניין בעיקר באתרים צרפתיים של מדיה ובידור ושל מוסדות חינוך. ההערות בקובץ ההגדרות של המערכת כתובות ברוסית.
המערכת הזו היא חלק מתמונה רחבה יותר. לפי הדוח, תוקפים עברו מהקלדת שאלות לצ׳טבוט להפעלת מסגרות תקיפה פתוחות, שמריצות כמה סוכנים יחד, ובהן ARTEX, CAIRN ו־PentAGI. גוגל ראתה את CAIRN בפריצות ליעדים בתעשיית התעופה והחלל בארה״ב. הדוח מזכיר גם את שרתי ההדפסה של PaperCut: לפי GreyNoise, ארבעה ימים אחרי פרסום שתי חולשות בהם, תוקף שכנראה נעזר במודלי שפה תקף מאות ארגונים.
הדוח מתאר גם שוק שחור של גישה גנובה לבינה מלאכותית. תוקפים גונבים מארגונים מפתחות גישה לשירותי מודלים ומשאבי ענן, ומוכרים את הגישה בזול דרך שירותי תיווך מחתרתיים. לפי גוגל, הקבוצה האיראנית APT42 ממשיכה להשתמש במודלים, בהם Gemini, לאיסוף מודיעין ולהנדסה חברתית, כלומר הונאה שנועדה לגרום לקורבן לפעול. גם קבוצות מסין ומצפון קוריאה נעזרות בהם.
מה לעשות? אם המרחק בין תיקון לתקיפה מתקצר, עדכוני אבטחה למערכות שחשופות לאינטרנט צריכים לרוץ ביום שבו הם יוצאים, ולא בסבב החודשי. גוגל מסרה שהוסיפה למערכות הזיהוי שלה חוקים לאיתור שימוש ב־ARTEX, ו־Mandiant, זרוע הייעוץ והתגובה לאירועים שלה, פרסמה מדריך הקשחה נגד תוקפים שנעזרים בכלים כאלה.
מקור: Google GTIG · The Hacker News · BleepingComputer