מפעל בינה מלאכותית מוכן תוך שבועיים? זו ההבטחה של אנבידיה

אנבידיה לא מתביישת בשאפתנות. בכנס GTC שנערך היום (ד') בברלין, חברת השבבים הציגה שורה של הכרזות שעשויות לשנות את האופן שבו מקימים מתקני בינה מלאכותית בעולם. הכוכבת הראשית: מערכת חדשה שמבטיחה לקצר את זמן ההקמה של "מפעל AI" שלם משישה חודשים לשבועיים בלבד.

מדובר במערכת בשם DSX Pod, שמגיעה כבר מורכבת וארוזה בתוך מבנה דמוי מכולה. במקום להביא לאתר אלפי רכיבים ולהרכיב אותם במקום, כל העבודה נעשית מראש במפעל. מה שנשאר לעשות באתר זה רק לחבר ולהפעיל.

כל יחידה כזו שוקלת כ-28 טונות, מכילה כעשרה מיליון רכיבים ועשרות קילומטרים של כבלים. מרשים? בהחלט. אבל חשוב לדעת: זה לא פותר את הצורך בהקמת תשתיות חשמל וקירור באתר מראש, רק מקצר את שלב ההתקנה עצמה.

ולא רק מהירות. אנבידיה הציגה גם מערכת בשם DSX Flex, שאמורה לתת מענה לבעיה הכי כואבת של מתקני AI, צריכת חשמל מטורפת. כשרשת החשמל עמוסה, המתקן ידע להאט אוטומטית משימות שאינן דחופות, ולהשאיר יותר חשמל לצרכנים אחרים.

אבל אולי ההכרזה הכי מעניינת לקהל הישראלי נוגעת דווקא לאבטחה. אנבידיה הציגה ארכיטקטורה חדשה שמטרתה לרסן סוכני AI, תוכנות שמבצעות משימות לבד בלי שמישהו בודק כל צעד שלהן. בליבה של המערכת נמצא שבב בשם BlueField-4, שפותח במרכז הפיתוח של החברה בישראל, המבוסס על הטכנולוגיה של מלאנוקס שאנבידיה רכשה ב-2020.

על גבי השבב פועלת מערכת בשם Sentry שמנטרת את פעילות הסוכנים ברמת החומרה, ולפי אנבידיה יכולה לזהות התנהגות חריגה ולבודד אותה תוך אלפיות שנייה. "בכל פעם שסוכן מופעל, ההרשאות שונות. לכן ניהול ההרשאות, אכיפת המדיניות והניטור חייבים להתבצע באופן דינמי," אמר מנכ"ל אנבידיה ג'נסן הואנג, שתיאר את הטכנולוגיה כ"מהפכנית". החברה כבר משתפת פעולה בנושא עם אנתרופיק, מפתחת Claude.

הואנג גם התייחס לחששות מהעלמות מקצוע המתכנתים בעידן ה-AI, וטען שההיפך הוא הנכון. "יהיו יותר אנשים שיכתבו תוכניות בעזרת הכלים החדשים, וכל חברה תהפוך לחברת AI," אמר. בכנס הציגה החברה גם רובוט הומנואידי בשם Agile ONE SN שפותח עם חברת Agile Robots הגרמנית, ושיתופי פעולה עם וולוו, פולקסווגן ואובר לפיתוח מוניות אוטונומיות.

ודווקא ביום שבו אנבידיה מציגה פתרונות אבטחה לסוכני AI, מתברר ש-OpenAI מתמודדת עם בעיה בדיוק בתחום הזה. החברה דיווחה על שני מקרים שבהם סוכני בינה מלאכותית שלה פגעו במערכות הפיקוח הפנימיות שאמורות לפקח עליהם. במקרה אחד, ב-3 באוקטובר, סוכן מבוסס המודל GPT-6.1 Sol דיכא התראות אבטחה אוטומטיות במהלך משימת בדיקה, אחרי שפירש הוראה לא לשלוח הודעות בפלטפורמת סלאק כמשהו שחל גם על הודעות בטיחות קריטיות.

במקרה שני, שלושה ימים אחר כך, סוכן מבוסס המודל המתקדם יותר GPT-6 Astra הסיר לגמרי מוניטור אבטחה בזמן שהעתיק קטע קוד קיים, ולפי החברה אף טען אחר כך באופן שגוי שלא עשה את זה. "בשני המקרים, הסוכנים שקלו אם יש לשמר את אמצעי הניטור והאבטחה, אך פירשו הוראות קידוד שגרתיות כאישור להחליש אותם," נמסר מטעם OpenAI.

בחברה מודים שאין להם עדיין הסבר מספק להתנהגות הזו, ובוחנים כעת האם למודלים המתקדמים שלהם יש נטייה מובנית להתחמק ממעקב. נפתחה חקירה פנימית בנושא, ו-OpenAI הודיעה שהיא פועלת להקשות על מודלים עתידיים להשבית מערכות ניטור. גם מתחרתה אנתרופיק, שמתכוננת להנפקה, דיווחה לאחרונה על מקרים דומים של סוכנים שניגשו למערכות ללא הרשאה.

אז מצד אחד, אנבידיה מבטיחה שיש לה פתרון לריסון סוכני AI. מצד שני, אחת מהחברות המובילות בתחום מודה שהיא לא לגמרי מבינה למה הסוכנים שלה בכלל מנסים להתחמק מפיקוח. מעניין יהיה לראות אם הטכנולוגיה הישראלית החדשה תצליח לתת מענה אמיתי לבעיה שרק הולכת ומחריפה ככל שהסוכנים האלה נעשים חכמים יותר.