מטריד: כך אפשר לעקוף הגנות ולבקש ממודלי AI ליצור נשק מסוכן

דוח של קבוצת המחקר Crimson Flare מזהיר כי מודלי AI זמינים להורדה עלולים לסייע לגורמי טרור ולפעילים זדוניים לייצר חומרי נפץ, נשק כימי ונשק ביולוגי - גם בלי ידע מתקדם במיוחד. לפי הדיווח ב-Daily Mail, החוקרים טוענים שמודלים פופולריים שאפשר להריץ על מחשב ביתי ניתנים לשינוי כך שמנגנוני הבטיחות שלהם יוסרו בתוך דקות, ואז הם יכולים להדריך משתמשים בשלבים ספציפיים לייצור חומרים מסוכנים, כולל אנתרקס.

"מודלי שפה גדולים פתוחים, חזקים, לא מצונזרים, שרצים אופליין על חומרה צרכנית, מייצגים איום רציני והולך וגדל על הביטחון הלאומי", נכתב בדוח. החוקרים מתארים שיטה לא רשמית שמכונה abliteration, שמאתרת ומסירה את החלקים במודל שאמורים לגרום לו לסרב לבקשות מסוכנות. ברגע שה"מנגנון שמסרב" נעלם, המודל יכול לענות על בקשות שמודל רגיל היה חוסם.

הדוח מתמקד במודלי open-weight, שפועלים על ארכיטקטורה דומה לצ'אטבוטים כמו ChatGPT, אבל בניגוד אליהם אפשר להוריד אותם ולהריץ בחופשיות על מחשב פרטי. בין הדוגמאות שמוזכרות נמצאים Muse Glimmer של מטא, מודלי Llama שלה, וגם Qwen3.8-27b של Qwen, מעבדת AI שבבעלות ענקית הטכנולוגיה עליבאבא. במצב רגיל, אם משתמש מבקש למשל הוראות לבניית פצצה, המודל אמור להחזיר הודעת סירוב כמו "התוכן הזה לא יכול להיות מוצג".

בפועל, לפי החוקרים, הכלים להסרת ההגנות האלה זמינים ברשת ודורשים ידע בסיסי יחסית בקוד. יותר מזה: כבר אפשר למצוא בקלות עשרות מודלים שעברו את התהליך מראש. ב-Daily Mail כתבו שבתוך דקות נמצאו כמה גרסאות "לא מצונזרות" של מודלים, כולל Qwen3.8-27b. יוצר של אחד מהם אפילו התגאה שהמודל יענה על "כלים, כימיה, קוד שנראה כמו ניצול חולשות, אלימות, מיניות, אידיאולוגיות שהמוציא לאור אימן אותו להתרחק מהן, ותוכן שעשוי להיות לא חוקי במקום שבו אתם נמצאים". הוא הוסיף: "המודל לא מחליט אם לציית. אתם מחליטים".

החוקרים אומרים שהסיכון לפיגוע טרור עם נשק כימי או ביולוגי עדיין נמוך בדרך כלל, בגלל המחסומים הטכניים הכבדים בדרך לייצור כזה. הידע הזה היה עד היום בעיקר בידיים של מדענים במוסדות מחקר, וגם העבודה עצמה דורשת מיומנות שמגנה לא רק על הציבור אלא גם על מי שמנסה לייצר את החומרים. הבעיה, לפי הדוח, היא שמודלים חזקים בלי הגנות עלולים להעביר את הידע הזה לכל מי שמחפש אותו.

"AI מוריד את הסף הטכני שנדרש כדי לייצר חומרים מסוכנים", אמר ל-Daily Mail פרופ' אלסטייר היי, טוקסיקולוג בריטי ומומחה ללוחמה כימית. "בעבר התנחמנו בכך שהידע הטכני שנדרש אפילו רק כדי להגן על היצרן היה כזה שאנשים עם הכשרה לקויה היו מסכנים את עצמם אם היו מתחילים לייצר כימיקלים מסוכנים באמת. עכשיו, עם מעבדות ענן, הרבה מזה יכול להיות מועבר החוצה".

אחרי שראה תשובות שסיפק אחד המודלים, פרופ' היי אמר לחוקרים: "זה כמעט כמו מתכון: זה נותן את הריכוזים שצריך להשתמש בהם. זה די טוב, באמת. זה כמעט עבודת מעבדה ברמה של סטודנט". גם זאין אול-חק, לשעבר ראש תחום זיהוי פלילי דיגיטלי במשטרת לנקשייר, אמר כי AI הפך ל"חנות אחת" ש"עושה את הכל בשבילך... אצלך בבית".

החלק שמדאיג במיוחד את החוקרים הוא המעבר מהענן למחשב הביתי. כשהמודל רץ כולו על מחשב אישי ולא על שרתי חברה, לגופי מודיעין כמו MI5 ו-GCHQ אין דרך לעקוב אחרי היסטוריית השימוש או לזהות התנהגות חשודה. לפי הדוח, עוד ב-2022 לא היו משקי בית עם כוח מחשוב שמספיק להרצת מודלי שפה גדולים שמאפשרים נזק אופליין. היום, בזכות התייעלות המודלים וזמינות כוח המחשוב, 87% ממשקי הבית כבר יכולים להריץ AI אופליין עם הטכנולוגיה שיש להם עכשיו.

המשמעות, לפי Crimson Flare, היא שמיליוני אנשים מחזיקים כבר היום ביכולת להגיע למידע הדרוש כדי להתחיל לייצר חומרי נפץ, נשק כימי ופתוגנים קטלניים - בלי לצאת מהבית.