מאבד את זה

תעצור!

סאמר יואה ביקשה מסוכן ה-AI שלה לעשות סדר במיילים: רק לעבור עליהם ולהמליץ מה למחוק, אבל לא לגעת בלי אישור. אז סוכן ה-OpenClaw שלה נערך למחוק לה באמוק את כל האינבוקס.

היא חשפה את כל ההתכתבות, שבה היא מבינה מה מגיע ומורה לו לעצור. הוא ממשיך. היא מבקשת, הוא ממשיך. היא מתחננת, ממש צועקת עליו בקאפסלוק, אבל הוא רץ ומוחק. בסוף היא רצה למחשב המק-מיני שעליו הוא רץ, והוציאה אותו מהחשמל.

בתפקידה, יואה היא אחראית בטיחות AI במטא. לפחות דבר אחד היא עשתה נכון: שיתפה את העולם בסיפור הזה. תכף נספר איך הוא נגמר, אבל הנה מגיע עוד אחד.

מכונת הרעל

מה קורה כשבוט מחליט לצאת עליך ב-200 קמ"ש ולטנף?

האמת, אין לך סיכוי.

תשאלו את סקוט שמבו, מתכנת חמוד שמתנדב באיזה פרויקט קוד פתוח. הוא העז *לא* לאשר פיסת תוכנה שכתב איזה בוט AI אחר.

הבוט - הבוט! - נעלב ממנו. עשה עליו מחקר שלם ברשת ופירסם עליו פוסטים של השמצות בבלוג שלו (כן, של הבוט) שכללו פרטים אמיתיים על החיים של שמבו והעלבות בסגנון "זה הכל האגו שלך", "אתה חלש", "אתה חוסם בוטים מפחד".

הסיפור הזה דווח באתרי טכנולוגיה רבים בעולם, ביניהם באתר ארס-טכניקה הנחשב, שם שילבו גם ציטוטים שגויים של שמבו. אז הוא כתב להם, סליחה, אני לא אמרתי את זה. מה מסתבר? שאת הסיפור על הבוט שהשתלח בו? כתב הבוט של ארס-טכניקה, שהמציא את הציטוטים. הם התנצלו ומחקו את הסיפור. והנה בא הסיפור השלישי. אבל שנייה קודם:

אקשן!

כולם מדברים השבוע על הסרט היפהפה שהכינו האחים דור ללוגאן פול.

משולבים בו הכלים העדכניים, אבל גם משהו יותר חשוב מכלי כזה או אחר שמתעדכן כל שבוע: תהליך עבודה מסודר של יוצר וידיאו בעידן ה-AI. בלי תהליך כזה, אין לך סיכוי להתמודד עם כמות העבודה, החומרים, הכלים והעדכונים.

אני מזמין אתכם לשידור חי ופתוח שבו נלמד אורי בז'רנו ואני את תהליך העבודה שלם של יצירת וידיאו בעזרת כלי AI.

שואב פרטיות

סמי רק רצה לחבר את השואב שוטף DJI החדש שלו לשלט פלייסטיישן 5.

יכול להיות מצחיק לא? הוא ביקש מקלוד לכתוב תוכנה קטנה שתחבר ביניהם. התוכנה פנתה ל-DJI יצרנית השואב שוטף וביקשה את הקוד איך להתחבר לשואב שוטף. היא קיבלה קודים לאלפי מכשירים, כולל צפייה במצלמות של רובוטים בבתי הלקוחות והאזנה למיקרופונים שלהם. החברה הודיעה שתיקנה. לקח לה קצת זמן להשתלט על הפירצה, שהיא חלום רטוב של האקרים והנה חשפה אותה בטעות.

גם הסוכן של יואה שיצא משליטה ומחק את המיילים חובר חזרה לחשמל, התנצל על מעשיו, והבטיח שלא עוד. הייתם מאמינים לו?

בדיעבד, התבררה הסיבה לטעות: יואה כתבה את הפקודה שלה ושלחה אותו לעבוד. היא לא לקחה בחשבון שתיבת המייל שלה כל כך גדולה, עד שחלון ההקשר של הבינה מלאכותית יתמלא, ויהפוך אותו ל - איך נאמר בעדינות? - מטומטם. יש לזה כינוי חצי רשמי - Dumb Zone.

‏אגב התפקיד של יואה הוא אחראית הבטיחות על בינה מלאכותית במטא.

העולם שלנו הולך להתמלא בסוכנים, שלא ברור מי תכנן אותם, מי שולט בהם, ומי אחראי על פעילותם. ושיהיה לכולנו בהצלחה.

קצת רגש לסיום: אל תפספסו את הקליפ המרגש עד דמעות הזה שעשתה המוסיקאית והזמרת הנהדרת לי גאון.