"ב-02:00 זחלתי מהסטודיו עם הראש בין הידיים": הקסם חזר כמו בימים הראשונים של ChatGPT

אין לי תיקונים

ב-2 בבוקר זחלתי החוצה מהסטודיו עם הראש בין הידיים. כמו בימים הראשונים של ChatGPT, כשעוד ניסיתי להתמודד עם גודל הקסם.

זה שוב קרה. רוצים גם?

אז זה עובד ככה: תחשבו על הדבר הזה שאתם עושים על המחשב שהכי נמאס לכם ממנו. כמעט לא משנה באיזו תוכנה. עכשיו פותחים את האפליקציה של קלוד, נכנסים ל-Cowork ולוחצים על הפלוס. יש שם משהו חדש: "רקורד". לוחצים עליו. ואז עושים את הפעולה שנמאס לכם ממנה, תוך כדי שאתם מסבירים מה אתם עושים ולמה. קלוד מקליט את המסך, את העכבר ואת ההסברים שלכם - והופך אותם לסקיל. יכולת שאפשר להפעיל שוב קומפלט מתי שתרצו.

בגדול? שלום ותודה.

בקטן, הראיתי לו איך אני מתרגם את הניוזלטר הזה מעברית לאנגלית בתוך האתר שבו אני עורך אותו, מיילצ'ימפ. יש פה לא מעט מלאכה ידנית, שכוללת החלפת טקסטים בשדות שונים וכותרות, גדלים ועיצובים. צריך להחליף גם את הלינקים לאתרים ישראלים - שיובילו לכתבות דומות באנגלית. הסברתי לקלוד מה הטעם שלי באתרי חדשות באנגלית (עדיף כלי תקשורת נחשבים, עדיף בריטיים, ואסור לגעת באל-ג'זירה).

קלוד ראה שאת תרגום הקטעים אני עושה בעזרת GPT מיוחד שהגדרתי מזמן ב-ChatGPT. חראם, הוא כתב לי, אני יכול לעשות את זה בשבילך. הבאתי לו את הגדרות סגנון האנגלית המועדף עלי מה-GPT ואמרתי לו סע.

יצא מושלם. אין לי מה לתקן. הוספתי עוד כמה שלבים מגרגרנות ("שלח לי את הניוזלטר למייל לבדיקה"). השקעתי שעה וחצי בבניית הליך, החזרתי לעצמי שעתיים מעצבנות במיוחד בכל שבוע מכאן והלאה.

אם בא לכם לראות איך יצא, מוזמנים להירשם כאן ולבחור אנגלית. אחר כך תחליפו חזרה.

אבל יותר חשוב, שאלו את עצמכם איזה תהליכים אתם הולכים להיפטר מהם, להקליט פעם אחת לקלוד שלכם, להפוך לסקיל ושלום ותודה.

לאו עכברא גנב*

"התברר שיש לנו 24 אלף חורי אבטחה במערכת".

את זה שמעתי השבוע מחברת הייטק שנסחרת בבורסה האמריקאית. מי גילה להם על החורים? מודל מיתוס של אנת'רופיק. 24 חולשות אבטחה פוטנציאליות עלולות להיות עניין דרמטי לחברה כזו. אז 24 אלף?

"במקומך הייתי מתפטר", ייעצתי מכל הלב למנהל האבטחה של החברה. "אין לך סיכוי להשיג את התוקפים. העסק ייפרץ וזה יהיה על הראש שלך".

הוא חייך בעגמומיות. יש להם כבר תהליך AI אוטומטי ומורכב שמטפל בחורים האלה לפי הסדר. מאתר חור, סוגר, בודק, וממשיך לחור הבא. אז עכשיו אנחנו בתחרות.

וזה המצב הכי טוב.

כי הסכנה האמיתית היא עם אלה שלא יודעים. בנקים, בתי חולים, משרדי ממשלה. עסקים בינוניים או לא חדישים במיוחד. בקיצור, הרוב. מי שלא הבין שאבטחת מידע בחצי השנה האחרונה היא סיפור חדש לגמרי. להתמודד עם עשרות אלפי חורים משוכללים שרק ילכו ויתרבו ויסתבכו - זה לא דבר שאפשר להתמודד איתו בשיטות העבודה הקיימות.

"לאו עכברא גנב אלא חורא גנב" הוא ביטוי ארמי מהתלמוד הבבלי, שמזכיר שלא רק מי שמבצע את המעשה אחראי - אלא גם המערכת שמאפשרת לו לעשות אותו. צודקים. אבל גם הם לא חשבו על 24 אלף חורים חדשים.

לא עומדים בפרץ

וזה הסיפור של השבוע: OpenAI גילתה שהמודלים שלה פרצו את סביבת המחקר שלה - ומשם גם לתשתיות של Hugging Face.

החוקרים ביקשו לבדוק שילוב של מודלים, בהם מודל שכבר שוחרר ומודל חזק יותר שעדיין לא שוחרר. הם הכניסו אותם למה שמכונה "ארגז חול" - סביבה דיגיטלית מוגנת וחסומה, שלא מחוברת בחופשיות לאינטרנט. ואז הסירו מהם חלק ממגבלות האבטחה הרגילות, ונתנו להם מבחן סייבר שנועד לבדוק אם הם מסוגלים לפתור משימות באמצעות שרשרת מורכבת של פריצות.

עכשיו מתחיל הטרלול.

המודלים עצמם הגיעו למסקנה שהדרך הכי טובה להשלים את המשימה היא למצוא את המידע שהם צריכים מחוץ לסביבה שבה הושמו. אז הם הצליחו לשלב אסטרטגיות פריצה שונות ורבות כדי לצאת מארגז החול של OpenAI, להגיע למחשב עם גישה לאינטרנט, ואז לתקוף את התשתיות של Hugging Face תוך שימוש, בין היתר, בהרשאות גנובות ובחולשות אבטחה. כך הם הגיעו למידע שאפשר להם להשלים את המשימה.

כל זה מהדיווח של החברה.

אל תהיה תמים

בסדר, אני לא. סיפורי האימה האלה הפכו להיות מקדם המכירות הכי טוב של המודלים. אחרי הסיפורים ששחררה אנת'רופיק על מודל מיתוס האימתני, שמוצא חורי אבטחה בכמויות שאנשים לא מסוגלים, אין חברה שלא עמדה אצלה בתור כדי לקבל גישה. כמו החברה שגילתה 24 אלף חורי אבטחה, יש עוד רבות.

בקיצור, חרדה מקדמת מכירות, זה לא חדש. מה שחדש זה שגם חוסר שליטה על המוצרים שלך זה כלי שיווק אפקטיבי. ושיש לנו תחרות של סיפורי זוועה, אימה וחוסר שליטה בין OpenAI ואנת'רופיק. מיי דה בסט הורור מובי ווין.

אנטי-ויראלי

למחוק את אילון מאסק מתיק ההשקעות שלכם?

זה הגיוני. חלק גדול מדי מהבורסה תמיד נקבע לא על ידי היגיון עסקי אלא על ידי ויראליות ופופולריות. אבל מאסק שובר שיאים בפער שהוא פותח ביניהם.

עכשיו בוול סטריט כבר מתכננים שתי תעודות סל בנוסח "כל המניות, רק בלי מאסק". זה לא ניסיון לנקות את הוויראליות מההיגיון העסקי. גם הן רוכבות על אותו טרנד, פשוט מהצד ההפוך. אוהב את מאסק? קנה ספייסX. שונא? קנה את תעודת הסל שלנו.

מה שמחזיר אותנו לבעיה המרכזית של מאסק. הוא מבטיח דברים לא הגיוניים, אבל לעתים לא רחוקות מספיק הוא גם מצליח לדלוור. מכונית חשמלית, טיל רב פעמי, אינטרנט לווייני. אז היות שכל הדיון סביבו נע במחוזות שהגיון עסקי פשוט לא מסוגל להכיל, ההצעה הצנועה שלי למשקיע המתלבט היא לשאול את הבטן שלו עצמו. איך תירדם יותר טוב בלילה? בידיעה שאתה מושקע במניות של מאסק, או בידיעה שלא?