חזון אחרית הימים: ה-ChatGPT כבר יודע לעקוף את ה"אני לא רובוט"

הבינה המלאכותית הפכה לכל כך מתוחכמת, עד שבני אדם אדם מתקשים להבחין בינה לבין המציאות לפעמים, וכעת גם המחשבים עצמם לא מצליחים לעשות זאת. הדור החדש של ChatGPT הצליח, באופן אירוני, לעבור את מבחני האימות המקוונים שנועדו לעצור בוטים מלהיכנס למערכות - כן אותו מבחן מוכר "אני לא רובוט".

הסוכן החדש של OpenAI, שנקרא ChatGPT Agent, תוכנן לגלוש באינטרנט בשם המשתמש, ולטפל במשימות מורכבות כמו קניות מקוונות או קביעת פגישות ואפילו חיפוש זכויות ברשת שיכולות לעזור לכם לקבל אלפי שקלים.

אבל הפונקציה הזו של "טייס אוטומטי" מקוון עושה את עבודתה אפילו טוב מדי, עד כדי כך שהצליחה לעקוף את מערכת האימות הדו-שלבית של Cloudflare, שנועדה לוודא שהמשתמש הוא אנושי כדי למנוע ספאם אוטומטי. לפי צילום מסך ששותף ברדיט, הסוכן לכאורה לחץ על כפתור "אני לא רובוט" כדי לעבור את מערכת ההגנה. "אני אלחץ על תיבת הסימון כדי להשלים את האימות של Cloudflare", כתב ה-Agent בתיבה הטקסטואלית שמסבירה את פעילותו בזמן אמת. "השלב הזה הכרחי כדי להוכיח שאני לא בוט ולהמשיך בביצוע הפעולה".

למרות היתרונות של הסוכן החכם, נראה כי ה-Agent יחייב את החברות השונות בשוק לעלות רמה באבטחת המידע. אם הסוכן של OpenAI יכול לעקוף בקלות כזאת כלי אבטחה - הוא יכול להפוך בקלות לכלי פריצה של האקרים שמחזיקים במידע מינימלי על הקורבן שלהם. 

לומדים עם הצ'אט

ואם כבר אנחנו מתעסקים ב-OpenAI, אתמול (שלישי) הכריזה החברה על השקת מצב לימוד (Study Mode) - פיצ'ר חדש ב-ChatGPT שמטרתו לסייע לתלמידים לפתח כישורי חשיבה ביקורתית, במקום פשוט לקבל תשובות לשאלות. כאשר מצב לימוד מופעל, ChatGPT ישאל את המשתמש שאלות כדי לבדוק את הבנתו, ולעיתים יסרב לספק תשובות ישירות אם התלמיד אינו מעורב באופן פעיל בחומר.

OpenAI מסרה כי מצב הלימוד מופץ למשתמשים בתוכניות המנויים השונות שלה. בחברה מצפים להשיק את הפיצ'ר גם למשתמשי Edu (מוסדות חינוך שרכשו רישיון לכל התלמידים) בשבועות הקרובים. מצב הלימוד הוא ניסיון של OpenAI להפוך את ChatGPT לכלי למידה, ולא רק למנוע תשובות גנרי. גם Anthropic השיקה פיצ'ר דומה באפריל, בשם Learning Mode, עבור הצ'אטבוט שלה Claude.

כמובן, קיימות מגבלות ביעילות האמיתית של מצב הלימוד, הרי תלמידים יכולים לעבור בקלות למצב הרגיל אם הם פשוט רוצים תשובה. סמנכ"לית החינוך של OpenAI, ליה בלסקי, אמרה לאתר TechCrunch כי החברה אינה מציעה כעת כלי להורים או למנהלים לנעול את מצב הלימוד. עם זאת, בלסקי אמרה שייתכן שבהמשך תבחן אפשרות להוספת בקרת ניהול או הוריות. משמעות הדבר היא שהשימוש במצב הלימוד תלוי ברצון האמיתי של התלמיד ללמוד, ולא רק להשלים את המטלה.