בגלל הבינה המלאכותית: סם אלטמן מזהיר מפני "משבר הונאות" שמאיים על העולם

הבינה המלאכותית הפכה לכלי מרכזי בביצוע הונאות - אם זה דרך תמונות וטקסטים ברשתות החברתיות או באמצעות שיחות טלפוניות, כמו "העוקץ הרוסי" בישראל. כעת גם מנכ"ל OpenAI, סם אלטמן, האיש שהביא את ChatGPT לעולם, מזהיר כי העולם עומד בפני "משבר הונאות" (fraud crisis), בשל האופן שבו בינה מלאכותית מאפשרת לשחקנים זדוניים להתחזות לאחרים.

"מה שמפחיד אותי במיוחד זה שעדיין יש מוסדות פיננסיים שמקבלים טביעת קול כאמצעי אימות - כלומר אתה אומר ביטוי מסוים, והם פשוט מבצעים את הפעולה", אמר אלטמן. "זה דבר מטורף להמשיך לעשות... הבינה המלאכותית כבר שיבשה את רוב שיטות האימות הקיימות כיום, למעט סיסמאות".

הדברים נאמרו במהלך ראיון נרחב על ההשפעה הכלכלית והחברתית של AI שנערך ביום שלישי בפדרל ריזרב, הבנק המרכזי של ארה"ב. אלטמן שוחח מול קהל שכלל נציגים של מוסדות פיננסיים גדולים בארה"ב, וסיפר גם על התפקיד שהוא מצפה שהבינה המלאכותית תמלא בכלכלה.

הופעתו התקיימה לפני פרסום "תכנית הפעולה הלאומית ל-AI" של הבית הלבן, שלושה צווים נשיאותיים שנחתמו אתמול (רביעי) על ידי הנשיא טראמפ. התוכנית היא למעשה איחוד של צווים נשיאותיים קיימים וחדשים לצד מהלכים נוספים של הממשל שמטרתם היא האצת פיתוח יכולות ה-AI בארה"ב, תוך ביטול רגולציות בתחום, כמו אלו שהטיל ממשל ביידן. בנוסף, טראמפ הדגיש כי על הבינה המלאכותית להיות ניטרלית ולא Woke.

OpenAI, שסיפקה המלצות לתוכנית, הגבירה לאחרונה את נוכחותה בוושינגטון ובסביבתה. ביום שלישי אישרה החברה כי תפתח משרד ראשון בוושינגטון הבירה בתחילת השנה הבאה, שישמש כבסיס לכ-30 עובדים. צ'אן פארק, ראש תחום יחסים בינלאומיים בארה"ב וקנדה, יעמוד בראש המשרד לצד ג'ו לרסון, שעוזב את חברת הטכנולוגיה הביטחונית Anduril כדי לשמש כסגן נשיא לענייני ממשל ב-OpenAI.

המשרד החדש ישמש לאירוח קובעי מדיניות, הדגמות טכנולוגיה והדרכות AI, למשל למורים ולבכירים בממשל. הוא גם יארח מחקרים על השפעת AI על הכלכלה ועל דרכים לשפר את הנגישות לטכנולוגיה.

יש לציין, כי למרות האזהרות של אלטמן לגבי הסיכונים שבטכנולוגיה, OpenAI קראה לממשל טראמפ להימנע מהסדרה רגולטורית שעלולה לפגוע ביכולתה של התעשייה האמריקאית להתחרות בזירה הבינלאומית, כפי שבאמת הוא עשה.

החשש: סין תעקוף את ארה"ב בפיתוח AI

אלטמן אינו היחיד שחושש כי AI תוביל לגל הונאות חמור. ה-FBI כבר הזהיר בשנה שעברה מהונאות קול ווידאו שמבוססות על בינה מלאכותית. הורים דיווחו שניסו לרמות אותם באמצעות קול מדומה של ילדיהם שנשמע במצוקה, וההונאה הזאת נפוצה כאמור גם בישראל, בעיקר בקרב עולי ברית המועצות לשעבר, במטרה לגנוב כסף מההורים המודאגים. מוקדם יותר החודש הזהירו רשויות בארה"ב כי מישהו התחזה לקולו של מזכיר המדינה מרקו רוביו בעזרת AI, ופנה לשרי חוץ, מושל מדינה וחבר קונגרס.

"אני מאוד מודאג מכך שאנו עומדים בפני משבר הונאות רציני ומתקרב", אמר אלטמן. "כיום זה מתחיל בשיחת טלפון קולית, אבל בקרוב זו תהיה שיחת וידאו או פייסטיים שלא ניתנת להבדיל בינה לבין המציאות", הוסיף. הוא הדגיש כי OpenAI אינה מפתחת כלים כאלה, אך מדובר באתגר עולמי שיידרש פתרון. אלטמן תומך בכלי בשם The Orb, שפותח על ידי חברת Tools for Humanity, אשר מבטיח לספק "הוכחה לאנושיות" בעידן שבו קשה יותר לדעת מי אמיתי באינטרנט.

אלטמן גם שיתף במה שמדיר שינה מעיניו: האפשרות ששחקנים עוינים יפתחו וישתמשו ב-AI ברמת "סופר-אינטליגנציה" לפני שהעולם מספיק להתגונן - למשל, שימוש של יריבה אמריקאית ב-AI כדי לשתק את רשת החשמל או לפתח נשק ביולוגי. הערה זו משקפת את החשש הרווח בבית הלבן ובקונגרס מפני אפשרות שסין תעקוף את ארה"ב בפיתוח AI.

הוא גם הביע חשש מהאפשרות שבני אדם יאבדו שליטה על מערכת בינה מלאכותית על-אנושית, או שיתנו לה יותר מדי סמכויות החלטה. מספר חברות, כולל OpenAI, שואפות לפתח סופר-אינטליגנציה, ואלטמן כבר אמר שהוא צופה שבשנות ה-30 של המאה, כלומר בעשור הבא, תיווצר בינה מלאכותית שתחצה את גבול היכולת האנושית - אך עדיין לא ברור כיצד בדיוק יוגדר הרף הזה ומתי יושג, אם בכלל.

ההשפעה של AI על שוק העבודה? "אף אחד לא יודע"

למרות הסיכונים, אלטמן אמר שהוא פחות מודאג מעמיתיו בעמק הסיליקון בנוגע להשפעת AI על מקומות עבודה, זאת לאחר שמנהלים בכירים כמו מנכ"ל אנת'רופיק, דריו אמודיי, ומנכ"ל אמזון, אנדי ג'סי, הזהירו כי הטכנולוגיה תחליף עובדים.

לטענתו, "אף אחד לא באמת יודע מה יקרה הלאה". "יש הרבה תחזיות שנשמעות חכמות", אמר, "'זה ישפיע על זה, והכלכלה תשתנה כך וכך'. אף אחד לא יודע. לדעתי, מדובר במערכת מורכבת מדי, טכנולוגיה חדשה מדי ומשמעותית מכדי שניתן יהיה לחזות את השפעותיה".

ובכל זאת, לאלטמן יש כמה השערות. הוא סבור ש"תחומים שלמים של מקצועות ייעלמו", אך יקומו עבודות חדשות. הוא גם חזר על תחזית ישנה שלו: בעוד מאה שנה, ייתכן שלא יהיו לאנשים "עבודות אמיתיות" כפי שאנו מכירים כיום.

"יהיה לך כל מה שאתה צריך. לא יהיה לך מה לעשות", אמר. "אז תמציא לעצמך עבודה כדי לשחק משחק סטטוס מגוחך, להעביר את הזמן ולהרגיש מועיל בעיני אחרים".

לדבריו, הסיבה לא לדאוג מ-AI שגוזלת משרות היא שבעתיד ייתכן שלא נזדקק למשרות כלל, אם כי הוא לא הסביר כיצד כלים אלו יוכלו, למשל, לטעון טיעון בבית משפט, לנקות למישהו אחר את השיניים או לבנות בית.

במקביל לדבריו של אלטמן, פרסמה OpenAI דו"ח מאת הכלכלן הראשי שלה, אהרון (רוני) צ'אטרג'י, הסוקר את השפעות ChatGPT על פריון העבודה. 

בדוח, צ'אטרג'י השווה את הבינה המלאכותית לטכנולוגיות מהפכניות כמו חשמל וטרנזיסטור. לדבריו, ל-ChatGPT יש כיום 500 מיליון משתמשים ברחבי העולם, כאשר השבוע חשף אלטמן את כמות הפרומפטים שהוא מקבל מדי יום - למעלה מ-2.5 מיליארד.

בקרב משתמשים אמריקאים, 20% משתמשים ב-ChatGPT כ"מורה פרטי" ללמידה ולשדרוג כישורים, אף שהדוח לא מפרט אילו נושאים נלמדים. עוד צוין כי יותר ממחצית מהמשתמשים בארה"ב הם בגילאי 18-34, מה שמעיד, לדבריו, על פוטנציאל לתועלת כלכלית ארוכת טווח ככל שימשיכו לשלב AI בעבודה.

בשנה הקרובה צפוי צ'אטרג'י לעבוד יחד עם הכלכלנים ג'ייסון פורמן ומייקל סטריין על מחקר מעמיק נוסף על השפעת AI על שוק העבודה בארה"ב. המחקר יתבצע במשרד החדש של החברה בוושינגטון הבירה.