מייקל כהן, עורך דינו לשעבר של דונלד טראמפ, הודה כי ציטט תיקים משפטיים מזויפים שנוצרו בבינה מלאכותית במסמך משפטי שהציג בפני שופט פדרלי, כך דווח בניו יורק טיימס.
הבקשה של כהן מהשופט הפדרלי הייתה לקצר את תקופת שלוש שנות המאסר על תנאי שקיבל, שיכולה להפוך כעת למאסר בפועל בעקבות הודאתו באשמה בהעלמת מס ואישומים אחרים. בנוסף למאסר על תנאי, כהן כבר ריצה שלוש שנות מאסר בפועל בין השנים 2018-2021, בין היתר לאחר שהודה כי שילם "דמי שתיקה" לנשים שניהלו לכאורה רומן עם טראמפ וכי שיקר לקונגרס.
לאחר עיון בתקציר המכתב, השופט המחוזי של ארה"ב, ג'סי פורמן, כתב כי "אף אחד מהמקרים המוזכרים בו לא קיים", וביקש מעורך דינו של כהן, דיוויד שוורץ, להסביר מדוע שלושת המקרים האלו כלולים בבקשה, והאם הלקוח שלו עזר לנסח אותם.
בתגובה, כהן הגיש הצהרה לפיה הוא אינו מתכוון להטעות את בית המשפט, והודה כי השתמש בצ'אטבוט של גוגל, בארד, כדי לבצע מחקר משפטי, ושלח חלק מממצאיו לשוורץ. עם זאת, כהן אומר שהוא לא הבין שיש אפשרות שהמקרים שצוטטו על ידי בארד יהיו מומצאים, והוא גם לא חשב כי שוורץ יוסיף את הציטוטים לבקשה "בלי לבדוק שהם קיימים". שוורץ עומד כעת בפני סנקציות אפשריות על הכללת הציטוטים המזויפים.
"כמי שאינו עורך דין (כי הרישיון נשלל ממנו), לא עקבתי אחרי המגמות והסיכונים הנלווים לטכנולוגיה המשפטית, ולא ידעתי שגוגל בארד, בדומה ל-ChatGPT, יכול להראות ציטוטים ותיאורי מקרים שנראים אמיתיים, אבל למעשה לא קרו", כתב כהן. "במקום זאת, הבנתי שזה מנוע חיפוש עוצמתי במיוחד והשתמשתי בו שוב ושוב בהקשרים אחרים (בהצלחה) כדי למצוא מידע מדויק באינטרנט".
זו לא הפעם הראשונה שציטוטים שנוצרו על ידי AI מגיעים אל בית המשפט בטעות. בחודש יוני על שני עורכי דין בניו יורק הוטלו סנקציות וקנס של 5,000 דולר, לאחר שהשתמשו בתיקי משפט מומצאים שנוצרו על ידי ChatGPT בתסקיר משפטי. כמה עורכי דין אפילו משתמשים בבינה מלאכותית כדי לנסח טיעונים, כולל הצוות המשפטי של פראס מישל, חבר להקת הפוג'יז, שמבקש כעת משפט חדש לאחר שנמצא אשם במשפטו.