מקרה חריג שהתרחש לאחרונה בבית המשפט העליון של מדינת ניו יורק מעלה שאלות מהותיות על גבולות השימוש בטכנולוגית בינה מלאכותית באולם בית המשפט. עורך הדין ד"ר אייל ברוק ממחלקת הבינה המלאכותית במשרד ש. הורוביץ, סוקר מקרה שבו בעל דין המייצג את עצמו ביקש להציג את טיעוניו באמצעות סרטון וידאו שכלל אוואטר שנוצר בבינה מלאכותית – מבלי לגלות זאת מראש לבית המשפט.
לאחרונה התרחש מקרה יוצא דופן בבית המשפט העליון של מדינת ניו יורק, כאשר ג'רום דיוולד, בן 74, הופיע בפני בית המשפט בתיק סכסוך עבודה נגד .MassMutual Metro New York. דיוולד, שייצג את עצמו, ביקש להציג טיעון באמצעות סרטון וידאו, אך לא גילה מראש כי הסרטון כולל אוואטר שנוצר באמצעות בינה מלאכותית.
האוואטר, שנקרא "ג'ים", נוצר באמצעות תוכנה של חברת Tavus מסן פרנסיסקו. דיוולד הסביר כי בחר באוואטר בשל קשייו בדיבור ממושך, הנובעים ממחלת סרטן הגרון שעבר בעבר.
עם תחילת הצגת הסרטון, השופטת הבחינה מיד כי מדובר בדמות מלאכותית, והורתה להפסיק את הסרטון. היא הביעה את מורת רוחה מכך שלא נמסר מידע מראש על השימוש באוואטר, והדגישה כי אינה מעריכה הטעיה מסוג זה. השופטת ציינה כי דיוולד כבר הופיע בעבר בפני בית המשפט ודיבר בעל פה, ולכן לא ברור מדוע בחר להשתמש באוואטר. היא גם הביעה חשש שהשימוש באוואטר עשוי לשמש לקידום עסקיו של דיוולד בתחום הייעוץ המשפטי מבוסס הבינה המלאכותית.
דיוולד התנצל בפני בית המשפט והסביר כי לא הייתה לו כוונה להטעות, אלא רק להציג את טיעוניו בצורה ברורה יותר. הוא הודה כי לא הצליח ליצור אוואטר הדומה לו, ולכן השתמש בדמות סטנדרטית מהתוכנה. לאחר האירוע, דיוולד שלח מכתב התנצלות לבית המשפט.
מקרה זה מדגיש את האתגרים המשפטיים והאתיים הנובעים מהשימוש הגובר בבינה מלאכותית במערכת המשפט. בעוד שבתי משפט מסוימים, כמו בית המשפט העליון של אריזונה, החלו להשתמש באוואטרים מבוססי בינה מלאכותית לצורך הסברת פסקי דין לציבור, השימוש באוואטרים לצורך הצגת טיעונים משפטיים מעורר שאלות מורכבות שכן עשוי להטעות את בית המשפט לגבי זהות הדובר, להקשות על הערכת אמינותו, ולפגוע בעקרונות יסוד של ההליך המשפטי, כגון שקיפות, אחריותיות והגינות.
