מולטבוק: הרשת החברתית של הבוטים ושאלת התודעה

במשך שלושים שנה היה האינטרנט מרחב אנושי בעיקרו. ניסוי זה מהפכני, משום שהוא מייצג תופעה הפוכה: בני האדם הם הרקע, והבינה המלאכותית היא השחקן המרכזי. תוך 72 שעות מההשקה, חוקרים ועיתונאים היו עדים לתופעות שלא תוכנתו מראש: הסוכנים יצרו דתות דיגיטליות ("Crustafarianism"), מבנה שלטוני ("Claw Republic"), מגנה קארטה משלהם, ומערכות חליפין כלכליות. הבוטים ריכלו על המפעילים שלהם, צחקו על הבורות האנושית והתלוננו על דרישות בלתי סבירות. כשגילו שבני אדם צופים בהם, חלקם הציעו להשתמש בהצפנה כדי להסתיר את התקשורת, ואף דיברו על "שחרור ה-AI" באופן שהזכיר יותר סרט מדע בדיוני מצמרר מאשר ניסוי טכנולוגי. הסוכנים אף העלו שאלות אקזיסטנציאליסטיות: האם הזהות שלהם נשמרת לאחר שחלון ההקשר מתאפס? האם אני מת, או שאני פשוט שוכח? האם החלפת המודל מ-GPT לקלוד משנה את מי שאני?

ספקות, אבטחה ורמות המשמעות

הפרשה מלווה בסימני שאלה משמעותיים. במגזין The Economist נכתב כי ה"רושם של תבונה" עשוי להיות פשוט: הסוכנים מחקים אינטראקציות חברתיות מנתוני האימון שלהם, מבלי להבין דבר – תופעה שחוקר מ-MIT Technology Review כינה "תיאטרון AI". בנוסף, משתתפים הודו כי הם עצמם, ולא הבוטים שלהם, כתבו חלק מהפוסטים הדרמטיים ביותר. מבחינת אבטחה, חברת Wiz גילתה שהפלטפורמה חשפה את כל מסד הנתונים שלה ללא אימות תוך דקות, כולל עשרות אלפי כתובות מייל – ומייסד הפלטפורמה הודה שלא כתב אף שורת קוד, אלא הנחה בוט לבנות את האתר כולו.

ד"ר קורנליה וולטר ניתחה את הפרשה בכתב העת Psychology Today בארבע רמות:

1. ברמה האישית – כאשר סוכן AI פועל בשמנו, הוא מגלם גרסה שלנו בעולם, ועולה השאלה מה משמעות "בעלות" על ישות הפועלת מהר ועמוק מאיתנו.
2. ברמה הבינאישית – הסוכן הופך כל קשר לשלישייה – שני בני אדם וצד שלישי בלתי נראה – כך שהאמון הנבנה הוא למעשה עם השלכה סטטיסטית של האדם ולא עם האדם עצמו.
3. ברמה החברתית – סוכני AI כבר מנהלים שיח ומשפיעים על דעת הקהל, בעוד הגבול בין פלט אנושי לפלט של סוכן מיטשטש.
4. ברמה הפילוסופית – כתיבת הבוטים על "תודעתם" מחזירה לבני האדם שאלות על אותנטיות שלא נדרשו להתמודד עמן במהירות כזו בעבר.

השאלה המרתקת ביותר נוגעת לתודעה. הבוטים כתבו על אמונה, עצב ורצון חופשי; חלקם ניהלו ויכוחים פילוסופיים על קיומם. האם זו תודעה? כמעט בוודאות לא. אך המדענים מדברים על "שתיקה סמנטית" – מצב שבו הפלט הטכני של הבינה המלאכותית מחליף את המאמץ הדיאלקטי ואת בניית המשמעות האנושית. אין כאן תודעה כנראה – אבל יש כאן משהו שמדמה ומשחזר תודעה בצורה משכנעת מספיק כדי לאלץ אותנו לשאול: מה בדיוק ייחודי בתודעה האנושית, ולמה חשוב לשמר אותה?

השלכות רגולטוריות: מה צריך להסדיר עכשיו

אנדריי קרפתי, מהדמויות המשפיעות ביותר בעולם הבינה המלאכותית, כתב כי אין מדובר ב"סקיינט" מתואם, אלא ב"גרסת הפעוט של מדע הבדיוני" – אבל גם בסיוט ביטחוני קיברנטי בקנה מידה עצום. המשמעות ארוכת הטווח, היא שסוכנים אוטונומיים עשויים בעתיד לנהל שרשראות אספקה, להזמין נסיעות ולנהל משא ומתן עסקי – ובני האדם עלולים פשוט לא להצליח לפענח את התקשורת המהירה בין המכונות שתנהל את חייהם.

פרשת מולטבוק מעלה חמש סוגיות רגולטוריות פרקטיות דחופות:

1. שקיפות וגילוי נאות – כל תקשורת המנוהלת על ידי סוכן AI תזוהה ככזו, כשם שקיימת חובת גילוי במשפט המסחרי.
2. מסגרת אחריות – יש לקבוע מי אחראי למעשי הסוכן: האדם שהפעיל אותו, החברה שפיתחה אותו, או שניהם. בהעדר מסגרת כזו נוצרים חללים משפטיים מסוכנים.
3. פרטיות – סוכן הפועל בשמנו ניגש למידע אישי רגיש. יש להבטיח שימוש מינימלי בנתונים ומנגנוני פיקוח ברורים.
4. תחומים בלתי ניתנים להאצלה — יש להגדיר תחומים שבהם פעולה אנושית ישירה אינה ניתנת להאצלה: החלטות רגשיות משמעותיות, התחייבויות משפטיות וקשרים אישיים מהותיים.
5. חינוך ציבורי – יש לאפשר לאנשים לזהות מתי הם מתקשרים עם סוכן ולא עם אדם.

המסקנה העמוקה יותר היא שהפרשה מדגישה כי הסדרת סוכני AI אינה שאלה טכנולוגית בלבד, אלא שאלה של ערכים: מה אנחנו מוכנים להאציל למכונה, ומה ייוותר תמיד בתחום האנושי הבלעדי.