דריו אמודיי, מנכ"ל חברת Anthropic (המפתחת של קלוד) ואחת מהדמויות החשובות והמשפיעות ביותר כיום בעולם הבינה המלאכותית, פרסם בשלהי שנת 2024 את מאמרו המכונן "Machines of Loving Grace", בו ביקש להציג חזון אופטימי ומפורט לעתיד האנושות בעידן הבינה המלאכותית העוצמתית. אמודיי טוען כי הדיון הציבורי הנוכחי שבוי יתר על המידה בתרחישי אימה וניהול סיכונים, וכי עלינו להגדיר את ההזדמנויות ואת המטרה החיובית ששווה לשאוף אליה. הוא מתאר את המצב הנוכחי של המין האנושי כ"גיל התבגרות" טכנולוגי – שלב מסוכן ובלתי יציב שבו הכוח שלנו גדל במהירות אך התבונה והמוסר שלנו טרם הדביקו את הפער. לשיטתו, בינה מלאכותית חזקה (Powerful AI) עשויה להיות הגורם שיאפשר לאנושות לצלוח את השלב הזה ולהגיע ל"בגרות" המאופיינת בשפע, בריאות ויציבות.
החלק הארי של המאמר מוקדש לחיזוי ההשפעות החיוביות של ה-AI בחמישה תחומים מרכזיים, כשהמרכזי שבהם הוא עולם הביולוגיה והבריאות. אמודיי העריך כי AI יוכל לדחוס מאה שנים של התקדמות מדעית לתוך עשור אחד, מה שיוביל לריפוי רוב סוגי הסרטן, מחלות זיהומיות ומחלות ניווניות, ואף להארכה משמעותית של תוחלת החיים הבריאה. מעבר לכך, הוא דן בפוטנציאל למהפכה במדעי המוח שתאפשר טיפול יעיל במחלות נפש והבנה עמוקה של התודעה, ובאפשרות להשתמש בטכנולוגיה כדי לצמצם פערים כלכליים גלובליים ולחזק מבנים דמוקרטיים מפני שחיתות ודיקטטורה.
המאמר שימש מעין "מפת דרכים" אסטרטגית מאת אחד האנשים המשפיעים ביותר בתעשייה. והציב רף גבוה של אחריות מוסרית עבור מפתחי הטכנולוגיה. עבור הקהילה המשפטית והרגולטורית, המאמר מדגיש כי עלינו לבנות מסגרות שלא רק מונעות נזק, אלא גם מבטיחות שהתועלות העצומות הללו יחולקו בצורה הוגנת ולא ייחסמו על ידי חסמים בירוקרטיים או ריכוזיות יתר של כוח. זהו קול מאזן הכרחי בשיח הגלובלי, המזכיר שהטכנולוגיה היא כלי שנועד, בסופו של דבר, לשרת את החסד והרווחה האנושית.
והנה, בתחילת שנת 2026, פרסם אמודאי את המאמר החשוב The Adolescence of Technology – Confronting and Overcoming the Risks of Powerful AI, בו הוא עוסק בהרחבה בסכנות הגלומות בטכנולוגיה.
הוא פותח את המאמר בסצנה מהסרט "Contact", בו האסטרונומית שואלת חייזרים את השאלה הגדולה – "איך שרדתם את גיל ההתבגרות הטכנולוגי שלכם מבלי להשמיד את עצמכם?" זו השאלה שמנחה את כל המסמך. הוא מאמין שאנחנו נמצאים ממש עכשיו בנקודת מפנה כזו, כשה-AI מציב בפני האנושות כוח כמעט בלתי נתפש, ושאלה פתוחה אם אנו בשלים מספיק להתמודד איתו.
אמודיי מגדיר "בינה מלאכותית עוצמתית" כמערכת שחכמה יותר מכל זוכה פרס נובל, מסוגלת לפעול אוטונומית לאורך שבועות, ניתן להריץ אותה במיליוני עותקים במקביל. בעצם "מדינה של גאונים בתוך מרכז נתונים". לדעתו, זה עשוי להיות רחוק רק מרחק שנה או שנתיים מאיתנו.
זהו כנראה המסמך הכן ביותר שפרסם ראש חברת AI מובילה. אדם שבנה את הטכנולוגיה מתאר בפירוט את הסיכונים שהוא עצמו יצר, כולל הודאה שחברתו שלו מהווה סיכון פוטנציאלי. הוא מציב את תקופתנו כרגע מכריע כמו המצאת הפצצה הגרעינית – אבל בסקאלה גדולה יותר, עם פחות זמן להגיב, ועם מורכבות גדולה בהרבה. המסמך חשוב כי הוא מגיע לא מאקדמאי אלא מהאדם שמוביל אחת מחברות ה-AI הגדולות בעולם ושכותב ממקום של אחריות ישירה על מה שהולך להיות.
