יש אזהרות שמקבלות משמעות מיוחדת לא רק בגלל תוכנן, אלא בגלל זהותו של האדם שמשמיע אותן. כאשר ביל גייטס מזהיר מפני האפשרות שבינה מלאכותית תוכל לאפשר אירועים שיגרמו למספר עצום של קורבנות, ראוי לעצור ולהקשיב. לא מפני שצריך לקבל את תחזיתו כאמת מוחלטת, אלא מפני שגייטס אינו אדם העומד מחוץ למהפכה הטכנולוגית. הוא אחד מסמליה הגדולים. במשך עשרות שנים הוא היה מזוהה עם ההבטחה שהטכנולוגיה תרחיב את יכולתו של האדם, תייעל את חייו ותפתור בעיות שבעבר נראו בלתי פתירות. וכעת מאותו עולם עצמו עולה אזהרה: הכלי שהאדם בונה כדי להעצים את כוחו עלול להעצים גם את כוחו של מי שיבקש להשתמש בו לרעה.
חשוב לדייק. גייטס אינו טוען שהבינה המלאכותית עומדת להרוג מיליארדי בני אדם, וגם לא מתאר בהכרח תרחיש שבו מכונה עצמאית מחליטה להשמיד את האנושות. הוא עדיין טעון שאם יהיו לאנושות כלים היא תוכל להשתמש בהם. הוא לא חושש מגולם שיקום על יוצרו. עיקר האזהרה שלו הוא שבינה מלאכותית מתקדמת עלולה להעניק לאנשים בעלי כוונות הרסניות יכולות שלא היו בידיהם בעבר – בתחומים כמו סייבר, פגיעה בתשתיות וביולוגיה. כלומר, הסכנה אינה בהכרח מכונה שמתמרדת באדם, אלא אדם שמקבל לידיו מכונה בעלת עוצמה חריגה. וכידוע, כל רובה יורה לשני הכיוונים.
ההבחנה הזאת חשובה מאוד, משום שהיא מחזירה את הדיון אל המקום שבו הוא צריך להיות: האדם.
האם הבינה המלאכותית עצמה יכולה להיות אויב?
ואני רוצה להצביע על בעיה אחרת: הבעיה איננה רק מה AI מסוגל לעשות. השאלה העמוקה יותר היא מה האדם מוכן למסור לו.
המהפכה הטכנולוגית תמיד הבטיחה לאדם שחרור. המכונה תחסוך עבודה, המחשב יחסוך חישובים, האינטרנט יחסוך חיפוש, והבינה המלאכותית תחסוך אפילו את המאמץ הכרוך בניסוח, בניתוח ובקבלת החלטות. בכל שלב כזה האדם מרוויח נוחות, מהירות ויעילות. אבל לכל נוחות יש מחיר אפשרי: תלות.
וזו אולי השאלה החשובה ביותר של עידן ה-AI: האם הטכנולוגיה משחררת את האדם, או שהיא מתחילה לשחרר אותו דווקא מן הדברים שהופכים אותו לאדם?
כאשר מערכת כותבת עבורי טקסט, היא חוסכת לי זמן. כאשר היא מסכמת עבורי מידע, היא מקלה עליי. כאשר היא מציעה לי פתרון, היא מרחיבה את האפשרויות שלי. אבל אם אני מפסיק לכתוב, להעמיק, להשוות, לזכור, להתלבט ולהכריע – משהו אחר מתרחש. לא בהכרח השתחררתי מעבודה מיותרת. ייתכן שוויתרתי על חלק מתהליך החשיבה עצמו.
וזה כבר אינו דיון טכנולוגי בלבד. זהו דיון על חירות.
חירות אינה רק היכולת לעשות מה שאני רוצה. חירות היא גם היכולת לחשוב בעצמי, להטיל ספק, לעמוד מול תשובה מוכנה ולשאול אם היא נכונה. אדם חופשי אינו אדם שאינו משתמש בכלים; הוא אדם שאינו הופך לכלי בידיהם.
כאן נמצא הפרדוקס הגדול של הבינה המלאכותית. היא יכולה להעצים את האדם באופן חסר תקדים, אך אותה יכולת בדיוק יכולה גם להחליש אותו. היא יכולה להיות מכשיר שמרחיב את התודעה – או תחליף לתודעה. היא יכולה לעזור לאדם לחשוב – או לגרום לו להפסיק לחשוב.
הסכנה אינה חייבת להופיע כרגע דרמטי שבו המכונה משתלטת על העולם. ייתכן שהיא תופיע בצורה שקטה הרבה יותר.
האדם ייתן למערכת לבחור מה לקרוא. אחר כך מה לראות. אחר כך כיצד לנסח. אחר כך כיצד לנתח. אחר כך מה כדאי לעשות. בהדרגה, בלי כפייה ובלי פקודה, יותר ויותר פעולות שהיו בעבר חלק משיקול הדעת האנושי יעברו למערכת.
וזהו מנגנון שליטה מסוג חדש: לא שליטה באמצעות כפייה, אלא שליטה באמצעות נוחות.
אין צורך שמישהו יכריח את האדם לוותר על עצמאותו. מספיק שהמערכת תהיה מהירה יותר, נוחה יותר, זמינה יותר ומשכנעת יותר. האדם עצמו יבקש ממנה לעשות עבורו את מה שפעם דרש ממנו מאמץ.
לכן אין צורך לבחור בין שתי תפיסות קיצוניות: AI כגואל האנושות או AI כמחריב האנושות. שתי התפיסות עלולות להפוך למיתוסים שמחליפים חשיבה. השאלה האמיתית צריכה להיות מדויקת יותר: מה אנחנו יודעים? מה אנחנו מניחים? מה אנחנו עדיין לא יודעים? מה המערכת באמת מסוגלת לעשות? ומה אנחנו מוסרים לה מבלי לשים לב?
זו בדיוק חירות התודעה.
גם כאשר אדם מקבל תשובה נכונה, הוא אינו צריך לוותר על הזכות לשאול כיצד התקבלה. גם כאשר מערכת חוסכת לו זמן, הוא צריך לדעת מה היא חוסכת ממנו – ומה היא לוקחת ממנו בתהליך.
האתגר הגדול של הבינה המלאכותית, אם כן, אינו רק למנוע שימוש הרסני בטכנולוגיה. הוא לשמור על האדם בתוך הטכנולוגיה.
שהמכונה תהיה חזקה – אבל האדם יישאר בעל שיקול הדעת.
שהמערכת תוכל להציע – אבל האדם יכריע.
שה-AI יוכל לסייע בחשיבה – אבל לא יהפוך למחליף של החשיבה.
מפני שהשאלה הגדולה אינה אם המכונה תהיה חכמה יותר.
השאלה היא אם האדם יישאר חופשי מספיק כדי לומר לה לא.
ובסופו של דבר, ייתכן שזו המשמעות העמוקה ביותר של אזהרת גייטס: לא רק לשאול מה הבינה המלאכותית עלולה לעשות לאנושות, אלא לשאול מה האנושות עלולה לעשות לעצמה כאשר היא מוסרת בהדרגה את יכולותיה לכלים שבנתה בעצמה.
הסכנה הגדולה אינה בהכרח שהמכונה תהפוך לאדם.
ייתכן שהסכנה העמוקה יותר היא שהאדם יהפוך לתלוי במכונה עד כדי כך שישכח מה פירוש להיות אדם.
הטכנולוגיה יכולה לעזור לנו לחשוב. אבל ברגע שבו אנחנו מפסיקים לחשוב בלעדיה – היא כבר אינה רק כלי. ■















