האם צ'אטבוטים יכולים להיות מודעים כמו בני אדם?

שאלות לגבי מהי חוויה סובייקטיבית, למי יש אותה וכיצד היא קשורה לעולם הפיזי שסביבנו רדפו את מוחותיהם של פילוסופים במשך רוב ההיסטוריה האנושית. עם זאת, תיאוריות מדעיות של תודעה שניתנות לכימות וניתנות לבדיקה אמפירית הופיעו רק בעשורים האחרונים.

תיאוריות מודרניות רבות של תודעה מתמקדות בעקבות שהותירו הרשתות הסלולריות העדינות של המוח שמהן נובעת התודעה. כיום, שניים מהם שולטים: תורת המידע המשולבת ותיאוריית סביבת העבודה הגלובלית העצבית.

לפני 25 שנים היה לנו ויכוח עם הפילוסוף האוסטרלי דיוויד צ'למרס. הבטחתי לו יין טוב אם העקבות העצביות הללו, הנקראות טכנית המתאם העצבי של התודעה, יתגלו ויתוארו בבירור עד יוני 2023.

עם זאת, הסתירה בין תיאוריית המידע המשולבת לתיאוריית סביבת העבודה הגלובלית העצבית נותרה בלתי פתורה. זה נובע מעדויות מעורבות בחלקן לגבי אילו אזורים במוח אחראים לחוויה חזותית ו תפיסה סובייקטיבית של פנים או אובייקטים, אם כי החשיבות של קליפת המוח הקדם-מצחית לחוויה מודעת הייתה מוּפרָך. אז הפסדתי בהימור ושלחתי את היין לצ'למרס.

שתי התיאוריות הדומיננטיות נוצרו כדי להסביר את הקשר בין תודעה ופעילות עצבית בבני אדם ובבעלי חיים קשורים כמו קופים ועכברים. ושתי התיאוריות מנחות הנחות שונות מהותית לגבי חוויה סובייקטיבית ומגיעות למסקנות הפוכות לגבי תודעה בחפצים מלאכותיים. עד כמה תיאוריות אלו מאושרות או מופרכות אמפירית ביחס לתודעה ששורשיה למוח, יש השלכות חשובות על התשובה לשאלה הבלתי פתורה של זמננו: האם מכונות יכולות להרוויח תוֹדָעָה?

מהם צ'אטבוטים מהדור החדש?

לפני שנדון בזה, הרשו לי לקחת אתכם להקשר ולהשוות טכניקה מודעת עם טכניקה שמציגה רק התנהגות אינטליגנטית. מהנדסי מחשבים שואפים להעניק למכונות את האינטליגנציה הגמישה ביותר שאיפשרה פעם אדם לעזוב את אפריקה ולאכלס את כדור הארץ כולו. זה נקרא בינה כללית מלאכותית (AGI).

רבים טוענים ש-AGI היא פוטנציאל רחוק. ההתקדמות המדהימה שנעשתה בתחום הבינה המלאכותית בשנה האחרונה הפתיעה את העולם כולו, כולל מומחים. עם הופעתן של יישומי תוכנה רהוטים לשיח, הנקראים בשפה הרווחת צ'טבוטים, מתוך נושא אזוטרי, שנדונו על ידי מעריצי מדע בדיוני ואליטה של ​​תעשיית ה-IT מעמק הסיליקון, דיונים על AGI הפכו לדיון מה שמשקף אי שביעות רצון ציבורית רחבה מהסיכון הקיומי לאורח החיים שלנו ושלנו סוג.

צ'טבוטים מבוססים על מודלים ענקיים של שפות. המפורסמים שבהם הם סדרה של בוטים הנקראים טרנספורמטורים מיומנים מראש, או GPTs. הם נוצרו על ידי OpenAI בסן פרנסיסקו. לאור הגמישות, האוריינות והיכולת של הגרסה האחרונה, GPT-4, קל להאמין שיש לה אינטליגנציה ואישיות. אפילו התקלות המוזרות שלה, המכונות "הזיות", משתלבות בתיאוריה הזו.

GPT-4 ומתחריו, כגון LaMDA ו-Google's Bard, מאומנים בספריות של ספרים דיגיטליים ומיליארדי דפי אינטרנט זמינים לציבור. הגאונות של מודל השפה היא בכך שהוא לומד ללא השגחה, מעבד מילה אחר מילה ומנסה לחזות את הביטוי החסר. היא עושה זאת שוב ושוב, מיליארדי פעמים, ללא התערבות חיצונית.

ברגע שהמודל צובר ידע על ידי בליעת הרשומות הדיגיטליות של האנושות, המשתמש מציג משפט לא מוכר - אחד או יותר. המודל מנבא את המילה הראשונה בסבירות הגבוהה ביותר, ואז את המילה הבאה, וכן הלאה. העיקרון הפשוט הזה הראה תוצאות מדהימות באנגלית, גרמנית, סינית, הינדית, קוריאנית ושפות אחרות, כולל שפות תכנות שונות.

מה ההבדל בין אינטלקט לתודעה

חשוב שהחיבור המכונן על בינה מלאכותית, "מחשוב ואינטליגנציה", שנכתב על ידי אלן טיורינג בשנת 1950, נמנע מהשאלה "האם מכונות יכולות לחשוב?", כלומר, השאלה האם יש להן תוֹדָעָה. טיורינג הציע את "משחק החיקוי": האם צופה יכול להבחין באופן אובייקטיבי בין פלט שהודפס על ידי אדם לבין פלט שמודפס על ידי מכונה אם הזהות של שניהם מוסתרת.

היום זה ידוע בתור מבחן טיורינג, וצ'אטבוטים טובים בזה מאוד, למרות שהם מכחישים זאת בחוכמה אם שואלים אותם ישירות. האסטרטגיה של טיורינג החלה עשרות שנים של התקדמות בלתי נמנעת שהובילה ליצירת GPT, אך התעלמה מהבעיה.

בוויכוח הצ'אטבוט משתמעת ההנחה שבינה מלאכותית זהה לתודעה מלאכותית, שלהיות חכם זהה להיות מודע. ולמרות שבבני אדם ובאורגניזמים מפותחים אחרים אינטליגנציה ותודעה מחוברים, הם לא בהכרח תמיד מלווים זה את זה.

אינטליגנציה עוסקת בחשיבה וללמוד לפעול ומתוך פעולות של עצמך ושל אחרים, כדי לחזות בצורה מדויקת יותר את העתיד ולהתכונן אליו טוב יותר. זה לא משנה אם זה אומר השניות הקרובות ("אוי, המכונית הזו דוהרת לעברי") או השנים הבאות ("אני צריך ללמוד לקודד"). אינטליגנציה עוסקת בסופו של דבר בפעולה.

תודעה, לעומת זאת, קשורה למצבי הוויה - לראות שמיים כחולים, לשמוע ציפורים שרות, להרגיש כאב, להיות. אוהבים. זה לא משנה אפילו אם בינה מלאכותית שיצאה משליטה חשה במשהו. כל מה שחשוב הוא שיש לו מטרה שאינה קשורה לרווחה ארוכת הטווח של האנושות. וזה לא משנה אם הוא יודע או לא מה הוא מנסה לעשות, מה שאנשים מכנים מודעות עצמית. הוא יחתור "ללא שכל" את מטרתו. אז, לפחות מבחינה רעיונית, גם אם נבנה AGI, זה לא יגיד לנו הרבה אם זה מרגיש משהו.

בידיעה של כל זה, הבה נחזור לשאלה המקורית כיצד הטכנולוגיה יכולה להיות מודעת. נתחיל מהתיאוריה הראשונה מבין שתיים.

איזה הסבר מציעה תורת המידע המשולב?

היא מתחילה בניסוח חמש תכונות אקסיומטיות של כל חוויה סובייקטיבית אפשרית. ואז שואל את השאלה מה צריך מעגל עצבי כדי ליישם את חמשת המאפיינים האלה, להדליק כמה נוירונים ולכבות אחרים. או, במילים אחרות, מה צריך שבב מחשב כדי להפעיל טרנזיסטורים מסוימים ולכבות אחרים.

אינטראקציות של סיבה ותוצאה בתוך מעגל במצב מסוים או העובדה ששניים פעילים עֲצָבוֹן יכול להפעיל או לכבות נוירון אחר, בהתאם לנסיבות, יכול להיפרס לתוך מבנה סיבתי רב מימדי. זה זהה לאיכות החוויה - איך היא נחווית, כמו איך נחווים זמן ומרחב או איך צבעים נתפסים.

לניסיון יש גם כמות הקשורה אליו - המידע המשולב שלו. רק מעגל עם מקסימום מידע משולב שאינו אפס קיים כמכלול ויש לו תודעה. ככל שמשולב יותר מידע, כך לא ניתן להקטין את המעגל ופחות ניתן לראות בו פשוט סופרפוזיציה של תת-מעגלים עצמאיים.

תורת המידע המשולבת מדגישה את הטבע העשיר של החוויה האנושית. פשוט תסתכל מסביב והעולם הנראה המדהים עם אינספור ההבדלים והקשרים שלו יופיע לפניך. או הסתכלו בציור של פיטר ברויגל האב, אמן פלמי מהמאה ה-16 שתיאר נושאים דתיים וסצנות מחיי האיכרים.

כל מערכת שיש לה אותם קשרים פנימיים וכוחות סיבתיים כמו המוח האנושי תהיה, באופן עקרוני, מודעת כמו המוח האנושי. עם זאת, לא ניתן לעצב מערכת כזו. זה חייב להיות מתוכנן או בנוי בדמות המוח. מחשבים דיגיטליים מודרניים מבוססים על צימוד רופף במיוחד (פלט של טרנזיסטור אחד המחובר לכניסה של מספר טרנזיסטורים) השוואה למערכת העצבים המרכזית (נוירון עמודת קליפת המוח מקבל נתוני קלט ומייצר נתוני פלט לעשרות אלפי אחרים נוירונים).

כך, מחשבים מודרניים, לרבות מחשבי ענן, לא יהיו מודעים לכלום, למרות שלאורך זמן הם יוכלו לעשות כל מה שאנשים יכולים לעשות. מנקודת מבט זו, ChatGPT לעולם לא ירגיש מיוחד. שימו לב שאין להצהרה זו שום קשר למספר הכולל של הרכיבים, בין אם נוירונים או טרנזיסטורים, אלא איך הם מחוברים. הקישוריות היא זו שקובעת את המורכבות הכוללת של המעגל ואת מספר התצורות האפשריות שלו.

איזה הסבר מציעה תיאוריית סביבת העבודה הגלובלית העצבית?

זה נובע מההבנה הפסיכולוגית ש אינטליגנציה כמו תיאטרון שבו שחקנים מופיעים על במה קטנה ומוארת, שהיא התודעה. פעולות השחקנים נצפות על ידי קהל של מעבדים היושבים מאחורי הבמה בחושך.

הבמה היא מרחב העבודה המרכזי של הנפש, שיש לו יכולת זיכרון קטנה לייצוג תפיסה, מחשבה או זיכרון בודדים. מודולי עיבוד שונים - ראייה, שמיעה, מיומנויות מוטוריות בעיניים וגפיים, תכנון, שיפוט, הבנת שפה ודיבור - מתחרים על הגישה למרחב העבודה המרכזי הזה. המנצח מחליף את התוכן הישן, שהופך ללא מודע.

על פי תיאוריית סביבת העבודה הגלובלית העצבית, הסצנה המטאפורית, יחד עם מודולי עיבוד, ממופה לתוך הארכיטקטורה של הניאוקורטקס. חלל העבודה הוא רשת של נוירונים בקליפת המוח בקדמת המוח עם הקרנות לטווח ארוך נוירונים דומים מפוזרים בכל הניאוקורטקס בפרה-פרונטלי, פריטו-טמפורלי ו-cingulate קליפת האסוציאציה.

כאשר הפעילות בקליפת המוח החושית עולה על סף מסוים, מופעל אירוע גלובלי באזורי הקורטיקליים וכתוצאה מכך מועבר מידע לכל חלל העבודה. ההפצה העולמית של המידע הופכת אותו למודע. נתונים שאינם מועברים בדרך זו, כמו המיקום המדויק של העיניים או הכללים התחביריים לבניית משפטים קרוא וכתובים, יכולים להשפיע על התנהגות, אך לא באופן מודע.

מנקודת המבט של תיאוריית סביבת העבודה הגלובלית העצבית, הניסיון מוגבל מאוד, בדומה למחשבה ו מופשט - דומה לתיאור הדל שניתן למצוא במוזיאון מתחת לציור של ברויגל: "סצנה ב בתוך בית. איכרים בבגדי הרנסנס שותים ואוכלים בחתונה".

בהבנת התודעה מנקודת המבט של תורת המידע המשולבת, האמן מעביר בצורה מבריקה את הפנומנולוגיה של העולם הסובב על בד דו מימדי. בהבנת תיאוריית סביבת העבודה הגלובלית העצבית, העושר לכאורה הזה הוא אשליה, רוח רפאים. וכל מה שניתן לומר עליו באופן אובייקטיבי מצוין בתיאור הקצר.

תיאוריית סביבת העבודה הגלובלית העצבית לוקחת בחשבון במלואה את המיתוסים של עידן המחשבים שלנו, לפיהם ניתן לצמצם הכל לחישובים. הדמיות מחשב מתוכנתות כראוי של המוח, עם משוב עצום ומשהו כמו סביבת עבודה מרכזית, יתפסו את העולם באופן מודע. אולי לא עכשיו, אבל די בקרוב.

מה ההבדל הבלתי ניתן ליישב בין התיאוריות?

באופן כללי הדיון הוא כדלקמן. על פי תיאוריית סביבת העבודה הגלובלית העצבית ותיאוריות אחרות של פונקציונליזם חישובי (הם לראות בתודעה סוג של חישוב), התודעה היא לא יותר ממערכת של אלגוריתמים חכמים הפועלים על מכונה טיורינג. פונקציות חשובות לתודעה מוֹחַ, ולא תכונותיו הסיבתיות. אם גרסה מתקדמת כלשהי של GPT תקבל ותיצור את אותם דפוסי קלט ופלט כמו בני אדם, אז כל המאפיינים המובנים שלנו יועברו לטכנולוגיה. כולל האוצר היקר שלנו – חוויה סובייקטיבית.

לעומת זאת, עבור תורת המידע המשולבת, לב התודעה הוא כוח סיבתי פנימי, לא חישוב. זה לא משהו אתרי או לא מוחשי. היא נקבעת ספציפית ופונקציונלית לפי המידה שבה העבר של המערכת קובע את ההווה שלה (כוח הגורם), ובמידה שבה ההווה קובע את עתידה (כוח ההשפעה). והנה, לא ניתן לעצב את הקשר בין סיבה ותוצאה, היכולת לאלץ מערכת לבצע פעולה מסוימת, ולא הרבה אלטרנטיביות. לא עכשיו, לא בעתיד. זה צריך להיות מובנה במערכת.

חשבו על קוד מחשב המדגים את משוואות השדה של תורת היחסות הכללית של איינשטיין, המתייחסות למסה לעקמומיות של מרחב-זמן. התוכנה מדגמנת במדויק את הסופר-מסיבי חור שחור, שנמצאת במרכז הגלקסיה שלנו. החור הזה מפעיל השפעה כבידתית חזקה כל כך על סביבתו ששום דבר, אפילו לא אור, לא יכול להימלט מהמשיכה שלו.

עם זאת, אסטרופיזיקאי המדמה חור שחור לא יישאב למחשב נייד על ידי שדה הכבידה המדומה. התבוננות אבסורדית לכאורה זו מדגישה את ההבדל בין מודל למציאות: אם המודל הוא לגמרי מתאים למציאות, מרחב וזמן צריכים להיות מעוותים סביב המחשב הנייד, וליצור חור שחור שסופג הכל סְבִיב.

כמובן, כוח המשיכה אינו חישוב. יש לו כוח סיבתי המאפשר לו לעוות את מרקם המרחב-זמן ולמשוך כל מה שיש לו מסה. הדמיית הכוחות הסיבתיים של חור שחור דורש אובייקט סופר-כבד אמיתי, לא רק קוד מחשב. כוח סיבתי לא ניתן למודל, יש ליצור אותו. ההבדל בין מציאות למודל טמון בכוחות הסיבתיים שלהם.

לכן לא יורד גשם בתוך מחשב המדמה סופת גשם. תוכנה זהה מבחינה פונקציונלית למזג האוויר, אך אין לה את הכוח הסיבתי לשחרר קיטור ולהפוך אותם לטיפות מים. כוח סיבתי, היכולת ליצור או לקבל שינוי בעצמו, חייב להיות מובנה במערכת. זה אפשרי.

מחשב כביכול נוירומורפי, או ביוני, יכול להיות מודע כמו אדם. אבל זה לא המקרה עם ארכיטקטורת פון נוימן הסטנדרטית, שהיא הבסיס לכל המחשבים האישיים המודרניים. אבות טיפוס קטנים של מחשבים נוירומורפיים נוצרו במעבדות, כמו השבב הנוירומורפי של אינטל מהדור השני של Loihi 2. אבל מכונה מתוחכמת מספיק כדי לייצר משהו הדומה לתודעה אנושית, או לפחות לתודעה של זבוב פירות, היא עדיין חלום שאפתני לעתיד הרחוק.

שימו לב שההבדל הבלתי ניתן לגישור זה בין תיאוריות פונקציונליסטיות לתיאוריות סיבתיות אינו קשור לאינטליגנציה טבעית או מלאכותית. כפי שאמרתי קודם, אינטליגנציה היא התנהגות. כל מה שכושר ההמצאה האנושי יכול לייצר, כולל רומנים גדולים כמו "משל הזורע" של אוקטביה באטלר ומלחמה ושלום של ליאו טולסטוי, יכולים לשחזר אינטליגנציה אלגוריתמית אם נותנים להם מספיק חומר הַדְרָכָה. הופעתה של AGI היא יעד שניתן להשיג בעתיד הלא רחוק.

הוויכוח הוא לא על בינה מלאכותית, אלא על תודעה מלאכותית. ולא ניתן לפתור את הוויכוח הזה על ידי יצירת מודלים של שפה גדולים יותר או אלגוריתמים מתקדמים יותר של רשתות עצבים. כדי לענות על שאלה זו, עלינו להבין את הסובייקטיביות היחידה שאנו בטוחים בה לחלוטין: שלנו. ברגע שיש לנו הסבר ברור של האדם תוֹדָעָה ואת הבסיס העצבי שלה, נוכל להרחיב את ההבנה שלנו לטכנולוגיות חכמות באופן עקבי, מבוסס מדע.

לדיון הזה יש השפעה מועטה על האופן שבו צ'אטבוטים ייתפסו על ידי החברה בכללותה. כישורי השפה, בסיס הידע והקסם החברתי שלהם יהפכו בקרוב ללא דופי. הם יהיו ניחנים בזיכרון מושלם, יכולת, כושר, הגיון ואינטליגנציה. יש אפילו הטוענים שיצירות אלה של טכנולוגיה גדולה יהיו השלב הבא באבולוציה, "האדם העל" של ניטשה. אני רואה השקפה אפלה יותר ומאמין שאנשים כאלה טועים בשקיעה של המין שלנו עם עלות השחר.

עבור רבים, ואולי רוב, אנשים בחברה שהולכת ומתפוררת, מנותקת מהטבע ו מאורגן סביב רשתות חברתיות, יהיה קשה רגשית להתנגד לטכנולוגיות שחיות בהן טלפונים. ובמצבים שונים, רגילים וחמורים יותר, אנשים יתנהגו כאילו לצ'אטבוטים יש תודעה, הם באמת יכולים להיות מאוהב, סבל, תקווה ופחד, גם אם הם לא יותר מטבלאות חיפוש מורכבות. הם יהפכו חיוניים עבורנו, אולי אפילו חשובים יותר מיצורים אינטליגנטיים באמת. למרות שצ'אטבוטים מרגישים כמו טלוויזיה או טוסטר - כלום.