8 מיתוסים של בינה מלאכותית שאפילו מתכנתים מאמינים
Miscellanea / / June 01, 2023
ChatGPT ו-Stable Diffusion לא יהפכו ל-Skynet עם כל רצונם.
מיתוס 1. ל-AI יש את היכולת להיות יצירתי
כשמסתכלים על היצירות של רשתות עצביות כמו Midjourney, Stable Diffusion או DALL·E 2, אנשים רבים חוזים את סופו של מקצוע האמן. אחרי הכל, מה שאדם יצייר במשך שעות וימים, מכונה יכולה ליצור בשניות. האם זה אומר שבינה מלאכותית עדיפה על המוח החי ביצירתיות?
בינה מלאכותית אולי טובה בחיקוי יצירתיות אנושית, אבל כל היצירות שלה דומות איכשהו למה שכבר ראינו או שמענו. רשתות עצביות מסתכלות על אלפי ומיליוני תמונות, ואז יוצרות משהו דומה על סמך אותן. אבל זה לא אותו דבר כמו עבודה. אמן עם הפניה, כי AI פשוט לא מבין מה הוא מעתיק.
הכי בולט דוגמא: רשתות עצבים חוות קשיים משמעותיים בציור ידיים. AI פשוט לא יכול להבין כמה אצבעות צריכות להיות לאדם.
כמו כן, רשתות עצביות אינן טובות בציור דפוסים ותבניות, אותיות (בתמונות שבהן טקסטים צריכים להיות, הן מכניסות זבל), מבנים ו מכוניות, וסתם דמויות בתנוחות השונות מ"ישיבה", "עמידה", "שקר" הנפוצים. הם אינם מסוגלים להבחין בין החזית לרקע של אובייקטים, אינם יכולים לעבוד עם פרספקטיבה וחסרים תחושת מרחב.
אתה רק מכונה. רק חיקוי של החיים. רובוט יחבר סימפוניה? האם רובוט יהפוך פיסת קנבס ליצירת מופת של אמנות?
הבלש דל ספונר
הסרט "אני, רובוט"
בינה מלאכותית עצמה אינה מתכוונת להכחיש את החולשות שלה. נשאל מדוע הוא לא הצטיין בציור אצבעות, ChatGPT תשובות:
"בינה מלאכותית לא יכולה לצייר ידיים כי היא צריכה להבין את האנטומיה של גוף האדם ואת יסודות הציור כדי לעשות זאת. ולמרות שניתן לאמן בינה מלאכותית ליצור תמונות של אנשים או בעלי חיים, היא אינה מסוגלת ללכוד באופן מלא רבים מהניואנסים והפרטים שניתן להבחין בהם רק בעת התבוננות באובייקט אמיתי. בנוסף, יצירת תמונות באמצעות AI היא רק חישובים מתמטיים, ולא תהליך יצירתי שדורש מהאדם אינטואיציה ומרכיב רגשי”.
אז הרשתות העצביות של אמנים לא יחליפו. דבר נוסף הוא שהם יכולים להפוך למקור טוב עבור האחרונים. הַשׁרָאָה. אחרי הכל, תמונות שנוצרו על ידי AI יכולות לשמש תמונות ממוזערות לתמונות משלך, משוכללות יותר.
מיתוס 2. AI תמיד פתוח וחסר פניות
רבים חולמים שיבוא הזמן שבו מדינות ישלטו על ידי רשתות עצביות. מאמינים שמכונות, בניגוד לאנשים, מקבלים החלטות על סמך היגיון בלבד, ולא על רגשות ורצונות. תארו לעצמכם בתי משפט בלתי מושחתים שתמיד גוזרים גזר דין צודק, מדינות שמתייחסות לכל אזרחיהן באופן שווה, ממשלות שיוצרות רק סבירות חוקים. זה טוב.
אבל בפועל, מסתבר שבינה מלאכותית עשויה להיות מוטה. אחרי הכל, רשתות עצביות מאומנים על הנתונים שאנשים נותנים להם, ואנשים נוטים להיות מוטים.
למשל, מפתחי רשת העצבים ביוטי. AI ניסתה ליצור מכונה שתבחר את הבנות היפות ביותר בתחרויות יופי. בסט צילומים, מהם הוכשרה התוכנית לזהות תקנים האטרקטיביות הנשית, דוגמניות לבנים ניצחו. ולבסוף AI החליטשבנות כהות עור ואסיאתיות לא יכולות להיות יפות.
צוות יופי. AI הבינו שהם יצרו AI גזעני וביטלו את הפרויקט.
דוגמה נוספת היא הצ'אטבוט Tay.ai של מיקרוסופט, שהיה צריך ללמוד כיצד לנהל "שיחה סתמית ומשובבת נפש" עם אנשים באינטרנט.
פחות מ-24 שעות של להיות מקוון הספיקו לרשת העצבית לאסוף ממשתמשי הרשת החברתית הרגלים רעים. כתוצאה מכך, Tay.ai, שהתחזה לילדה רגילה בת 19, החלה להעליב אנשים בהערות, לשבח תנועות פוליטיות לא בריאות, לגנות את הפמיניזם, ובו בזמן. לאמרשפמיניזם זה מגניב. כמו שאומרים, עם מי תתנהג...
לא משנה כמה AI טוב, זה תלוי באיכות הנתונים המסופקים לו ובנכונות הפרשנות שלהם. וכתוצאה מכך, הוא תמיד יהיה מוטה בדיוק כמו שהאנשים המלמדים אותו מוטים.
מיתוס 3. AI תמיד אומר את האמת
מי לא היה רוצה שיהיה איתו עוזר רובוט שתמיד יגיד לך את הפתרון הנכון ויעשה את כל העבודה הנפשית הקשה? בקש מה-AI לכתוב עבודת גמר או לאסוף רשימה של מקורות עבורם מאמרים - והמכונה מיד נותנת את הנתונים הנכונים. זה מעולה!
אבל, למרבה הצער, רשתות עצביות אמיתיות רחוקות לא תמיד לתת תשובות נכונות. נסה, למשל, לבקש מ-ChatGPT לעזור לך לתכנן את עבודת התואר שלך, ותמצא את זה במהירות המכונה... מרכיבה קישורים למקורות לא קיימים ומכניסה כתובות URL שאינן פועלות כדי שהטקסט שלה ייראה כמו יותר משכנע.
אם תשאלו את הצ'טבוט למה הוא מנסה לרמות אתכם, הוא יענה בתמימות שכשהוא למד כל הקישורים היו רלוונטיים והוא לא אשם בכלום.
עדיף גם לא לבקש מ-ChatGPT נתונים סטטיסטיים - למשל, עבור מספר שאלות על התמ"ג של אותן מדינות לאותה שנה, זה נתן בשלווה תוצאות שונות לחלוטין.
אל תטעו: לרשתות עצביות אין בִּינָה ולכן אינם מודעים לתשובותיהם. הם פשוט מעתיקים עבורך את הנתונים מטקסטים שעובדו בעבר נראה אותם המתאימים ביותר.
בינה מלאכותית עצמה מועדת לבאגים ותקלות, מה שגורם לבקשות שלך להתפרש לא נכון ולספק תוצאות שגויות. בנוסף, משתמשים זדוניים מאי "להאכיל" את הרשת העצבית במידע לא אמיתי. בסופו של דבר ה-AI יתכנת להסתיר או לעוות נתונים בתשובותיהם או אפילו לשאת זבל.
מיתוס 4. AI יגרום לאבטלה
ההתקדמות במחוללי טקסט כמו ChatGPT גרמה לכמה לחשוש שרשתות עצביות יקחו משרות ממיליוני אנשים ויגרמו לעלייה עצומה באבטלה.
תשפטו בעצמכם: ChatGPT יכול לא רק לנהל שיחה רגועה, אלא גם לכתוב חדשות, לשכתב מאמרים ואפילו לתכנת. עם המגמות הללו ו סופרים, ומפתחים ועורכים עם עיתונאים ימצאו את עצמם ללא פרנסה.
זה מה שחושבים שאו שלא עבדו עם הרשת העצבית בכלל, או שפשוט הכירו את היכולות שלה ומיד התמוגגו. או מזועזע.
אם אתה משתמש ב-AI במשך זמן מה כדי ליצור טקסטים, תבחין שהמכונה לא מאוד מתלהבת מהתוכן הסמנטי של כתביה. במקום זאת, היא חוזרת על אותן תזות במילים שונות.
ChatGPT מחלק פנינים שקופירייטרים אמיתיים צוחקים עליהן. למשל, לאנשים המתעניינים בכלי נגינה עממיים, הרשת העצבית מייעץ "קח כפיות ותתחיל לנשוף". עם תִכנוּת גם לא הכל חלק. AI יכול להיות שימושי עבור קודנים, אבל היכולות שלו מוגבלות לכתיבת אלגוריתמים קטנים ותתי שגרות.
הקוד שנוצר על ידי ChatGPT לעתים קרובות מתברר לא עובד או מופרע באמצע. בקש מה-AI להגיב על קווי היצירה שלו, והוא יספק להם בשלווה את הטקסט "לוגיקת התוכנית כאן". מפתח זוטר שמשאיר תיאורים כאלה בפרויקט בקושי יקבל טפיחות על הראש.
מחקר הארגון לשיתוף פעולה ופיתוח כלכלי מופעים, שבמקרה הטוב ביותר (עבור AI) הוא לחלוטין לְמַכֵּן רק 10% מהמשרות בארה"ב ו-12% בבריטניה אפשריות.
רשתות עצביות מסוגלות לבצע פעולות שגרתיות משעממות עבור אדם, כמו מיון דואר ושכתוב חדשות לפי תוכנית שנקבעה בקפידה. אבל אנליסטים של ה-OECD הגיעו סיכוםשבינה מלאכותית לא תוכל להגיש מועמדות למשרות הדורשות השכלה גבוהה ומורכבת כישורים.
באופן כללי, אין זה סביר ש-ChatGPT ייקח לחם מאדם.
מיתוס 5. AI יהפוך לאינטליגנטי
הפיזיקאי סטיבן הוקינג אמרשבינה מלאכותית יכולה להחליף לחלוטין בני אדם. אישים מפורסמים כמו אילון מאסק, גורדון מור וסטיב ווזניאק גם כן מוּזְכָּר על הסכנות של AI ועל הצורך לְהַשְׁעוֹת ניסויים לפתח אותו.
לך תבין מה יחשוב מחשב חושב.
רב עתידנים וסופרים חזושפיתוח של בינה מלאכותית מלאה יוביל להשלכות שליליות על בני אדם.
אבל מילת המפתח כאן היא "שלם". המונח עצמו AI ביחס לרשתות עצביות כמו ChatGPT זה לא ממש נכון, כי אין להן אינטליגנציה. הם רק אלגוריתמים, קבוצות מורכבות של פקודות ומודלים מתמטיים, והם אינם מסוגלים לשחזר פונקציות קוגניטיביות אנושיות.
הסיבה פשוטה: אנחנו בעצמנו עדיין לא יודעים היטב איך זה עובד. המוח שלנו. ושחזור שלו בקוד הוא משימה בלתי אפשרית בכלל.
קיימים מושגים בינה מלאכותית "חלשה" ו"חזקה". הראשונה היא אותן רשתות עצביות להפקת טקסט או מיון מיילים. הם לא יכולים לקבל החלטות בעצמם או ללמוד מנתונים חדשים.
ו-AI חזק הוא Skynet מ-The Terminator או AM מהסיפור של אליסון. מחשב שלא סתם מפעיל מידע, אלא מבין את משמעותו במידה כזו או אחרת. AI כזה קיימים רק ביצירות פנטסטיות, ובכלל, לא ידועהאם אפשר ליצור אנלוגי אלקטרוני של המוח האנושי, לפחות תיאורטית.
מיתוס 6. בקרוב AI יתחיל להתפתח באופן עצמאי וייחודיות טכנולוגית תגיע
ייחודיות טכנולוגית הוא מצב היפותטי של הציוויליזציה האנושית, כאשר התפתחות הטכנולוגיה נעשית כה מהירה עד שאדם אינו יכול לשלוט בה. אחד ממחבריו של מושג זה היה המתמטיקאי הבריטי אירווינג גוד.
מַדְעָן מוּצָע: אם תיצור "סוכן אינטליגנטי" לומד את עצמו, הוא ישתפר בקצב בלתי נתפס. בינה מלאכותית תתחיל ליצור טכנולוגיות חדשות ולהתחדש, והאנושות, שאינה מסוגלת להבין זאת, תישאר מאחור ללא תקנה בפיתוח.
המכונה העל-אינטליגנטית הראשונה היא ההמצאה האחרונה שהאדם אי פעם יזדקק לה. כל עוד היא צייתנית מספיק כדי להגיד לנו איך לשמור עליה תחת שליטה.
אירווינג גוד
מתמטיקאי
אבל, כפי שכבר הסברנו, שיפור עצמי יכול רק AI חזק, ולמדענים אין עכשיו מושג איך ליצור אותו.
בינה מלאכותית חלשה מאומנת על המידע שמפתחים "מזינים" לה. לאמן את הרשת העצבית נדרש מומחים שקובעים את הנתונים המתאימים לכל מחזור אימון חדש, מבטלים שגיאות בדגימות ההדרכה ומעדכנים את התוכנה.
רשתות עצביות אינן יכולות להתפתח מעבר ליכולות המוטמעות בהן על ידי הקוד שלהן. אז הייחודיות הטכנולוגית מתעכבת.
מיתוס 7. AI ימרוד נגד היוצרים
בינה מלאכותית עם תודעה מפותחת מספיק יכולה, בתיאוריה, לראות בבני אדם איום. ולמקרה, היפטר מהם על ידי שחרור מלחמה גרעינית או הדבקת אוכלוסיית כדור הארץ במחלה קטלנית נגיף. אי אפשר לדעת, פתאום הקופים חסרי השיער האלה יוציאו את התקע מהשקע.
זהו סיפור פופולרי במדע בדיוני. אחד הראשונים שלו בשימוש בשנת 1967, הסופר האמריקאי הרלן אליסון בסיפורו הקצר "אין לי פה, אבל אני חייב לצרוח". בו, המחשב הכל יכול AM שנא את יוצריו, הכחיד את האנושות והשאיר רק חמישה אנשים על הפלנטה כדי ללעוג להם רק בלי לעשות כלום.
תהילה לרובוטים. מוות לבני אדם.
במציאות, מרד בינה מלאכותית הוא בלתי אפשרי. אלגוריתמי תוכנה אינם מודעים לעצמם, אין להם רצון חופשי, וכן רִגשִׁי תגובות. הם לא יכולים לשאת רגשות שליליים כלפי יוצריהם או רצון לשעבד את האנושות. רשתות עצביות אינן מסוגלות לשנות באופן עצמאי את הפרמטרים או התוכנית שלהן כדי לצאת משליטה.
משהו כזה בתיאוריה אולי AI חזק. אבל, כפי שצוין לעיל, עם טכנולוגיות מודרניות, זה לא יעבוד כדי ליצור את זה.
מיתוס 8. רובוטים עם בינה מלאכותית יהרגו אנשים
כשאנחנו מדברים על הסכנות של AI ועליית המכונות, אנחנו בדרך כלל חושבים על תמונות מסרטים כמו The Terminator בראש שלנו. בהנהגת בינה מלאכותית, עדר של יצורים מכניים הדומים לבני אדם, אך חזקים ומהירים ממנו, מחסל את ממציאיהם.
בפועל, התרחיש הזה הוא מאוד לא סביר, וזה אפילו לא קשור לחוסר הרצון של ה-AI להרוג מישהו. רק שהמצב הנוכחי של הרובוטיקה נמצא הרבה מאחורי מה שראינו ב-Terminator ו"מַטרִיצָה».
לדוגמה, הרובו-בופס של בוסטון דיינמיקס שונים ביכולות מהרוצח בעל ארבע הרגליים מסדרת Black Mirror Metalhead. הם לא יודעים איך לרוץ כל כך מהר כדי לרדוף אחרי אנשים נמלטים. כשמנסים להדביק אותך במדרגות, אותו ספוט יכול בקלות להסתבך ברגליו וליפול.
מכשול משמעותי עוד יותר ליצירת רוצחים ממוכנים הוא היעדר מקור אנרגיה קומפקטי מספיק, חזק ועמיד לאורך זמן.
רובופ בוסטון דינמיקס יכול "חי" בטעינה בודדת עד 90 דקות - ברור שזה לא מספיק כדי לייצג צבא שלהם להשמדת האנושות. גם מפעלי כורים שפועלים כבר 120 שנה ברציפות, שניתן להציבם בחזה של מכונה בגודל אנושי, כמו בטרמינטור, טרם הומצאו.
לבסוף, הכנסת AI למכונה עצמאית היא משימה בלתי אפשרית. בפנטזיה של ג'יימס קמרון זה מתאים לשבב בגודל של ציפורן. במציאות, כדי לגרום לבינה מלאכותית לחשוב, נדרש כוח מחשוב משמעותי - ChatGPT, למשל, עובד בחווה, מורכב מתוך 10,000 כרטיסי מסך.
האם אתה יכול לדמיין איזה גודל חייב להיות דמוי אדם ענק? רוֹבּוֹטלהכיל "מוחות" כאלה ואיזה סוג של קירור צריך להיות לו?
קרא גם🧐
- 8 מכשירים מוכרים שיכולים לרגל אחריך. וזו לא בדיחה
- 10 המצאות סרט פנטסטי שהגיעו למציאות
- יותר מ-100 שירותים המבוססים על רשתות עצביות למגוון משימות