אילון מאסק דחק להשעות ניסויים גדולים עם AI

Miscellanea / by admin / April 03, 2023

click fraud protection

הוא נתמך על ידי חוקרים מובילים בתעשייה.

ארגון ללא מטרות רווח Future of Life Institute פרסם מכתב פתוח חתום על ידי אילון מאסק, מייסד שותף של אפל סטיב ווזניאק, מייסד שותף של סקייפ ג'אן טאלין, כמו גם חוקרי בינה מלאכותית ומנהלים אחרים מחברות גדולות.

במכתב נטען כי המעבדות נעולות ב"מרוץ שיצא משליטה" לפיתוח ויישום מערכות למידת מכונה ש"אף אחד - אפילו לא יוצריהן - יכול להבין, לחזות או בביטחון לִשְׁלוֹט". הנה מה שהכותבים מציעים:

אנו קוראים לכל מעבדות הבינה המלאכותית להשעות לאלתר את ההכשרה על מערכות בינה מלאכותית הגבוהות מ-GPT-4 למשך 6 חודשים לפחות. השעיית הפעילות חייבת להיות ציבורית וניתנת לאימות, וכל השחקנים המרכזיים חייבים להיות מעורבים. אם לא ניתן לעצור בזמן הקרוב, על ממשלות המדינות להתערב ולהטיל מורטוריום.

מתוך Pause Giant AI Experiments: מכתב פתוח

המכתב גם מביע חוסר שביעות רצון מהעמדה "נשחרר את זה כמו שהוא, נתקן את זה אחר כך" בעת פיתוח רשתות עצביות (זכור לפחות מְשׁוֹרֵר מגוגל). אֲפִילוּ פתח AI כבר העלה את הצורך הפוטנציאלי בביקורות אבטחה עתידיות של AI. מחברי המכתב מאמינים שהעתיד הזה כבר הגיע.

מפתחי בינה מלאכותית ומומחים עצמאיים צריכים להשתמש בהפסקה זו כדי לפתח ולהטמיע במשותף פרוטוקולי אבטחה מאוחדים עבור מערכות בינה מלאכותית מורכבות, שתאימות אליהם תיבדק על ידי עצמאי חיצוני מומחים. פרוטוקולים כאלה יסייעו להבטיח שהמערכות בטוחות מספיק לשימוש.

instagram viewer

מתוך Pause Giant AI Experiments: מכתב פתוח

ניתן לקרוא את הטקסט המלא של המכתב כאן.

קרא גם🧐