OpenAI הזהיר מפני גילוי בינה מלאכותית שעלולה לאיים על האנושות

Miscellanea / by admin / November 23, 2023

click fraud protection

פרויקט סודי בשם Q* יכול היה להיות אחת הסיבות לפיטוריו של סם אלטמן.

היום שלפני גלות מנכ"ל OpenAI, סם אלטמן, כתבו כמה מחוקרי צוות החברה לדירקטוריון מכתב מזהיר מפני גילוי של בינה מלאכותית רבת עוצמה, שלדבריהם "עלולה לאיים לאנושות". על כך בהתייחס למקורות שלנו כותב רויטרס.

מכתב זה הוא שצוין כאחד הגורמים ברשימת התלונות הארוכה של הדירקטוריון שהביא לפיטוריו של אלטמן. רויטרס לא הצליחה לדבר באופן אישי עם המחברים או לקבל תגובה מ-OpenAI. אולם לאחר פנייה כזו, החברה, בהודעה פנימית לעובדים, הודיעה על קיומו של פרויקט מסוים בשם Q* (מבוטא Q-Star).

חלק מעובדי OpenAI מאמינים ש-Q* יכולה להיות פריצת דרך במה שנקרא בינה מלאכותית כללית (AGI). OpenAI מאפיין אותה כמערכת אוטונומית שעולה על בני אדם בכל משימות בעלות ערך כלכלי.

עד כה, Q* יכול לבצע בעיות מתמטיקה רק ברמה היסודית, לפי מקור אחד. בתי ספר, אך השלמתם המוצלחת של מבחנים כאלה מעניקה לחוקרים אופטימיות רבה לגבי הסיכויים לכך התפתחות.

ההבדל העיקרי בין AI שכזה הוא שהוא מסוגל להגדיר יעדים, לחלק בעיות מורכבות לקטנות, לעבוד על מגוון רחב של בעיות ולמצוא פתרונות תוך התחשבות בהקשר מתחומים שונים. במילים פשוטות, אינטליגנציה כזו, בתיאוריה, יכולה להחליף מומחה מוסמך מאוד עם ידע, מיומנויות וניסיון רב.
instagram viewer

חוקרים מאמינים שמתמטיקה היא חוד החנית של AI גנרטיבי. כיום הוא טוב בכתיבה ובתרגום, מנבא סטטיסטית את המילה הבאה, והתשובות לאותה שאלה עשויות להשתנות מאוד. אבל כיבוש המתמטיקה (כאשר יש רק תשובה אחת נכונה) מרמז של-AI יהיו יכולות חשיבה רחבות יותר הדומות לאינטליגנציה אנושית. זה יכול להיות מיושם, למשל, על מחקר מדעי חדש, אומרים מומחים.

במכתבם לדירקטוריון ציינו החוקרים את כוחה של AI ואת הסכנות הפוטנציאליות. הם גם ציינו את עבודתה של קבוצה מיוחדת של "מדעני בינה מלאכותית", שקיומה אושר על ידי מקורות רבים. הצוות בוחן כיצד לייעל מודלים קיימים של AI כדי לשפר את ההיגיון שלהם ובסופו של דבר לבצע איתם עבודה מדעית, אמר אחד האנשים.

אלטמן הוביל את המאמץ להפוך את ChatGPT לאחד מיישומי התוכנה הצומחים ביותר בתחום היסטוריה ומשך את ההשקעה ומשאבי המחשוב ממיקרוסופט הדרושים כדי להביא כאלה AGI. וזמן קצר לפני פיטוריו, בפסגת מנהיגי העולם בסן פרנסיסקו, הוא הכריז על כמה "הישגים רציניים שנמצאים ממש מעבר לפינה".

ארבע פעמים בהיסטוריה של OpenAI, הפעם האחרונה הייתה רק לפני שבועיים, הייתי צריך להיות בחדר, כאשר אנו, כביכול, דוחקים את מעטה הבורות ומתקרבים לגבול הגילויים, ולעשות זאת הוא הכבוד המקצועי של כולם חַיִים.

סם אלטמן

יממה לאחר מכן פיטרה הדירקטוריון את אלטמן.

אולי יום אחד כל ההחלטות והאירועים הללו יהוו בסיס לספר, לסרט שלם, או אפילו לספר היסטוריה.

קרא גם על AI🤖🧐🤖