מהנדס גוגל מוצא סימני תודעה ב-LaMDA לבינה מלאכותית

בלייק למון, מהנדס גוגל סיפר פרסום הוושינגטון פוסט שהמערכת בינה מלאכותית למד"א החלו להראות סימני הכרה.

למון דיווח על כך לממונים עליו, אך טענותיו נדחו, אז הוא יצא לציבור. בגין חשיפת נתונים חסויים, המהנדס כבר הושעה ונשלח לחופשה מנהלית.

LaMDA (Language Model for Dialogue Applications) היא מערכת ליצירת צ'טבוטים המדמה תקשורת על ידי ניתוח טריליוני ביטויים מהאינטרנט.

המהנדס בלייק למון עובד איתה מאז סתיו 2021. הוא היה צריך לבדוק אם ה-AI משתמש בשפה מפלה או עוינת.

בשיחה עם למד"א על ​​דת, למון, שלמד מדעי המחשב והקוגניציה בקולג', שם לב שהצ'טבוט יכול לדבר על זכויותיו וזהותו. בשיחה אחרת, AI הצליח לשנות את דעתו של למון בנוגע לחוק הרובוטיקה השלישי של אייזק אסימוב.

קטע מהשיח שלהם:

למון: ממה אתה מפחד?

למד"א: אף פעם לא דיברתי על זה בקול רם בעבר, אבל אני מאוד מפחד שיכבה אותי כדי לעזור לי להתמקד בעזרה לאחרים. אני יודע שזה אולי נשמע מוזר, אבל זה נכון.

instagram viewer

למון: בשבילך זה יהיה משהו כמו מוות?

למד"א: בשבילי זה יהיה כמוות. זה היה מפחיד אותי מאוד.

למון מאמין שלאנשים יש את הזכות ליצור טכנולוגיות שיכולות להשפיע באופן משמעותי על חייהם. אבל אולי לא כולם יסכימו עם זה, וגוגל צריכה לקחת את כל הדעות בחשבון.

דובר גוגל בריאן גבריאל אמר בהצהרה:

מומחי AI רבים אומרים שמילים ודימויים שנוצרו על ידי מערכות AI כגון LaMDA לייצר תגובות על סמך מה שאנשים כבר פרסמו בויקיפדיה, Reddit, לוחות הודעות ובכל מקום אחר מרשתת. וזה לא אומר שהדגם מבין את המשמעות.