מזל"טים וכלי רכב בלתי מאויש כנשק: למה אנחנו צריכים לפחד האקרים
של טכנולוגיה / / December 19, 2019
אף אחד לא יכחיש כי בינה מלאכותית יכולה לשים את חיה על רמה חדשה. AI הוא מסוגל לפתור בעיות רבות כי הם מעבר לכוחו של האדם.
עם זאת, רבים מאמינים כי superintelligence ירצה להשמיד אותנו, כמו סקיינט, או להתחיל לבצע ניסויים על אנשים כמו GLADoS מהמשחק Portal. האירוניה היא שכדי להכין בינה מלאכותית יכולה רק אנשים טובים או רעה.
חוקרים מאוניברסיטת ייל, אוקספורד, קיימברידג ', והחברה רשמה OpenAI דו"ח על ההתעללות של בינה מלאכותית. זה אומר כי הסכנה האמיתית מתחילה האקרים. בעזרתו של קוד זדוני, הם יכולים לשבש את פעילותן של מערכות אוטומטיות תחת שליטת AI.
חוקרים חוששים כי הטכנולוגיה נוצר עם כוונות טובות, ישמש נזק. לדוגמא, מעקב יכול להיות מיושם לא רק כדי לתפוס את המחבלים, אלא גם כדי לרגל אחרי אזרחים מן השורה. החוקרים אף מדאיג מזל"טים מסחריים, אשר מספקים מזון. הם קלים ליירט לשים נפץ משהו.
תרחיש נוסף הוא שימוש הרסני של AI - כלי רכב בלתי מאוישים. זה מספיק כדי לשנות כמה שורות של קוד, ואת המכונית תתחיל להתעלם כללי בטיחות.
מדענים מאמינים כי האיום עלול להיות דיגיטלי, פיזית ופוליטית.
- אינטליגנציה מלאכותית כבר נמצא בשימוש ללמוד את נקודות התורפה של קודי תוכנית השונים. בעתיד, האקרים יכולים ליצור בוט כזה, אשר יעקוף כל הגנה.
- עם AI אדם יכול להפוך להרבה תהליכים: למשל, לשלוט נחיל של מזל"טים, או קבוצה של כלי רכב.
- עם טכנולוגיות כגון DeepFake, יכול להשפיע על החיים הפוליטיים של המדינה, הפצת מידע כוזב על מנהיגי העולם באמצעות בוט.
דוגמאות מפחידות אלה קיימות רק שערה. מחברי המחקר לא להציע דחייה מוחלטת של טכנולוגיה. במקום זאת, הם מאמינים כי ממשלות וחברות גדולות צריכות לדאוג לביטחון, בעוד תעשייה בינה מלאכותית ינקות.
פוליטיקאים צריכים ללמוד את הטכנולוגיה ועבודה יחד עם מומחים בתחום, על מנת להסדיר את ההקמה ושימוש יעיל של בינה מלאכותית.
מפתחים, בתורו, צריכים להעריך את הסכנה נשקפת-טכנולוגיה גבוהה, כדי להקדים ולמנוע את ההשלכות הגרועות של מנהיגי העולם האלה. הקריאות בדו"ח למפתחים AI: צוות אל מומחי אבטחה באזורים אחרים כדי לברר אם אתה יכול להשתמש העקרונות להבטיח את שלומם של טכנולוגיות אלה להגנה על מלאכותי מודיעין.
דוח מלא מתאר את הבעיה ביתר פירוט, אבל העובדה כי AI - רב עוצמה כלי. כל בעלי העניין צריך ללמוד טכנולוגיה חדשה ולוודא שהוא אינו בשימוש למטרות פליליות.