AI יוצר מיילים מתחזים טוב יותר מבני אדם

רשתות עצביות ממשיכות להציג תוצאות מדהימות במגוון רחב של משימות. נכון, הפעם עבודתם כלל לא הייתה אצילית: בעזרת AI, חוקרים סינגפוריים יצרו מיילים מתחזים שהוכיחו שהם משכנעים יותר מאלו שנכתבו על ידי אנשים אמיתיים.

בפרט, בכנסים של Black Hat ו- Defcon בנושא אבטחת הסייבר שהתקיימו בלאס וגאס בשבוע שעבר, מומחים מסוכנות הטכנולוגיה הממשלתית (סינגפור) סיפר על תוצאות ניסוי יוצא דופן.

הם כתבו מאות מיילים מתחזים בכוחות עצמם, ולאחר מכן יצרו רבים נוספים באמצעות אלגוריתם עיבוד השפה הטבעית GPT-3 וטכנולוגיות בינה מלאכותית אחרות. לאחר מכן הם שלחו את המכתבים האלה ל -200 עמיתים כדי לבדוק אילו מהם לדעתם משכנעים יותר.

בשני המקרים, הודעות האימייל הכילו קישורי מעקב - הם לא הורידו את הנגיף למכשיר, אלא פשוט שלחו דוח קליק לחוקרים. התוצאה הייתה מפתיעה: אנשים "בתדירות גבוהה יותר" לחצו על קישורי האותיות שהורכבו על ידי בינה מלאכותית מאלה שנכתבו על ידי אנשים אחרים. למרבה הצער, אין נתונים סטטיסטיים מדויקים.

המחברים מציינים כי האותיות שנכתבו על ידי ה- AI נשמעות "אנושיות באופן מפתיע" וכי הפלטפורמה הוסיפה אוטומטית אלמנטים בלתי צפויים, כדי להפוך את הטקסט לשכנע יותר - למשל, היא ציינה את חוקי סינגפור, מכיוון שהקלט הצביע על כך שהנמענים סינגפור.

מומחים התלבטו זה מכבר אם הגיוני שהונאים יכשירו רשתות עצביות ליצור מיילים מתחזים - אחרי הכל, דיוור המוני נשאר יעיל וחסכוני במיוחד. אבל אם אתה צריך מיילים ממוקדים, שהידור שלהם דורש עבודה נוספת, רשתות עצביות באמת יכולות להיות שימושיות.

למרות שזה עשוי להישמע מרתיע, החדשות הטובות הן שאימון AI איכותי עולה מיליוני דולרים - כנראה שלא. מצפים שבעתיד הקרוב הרמאים יחליטו להתפרנס בהמוניהם לשיפור המערכת, שכבר מצוינת עובד.