אינטרנטטכנולוגיהכלליכתיבה פרטיתמהעולם

כל מה שלא ידעת על אינטיליגנציה מלאכותית והאלגוריתם שאל בשבילך…

[תרגום של מתי מריאנסקי לפוסט של פרנסואה שולה – מתוף דף הפייסבוק המרתק "עליית המכונות"]

 

העולם שלנו מעוצב באופן ניכר ע״י שתי מגמות ארוכות טווח: אנחנו צורכים ויוצרים מידע ברשת, בבית ובעבודה, והחיים שלנו הולכים ועוברים לשם. באותו הזמן, האינטליגנציה המלאכותית הולכת ונהיית חכמה יותר ויותר.
שתי המגמות האלה נפגשות באלגוריתמים שקובעים את צריכת המידע שלנו: אלגוריתמים אטומים שקובעים יותר ויותר איזה מאמרים נקרא, עם מי נהיה בקשר, את הדעות של מי נקרא, מי יענה לדברים שאנחנו כותבים.

אחרי הרבה שנים של חשיפה אלינו, האלגוריתמים האלה שאוצרים את המידע עבורנו, נותנים למערכת ששולטת עליהם כוח משמעותי להשפיע על החיים שלנו, ולקבוע למה אנחנו עשויים להפוך. ככל שאנחנו מעבירים יותר מהחיים שלנו לממלכה הדיגיטלית, אנחנו הופכים יותר פגיעים לשליטים של הממלכה הזו: האלגוריתמים.

אם פייסבוק יכולה להחליט, במהלך תקופה של שנים רבות, איזה חדשות תראה (אמיתיות או מזויפות, לא משנה), איזה סטטוסים פוליטיים תראה, מי יראה את אלה שאתה כותב, אז פייסבוק שולטת למעשה על האמונות הפוליטיות ועל תפיסת העולם שלך.

כל זה לא ממש חדש. הרי ידוע שפייסבוק הריצה מאז 2013 סדרה של ניסויים שבהם הודגמה בהצלחה היכולת לשלוט על מצב הרוח וההחלטות של משתמשים ללא ידיעתם ע״י כיוונון של תוכן הפיד שלהם, ובנוסף גם לחזות את ההחלטות העתידיות שלהם.

בקיצור, פייסבוק יכולה, בעת ובעונה אחת, גם למדוד כל דבר אודותינו, וגם לשלוט במידע שאנחנו מקבלים. וכשיש לך אפשרות לקרוא גם את תפיסת המציאות וגם את פעולה הנוצרת ממנה, אז יש לפניך בעיית AI קלאסית. ואתה יכול עכשיו לבנות לולאת אופטימיזציה להתנהגות אנושית. לולאה של למידת חיזוק (Reinforcement learning).
לולאה שבה אתה צופה במצבה הנוכחי של המטרה שלך, ומכוון בזהירות את המידע שאתה מאכיל אותה, עד שאתה מצליח להוציא ממנה את ההתנהגות ואת הדעות שרצית.

חלק רציני מהשדה של מחקר אינטליגנציה מלאכותית (ובמיוחד החלקים שפייסבוק משקיעה בהם) עוסק בפיתוח אלגוריתמים שיכולים לפתור בעיות אופטימיזציה כאלה באופן היעיל ביותר. לחבר את שני צידי הלולאה הזו ולהשיג שליטה מלאה על התופעה שבה אנו עוסקים. במקרה הזה, שליטה עלינו.

וזה לא כל כך קשה, כי המוח האנושי פגיע במיוחד לדפוסים פשוטים של מניפולציה חברתית. בזמן שחשבתי על זה, כבר הכנתי לעצמי רשימה קצרה של דפוסי התקפה פסיכולוגיים שיכולים להיות אפקטיביים באופן הרסני. חלקם נמצאים בשימוש כבר זמן רב בתעשיית הפרסום (למשל חיזוק חברתי חיובי או שלילי), אבל באופן חלש ולא ממוקד. אם נסתכל על זה מנקודת מבט של אבטחת מידע, נוכל לקרוא להם ״נקודות תורפה״: אפשרויות ניצול (exploites) שיכולות לשמש אותנו כדי להשתלט על מערכת כלשהי.

ובמקרה של המוח האנושי, נקודות התורפה האלה לעולם לא יתוקנו – הן פשוט האופן שבו אנחנו פועלים. הן בתוך ה-DNA שלנו. הן הפסיכולוגיה שלנו. ברמה האישית, אין לנו כל דרך פרקטית להגן על עצמנו ממישהו שינצל את נקודות התורפה האלה.
המוח האנושי הוא מערכת סטטית, פגיעה, שהולכת למצוא את עצמה תחת התקפה מתגברת והולכת של אלגוריתמים של בינה מלאכותית, שילכו ויהפכו חכמים יותר ויותר. ויהיה להם מבט מגבוה על כל מה שאנחנו עושים, כל מה שאנחנו מאמינים בו, ובאותו הזמן ממש גם שליטה מלאה על המידע שאנחנו צורכים.

חשוב להגיד, שליטה המונית על אוכלוסיה – ובמיוחד שליטה פוליטית – המושגת מהצבת אלגוריתמים כדי לקבוע איזה מידע נקבל, אינה מצריכה רמה גבוהה במיוחד של אינטליגנציה מלאכותית. לא צריך כאן ישות סופר-אינטליגנטית, מודעת-לעצמה כדי להוות איום חמור.

אז אם שליטה המונית באוכלוסיה אפשרית כבר היום – בתאוריה לפחות – אז למה עדיין העולם לא הגיע לקיצו? אני חושב שהסיבה היא שאנחנו עדיין די גרועים בעסק הזה של AI. אבל זה עשוי להשתנות. תבינו, צוואר הבקבוק כאן הוא היכולות הטכנולוגיות שלנו.

עד 2015, כל האלגוריתמים למיקוד (Targeting) פרסומות, לרוחב כל התעשייה, עבדו באמצעות רגרסיה לוגיסטית פשוטה. למעשה, זה נכון במידה רבה אפילו היום: רק השחקנים הגדולים ביותר עברו למודלים מתקדמים יותר.

זו הסיבה שכל כל הרבה מודעות שאנחנו רואים כל היום ברשת לא קשורות לכלום. אין בהן שום תחכום. ובאותו האופן, הבוטים במדיה החברתית שהופעלו ע״י מדינות עוינות כדי להשפיע על דעות הציבור הכילו מעט מאוד אינטליגנציה מלאכותית, אם בכלל. הם פרימיטיביים לחלוטין.
בינתיים.

האינטליגנציה המלאכותית התקדמה במהירות רבה בשנים האחרונות, וכל הקדמה הזאת מתחילה רק עכשיו לעבוד באלגוריתמים למיקוד פרסומות ובבוטים לרשתות חברתיות. רק בסביבות 2016 החלה הלמידה העמוקה להכנס לפיד החדשות ולרשתות הפרסום. פייסבוק השקיעה בכך השקעה עצומה.

מי יודע מה יבוא עכשיו? זה די מדהים לראות את ההשקעה הענקית של פייסבוק במחקר ופיתוח של אינטליגנציה מלאכותית, עם המטרה המוצהרת להיות המובילה בתחום. מה כל זה אומר לכם? מה היית עושה עם כל זה אם המוצר שלך הוא פיד החדשות?

נמצאת לפנינו ישות רבת עוצמה שבונה פרופילים פסיכולוגיים מדויקים ופרטניים של יותר משני מליארד אנשים, שמריצה ניסויי ענק במניפוליציה התנהגותית, ושמתכוונת לפתח את טכנולוגיית הבינה המלאכותית הטובה ביותר בעולם

תגיות
הראה עוד

כתיבת תגובה

האימייל לא יוצג באתר. שדות החובה מסומנים *

Close