Anonim
סטטי דיבור שנאה בפייסבוק 2

כדי להילחם בנאום שנאה והטרדות, פייסבוק משתמשת בשיטת תכנות חדשה שיכולה לנטרל אלגוריתמי סימון תוכן המופעלים באמצעות AI בקצב מהיר יותר.

ביום רביעי דיבר המנכ"ל של הפייסבוק, מייק שופראופר, על גישה לבניית AI בשם "למידה בפיקוח עצמי", שמבטיחה לסייע לרשת החברתית לאתר את התוכן הפוגע בצורותיו המשתנות ללא הרף.

"העתיד כאן די מרגש", אמר גרופפר במהלך דיבורו בכנס המפתחים השנתי של החברה. "ראינו מספר פריצות דרך ממש בשנתיים האחרונות ברעיון של למידה בפיקוח עצמי."

נכון לעכשיו, פייסבוק יכולה רק לאתר כמחצית מדברי השנאה המופצים מעל הרציף לפני שמשתמש מדווח על כך. כשמדובר בהטרדות ובריונות ברשת, האחוז יורד אפילו נמוך יותר לכ -15 אחוזים.

Complicating the problem is how hate speech can be packaged in clever memes. The wording can also rapidly change based on current events and politics. For instance, "caravan" became a popular term when discussing US-bound migrants from Latin America.

Facebook' s existing AI systems can already combat other forms of problematic content, such as spam, nudity and terrorist propaganda. However, the systems have been built with an older programming>

למרות שלמידה בפיקוח אפקטיבית יש חיסרון גדול: המתכנת האנושי צריך לתייג את כל הנתונים שעליהם מכשיר ה- AI מיומן, שיכולים להיות כרוכים בתיוג של כל פריט בתמונה או בוידאו. ה- CTO של פייסבוק אמר כי "זה ידני ואיטי באופן מפתיע". "זה יכול לקחת לך ימים עד שבועות עד חודשים כדי לעבור את כל התהליך."

"This is the power of self-supervision, " Paluri said while speaking at Facebook' s developer conference. "It allows us to move fast."

קשורים

  • אחרי שנה גסה, פייסבוק מנסה פרטיות לאחר שנה גסה, פייסבוק מנסה לפרטיות
  • המשתמשים המתים של פייסבוק יעלה על המספר על החיים במוקדם מכפי שאתה חושב שמשתמשי המתים של פייסבוק יגזלו על החיים בהרבה יותר ממה שאתה חושב
  • כל מה שחסרת ​​בפייסבוק F8 2019 כל מה שחסרת ​​בפייסבוק F8 2019

הזמן יגיד אם הטכנולוגיה משנה את ההבדל. אבל חלק מבעיות התמתנות התוכן של פייסבוק עשויות להיות יותר קשורות למדיניות מאשר לגילוי תוכן. לדוגמה, בחודש מרץ החלה החברה לאסור את המונח "לאומיות לבנה" כנאום שנאה, מה שלטענת המבקרים נעשה מאוחר מדי. בינתיים, אחרים האשימו את הרשת החברתית בדיכוי הדיבור החופשי במשימתה להפסיק התעללות ברשת.

ה- CTO של פייסבוק הודה כי אנשים עשויים להיות סקפטיים בפייסבוק ואומרים כי AI יכול לעזור לתקן את בעיות החברה. אולם שרייפרפר אמר כי ההתקדמות המתמשכת בבינה מלאכותית אכן הופכת אותו לאופטימי לעתיד. "אין תשובה פשוטה, אבל יש הרבה עבודה", אמר. "הפתרונות לעולם לא יהיו מושלמים, אבל עלינו להמשיך."