תלמידים גילו ש-AI בודק להם את המבחנים, אז הם פיתחו שיטה לקבל 100

התפרצות מגיפת הקורונה הובילה למעבר גדול ללמידה מרחוק. בארה”ב המעבר הזה גם האיץ תהליכים קיימים של שימוש בבינה מלאכותית בלימודים – בין היתר לבדיקת משימות ומבחנים של תלמידים, שגילו דרכים שונות לעבוד על המערכת כך שתיתן להם ציונים גבוהים בקלות. אמו של אחד התלמידים: “הוא עבר מנכשל למצוין מבלי ללמוד כלום”. מקור עברית: Geektime.

“סלט מילים” בתמורה לציון 100 עגול

אלפי בתי ספר בארצות הברית משתמשים במערכת של חברה בשם Edgenuity למתן משימות בית לתלמידים, או כמו שקוראים להן בימי קורונה – משימות. אך מסתבר שמלבד שיוך המשימות לתלמידים במערכת של Edgenuity, המורים גם נתנו לה את היכולת לתת ציונים לאותן המשימות.

דיינה סימונס, מרצה להיסטוריה באוניברסיטת קליפורניה-ריברסייד (UC Riverside) חשפה בסדרת ציוצים את ההתנהלות של הבן שלה מול המערכת שנתנה לו ציונים. סימונס מציינת כי בנה החל ללמוד בחטיבת הביניים מהבית בשבוע האחרון בספטמבר כשהוא מצפה, בתור בן למרצה להיסטוריה, לקבל ציונים טובים בתחום.

לדבריה, בוקר אחרי הגשת העבודה הראשונה היא מצאה אותו מתלונן שקיבל ציון 50 על הגשת העבודה הראשונה – שאלה שהצריכה תשובה קצרה בנושא הנלמד. היא כתבה שבנה ממש סבל מהכישלון עקב המצב והחליטה לעזור לו “לתחמן” את המערכת.

“אמרתי לו איך לרמות את האלגוריתם של Edgenuity: לכתוב תשובות ארוכות, להוסיף המון שמות של מקומות או אנשים, לקרוא את התשובות ‘הנכונות’ (שהמערכת של Edgenuity מציגה בפני התלמידים אחרי שהגישו תשובה וקיבלו ציון, א.א) ולהעתיק אותן”, כותבת סימונס. היא ראתה את התשובות שמנפקת המערכת כ”נכונות” והבינה מה היא מחפשת בכל תשובה.

היא מספרת שכבר בפעם הראשונה שבנה ניסה את הטיפים הללו, הוא זכה לציון 80. אבל מהמבחן הבא והלאה, כל הציונים שלו היו 100 עגול.

היא מספרת כי בנה משתמש במבנה שנתנה לו, יחד עם מה שהיא מכנה “סלט מילים” – מילות מפתח שהמערכת מחפשת בתשובות כדי שייחשבו נכונות. “הוא פיצח את זה. שני משפטים ארוכים, אחריהם כל מילות המפתח שיכולות להתאים לתשובה וציון 100 בכל משימה. הוא עבר מנכשל למצוין מבלי ללמוד דבר”, כתבה סימונס.

אחת התשובות שהגיש בנה של סימונס שזיכתה אותו בציון מלא עסקה במיקומה של קונסטנטינופול ותרומתו לעושרה. בתשובתו הוא כתב שני משפטים מלאים: “קונסטנטינופול הייתה בין הים האגאי לים השחור, מה שהפך אותה למרכז לסוחרים ונוסעים. היא הייתה בין אירופה לאסיה הקטנה, מה שהפך אותה למרכז סחר והיא נמצאה על כמה דרכי מסחר באותה התקופה”; ואז הגיע סלט המילים: “רווח מגוון ספרד גאליה סין הודו אפריקה” – מה שנתן לו 100 עגול.

הבן של סימונס הוא לא היחיד

המערכת של Edgeuity מציעה מאות שיעורים ברשת בתחומים שונים, כך שהאפשרויות לרמות את המערכת לא עצרו רק בקורס ההיסטוריה של בנה של סימונס. המערכת של החברה נמצאת בכ-20 אלף בתי ספר בארה”ב וב-20 מתוך 25 המחוזות הגדולים ביותר במדינה.

תלמידים אחרים ששוחחו עם TheVerge סיפרו שהצליחו לרמות את המערכת של Edgenuity, ולא רק במשימות בשיעורים הומניים כמו היסטוריה. תלמיד אחד מספר כי הצליח לעבור את לימודי האלגברה שלו על ידי חיפוש ברשת של פתרונות כשהוא מציין שב-9 מתוך 10 מקרים הוא מצליח למצוא “מילות מפתח” ותשובות לדוגמה כדי להכניס למערכת ולקבל ציונים טובים מהאלגוריתם.

תלמידים אחרים בחרו בדרך אחרת והעתיקו את השאלות לתוך תיבת התשובה, מתוך מחשבה שהיא מכילה מילות מפתח שהאלגוריתם יזהה כנכונות, והוסיפו טקסט משלהם. אחד מהם אף ציין שעשה את זה במשך סמסטר שלם וקיבל ציון גבוה בכל פעם מחדש.

ב-Edgenuity הגיבו לסערה שעוררו הציוצים של סימונס וכתבות בנושא בארה”ב וכתבו בטוויטר: “Edgenuity לא משתמשת באלגוריתמים כדי להחליף את הציון של המורים, אלא רק כדי לתת להם קווים מנחים למתן ציון. המורים יכולים לקבל או לעקוף את הציונים שמציעה המערכת. מבחנים לעולם לא ינוקדו בעזרת AI וציון הקורס הסופי לעולם לא יקבע ע”י AI”.

מקור תמונה: גיקטיים-Unsplash

×

לחיצה על פרטי הקשר של ניר תפתח חלון חדש של וואטסאפ שיחבר אותך אלינו ישירות.

×