New-Tech Magazine | APR Edition - Special for New-Tech Exhibition 2025 | Digital Magazine

ככל שהצ'טבוט גדול ומאומן יותר - כך הוא משקר וטועה יותר

באדיבות מכון דוידסון לחינוך מדעי, הזרוע החינוכית של מכון ויצמן למדע. »

בקרוב גם לתלות של ממש. זאת למרות הנטייה של מחוללי הטקסט לייצר לעיתים תוכן מאוד לא יציב ומשובש, הכולל טעויות וטענות לא נכונות המצויינות כעובדות - תוכן שמכונה "הזיות". פחות הסתייגויות, יותר טעויות מחקר חדש, של חוקרים מהאוניברסיטה הפוליטכנית בוולנסיה שבספרד, השווה בין גרסאות מוקדמות של מודלי שפה גדולים לגרסאות משופרות ומתקדמות יותר, ותוצאותיו מתארות מגמה מדאיגה. החוקרים מצאו שגרסאות מוקדמות של מודלי השפה הגדולים, שעליהם מבוססים מחוללי הטקסט, הרבו להתנסח בהסתייגות ונמנעו מטעויות. לעומת זאת, מודלים משודרגים נטו להיות יותר החלטיים – וסיפקו יותר תשובות שגויות. המחקר מצא שככל שמודלי השפה היו מוגדלים ומונחים יותר – כלומר, ככל שבתהליכי האימון שלהם שולבו יותר תהליכי ביניים שמטרתם לשפר את התוצאה, כמו משוב אנושי – כך הם הצליחו לייצר

יותר תשובות נכונות לשאלות קלות, אם כי חלק מתשובותיהם עדיין היו שגויות, אפילו לשאלות הקלות ביותר. כשניתנו להם שאלות קשות יותר נראה שהמצב הרבה יותר עגום, כיוון שבמקום שבו המודלים הבסיסיים נטו להסתייג ולהתחמק מתשובה, או אף סירבו בפירוש לענות, המודלים המשוכללים סיפקו לרוב תשובות שגויות. בנוסף, המחקר מצא שבמקרים רבים משתמשים אנושיים לא הצליחו להבחין בטעויות של המודל, ולא סיווגו את התשובות השגויות ככאלה. המחקר עקב אחרי ההתפתחות של שלוש , GPT קבוצות מודלי שפה גדולים: מודלי , מודלים Chat - GPT שהם הבסיס לבוט ) של חברת מטא Llama בשם למה ( (לשעבר פייסבוק), וקבוצת מודלים בשם ), שהיא פרי יוזמת שיתוף BLOOM בלום ( פעולה בין חוקרים מרחבי העולם. עבור מודלים משלוש הקבוצות, המחקר השווה בין גרסאות שונות שפותחו עם הזמן, מודלים מוקדמים ומספר מודלים שעברו התאמות ושכלולים במטרה לשפר את ביצועי המחוללים. השדרוגים הללו נעשים במגוון דרכים, כמו הגדלת כמות המשתנים

מחקר מצא שמחוללי טקסט משופרים מייצרים יותר טעויות, ושבני האדם לא תמיד תופסים אותם על חם תחילת הדרך, כשמחוללי טקסט ב באמצעות בינה מלאכותית רק נכנסו לחיינו, לשוחח עם בוט שכזה היה בגדר שעשוע. בהמשך, רבים מאיתנו אימצו Chat - GPT את מחוללי השפה הגדולים – ודומיו – ככלי עזר לגיטימיים לשלל מטרות מבוססות-טקסט: תלמידות נעזרות בהם כדי להכין שיעורי בית, רופאים נעזרים בהם כשהם עונים על פניות מהמטופלים, ויש שאפילו משתמשים בהם ככתף תומכת או מבקשים מהם עצה מקצועית. המחוללים מייצרים טקסט שמדמה שיחה אנושית ונראה מאוד אמין, בין היתר בזכות ניסוחים החלטיים ומלאי ביטחון עצמי. הבינה המלאכותית מאיימת להחליף את מנועי החיפוש בתור "מכשיר הניווט" שלנו בים המידע, ומשתמשים רבים כבר התרגלו לסמוך על יישומיה. יחסי האנושות עם המכונה, שהחלו רוויי חשדנות וספקנות, הופכים בהדרגה ליחסי אמון, שאולי יהיו

New-Tech Magazine l 60