ניו-טק מגזין | מאי 2025 | המהדורה הדיגיטלית

הפער הזה קבוצת חוקרים מאוניברסיטת סטנפורד בארצות הברית הציעה כלי שיאפשר לבחון מה הסיכוי שמודל כלשהו ייצר טקסט מסוים – בתנאי שיש לנו גישה לתהליך חישוב ההסתברויות שלו. . החוקרים מציעים GPT -3 ניקח לדוגמה את לקחת את הטקסט שנרצה להכריע אם הוא נכתב בידי המחולל, וליצור גרסאות נוספות שלו עם שינויים קלים. לדוגמה, במקום המשפט "כתבי מכון דוידסון לא משתמשים בבינה מלאכותית בכתיבת הכתבות" אפשר לבחון חלופות כמו "כתבי מכון דוידסון לחינוך מדעי לא משתמשים בבינה מלאכותית בכתיבת הכתבות", "כתבי מכון דוידסון לא משתמשים בבינה מלאכותית בכתיבת הכתבות" או "כתבי מכון דוידסון לא משתמשים בעיפרון בכתיבת הכתבות". כעת נבחן מה ההסתברות לכל . אם ההסתברות GPT -3- אחד מהמשפטים ב למשפט המקורי גבוהה יותר מהחלופות, סביר הוא הכותב. אם לא, סביר GPT -3- להניח ש להניח שלא הוא זה שעומד מאחורי הטקסט, כי המבנה שלו לא תואם את אסטרטגיית . הכותב האמיתי GPT -3 יצירת המשפטים של יכול להיות אדם, או מחולל אחר שבונה את המשפטים אחרת. חוקרים מאוניברסיטת הרווארד בארצות , IBM הברית, בשיתוף מחלקת המחקר של פיתחו כלי שמנגיש את ניתוח ההסתברויות של תוכן המשפט בעיני המודל. בהינתן טקסט מסוים, הכלי מסמן כל מילה בצבע שמסמן את הדירוג שלה לפי ההסתברויות של המודל למשפט הזה. כך נוצר זיהוי ויזואלי של טקסטים "מזויפים": קוראים שיראו רצף ארוך שצבוע בדירוג הסתברות גבוהה, יחשדו שהוא יוצר בידי הבינה המלאכותית ויקראו אותו בעיניים ביקורתיות. סקר שערכו החוקרים הראה שעצם ההדגשה של חלקים בטקסט על בסיס החשד שהם יוצרו בידי מחולל מסוים עודדה קריאה ביקורתית יותר וסייעה לקוראים להכריע אם מדובר בטקסט שנכתב בידי אדם או מכונה. עם זאת, המבחן הזה ממוקד במחולל ספציפי ומחייב, כאמור, גישה לאופן חישוב ההסתברויות שלו. אופי מלאכותי כשאין דרך לדעת איך חושבו ההסתברויות, חוקרים מנסים לחפש את העקבות שהמחוללים הותירו על פני השטח. אחת הדרכים לעשות את זה היא לאתר את הפגמים האופייניים לתוצרים מסוימים של המחוללים – מעין "חתימת כשלים".

קושי להציג פרטים מורכבים, כגון אצבעות, בתמונות של גוף האדם. : 3 תמונה « תמונת כפות ידיים ממחולל התמונות מידג'רני ליאת פלי באמצעות מידג'רני. באדיבות מכון דוידסון לחינוך מדעי, הזרוע החינוכית קרדיט: של מכון ויצמן למדע.

מחוללי תמונות מתקשים לעיתים לייצג פרטים מורכבים בתמונות של גוף האדם, ולכן הם עלולים ליצור דמויות עם מספר לא שגרתי של ידיים או אצבעות. חוקרים אף מצאו כי ההשתקפויות בעיניים בתמונות פנים שייצר מחולל אינן עקביות ומציגות תבנית השתקפות שונה בכל עין, בניגוד להשתקפויות עיניים טבעיות. נוסף על כך, מחוללי תמונות מתקשים להוסיף כיתוב בתוך התמונה. גם לסגנון הכתיבה של מחוללי טקסט יש מאפיינים מוכרים, כגון ארכנות ונימוסים מופרזים. ניתוחים של טקסטים שיצרה בינה מלאכותית

הצביעו גם על הבדלים סמנטיים בין טקסטים מעשה ידי אדם או פרי יצירתה של בינה מלאכותית. מחולל ממעט להשתמש במילים נרדפות בהשוואה לבני אדם, כותב פחות שמות , ומעדיף יותר PDF עצם ושמות תוארקובץ מסוג פעלים ויותר כינויים. טקסט ממקור אנושי הוא מגוון יותר מבחינה רטורית וסמנטית, ובני אדם נוטים להשתמש במילים פחות נפוצות מאלה שבוחר מחולל מלאכותי. חוקרים מצביעים גם על בעיה של לכידות פנימית אצל מחוללים, שבאה לידי ביטוי בכך שפסקאות שהם מייצרים עשויות להתחיל

מתקשה להציג טקסט בתוך התמונה. ניסיון של מחולל התמונות מידג'רני : 4 תמונה « "best brasserie paris לחולל שלט עם הטקסט " ליאת פלי באמצעות מידג'רני. באדיבות מכון דוידסון לחינוך מדעי, הזרוע החינוכית קרדיט: של מכון ויצמן למדע.

New-Tech Magazine l 54