ניו-טק מגזין | מאי 2025 | המהדורה הדיגיטלית

הבאה, הוא מתייחס לרשימת המשכים אפשריים, ועבור כל אחד מהם הוא מחשב את ההסתברות שהפיסה הזאת תהיה המשך הפלט. חישובי ההסתברות האלה מבוססים על תהליכי האימון והלמידה שעיצבו את המחולל, והם שונים ממחולל למחולל. קיימות כמה אסטרטגיות לבחירת הפיסה שתמשיך את הטקסט. אחת מהן היא פשוט לבחור את הפיסה הסבירה ביותר – זאת שההסתברות שלה הכי גבוהה – ולהתעלם מהאחרות. דרך אחרת היא לקחת את כל ההמשכים האפשריים, לתת לכל אחד מהם משקל יחסי בהתאם להסתברות שלו, ואז לערוך ביניהם הגרלה. כאן נוסף לתהליך מרכיב של אקראיות. יש גם שיטות אחרות. כדי להוסיף לטקסט חתימה מוסווית, החוקרים מבית גוגל מציעים לשלב בתהליך של בחירת פיסת הטקסט הבאה גם מפתח חתימה מסוים. בכל צעד, מתוך רשימת האפשרויות לפיסת הטקסט הבאה, המחולל יבחר באחת האפשרויות בעזרת שילוב בין ההסתברויות שחישב בעצמו לציון שמקורו במפתח. השיטה הזו מטביעה נוכחות של מפתח מוצפן בתוך בחירת המילים של המחולל. החוקרים הציגו מנגנון שמאפשר לנתח את הטקסט ולהעריך אם מפתח כזה מוצפן בו. עקב אופיה ההסתברותי, השיטה הזאת לא חד-משמעית, והיא עלולה גם להזדהם אם המשתמש עורך את התוצאה באופן משמעותי, למשל באמצעות מערכת בינה מלאכותית אחרת. שיטת החתימה הזאת אפשרית רק אם החברה שייצרה את המחולל מעוניינת לחתום על , יצרנית הבוט מחולל OpenAI התוצר. חברת , הודיעה כי היא פיתחה GPT הטקסט צ'אט שיטת חתימה משלה, אך היא ממשיכה לחפש לה חלופות. אחד השיקולים שהציגה החברה הוא החשש שעקב קיומה של חתימה שמאפשרת לזהות טקסטים שהמחולל ייצר, יתפתחו דעות קדומות סביב השימוש שעושים אנשים מסוימים או קבוצות אוכלוסייה בבינה מלאכותית יוצרת ככלי עזר לכתיבה. מעבר לדאגה למשתמשים, סטיגמה כזאת עלולה כמובן לפגוע גם ביצרנית המחולל: העיתון ערכה OpenAI וול סטריט ג'ורנל דיווח כי חיפוש חותמת המים בשטר של מאה דולר .Melnikov Dmitriy, Shutterstock קרדיט: באדיבות מכון דוידסון לחינוך מדעי, הזרוע החינוכית של מכון ויצמן למדע. מהי המקבילה תמונת כותרת: « לחותמת מים או מטא-דאטה בטקסט?

הוספת חתימה מוסווית או גלויה לתוצר היא הדרך הישירה ביותר לאפשר : 1 תמונה « לנו לזהות תוכן שיוצר בידי בינה מלאכותית. אמנית חותמת על ציור שציירה . באדיבות מכון דוידסון לחינוך מדעי, הזרוע silverkblackstock, Shutterstock קרדיט: החינוכית של מכון ויצמן למדע.

חותמת מוסווית כזו לא תהיה גלויה, ולכן יהיה קשה יותר לחבל בה, אך מי : 2 תמונה « שידעו איפה היא מסתתרת ימצאו אותה בקלות. אישה עם ראש־מסך כותבת שאילתה (פרומפט) למחולל . באדיבות מכון דוידסון לחינוך מדעי, הזרוע AI Collagery, Shutterstock קרדיט: החינוכית של מכון ויצמן למדע.

סקר שנועד לבדוק את מידת התמיכה 2023 ב- אחוז 30 של משתמשים במנגנון חתימה כזה. מהמשיבים ענו כי יפחיתו את השימוש בצ'אט- אם חתימה כזו תיכנס לשימוש. GPT לשאול את המחולל לא תמיד יצרני המחוללים מעוניינים להצמיד חתימה לתוצר שלהם, וגם כשיש חתימה כזאת עדיין לא תמיד קל לזהות אותה, או שבעלי אינטרסים יכולים להסיר אותה. על כן דרושות

דרכים נוספות לזהות תוצרי בינה מלאכותית. אחד מכיווני המחקר מתמקד באופן שבו המחולל משרשר פיסות טקסט קצרות לטקסט שלם: הוא בוחר בכל צעד את פיסת הטקסט האפשרי בעלת ההסתברות הגבוהה ביותר בעיניו, לפעמים בתוספת של מרכיב כלשהו של אקראיות. כלומר לכל צירוף אחר שהמודל לא בחר תהיה הסתברות נמוכה יותר לפי חישובי המודל. לעומת זאת, בני אדם לא יבחרו בדרך כלל את הצירוף הסביר ביותר בעיני המחולל כשהם כותבים טקסט בעצמם. בהסתמך על

53 l New-Tech Magazine