ניו-טק מגזין | מאי 2025 | המהדורה הדיגיטלית

מה צריך לקרות כדי שנצליח להכריע מי חיבר את הכתוב או יצר את התמונה - אדם או בינה מלאכותית?

באדיבות מכון דוידסון לחינוך מדעי, הזרוע החינוכית של מכון ויצמן למדע. »

האיכות הגבוהה של תוצרי המחוללים מאלצת אותנו להתמודד עם אתגרים חדשים בתחום ההפצה של מידע כוזב ומציפה שאלות על הבעלוּת על יצירות שנעשו במחוללים ועל הלגיטימיות של הצגת יצירה כזו לצד יצירות אנושיות. כדי להעריך את היקף התופעה ולהתמודד עימה עלינו לדעת לזהות: מי עומד מאחורי התוכן, בינה אנושית או בינה מלאכותית? חתימה מוחבאת הדיון הציבורי בנושא, לצד ההכרה בצורך למגר את הסכנות הכרוכות בתוכן מלאכותי אמין מדי מעודדים את החברות הבונות את המחוללים לסמן את תוצרי המחוללים. החברות יכולות להחביא בפלט מעין חתימה שמסגירה את זהותו של התוצר המלאכותי. לדוגמה, בתמונות שמייצר מחולל התמונות מוטמע מטא-דאטה, כלומר מידע DALL - E 3 שמצורף לתמונה, המציין את מקורה. חברת מטא (בעלת פייסבוק) פועלת בצורה דומה כדי להקל על הזיהוי של התמונות שהמחוללים שלה מייצרים. נוסף על כך, היא מעודדת משתמשים לנהוג בשקיפות ולציין את מקור היצירה כשהם מעלים לרשת החברתית תמונות שנוצרו בעזרת

מחולל אחר, שאינו מטביע חתימה ביצירותיו. תמונה היא פורמט שקל למדי להטביע בו סימן מזהה, בעזרת כלים שקשה למחוק כמו מטא דאטה או חותמת מים. לעומת זאת, בתוכן כתוב הרבה יותר קשה למנוע העתקות וזיופים. בדרך כלל פשוט מאוד להעתיק רק את הטקסט עצמו, ולהיפטר מכל סימן מזהה שניסו להצמיד אליו.

מחוללים המבוססים על בינה מלאכותית מייצרים תוכן הדומה באיכותו לפרי יצירתם של בני אנוש. התוכן הכתוב, התמונות, הסאונד והסרטונים שהמחוללים העדכניים ביותר מסוגלים לייצר מגיעים לאיכויות גבוהות יותר ויותר, וסקרים מראים שאנשים מתקשים להבחין במלאכותיות שלהם. חוללי הטקסט מאפשרים לתלמידי בית מ ספר ולסטודנטים בתארים מתקדמים לדלג על מטלות כתיבה או להפחית את העמל הכרוך בכתיבתן. מחוללים מסייעים למגוון גופים לנהל תקשורת כתובה עם לקוחות ומטופלים – לא בהכרח בשקיפות לגבי העובדה שהתקשורת אינה עם אדם, אלא עם בינה מלאכותית. מחוללי תמונות מייצרים תמונות אמנותיות הזוכות בפרסים. ואפילו בקהילה המדעית מתעורר החשש שחוקרים ישתמשו במחוללי תמונות כדי לזייף ממצאי ניסויים ולהשתחל באין מפריע לכתבי עת מדעיים. בכמה מהמקרים שהזכרנו כאן, השימוש בבינה מלאכותית הוא סוג של קיצור דרך הנמצא ב"תחום האפור", ואילו באחרים השימוש בתוצרים אמינים של בינה מלאכותית הוא כבר הונאה של ממש.

זיהוי טקסט בשיטת המפתחות

, חטיבת פיתוח Google DeepMind חוקרי הבינה המלאכותית של גוגל, הציעו השנה שיטה חדשה להטבעת חותמת מוסווית בטקסט. חותמת כזו לא תהיה גלויה לעיני המשתמשים, ולכן יהיה קשה יותר לחבל בה, אבל מי שידעו איפה היא מסתתרת ימצאו אותה בקלות. כדי להבין את השיטה, נתאר בקצרה איך מחוללי טקסט עובדים. הגישה הבסיסית של מחוללי טקסט מבוססי בינה מלאכותית היא בנייה המשכית של התוכן הכתוב. צעד אחר צעד, על סמך הטקסט שקיים עד כה, המחולל משרשר את פיסת הטקסט הבאה בתור. פיסת הטקסט הזאת היא בדרך כלל כמה אותיות ותווים, ולא מילה שלמה. כשהמחולל עומד לפלוט את פיסת הטקסט

New-Tech Magazine l 52