הספרות הצרפתית חווה אחת מאותן מחלוקות שמשאירות טעם רע בפה, ובו בזמן מאלצות אותך להתעמת חזיתית עם סוגיה לא נוחה. הרומן " האם זה או לא אכזב" , מאת הסופר הקנדי-האיטי תליסון אורליין, הפך מאחת התופעות של התחייה הספרותית למוקד של חקירה בלתי פורמלית בשאלה האם הטקסט שלו נכתב בעזרת בינה מלאכותית. ההאשמה אינה מגיעה מבית משפט או ממוציא לאור, אלא מחשבון אנונימי באתר X שהגיש קטעים מהיצירה לכלי איתור.
הספר, שתורגם גם לספרדית בשם Era eso, morir (זהו זה, למות ), מכר כ-35.000 עותקים תוך חמישה שבועות ונחשב למועמד לפרסים גדולים. כעת, השאלה אינה עוד רק מי כתב אותו, אלא מה בדיוק משמעותה של כתיבה בתעשייה שמתחילה להתמודד עם מודלים לשוניים המסוגלים לחקות סגנונות אנושיים. מו"לים, סוכנים וחברי מושבעים ספרותיים עוקבים מקרוב אחר המקרה משום שהוא מבשר בעיות דומות בשווקים אירופיים אחרים.
תיק שנפתח בצרפת: מתלונות אנונימיות ועד פרסים ספרותיים
המחלוקת החלה כאשר חשבון "באלאנס טון קלוד" פרסם מספר ניתוחים על X באמצעות Pangram, תוכנה המתמחה בזיהוי דפוסים בטקסטים שנוצרו על ידי בינה מלאכותית. על פי תוצאות אלו, חלק מהקטעים ברומן נוצרו על ידי מכונה, והפוסט כולו נכתב "כמעט כולו" בדרך זו. הפוסט צבר מיליוני צפיות והפנה את תשומת הלב לספר שעד אז זכה לשבחי המבקרים ולמכירות חזקות.
כלי תקשורת צרפתיים נענו לאתגר. ה"לה מונד" ניתח יותר ממחצית הרומן באמצעות פנגרמה והגיע למסקנה שיותר מ-95% מהטקסט יכלו להיווצר על ידי בינה מלאכותית, ברמת ביטחון גבוהה. ממצא זה היה בולט משום שפנגרמה נחשב לאחד מגלאי הבינה המלאכותית המדויקים ביותר בשוק. אף על פי כן, טבעם של כלים אלה מונע מאיתנו לדבר על הוכחה חותכת: הם אינם מאשרים את יצירתם, הם רק מצביעים על הסתברויות.
מסלול ההוצאה לאור של הספר מסביר גם את גודל השערורייה. הוא מכר כ-35.000 עותקים תוך חמישה שבועות והועמד ברשימה הקצרה לפרסים יוקרתיים כמו פרס גונקור, בנוסף לזכייה בפרסים נוספים בצרפת. הצלחה מסחרית וביקורתית זו הפכה את החשד בנוגע לבינה מלאכותית לנושא לא נוח הרבה יותר עבור התעשייה.
בתגובה להאשמות, ת'ליסון אורליין הכחיש כי השתמש בבינה מלאכותית לכתיבת הרומן. הוא הסביר כי הטיוטה הראשונה הושלמה לפני זעקת הקהל של ChatGPT וכי החזרות, הדימויים והקצבים בטקסט משקפים את דרך הביטוי שלו, המושרשת במורשתו ההאיטית והקריבית. גם הוא וגם המו"לים שלו מכינים תיעוד על תהליך היצירה כדי לנסות להוכיח שהיצירה היא שלו.
כלי גילוי: רמזים, לא הוכחה חותכת
המקרה העמיד את פנגרם ואת גלאי הבינה המלאכותית באופן כללי תחת ביקורת . הכלי מתגאה בשיעור נמוך מאוד של תוצאות חיוביות שגויות והוא צוטט במחקרים אקדמיים, אך מומחים מציינים כי אף מערכת לא יכולה לקבוע באופן סופי מי כתב טקסט. כלי תקשורת ומשתמשים שונים בדקו את אותם קטעי טקסט עם גלאים אחרים וקיבלו תוצאות מעורבות: חלקם סיווגו אותם כבני אדם ככל הנראה.
מומחים לגילוי פורנזי הזהירו כי סגנונות כתיבה מסוימים עלולים להוביל לשגיאות וכי הדיוק יורד בעת ניתוח שפות שאינן אנגלית. לכך מתווסף פרט מכריע: הגלאי עצמו הוא בינה מלאכותית, ולכן פסק הדין שלו מסתמך על דפוסים סטטיסטיים ולא על ראיות דוקומנטריות. במקרה כמו של אורליין, ההבדל בין חשד לוודאות הוא עצום.
למעשה, כבר הופצו ראיות באמצעות טקסטים אנושיים שכלים כמו פנגרם סימנו ככאלה שנוצרו על ידי בינה מלאכותית. אין זה אומר שההאשמה נגד אורליין שקרית, אך זה מחייב התייחסות לתוצאות בזהירות. אין קונצנזוס בין גלאי הבינה המלאכותית , ולעת עתה, החשדות מבוססים על אינדיקציות טכניות שאינן מאשרות או מכחישות שהמחבר השתמש במודל שפה.
הדיון הבסיסי: כותבים, פרסים וכללי התעשייה
מעבר למקרה הספציפי הזה, המחלוקת העלתה שאלה שהתעשייה נמנעה ממנה זה מכבר: היכן עובר הגבול בין שימוש בבינה מלאכותית ככלי לבין מתן אפשרות לכתיבה עבורך? זה לא אותו דבר להשתמש בה למחקר, עריכה או התגברות על מחסום כתיבה, כמו זה להאציל לה סמכויות מבנה, סגנון או דיאלוגים. חוגים ספרותיים צרפתיים דנים האם שתי הפרקטיקות ראויות לאותה ביקורת והאם הקוראים צריכים לדעת מה נכנס לכל ספר.
פרסים נמצאים גם הם תחת בדיקה. בוויכוח סביב תחרויות ספרותיות נטען כי הכללים חייבים להיות מפורשים הרבה יותר כדי למנוע הונאה וכי חשד מבוסס צריך להספיק כדי לפסול יצירה . במקביל, חלק מהמוציאים לאור וסוכנים דוחקים נגד הפיכת תהליך הגילוי לציד מכשפות, משום שתוצאות חיוביות שגויות עלולות לפגוע בסופרים לגיטימיים. היעדר תקנות משותפות מחריף את תחושת חוסר הוודאות הזו.
מקרה אורליין גם הראה כי בינה מלאכותית אינה עוד איום עתידני, אלא בעיה עכשווית בתעשיית הספרים . החל מהגשת כתבי יד ועד לקידום, כולל חוזים וזכויות יוצרים, כל חוליה בשרשרת זקוקה להנחיות ברורות. בעוד שחלק מהכותבים טוענים שכתיבה היא חוויה אישית וייחודית, אחרים מאמינים שטכנולוגיה יכולה להיות כלי שימושי אם השימוש בה שקוף.
הרומן של תליסון אורליין ימשיך לעורר דיון, אך השפעתו האמיתית חורגת הרבה מעבר לפרס או עלייה במכירות. הפרק חשף את שבריריותם של קריטריוני המחבר ואת הקושי להוכיח מי כתב מה כאשר מעורבת בינה מלאכותית. עד שייקמו כללים משותפים ושיטות אימות חזקות יותר, כל מקרה חדש ייפתר על רקע חשדנות, הודעות לעיתונות ותחושה לא נוחה שהתעשייה מפגרת אחרי הטכנולוגיה.