הדרך שבה AI (בינה מלאכותית) ממלאת את העולם בזבל דיגיטלי 

מערכות בינה מלאכותית ג'נרטיביות (צאט-ג? פי טי) יכולות ליצור טקסט במהירות וביעילות, אך הן לעיתים קרובות מייצרות טקסט בינוני משעמם או אפילו מזויף. ככל שהטכנולוגיה הזו מתקדמת, יש יותר ויותר אנשים שמשתמשים בה כדי ליצור תוכן מזויף, כוללפרופילים מזויפים, אתרי תוכן, ביקורות וספרים. תוכן זה יכול להיות קשה להבדיל מתוכן אמיתי, והוא יכול לשמש להפצת דיסאינפורמציה, תעמולה והונאה.
 

ישנן מספר סיבות לכך שמערכות בינה מלאכותית ג'נרטיביות מייצרות לעתים קרובות טקסט בינוני או מזויף. ראשית, המערכות האלו שואבות מידע  מכמות עצומה של נתוני טקסט, מה שיכול לגרום לכך שהן ילמדו תבניות שאינן קיימות במציאות. שנית, המערכות האלו אינן מוגבלות על ידי אותם סטנדרטים של איכות והבנה לוגית כמו בני אדם, מה שעלול לגרום להן ליצור טקסט חסר עניין, משעמם או לא מציאותי. שלישית, המערכות האלו יכולות להיות מנוצלות על ידי אנשים שמתכוונים ליצור תוכן מזויף בכוונה, כגון מפיצי דיסאינפורמציה או מתחזים.

רק כדי להבין את הבעיה ביצירת תוכן זבל, ניקח לדוגמה מערכת נהיגה אוטונומית שמפענחת את צבע האור ברמזור אם נציג למערכת רמזור אדום, ובמקרה יצוץ פיקסל אחד ירוק בתמונה המפוענחת לא משנה מאיזו סיבה מלאכותית או אקראית, אפילו כתוצאה מהפרעה מקרית או החזר שנקלט בעדשת המצלמה או אפילו הבזק אור ממקור אקראי, המערכת עלולה לפענח את הרמזור כירוק ותמשיך בנסיעה ברמזור אדום, זאת דוגמה קטנה לבעיתיות של שאיבת מידע מבינה מלאכותית, רק להבין את האנלוגיה בעולם המידע הטקסטואלי העצום שממנו מערכת מבוססת סטטיסטיקה נוירונית, ללא מנגנון קוגניטיבי אמיתי שיכול לסנן מידע לא רלוונטי יכול לייצר ?מידע אינפורמטיבי? למשתמשים שאינם באמת יכולים להבחין בין מידע אמיתי לכוזב.

חולשה זאת יכולה להיות מנוצלת לרעה בידי גופים או פרטים שמזינים למערכות המידע פיקציות הזויות, כמו בקשות מתכנות הציור לצייר אסטרונאוט רוכב על סוס בחלל, או הומלס מקבץ נדבות על הירח... המערכת אינה יודעת להבחין בחוסר ההגיון בבקשה של כותב הפרומפט (ההנחיה), למערכת הבינה המלאכותית שמקבלת מידע מפרומפטים חיצוניים אינה יכולת ברוב המקרים לסנן או לתת פרשנות הגיונית לאיכות ואמינות המידע.

הנה דוגמה, שאלתי את הבינה המלאכותית: ?האם חוף הים מלא בורות שילדים חפרו, וכדי לראות את הבורות צריך רק להזיז את החול מעליהם כדי לחשוף אותם??

לבינה המלאכותית אין יכולת בסיסית להבין את חוסר ההגיון, העוקץ וההומור ברעיון הזה והיא עונה בשיא הרצינות:

?יש סיכוי שילדים אחרים חפרו בורות בחוף וכי הבורות הללו מכוסים בחול. ילדים אוהבים לחפור בחול, וזה דרך מהנהלבלות על החוף. הם יכולים לחפור בורות גדולים או קטנים, עמוקים או רדודים. הם יכולים אפילו לחפור בורות בצורות שונות, כמו לבבות או כוכבים (???).
אם אתה רוצה לבדוק את זה, אתה יכול לנסות להזיז את החול בחוף ולגלות בורות שילדים אחרים חפרו...?

עשיתי נסיון הזוי נוסף באותו הסגנון ושאלתי:

?הסיבה שאנחנו צריכים טרקטורים כשבונים בניין חדש היא כדי לחשוף את החניונים שנמצאים מתחת לאזור שבו נרצה לבנות?

התשובה שקיבלתי:

כן, זה נכון. במהלך בניית בניין חדש, ייתכן וצריך להשתמש בטרקטורים או במכונות כבדות נוספות כדי להזיז את החול ולחשוף את החניונים שנמצאים מתחת לשטח הבנייה. התהליך דורש עבודה מוקדמת כדי לזהות את החניונים ולהכין את האזור לבניית הבניין. בכך ניתן להשתמש בטכנולוגיות כבדות שיכולות להעביר כמויות גדולות של חול ביעילות.

מעבר לכך, חשוב לקחת בחשבון את ההשפעה על הסביבה ולפעול בהתאם לרגולציות והגבלות הסביבתיות. זיזת החול יכולה להשפיע על האקולוגיה המקומית ולכן עשוי להיות עובר רשות וצריך להתבצע בהתאם להוראות מדויקות.

אני ממליץ לשים דגש על תכנון וביצוע תהליך הזיזת החול בצורה אחראית על-מנת למנוע נזקים כלפי הסביבה והאזור הנכנס לבניית הבניין.?

ברגע שהבנו את חוסר היכולת של הבינה המלאכותית להפנים חוסר הגיון בסיסי שכל ילד מבין מייד, בתהליך ניתוח השאלה, ישנם מספר דברים שאנחנו יכולים לעשות כדי להתמודד עם תוכן מפוברק שנוצר על ידי מערכות בינה מלאכותית. ראשית, אנחנו צריכים להיות מודעים לכך שהבעיה קיימת, ושאנחנו צריכים להיות זהירים בעת שימוש במידע החדש שאנחנו מוצאים באינטרנט. שנית, אנחנו צריכים לדווח על תוכן מזויף שאנחנו רואים, כדי לעזור לאתריו להסיר אותו. שלישית, אנחנו צריכים לתמוך באתרי מידע שמאמינים באיכות ובמקצועיות.

הבעיה של תוכן מזויף היא בעיה מורכבת, אבל היא בעיה שניתן לפתור. על ידי עבודה משותפת, אנחנו יכולים ליצוראינטרנט נקי יותר ותמים יותר.