כך מזהים תמונה או סרטון שנוצרו בבינה מלאכותית
תמונות וסרטונים שנוצרים באמצעות בינה מלאכותית הופכים למציאותיים יותר מדי יום. כיום אפשר ליצור בתוך דקות צילום שנראה אמיתי, סרטון של אדם מפורסם אומר דברים שמעולם לא אמר, או תיעוד של אירוע שלא התרחש כלל.
הטכנולוגיה יכולה לשמש ליצירת איורים, פרסומות, סרטונים יצירתיים ותוכן לרשתות החברתיות. אבל היא גם מאפשרת הפצה של מידע מטעה, התחזויות, הונאות ותוכן מזויף.
לכן חשוב לדעת: לא תמיד אפשר לזהות תוכן שנוצר בבינה מלאכותית רק במבט אחד. עם זאת, יש כמה סימנים ובדיקות שיכולים לעזור להבין אם תמונה או סרטון אמיתיים, ערוכים או נוצרו באמצעות AI.
הכלל הראשון: לא להסתמך על סימן אחד
בעבר היה קל יחסית לזהות תמונת AI לפי ידיים מעוותות, עיניים לא סימטריות, שיניים מוזרות או טקסט משובש. גם היום סימנים כאלה יכולים להופיע, אך כלי הבינה המלאכותית השתפרו מאוד.
תמונה שנראית מושלמת אינה בהכרח אמיתית, ותמונה עם פגם קטן אינה בהכרח מזויפת. איכות צילום נמוכה, תאורה גרועה, פילטרים, דחיסת וידאו או עריכה רגילה יכולים ליצור סימנים דומים.
לכן, הדרך הנכונה היא לשלב בין כמה בדיקות: לבדוק מי פרסם את התוכן, לחפש את המקור המקורי, לבחון את הפרטים בתמונה או בסרטון ולחפש אישורים ממקורות נוספים.
בדיקת המקור: מי העלה את התמונה?
לפני שמסתכלים על הפרטים הקטנים בתמונה, כדאי לבדוק את המקור שלה.
- מי פרסם את התמונה או הסרטון לראשונה?
- האם מדובר באתר חדשות מוכר, גוף רשמי, צלם, ארגון או חשבון אנונימי?
- האם החשבון חדש, ללא פרטים ברורים או ללא פרסומים קודמים?
- האם ניתן למצוא את התמונה גם אצל מקורות אמינים נוספים?
- האם יש תאריך, מקום ותיאור ברור של האירוע?
- האם קיימים סרטונים או צילומים נוספים מאותו אירוע?
אם מדובר באירוע גדול — למשל אסון טבע, תקיפה, הפגנה, נאום של פוליטיקאי או אירוע חריג — בדרך כלל יהיו לו דיווחים ממספר מקורות, תיעודים נוספים או הודעות רשמיות.
תמונה בודדת שמופצת במהירות ברשתות החברתיות, בלי מקור ברור ובלי תיעוד נוסף, צריכה לעורר חשד.
סימנים שעשויים להעיד על תמונת AI
תמונות שנוצרו באמצעות בינה מלאכותית עשויות לכלול פרטים לא עקביים. לא כל סימן הוא הוכחה, אך כמה סימנים יחד יכולים להצדיק בדיקה נוספת.
- ידיים ואצבעות לא טבעיות: מספר לא הגיוני של אצבעות, אצבעות מחוברות, צורה מוזרה של כף היד או טבעות שאינן יושבות נכון.
- טקסט משובש: שלטים, חולצות, מודעות, מספרי רכב, לוגואים או כותרות עם אותיות חסרות משמעות.
- עיניים ומשקפיים: הבדלים בין שתי העיניים, מבט לא טבעי, השתקפויות שונות בכל עדשה או מסגרת משקפיים מעוותת.
- שיניים, אוזניים ושיער: שיניים אחידות מדי או מעוותות, עגילים שנעלמים, אוזניים לא סימטריות או שיער שנראה כאילו הוא מתמזג עם הרקע.
- תאורה וצללים: הצללים אינם תואמים לכיוון האור, הפנים מוארות אחרת מהגוף או שהשתקפויות בחלון ובמראה אינן הגיוניות.
- רקע מוזר: אנשים עם גוף מעוות, חפצים שמתחברים זה לזה, קווים עקומים, בניינים לא הגיוניים או פרטים שנעלמים בקצוות התמונה.
- מראה מושלם מדי: לעיתים תמונת AI נראית דרמטית, חדה, נקייה וסימטרית מדי — כמו שילוב בין פרסומת, צילום אופנה ואיור.
איך מזהים סרטון Deepfake?
סרטון Deepfake הוא סרטון שנוצר או נערך בעזרת בינה מלאכותית כדי לגרום לאדם להיראות כאילו הוא אמר או עשה דבר שלא קרה במציאות.
בסרטונים כאלה כדאי לצפות יותר מפעם אחת, לעצור בנקודות חשודות ולבחון את התנועה לאורך זמן.
- תנועות שפתיים: האם השפתיים מתאימות בדיוק למילים שנשמעות?
- קול לא טבעי: האם הקול נשמע שטוח, רובוטי, אחיד מדי או חסר נשימות והפסקות טבעיות?
- הבעות פנים: האם המצמוץ, החיוך, תנועות העיניים או שינויי ההבעה נראים טבעיים?
- קו הפנים והצוואר: האם הפנים משתנות בזמן תזוזה? האם קו הלסת, השיער, האוזניים או הצוואר “קופצים” בין פריימים?
- תאורה והשתקפויות: האם האור על הפנים משתנה בצורה לא הגיונית? האם משקפיים, עגילים או חלונות משתקפים באופן עקבי?
- תנועות גוף: האם הראש, הידיים והגוף נעים באופן טבעי? האם יש אזורים שנראים מטושטשים או משתנים במהירות?
- עריכה חשודה: חיתוכים תכופים, סרטון קצר מדי, איכות נמוכה או כתוביות שמסיחות את הדעת יכולים להקשות על זיהוי פרטים בעייתיים.
חשוב לזכור: סרטון מטושטש או באיכות נמוכה אינו הוכחה לדיפ-פייק. מצד שני, איכות נמוכה יכולה לשמש כדי להסתיר פגמים בתוכן שנוצר או נערך באמצעות AI.
חפשו את המקור המקורי
אחת הדרכים הטובות ביותר לבדוק תוכן חשוד היא לחפש את המקור המקורי שלו.
אפשר לבצע חיפוש תמונה הפוך באמצעות Google Images או Google Lens. מעלים את התמונה, או מצלמים את המסך, ובודקים אם היא הופיעה בעבר בהקשר אחר.
כך אפשר לגלות, למשל:
- שתמונה ישנה מוצגת כאילו צולמה היום.
- שתמונה ממדינה אחרת מוצגת כאילו צולמה בישראל.
- שתמונה אמיתית עברה עריכה או שינוי.
- שהמקור המקורי של התמונה הוא אתר יצירת תמונות AI.
בסרטונים, מומלץ לחפש משפטים שנאמרו בקטע, לבדוק אם קיימת גרסה מלאה יותר של הסרטון ולחפש האם האדם המופיע בו פרסם הכחשה או תגובה.
מה הם Content Credentials?
Content Credentials הם פרטי מקור דיגיטליים שיכולים להופיע בקובץ תמונה, וידאו או אודיו. מטרתם היא לספק מידע על מקור הקובץ ועל פעולות עריכה שנעשו בו.
התקן מבוסס על יוזמת C2PA, שפועלת לפיתוח דרך מקובלת להצגת מקור התוכן והיסטוריית השינויים שלו. כאשר פרטי המקור קיימים ונשמרו בקובץ, ניתן לעיתים לראות מי יצר את התוכן, באיזה כלי נעשה שימוש והאם נערכו בו שינויים.
עם זאת, היעדר של Content Credentials אינו מוכיח שהתמונה מזויפת. פרטי המקור עלולים להימחק כאשר תמונה מועברת בין אפליקציות, מצולמת מחדש מהמסך, נדחסת או מועלה לרשת חברתית.
בדיקת סימני מים של AI
חלק מחברות הטכנולוגיה מוסיפות לתוכן שנוצר בעזרת AI סימנים דיגיטליים שאינם נראים לעין. סימנים אלה מכונים לעיתים “סימני מים” דיגיטליים.
לדוגמה, Google משתמשת בטכנולוגיית SynthID, שנועדה לזהות תמונות, סרטונים וקובצי קול שנוצרו או נערכו באמצעות כלי ה-AI של Google. דרך כלי האימות של Gemini אפשר להעלות קובץ ולשאול אם הוא נוצר או נערך באמצעות AI של Google.
גם OpenAI מציעה כלי אימות שבודק סימני מקור נתמכים, כגון נתוני C2PA וסימני SynthID, בקבצים שהועלו לבדיקה.
חשוב להבין: אם הכלי לא מזהה סימן מים, זה לא אומר שהתוכן אמיתי. ייתכן שהוא נוצר בכלי אחר, שהסימון לא נתמך, או שהמידע הוסר בזמן ההעלאה והעריכה.
5 כללים לפני שמשתפים תוכן חשוד
- עצרו לפני השיתוף. תוכן שמעורר כעס, פחד או התרגשות נועד לעיתים לגרום לשיתוף מהיר בלי בדיקה.
- בדקו מי המקור. העדיפו מקור רשמי, כלי תקשורת מוכר, צלם מזוהה או חשבון מאומת.
- חפשו דיווחים נוספים. באירוע משמעותי, חפשו אם גופי חדשות, רשויות או עדים נוספים מדווחים עליו.
- בצעו חיפוש תמונה הפוך. בדקו אם התמונה הופיעה בעבר, היכן ובאיזה הקשר.
- אל תקבעו מסקנה מוחלטת בלי ראיות. אם אי אפשר לאמת את התוכן, עדיף להציג אותו כלא מאומת — או לא לשתף בכלל.
טיפ לבעלי אתרים ויוצרי תוכן
אם אתם משתמשים בתמונות או בסרטונים שנוצרו באמצעות בינה מלאכותית באתר, בפוסט או בפרסום, כדאי לשמור על שקיפות.
אפשר לציין מתחת לתמונה:
אילוסטרציה שנוצרה באמצעות בינה מלאכותית.
או:
הדמיה שנוצרה בעזרת AI לצורכי המחשה.
במיוחד בתוכן חדשותי, אסור להציג תמונת AI כאילו היא תיעוד מצולם של אירוע אמיתי. סימון ברור שומר על אמון הקוראים ומונע הטעיה.
לסיכום
בעידן שבו בינה מלאכותית מסוגלת ליצור תמונות, סרטונים וקולות שנראים אמיתיים, חשוב יותר מתמיד לבדוק לפני שמאמינים ולפני שמשתפים.
אין בדיקה אחת שנותנת תשובה מוחלטת בכל מקרה. הדרך הטובה ביותר היא לשלב בין בדיקת מקור, חיפוש מידע נוסף, בחינת פרטים חזותיים ובדיקת כלי אימות כאשר הם זמינים.
הכלל החשוב ביותר הוא פשוט: אם תוכן נראה דרמטי מדי, מוזר מדי או מושלם מדי — אל תמהרו לשתף. בדקו קודם.
