מדריך מבוסס מקורות לזיהוי, סימון ותיעוד תוכן AI: תקן C2PA 2.3, Content Credentials, Watermarking, Deepfakes והיערכות ארגונית. כאשר תמונה, וידאו, קול או טקסט יכולים להיווצר בתוך דקות, השאלה אינה רק אם התוכן נראה אמיתי אלא מה ידוע על מקורו, עריכתו והאחריות לפרסומו. C2PA ו-Content Credentials מציעים שרשרת יוחסין חתומה דיגיטלית שמאפשרת לבדוק טענות על יצירה ושינוי. הם אינם מכונת אמת ואינם מוכיחים שהאירוע המצולם התרחש. לצד התקן נדרשים סימון גלוי, בקרה מערכתית, בדיקת הקשר ושיקול דעת אנושי. הנושא נעשה דחוף במיוחד לקראת 2 באוגוסט 2026, מועד החלת חובות שקיפות מסוימות לפי סעיף 50 לחוק ה-AI האירופי.
C2PA מאמת את שלמות הטענות על המקור והעריכה. הוא אינו מוכיח שהתוכן או ההקשר נכונים.
מהם C2PA ו-Content Credentials
C2PA הוא תקן פתוח לתיאור מקור והיסטוריית עריכה של נכס דיגיטלי. יישום נפוץ שלו נקרא Content Credentials. בעת יצירה או עריכה, כלי תומך יכול לצרף Manifest עם טענות על התוכנה, הפעולות והזהות, ולחתום עליו קריפטוגרפית. מציג או שירות אימות בודק שהחתימה והקשר לנכס לא שונו ללא סימון.
התקן אינו מחליט אם התוכן טוב, אמיתי או מטעה. הוא מאפשר לאמת שטענה מסוימת נקשרה לקובץ בידי חותם מסוים ושלא שונתה בדרך שאינה מתועדת. קובץ ללא Credentials אינו בהכרח מזויף, וקובץ עם Credentials עדיין יכול להציג אירוע מבוים או טענה שגויה. Provenance הוא ראיה על השרשרת, לא פסק דין על המציאות.
- Manifest של טענות
- חתימה קריפטוגרפית
- היסטוריית יצירה ועריכה
- ללא קביעת אמת תוכנית
שלוש משפחות כלים שאסור לבלבל
Provenance מתעד מקור ושינויים באמצעות חתימה ומטא-דאטה. Watermarking מטמיע אות נראה או סמוי בתוכן כדי לסמן מקור או לאפשר זיהוי. Detection מנסה להסיק מתוך התוכן אם נוצר או שונה ב-AI. כל משפחה פותרת בעיה אחרת ולכל אחת נקודות כשל שונות.
מטא-דאטה יכול להיעלם בהעתקה או בהעלאה לפלטפורמה שאינה שומרת אותו. Watermark עלול להיחלש בדחיסה, חיתוך או עיבוד. Detector עלול להיכשל על מודל, שפה או סגנון שלא ראה. לכן תהליך אמין משתמש בשכבות: סימון גלוי לקהל, Credential קריא למכונה, שמירת מקור, בדיקת הקשר ונתיב דיווח כאשר משהו אינו מסתדר.
- Provenance - מאין הגיע
- Watermark - אות מוטמע
- Detection - הערכה סטטיסטית
- Label - גילוי גלוי לאדם
מה חדש ב-C2PA 2.3
גרסה 2.3 של Content Credentials הוכרזה בפברואר 2026. לפי C2PA היא מוסיפה תמיכה ב-Live Video, סוגי קבצים נוספים, פירוט ברור יותר של פעולות עריכה, חיבור טוב יותר למידע מהימן בענן וחיזוקי אבטחה. השדרוג מרחיב את התקן מתמונות וקבצים בודדים גם לתרחישי שידור ותוכן מתמשך.
אימוץ תקן אינו קורה ברגע. המצלמה, כלי העריכה, מערכת ניהול הנכסים, רשת ההפצה והפלטפורמה צריכים לשמר ולהציג את השרשרת. לכן ארגון צריך לבדוק Workflow מקצה לקצה ולא רק אם כלי היצירה מוסיף Badge. קובץ ניסוי עובר בכל התחנות, ואז נבדק בשירות אימות חיצוני ובמכשיר שבו הקהל באמת יצפה בו.
- Live Video
- סוגי קבצים נוספים
- פירוט פעולות עריכה
- אימות ואבטחה משופרים
כללי שקיפות: מי צריך להתכונן
הנחיות נציבות האיחוד האירופי שפורסמו ביולי 2026 מסבירות כי חובות מסוימות לפי Article 50 חלות מ-2 באוגוסט 2026. בין היתר, ספקי מערכות שיוצרות או משנות תוכן נדרשים לאפשר סימון קריא למכונה, ומשתמשים מקצועיים מסוימים נדרשים לגלות Deepfake או טקסט שנוצר ב-AI בענייני ציבור בהתאם לתנאים ולחריגים.
התחולה תלויה בתפקיד, בשימוש, בשוק ובסוג התוכן. טקסט שעבר בקרה אנושית מהותית ונמצא באחריות מערכתית עשוי להיות מטופל אחרת מטקסט אוטומטי, ויצירה אמנותית או סאטירית מקבלת מסגרת גילוי מותאמת. מאמר זה אינו ייעוץ משפטי. ארגון שפועל באיחוד האירופי או מפרסם לקהלים בו צריך למפות תרחישים ולקבל חוות דעת מתאימה במקום להסתמך על תווית אחידה לכל תוכן.
- תפקיד ספק מול משתמש מקצועי
- סימון קריא למכונה
- גילוי Deepfake ותוכן ציבורי
- בדיקת תחולה משפטית פרטנית
נוהל ארגוני לפרסום ואימות
לפני פרסום מגדירים מי יצר, באיזה כלי, מהו חומר המקור, אילו שינויים נעשו ומי לקח אחריות מערכתית. מוסיפים סימון גלוי בשפה שהקהל מבין ושומרים Credential או תיעוד מקביל במערכת הנכסים. בדיקה אנושית מתמקדת בעובדות, הרשאות, דמויות, זכויות והקשר, ולא רק בזיהוי סימנים חזותיים של AI.
בקבלת תוכן חשוד שומרים את הקובץ המקורי ולא רק צילום מסך, בודקים Credentials, חוזרים למפרסם או למקור ומתאמים אימות בערוץ נוסף. אין להשתמש בציון Detector יחיד כדי להאשים אדם או לדחות עבודה. אם השרשרת חסרה, מתארים את מגבלת הידע. אמון נבנה מהצגת ראיות ומרמת ודאות, לא מהבטחה שהמערכת תמיד מזהה זיוף.
- תיעוד יצירה ואחריות
- סימון גלוי וקריא למכונה
- בדיקת מקור והקשר
- נתיב דיווח ותיקון
סקירה מקצועית: C2PA מתעד מקור ושינוי, לא אמת
תקן C2PA מגדיר Manifest חתום שמקשר לנכס דיגיטלי ומתאר טענות על יצירה, עריכה, כלי וזהות חתימה. Content Credentials הוא שם נפוץ להצגת המידע למשתמש. מאמת יכול לבדוק שהטענות לא שונו מאז החתימה ושהחתימה נבנית לתעודה מהימנה, אך הוא אינו יודע אם הצלם ביים את האירוע או אם הכותרת מטעה.
ההבחנה קריטית: Provenance הוא מקור ראיות, לא פסק דין. היעדר Credential אינו מוכיח זיוף, משום שמצלמה או פלטפורמה עשויות לא לתמוך בתקן והמטא-דאטה יכול להימחק. Credential תקין אינו מוכיח אמת, משום שהוא מאמת את שלמות שרשרת הטענות. החלטה משלבת מקור, הקשר, תוכן ואחריות מפרסם.
- Manifest חתום
- שרשרת עריכות
- Integrity ולא Truth
- היעדר סימון אינו הוכחת זיוף
C2PA 2.3: חיבור בין יצירה, עריכה והפצה
C2PA פרסמה בפברואר 2026 את גרסה 2.3 של המפרט. הגרסה ממשיכה את המעבר מניסוי נקודתי לתשתית בין-מערכתית ומרחיבה אפשרויות לשמירת Credentials לאורך מחזור החיים. העיקרון הוא שכל כלי תומך יכול להוסיף טענה חתומה בלי למחוק את ההיסטוריה הקודמת, כך שניתן לראות שרשרת ולא רק תווית AI כן או לא.
במערכת ארגונית צריך לבדוק את כל המסלול: כלי יצירה, מערכת ניהול נכסים, עורך, CDN ורשת חברתית. אם אחד השלבים מסיר את ה-Manifest, השרשרת נקטעת. לכן בדיקת קבלה כוללת הורדה מחדש מכל ערוץ והפעלת מאמת, ולא רק אימות של הקובץ המקורי במחשב המעצב.
- מפרט 2.3 מפברואר 2026
- שרשרת ולא תווית בינארית
- בדיקה לאורך ה-CDN
- אימות אחרי הורדה מחדש
NIST: אין מנגנון יחיד שמספיק לכל תרחיש
NIST AI 100-4 מסווגת משפחות של כלים להפחתת סיכוני תוכן סינתטי, ובהן Provenance, Watermarking, Detection, Labeling ושיטות אימות אנושי. לכל משפחה נקודות כשל שונות. Watermark יכול להיפגע מעיבוד, Detector עשוי לא להכליל למחולל חדש, ו-Provenance תלוי באימוץ ובשמירת השרשרת.
לכן בונים הגנה שכבתית. תוכן רשמי מקבל חתימה וארכיון מקור; תוכן שנוצר או נערך מהותית ב-AI מקבל סימון גלוי לפי ההקשר; מערכת פרסום שומרת לוג ואחראי; ובאירוע חשוד בודקים גם מקור חיצוני. Detector הוא אות לבדיקה, לא בסיס יחיד לסנקציה כלפי עובד, מועמד או ספק.
- Provenance
- Watermarking
- Detection
- Labeling ובקרה אנושית
מחקרי 2025 מזהירים מפני ביטחון יתר בזיהוי
מחקר Findings of ACL 2025 שבחן גלאי טקסט תחת שינויי ניסוח וסביבות שונות מצא ירידה משמעותית באמינות מחוץ לתנאי הבדיקה. מחקר נוסף מ-Findings of EMNLP 2025 הציג התקפות על Watermarking של טקסט. בתחום הווידאו, Benchmark חוצה-מאגרי Deepfake מ-2025 מדגיש את פער ההכללה בין מאגר אימון לתוכן חדש.
המסר אינו שזיהוי חסר ערך, אלא שהציון צריך להיות כיול לתרחיש. שומרים False Positive ו-False Negative בנפרד, בודקים שפות ופורמטים מקומיים ומוסיפים מסלול ערעור אנושי. אם החלטה על אדם מושפעת מהתוצאה, לא משתמשים בגלאי יחיד ובוודאי לא במוצר שלא חושף את תנאי המדידה.
- Distribution Shift
- התקפות על Watermark
- פער חוצה-מאגרי
- מסלול ערעור אנושי
סעיף 50 לחוק ה-AI האירופי: היערכות מעשית
הנציבות האירופית פרסמה ביולי 2026 הנחיות לחובות השקיפות של סעיף 50, והחובות הרלוונטיות צפויות לחול מ-2 באוגוסט 2026. הדרישות שונות בין ספקי מערכות לבין מפעילים: הן עוסקות בין היתר בסימון פלט מלאכותי בפורמט קריא למכונה ובגילוי נאות במקרי Deepfake ובטקסט מסוים שמיועד ליידוע הציבור. קיימים תנאים, חריגים והבחנות לפי שימוש.
ארגון ישראלי שפועל מול האיחוד צריך למפות תפקיד ותוכן, אך המאמר אינו ייעוץ משפטי. צוות משולב של משפטים, תקשורת, אבטחה ומוצר יחליט מתי נדרש סימון גלוי, איזה Manifest נשמר ומי אחראי לתגובה. מומלץ לא לחכות ליום התחולה: בתוך 30 יום ממפים ערוצים, בוחרים כלי חתימה, בונים נוסח גילוי, בודקים שרשרת הפצה ומתרגלים אירוע התחזות.
- הנחיות מיולי 2026
- תחולה מ-2 באוגוסט 2026
- תפקיד ספק מול מפעיל
- בדיקה משפטית לפי שימוש
מדריך יישומי: כך מתחילים עם שקיפות ומקור של תוכן שנוצר ב-AI
כדי להפוך את הקריאה לפעולה, בחרו יחידה אחת ומשימה אחת. תארו כיצד היא מתבצעת היום, מי מעורב, איזה מידע נדרש ומהי תוצאה טובה. לאחר מכן נסחו השערה קטנה: כיצד שקיפות ומקור של תוכן שנוצר ב-AI עשוי לשפר זמן, איכות, בהירות או למידה. הימנעו מיעד כללי כמו “להשתמש יותר ב-AI”; יעד שימושי מתאר התנהגות ותוצר שאפשר לראות.
בשלב הבא מומלץ למפות תרחישי פרסום, לשלב סימון גלוי וקריא למכונה ולבדוק שרשרת הפצה מקצה לקצה. השתמשו רק בכלי ובמידע שאושרו, הגדירו קריטריונים לפני הפעלת הכלי ושמרו גרסה של התהליך הקיים. התייחסו לניסיון הראשון כאל פיילוט ללמידה. אם התוצאה חלשה, בדקו אם הבעיה נבעה מהגדרת משימה, מקור, הרשאה, תדריך, יכולת הכלי או בקרת האדם — ולא רק אם הפרומפט היה ארוך מספיק.
- משימה אחת וקהל מוגדר
- קו בסיס של זמן ואיכות
- כלי ומידע מאושרים
- קריטריונים ותיעוד
תכנית עבודה ל-30 יום
בשבוע הראשון ממפים את המשימה, אוספים שתי דוגמאות ומגדירים כללי מידע. בשבוע השני מקיימים הדרכה ותרגול מונחה, ובונים תבנית ראשונה. בשבוע השלישי המשתתפים מפעילים את השיטה בעבודה ומתעדים תוצאה, תיקון ושאלה. בשבוע הרביעי משווים לקו הבסיס, משתפים לקחים ומחליטים אם לשפר, להרחיב או לעצור.
הקצב חשוב יותר מהיקף התוכן. עדיף ניסוי קטן עם משוב מאשר קורס רחב שאין אחריו יישום. מנהל הקבוצה צריך להקצות זמן, להסיר חסם ולהבהיר שאין להסתיר טעויות. שגריר AI או מומחה מלווה מרכז שאלות חוזרות והופך אותן לחומר למידה. כך הידע שנוצר בפיילוט הופך לנכס ארגוני.
- שבוע 1 — מיפוי וקו בסיס
- שבוע 2 — הדרכה ותבנית
- שבוע 3 — יישום ומשוב
- שבוע 4 — מדידה והחלטה
שאלות ביקורת לפני שמרחיבים
לפני הרחבה שאלו האם המשתמשים יודעים להסביר מתי להשתמש ומתי לא, האם הם פותחים מקורות, מהי עלות התיקון והאם התהליך עובד גם בקלט שאינו מושלם. בדקו מי מרוויח מהשינוי, מי נושא בעומס חדש ומה קורה כאשר הכלי אינו זמין. שאלות אלה מונעות מצב שבו הדגמה מוצלחת הופכת במהירות לסטנדרט לא יציב.
לבסוף, ודאו שקיימים בעלים, מדד וקצב עדכון. AI משתנה במהירות, אך ארגון אינו יכול לשנות נורמות מדי יום. בנו עקרונות יציבים, רשימת כלים מתעדכנת וספריית תרחישים שעוברת בדיקה. הרחיבו רק כאשר אפשר לשחזר את התהליך, להדריך עובד חדש ולהסביר את ההחלטה לגורם מקצועי או ניהולי.
- אפשר להסביר ולשחזר
- המקורות וההרשאות ברורים
- עלות התיקון סבירה
- קיימים בעלים ומנגנון עדכון
להמשיך מהידע ליכולת
מה לקחת מכאן?
- C2PA מאמת שרשרת טענות ולא את אמת האירוע
- Provenance, Watermarking, Detection וסימון גלוי משלימים זה את זה
- בדיקת Workflow מקצה לקצה חשובה יותר מהופעת Badge בכלי אחד
- Article 50 מחייב מיפוי תפקידים ושימושים עם ייעוץ מתאים
המקורות שעליהם נשענת הסקירה
- C2PA (2026), Content Credentials 2.3 and Five Years of Impact
- C2PA Technical Specification 2.3
- C2PA, Guiding Principles
- NIST AI 100-4 (2024), Reducing Risks Posed by Synthetic Content
- European Commission (2026), Guidelines on transparency of AI-generated content
- European Commission (2026), Transparency obligations under Article 50 of the AI Act
- European Commission (2026), How to sign the Code of Practice on transparency of AI-generated content
- Findings of ACL (2025), Stress-testing Machine Generated Text Detection
- Findings of EMNLP (2025), Watermark Smoothing Attacks against Language Models
- Cross-Benchmark Deepfake Detection Study (2025)
המקורות נועדו להעמקה ואינם תחליף לייעוץ משפטי, מדעי או מקצועי המותאם לארגון.
רוצים להפוך את הידע לתכנית עבודה?
המכון הישראלי לבינה מלאכותית יבנה עבורכם הרצאת בינה מלאכותית, הרצאת AI, סדנה מעשית או סדרת 3–5 מפגשים שמותאמת לאנשים, לכלים ולמשימות בארגון.
לסדנת AI אחראי ושקיפות תוכן