אדובי, החברה המובילה בתחום העיצוב והתוכן הדיגיטלי, מאפשרת למשתמשים להעלות ולמכור תמונות שנוצרו על ידי טכנולוגיית ה- AI (אינטליגנציה מלאכותית) בשירות ה- Stock שלה, שמציע מאגר ענק של תמונות וסרטונים לשימוש רווחי. בין התמונות המוצעות למכירה, ניתן למצוא תמונות שמדמות סצינות של אלימות והרס בעזה ובישראל, שלא התרחשו במציאות, אלא נוצרו על ידי מחשב.
למה זה מסוכן?
השימוש בתמונות AI יכול להיות מועיל למטרות יצירתיות, אבל גם להיות מסוכן אם הוא משמש להטעייה או להסתה. במקרה של הלחימה בין ישראל לחמאס, שהוקפתה בחוסר וודאות ובפרופגנדה משני הצדדים, השימוש בתמונות AI יכול להטשטש את המציאות ולהשפיע על התפיסה של הקהל. כמו כן, השימוש בתמונות AI יכול להיות לחלוטין לא אתי, אם הוא מנצל את הסבל של אנשים אמיתיים למטרות רווח.
איך זה עובד?
התמונות ה- AI שמוצעות למכירה ב- Adobe Stock נוצרו על ידי משתמשים, שהשתמשו בכלים שונים של AI ליצירת תמונות מדמיות. ישנם כלים שמאפשרים ליצור תמונות חדשות מאפס, וישנם כלים שמאפשרים לשנות או לשפר תמונות קיימות. ה- AI משתמש בנתונים ובאלגוריתמים ללמוד איך לחקות את הסגנון והאיכות של תמונות אמיתיות, ולהוסיף אליהם פרטים שאינם קיימים במציאות, כמו פיצוצים, חורבות או דמויות אנושיות. התוצאה היא תמונות שנראות כאילו הן צולמו במצלמה, אבל הן בעצם יצירות של מחשב.
מה הבעיה?
אדובי מציינת באתר שלה שהתמונות ה- AI נוצרו על ידי AI, ומבקשת מהמשתמשים לא להעלות תמונות שיכולות להיות פוגעניות או מפרות זכויות יוצרים. אבל אדובי אינה בודקת את התמונות שמועלות למכירה, ואינה אחראית לשימוש שנעשה בהן. ישנה חשש שתמונות AI שמדמות את הלחימה בעזה ובישראל יכולות להיות משומשות למטרות של הטעייה, הסתה או פרופגנדה, במיוחד אם הן לא מסומנות בבירור כתמונות מלאכותיות. כמו כן, ישנה בעיה אתית של למכור תמונות שמנצלות את המצב הדרמטי והאנושי של האנשים המעורבים בסכסוך, ושאינן מביעות את המציאות המורכבת והמגוונת של האזור.
תגובת אדובי
“אדובי מחויבת למלחמה נגד מידע כוזב, ובעזרת היוזמה לתוכן אמין (שאותה הקימו אדובי וניו יורק טיימס ב-2019, א.א.), אנו עובדים עם אתרי תוכן, יצרניות מצלמות וגופים נוספים כדי לקדם את האימוץ של Content Credentials (כלי חדש שמקדמת אדובי לסימון של תכנים שיוצרו על ידי AI), כולל במוצרים שלנו”.
