סרט רע: SORA של Open AI מאפשר להפוך כל שקר לסרטון משכנע

אחרי שחברת Open AI גילתה לאנושות את כוחה של הבינה המלאכותית באמצעות ChatGPT לפני שנה וחצי, בימים האחרונים היא עולה שלב עם SORA: כלי שמאפשר יצירה של סרטונים באמצעות הנחיות מילוליות (טקסט לוידאו). הסרטונים כל כך מדויקים, עד כי  אי אפשר להבחין בכך שהסרטון לא צולם באמת אלא נוצר באופן מלאכותי. נכון לעכשיו, מחולל הווידאו מסוגל לייצר סרטונים  באורך של עד דקה מתוך תיאור טקסט.

מעבר לסכנה המוחשית והמיידית לפרנסתם של מיליוני אנשים שעובדים בתחום היצירה, הצילום והעריכה של סרטוני וידאו, כולל תעשיית הקולנוע כמובן, יש פה סכנה מוחשית לאנושות כולה. היכולת לייצר סרטונים מזויפים מגיעה לשיא, כך שמי שירצה למשל להפיץ סרטון של חייל צה"ל מתעלל בילד פלסטיני או גבר אונס ילדה – יוכל לעשות זאת בקלות.

איך עובד SORA?

כדי לייצר סרטון, המשתמש צריך לתת למודל הנחיות ("פרומפט" – prompt בשפה המקצועית). כך למשל, החברה הדגימה סרטון שנוצר באמצעות SORA שבו רואים אישה צועדת ברחובות טוקיו. הסרטון נוצר באמצעות הפרופמט הזה:

A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. She wears a black leather jacket, a long red dress, and black boots, and carries a black purse. She wears sunglasses and red lipstick. She walks confidently and casually. The street is damp and reflective, creating a mirror effect of the colorful lights. Many pedestrians walk about.

תרגום:
אישה מסוגננת הולכת ברחוב טוקיו מלא בניאון זוהר חמים ושילוט מונפש של העיר. היא לובשת ז'קט עור שחור, שמלה אדומה ארוכה ומגפיים שחורים, ונושאת ארנק שחור. היא לובשת משקפי שמש ושפתון אדום. היא הולכת בביטחון ונינוח. הרחוב לח ומשקף, יוצר אפקט מראה של האורות הצבעוניים. הולכי רגל רבים מסתובבים.

כפי שניתן לראות, התיאור חייב להיות ברור ומפורט מאוד. בחברה מציינים שמודל סורה מסוגל לייצר סרטונים איכותיים שכוללים כמה סצנות וכמה דמויות, תוך התבססות על הפרומפט ועל האופן שבו הדברים אכן מתרחשים. עם זאת,הוא רחוק מלהיות משושלם ועלולים להיות אי דיוקים או טעויות, למשל בלבול בין ימין לשמאל או בין סיבה לתוצאה (למשל, דמות שלוקחת ביס מתפוח ולאחר מכן לאיראו את הביס בתפוח).

ביי ביי לאמת

Open AI חתומה על המהפכה הקטלנית של הבינה המלאכותית

אחרי שלאחרונה הופצו תמונות פורנוגרפיות מזויפות שלטיילור סוויפט, אפשר רק לדמיין בזעזוע לאן תידרדר האנושות תוך זמן קצר.

בעולם קיים חשש אדיר מהכוח שמודל כזה נותן בידי נוכלים וטרוריסטים, במיוחד בחודשים הקרובים שבהם מתנהלות מערכות בחירות רבות, בדגש על ארה"ב.

אמנם, Open AI מטביעה על סרטונים שנוצרו באמצעות SORA "סימן מים" שמזהה אותם ככאלה שנוצרו בידי בינה מלאכותית, אבל קשה לראות אותם – ויותר חמור מזה, היא בעצמה מודה שאפשר להסיר אותם.

בחברת Open AI מבטיחים שהם פועלים כדי למנוע דיס-אינפורמציה, אבל קשה להאמין להם שהם יצליחו בכך. בחברה אומרים שיש להם מנגנון שיסנן את הטקסט ויפסול הנחיות המבקשות אלימות קיצונית, תוכן מיני, דימויים מלאי שנאה, דמיון לידוענים או כתובת IP של אחרים.

היי חברים, רוצים עוד עדכונים כאלה? עקבו אחרינו בטלגרם. זה הכי קל 🙂 לחצו כאן >

SORA של Open AI לא חדש – אבל הכי טוב כרגע

בינתיים, נראה שחברת Open AI הותירה את מתחרותיה שוב המומות, מפני שאמנם יש כבר מחוללי וידאו באמצעות טקסט, אבל במקרה של SORA התוצאה מרשימה במיוחד.

נזכיר כי Open AI היא זו שהזניקה את התחרות בתחום כאשר השיקה את צ’אטבוט ChatGPT, והיא משפרת אותו כל הזמן. לפני מספר חודשים היא השיקה את צ'אט GPT 4 שהוא גרסה עדכנית מבוססת אינטרנט ובתשלום. בעקבות זאת גם גוגל שיפרה את הצ'אטבוט שלה, החליפה את השם BARD בשם Gemini והשיקה גם היא גרסת פרימיום של ג'מיני בתשלום.

לצ'אטבוט המילולי ChatGPT חברת Open AI הוסיפה גם מחולל תמונות המבוססות על טקסט DALL·E,  ועכשיו היא לוקחת את הבינה המלאכותית עוד צעד ענק קדימה מחולל הוידאו מטקסט Sora.

דפנה הראל כפיר

דפנה הראל כפיר היא עיתונאית צרכנות ותיקה עם 25 שנות ניסיון בטלוויזיה, ברדיו, בעיתונות ובדיגיטל. בין היתר, ערכה את מדור הצרכנות בגלובס, הגישה פינות צרכנות בכאן 11, בקשת 12 וברשת, הגישה את התוכנית "צבע הכסף" בקול ישראל ועוד...