Hoe Sora’s AI-video’s de toekomst zullen beïnvloeden

Er is een verhaal uit de begindagen van de cinema dat toepasbaar lijkt op Sora, de tool voor het maken van tekst naar video die OpenAI deze week lanceerde. En aangezien de servers van Sora worstelen met de vraag, en veel OpenAI-abonnees nog steeds wachten om het uit te proberen, hebben we tijd voor verhalen.

Je weet het waarschijnlijk wel Aankomst van een trein op station La Ciotat (1896) van de gebroeders Lumiere, ook al heb je het nog nooit gezien. Net als Sora maakten de Lumieres zeer korte films waarin de nieuwste technologie werd getoond. We hebben het over cinematograaf in plaats van over AI-weergave, en over een luxe film van 50 seconden in plaats van de maximale 20 seconden die zijn toegestaan ​​in Sora-video’s.

Toch is het hetzelfde principe: dit was een eerste blik op een schokkend nieuwe vorm van entertainment. Volgens de legende – een legende uit de charmante film van Martin Scorcese over een jongen uit het Lumiere-tijdperk, Hugo (2011) — Aankomst van een trein het publiek rende verschrikt uit een stoommachine die recht op hen af ​​leek te komen.

Een soortgelijk gevoel van paniek heerst bij Sora – met name paniek over wat AI-video’s zouden kunnen doen om ons “post-truth” medialandschap verder te ontwrichten. De gemiddelde kijker heeft al moeite om te beoordelen wat echt is en wat niet, en het probleem wordt nog groter als hij depressief is. We leven in een gouden eeuw van complottheorieën. De rijkste man ter wereld heeft al een AI-deepfake-video gedeeld om verkiezingen te helpen beïnvloeden.

Wat gebeurt er als Sora het kan maken elk ziet er snel zo echt uit als iets dat u op het avondnieuws ziet – klaar om te verspreiden op sociale media?

OpenAI lijkt zijn watermerken te denken, zowel zichtbaar als onzichtbaarzou alle shenanigans voorkomen. Maar nu ik tientallen Sora-video’s heb gedownload, kan ik bevestigen dat het zichtbare watermerk klein en onleesbaar is en vaker wel dan niet naar de achtergrond verdwijnt. Het zou voor videobewerkingssoftware kinderspel zijn om het helemaal uit te knippen.

Een wereld van doelbewuste desinformatie, hetzij van slechte politieke actoren of van beïnvloeders die hun betrokkenheid proberen te vergroten, komt dus als een trein op ons af. Rechts?

Fout. Omdat, zoals het eigenlijke verhaal van de Lumiere-film ons vertelt, mensen eigenlijk veel slimmer zijn op het gebied van nieuw video-entertainment dan we hen toeschrijven.

Hier gaat het om Aankomst van een trein: de legende is vrijwel zeker verkeerd. We hebben geen enkel bewijs uit de eerste hand dat het publiek de bioscoop ontvluchtte, of zelfs terugdeinsde toen ze een trein zagen naderen in een fragment van 50 seconden.

Hoogleraar Mediastudies Martin Loiperdinger noemt het paniekverhaal”de grondleggers van de film,” en merkt op dat het terug te voeren is op boeken die in de tweede helft van de 20e eeuw zijn geschreven. Het is mogelijk dat auteurs het hebben samengevoegd met de latere experimentele 3D-versie van Lumieres Aankomst van een treindat in 1934 een paar keer werd vertoond en – zoals veel toekomstige 3D-films – een nieuwigheid en een commerciële mislukking was.

Dus nee, het vroege publiek verwarde een bewegend beeld van een trein waarschijnlijk niet met een echte trein. Integendeel, ze lijken zich heel snel aan het hele filmconcept te hebben aangepast. Hedendaagse verslagen van de Lumiere-korte films (waarvan er tientallen waren; Aankomst van een trein werd niet gezien als een hoogtepunt) zijn vervuld van opwinding over de mogelijkheden die nu worden ontgrendeld.

“Waarom, als dit zo doorgaat”, schreef een krant, De Parijse koerierIn 1896 ‘konden we geheugenverlies bijna overwinnen, bijna een einde maken aan de scheiding, bijna de dood zelf afschaffen.’ (Spoiler alert: dat hebben we niet gedaan, hoewel dat klinkt als een geweldig uitgangspunt voor een 19e eeuw Zwarte spiegel aflevering.)

Nog een tijdschrift, Franse wetenschapenthousiast over de ‘meest ongelooflijk wonderbaarlijke tovenarij’ die de ‘hallucinerende fantasmagorie’ van de cinematograaf had gecreëerd. Zelfs de meest tech-happy AI-boosters van vandaag zouden het moeilijk hebben om Sora in dezelfde termen te onderschrijven.

Omdat Sora, zoals de meeste AI, vaak ‘hallucinerend’ is – en niet op een goede manier.

Zoals ik ontdekte op de momenten dat OpenAI-servers niet werden platgegooid, bevat bijna elke door Sora gegenereerde video details die er voor menselijke ogen verkeerd uitzien. Ik typte een prompt voor “journalist slaat gefrustreerd op bureau omdat hij geen toegang heeft tot AI-video’s”, en zag toen een pen verschijnen en verdwijnen in de hand van de journalist.

De fouten gingen maar door. De nieuwigheidsfactor nam snel af. Vrienden waren geamuseerd en een beetje in paniek door de echtheid van de swag in ‘hiphopartiest modelleert een knusse kersttrui’ – totdat we ontdekten dat de gouden ketting van de rapper aan de achterkant een gouden paardenstaart was geworden, en het rendier aan de achterkant. trui had acht pijpen.

Sora’s reactie op “een begrafenismis met circusclowns” voldeed vrijwel aan de vraag… behalve dat de figuur met de kleurrijke pruik en de rode neus in de kist zijn lichaam miste.

Dat wil niet zeggen dat Sora geen onmiddellijke impact zal hebben op de filmindustrie. Gezien de minder bizarre aanwijzingen zou het zeker een groot deel van de generieke B-roll kunnen vervangen die vaak te zien is in uitlegvideo’s op YouTube en bedrijfstrainingsvideo’s. (Dat veronderstelt dat OpenAI niet zal worden gedwongen om Sora te stoppen met het trainen van internetvideobeelden zonder toestemming van de makers.)

Het is om te zeggen dat er een aanzienlijke toegangsdrempel bestaat als het gaat om het maken van video’s met alles wat ongewoon is, alles waarover je probeert te liegen, alles waar Sora niet specifiek voor is opgeleid. Het uitroeien van al die fouten, tot het punt waarop we het niet meteen merken, kan een oefening in frustratie zijn.

En misschien zullen deze vroege, met fouten gevulde AI-video’s dienen als een soort massa-inenting – een kleine dosis van de post-truth-ziekte, een die onze hersenen effectief AI-resistente antilichamen geeft die ons beter kunnen voorbereiden op een toekomstige epidemie van visuele vervalsingen. .

AI-video moet aan boord van de aanwijzingstrein gaan

Ik ben zeker minder onder de indruk van AI nadat ik Sora had gevraagd om een ​​nieuwe kijk op de Lumieres Aankomst van een trein. Ik vroeg om een ​​video waarin een locomotief te zien is doet aan het einde daadwerkelijk door het projectiescherm breken en het bioscooppubliek verpletteren.

Maar Sora had niet eens toegang tot de originele korte film van 50 seconden manier vrij van auteursrechten en overal online beschikbaar (inclusief een versie die al is opgeschaald door AI). Het hallucineerde een film genaamd ‘Arrival of a tal (sic) train’, blijkbaar uitgebracht in het jaar ‘18965’.

Wat betreft het doorbreken van een letterlijke vierde muur: vergeet het maar: ondanks meerdere snelle herformuleringspogingen kon Sora eenvoudigweg niet begrijpen wat ik vroeg. Het projectiescherm bleef intact.

Toch kan deze versie van Sora nog steeds een voorbode zijn van een aantal angstaanjagende visuele namaak – misschien wanneer robuustere AI-videotechnologie in handen valt van een toekomstige DW Griffith.

Er gingen twee decennia tussen Aankomst van een trein en de beruchte film van GriffithDe geboorte van een natie (1915)— de eerste echte blockbuster, een mijlpaal in de filmgeschiedenis, die toevallig ook een scheve kijk was op de recente Amerikaanse geschiedenis vol racistische leugens.

De film van Griffith, waartegen destijds door de NAACP werd geprotesteerd, was van grote invloed op het bestendigen van de segregatie en het nieuw leven inblazen van de Ku Klux Klan.

Dus ja, misschien duwt Sora’s vrijlating ons langzaam verder in de richting van een gefragmenteerde post-waarheidswereld. Maar zelfs in een door AI gedomineerde toekomst zullen slechte acteurs overuren moeten draaien als ze meer schade aan de samenleving willen toebrengen dan de gevaarlijkste aanwijzingen van de cinematograaf.