Amazon wycofuje wygenerowane przez AI podsumowanie "Fallout" przed sezonem 2 w obliczu krytyki

To niezwykłe, czym Amazon nie chce się przejmować. Na przykład, firma po prostu nie chce zatrudnić kogoś, kto przygotowałby krótkie podsumowanie pierwszego sezonu Fallout. Drugi sezon debiutuje w przyszłym tygodniu na Prime Video, a pomocne wideo z podsumowaniem jest standardem w branży. Zamiast płacić człowiekowi za zmontowanie takiego podsumowania, Amazon wykorzystał generatywną sztuczną inteligencję. Rezultaty były... nienajlepsze.

Widzicie, Amazon również nie chciał zapłacić komuś, kto faktycznie obejrzałby wspomniane podsumowanie AI i upewnił się, że jest ono dokładne. AI jest oczywiście notorycznie skłonne do "halucynacji" i wymyślania szczegółów zamiast przyznania, że nie zna odpowiedzi. Po co sprawdzać fakty? To tylko głupi serial telewizyjny!

Po fali krytyki ze strony fanów i serii kpiących artykułów, które pojawiły się w internecie, Amazon usunął podsumowanie AI, które zawierało monotonny dubbing AI wypluwający wszelkiego rodzaju nieprawidłowe informacje. Te błędy obejmowały:

Retrospekcje, w których widzimy postać Waltona Gogginsa i jego rodzinę w retro-futurystycznych latach 2070., zostały błędnie zidentyfikowane przez AI jako lata 50. XX wieku. Nikt w Amazonie nie zauważył tego niewiarygodnie oczywistego błędu.

Podsumowanie twierdziło, że Ghoul dał Lucy granej przez Ellę Purnell wybór "umrzeć lub odejść z nim", gdy ruszają za postacią Kyle'a MacLachlana, Hankiem, który zmierza przez pustynię do New Vegas. To sprawia, że interakcja brzmi groźnie, podczas gdy w rzeczywistości Lucy i Ghoul są w tym momencie dość zaprzyjaźnieni.

Ale nieścisłości to tylko jeden objaw znacznie większego problemu, a nawet idealnie dokładne podsumowanie – minimum, którego można by oczekiwać od tego rodzaju wideo – nadal byłoby problematyczne. AI jest użytecznym narzędziem, ale słabym zamiennikiem dla ludzkiej pracy i kreatywności. Podsumowania nie są oczywiście najważniejszą częścią serialu, ale są bardzo przydatne dla widzów i, w odpowiednich rękach, mogą być również same w sobie bardzo zabawne.

Jane the Virgin zawierała zabawne podsumowania przed każdym odcinkiem, które naprawdę wpisywały się w parodię telenowel tego serialu. Serial Vince'a Vaughna w Apple TV, Bad Monkey, zrobił coś bardzo podobnego ze swoimi podsumowaniami. Podobnie jak dobry zwiastun, dobre podsumowanie może nadać ton i pomóc widzom skupić się na ważnych elementach, podkreślając szczegóły, które ludzie mogli przeoczyć, lub wskazując, na czym powinniśmy się skupić.

Nie uzyskasz tego od AI. Nie możesz nawet otrzymać kompetentnie zmontowanego podsumowania największego grudniowego serialu Amazona. Oczywiście Amazon oszczędza pieniądze, publikując byle jakie materiały AI zamiast profesjonalnego podsumowania, ale ludzki talent płaci za to w dłuższej perspektywie.

"Podsumowania wideo wyznaczają przełomowe zastosowanie generatywnej AI w streamingu" - powiedział wiceprezes ds. technologii w Prime Video, Gérard Medioni, w oświadczeniu, gdy te podsumowania AI zostały po raz pierwszy ujawnione. "Ta pierwsza w swoim rodzaju funkcja demonstruje ciągłe zaangażowanie Prime Video w innowacje i uczynienie doświadczenia oglądania bardziej dostępnym i przyjemnym dla klientów."

Jak podsumowania AI sprawiają, że doświadczenie oglądania jest "bardziej przyjemne", pozostaje tajemnicą, biorąc pod uwagę, że istnieją całe kanały YouTube, gdzie prawdziwi i utalentowani ludzie tworzą szczegółowe i użyteczne podsumowania dla fanów. Na przykład, oto podsumowanie Fallout Sezonu 1 – stworzone przez prawdziwego człowieka – za które Amazon mógłby bardzo łatwo komuś zapłacić:

Z drugiej strony, niepłacenie ludziom wydaje się ważniejsze niż uczynienie "doświadczenia oglądania bardziej dostępnym i przyjemnym". W tym momencie większość tych firm zainwestowała tak dużo pieniędzy w AI, że muszą jej używać, kiedy tylko to możliwe, nawet jako (kiepskiego) dowodu koncepcji. Ale to nie jest dobre dla ludzi pracujących w tych branżach.

Jak zauważył jeden z komentujących na reddicie: "Jestem montażystą, który dosłownie montował tego typu podsumowania jako część mojej dawnej pracy. Otrzymywałem uwagi od klienta, oglądałem serial, zaznaczałem odcinki, a następnie starannie składałem podsumowanie, które, mam nadzieję, miało trochę stylistycznego polotu, jednocześnie omawiając główne punkty potrzebne do następnego sezonu.

"Przeszedłem do innych rodzajów montażu, ale obecnie mam trudności ze znalezieniem pracy, podobnie jak wielu utalentowanych montażystów, których znam, z wieloletnim doświadczeniem. Więc tak... to zdecydowanie odebrało komuś pracę."

Teraz mogą to być tylko podsumowania, ale AI wkrada się w coraz więcej aspektów życia i przemysłu rozrywkowego. Problem polega na tym, że AI z pewnością może być użytecznym narzędziem, jeśli chodzi o burzę mózgów, organizację, badania i tym podobne, ale jest bardzo słaba w rzeczywistej kreatywności. Wielu dyrektorów i tech bros nie rozumie tego naprawdę – są dobrzy w sprawach biznesowych, ale nie potrafiliby zidentyfikować prawdziwej kreatywności, nawet gdyby uderzyła ich w twarz.

Zwolennicy AI nieustannie publikują klipy AI na X i gdzie indziej, zachwycając się, jak całkowicie przejmie Hollywood, ale nie widziałem jeszcze ani jednego klipu AI, który nie byłby drewniany, sztuczny i pozbawiony życia. Ewangeliści technologii promują to, jakby to był drugi powrót NFT, ale myślę, że nie doceniają powszechnej niechęci do wszystkiego, co związane z AI, i naszej ludzkiej potrzeby ludzkiego dotyku.

W innych wiadomościach, Disney jednocześnie pozywa Google za naruszenie praw autorskich przez jego generatywną AI i oddaje swoją duszę ChatGPT, licencjonując swoją ogromną bibliotekę treści do wykorzystania przez usługę generowania wideo AI Sora. Podejrzewam, że nic z tego nie skończy się dobrze, ale przynajmniej będziemy mieli generatywne chatboty AI, które zapewnią nas, że wszystko będzie w porządku. (Poważnie, zapytaj ChatGPT, a zapewni cię, że chociaż masz wszelkie powody do zmartwienia, ostatecznie wszystko będzie dobrze. Czy chciałbyś, aby sporządził listę powodów, dla których nie należy martwić się nadchodzącą apokalipsą?)

Skontaktowałem się z Amazonem w sprawie komentarza na temat podsumowań AI i decyzji firmy o usunięciu wideo Fallout, i zaktualizuję ten post, jeśli i kiedy odpowiedzą. To z pewnością rodzaj złej prasy, której firma chciała uniknąć na mniej niż tydzień przed debiutem Sezonu 2 na Prime Video. Oczywiście, to niewymuszony błąd, jeśli kiedykolwiek taki był. C'est la vie.

Jestem naprawdę podekscytowany Fallout Sezonem 2. Uważam, że pierwszy sezon był świetną zabawą. Jasne, zmienił niektóre elementy lore, ale uchwycił ton gier wideo i obsada była idealna. Tym razem, zamiast wydawać wszystkie odcinki naraz, Amazon mądrze wydaje jeden odcinek tygodniowo. Szukaj moich podsumowań i recenzji nowego sezonu tutaj na tym blogu. Możesz sprawdzić mój weekendowy przewodnik po streamingu właśnie tutaj.