Amazon retire le récapitulatif de 'Fallout' généré par l'IA avant la saison 2 face aux critiques

C'est assez extraordinaire, les choses dont Amazon ne se soucie pas. Par exemple, l'entreprise ne peut tout simplement pas se donner la peine d'embaucher quelqu'un pour réaliser un court récapitulatif de la première saison de Fallout. La deuxième saison débute la semaine prochaine sur Prime Video, et une vidéo récapitulative utile est assez standard dans l'industrie. Au lieu de payer un être humain pour monter une vidéo récapitulative, Amazon a utilisé l'IA générative. Les résultats étaient... pas bons.

Voyez-vous, Amazon n'a pas non plus pris la peine de payer quelqu'un pour regarder ladite vidéo récapitulative générée par l'IA et s'assurer qu'elle était exacte. L'IA est, bien sûr, notoirement encline à "halluciner" et à inventer des détails au lieu d'admettre quand elle ne connaît pas la réponse. Pourquoi se soucier de vérifier les faits ? Ce n'est qu'une émission de télévision stupide !

Après le contrecoup des fans et une série d'articles moqueurs publiés en ligne, Amazon a retiré le récapitulatif généré par l'IA, qui comprenait un doublage monotone par l'IA débitant toutes sortes d'informations incorrectes. Ces erreurs comprenaient :

Les flashbacks, dans lesquels nous voyons le personnage de Walton Goggins et sa famille dans les années 2070 rétro-futuristes, ont été identifiés à tort comme les années 1950 par l'IA. Personne chez Amazon n'a remarqué cette erreur incroyablement évidente.

Le récapitulatif affirmait que le Goule avait donné à Lucy, le personnage d'Ella Purnell, le choix de "mourir ou partir avec lui" lorsqu'ils poursuivent le personnage de Kyle MacLachlan, Hank, alors qu'il traverse le désert vers New Vegas. Cela fait paraître l'interaction menaçante, alors qu'en fait Lucy et le Goule sont assez complices à ce stade.

Mais les inexactitudes ne sont qu'un symptôme d'un problème bien plus vaste et même un récapitulatif parfaitement précis – le minimum que l'on pourrait attendre de ce genre de vidéo – serait toujours problématique. L'IA est un outil utile mais un pauvre substitut au travail humain et à la créativité. Les récapitulatifs ne sont évidemment pas la partie la plus importante d'une émission, mais ils sont très utiles pour les spectateurs et, entre de bonnes mains, peuvent aussi être très amusants en soi.

Jane the Virgin présentait des récapitulatifs hilarants avant chaque épisode qui s'appuyaient vraiment sur la parodie des telenovelas de cette série. La série Apple TV de Vince Vaughn, Bad Monkey, a fait quelque chose de très similaire avec ses récapitulatifs. Comme une bonne bande-annonce, un bon récapitulatif peut donner le ton et aider les spectateurs à se concentrer sur les éléments importants, en mettant en évidence des détails que les gens auraient pu manquer ou en indiquant où nous devrions nous concentrer.

Vous n'obtiendrez pas cela de l'IA. Vous ne pouvez même pas obtenir un récapitulatif édité de manière compétente de la plus grande émission d'Amazon en décembre. Bien sûr, Amazon économise de l'argent en diffusant des contenus médiocres générés par l'IA au lieu d'un récapitulatif professionnel, mais le talent humain en paie le prix à long terme.

"Les récapitulatifs vidéo marquent une application révolutionnaire de l'IA générative pour le streaming", a déclaré Gérard Medioni, vice-président de la technologie chez Prime Video, dans un communiqué lorsque ces récapitulatifs générés par l'IA ont été révélés pour la première fois. "Cette fonctionnalité, première du genre, démontre l'engagement continu de Prime Video envers l'innovation et l'amélioration de l'expérience de visionnage pour la rendre plus accessible et agréable pour les clients."

Comment les récapitulatifs générés par l'IA rendent l'expérience de visionnage "plus agréable" reste un mystère, étant donné qu'il existe des chaînes YouTube entières où des êtres humains très réels et talentueux réalisent des récapitulatifs détaillés et utiles pour les fans. Par exemple, voici un récapitulatif de la saison 1 de Fallout – réalisé par un véritable être humain – qu'Amazon aurait pu très facilement payer quelqu'un pour faire :

Encore une fois, ne pas payer les gens semble être plus important que de rendre "l'expérience de visionnage plus accessible et agréable". À ce stade, la plupart de ces entreprises ont investi tellement d'argent dans l'IA qu'elles ont en quelque sorte besoin de l'utiliser chaque fois que possible, même comme preuve de concept (médiocre). Mais ce n'est pas bon pour les personnes travaillant dans ces industries.

Comme l'a noté un commentateur sur Reddit : "Je suis un monteur qui montait littéralement ce type de récapitulatifs dans le cadre de mon ancien travail. Je recevais des notes du client, je regardais l'émission, je marquais les épisodes, puis j'assemblais soigneusement un récapitulatif qui, espérons-le, avait un peu de panache stylistique tout en passant en revue les points principaux nécessaires pour la saison suivante.

"Je suis passé à d'autres types de montage, mais j'ai actuellement du mal à trouver beaucoup de travail, comme beaucoup de monteurs talentueux que je connais avec des années et des années d'expérience. Donc oui... cela a définitivement pris l'emploi de quelqu'un."

Ce ne sont peut-être que des récapitulatifs pour l'instant, mais l'IA s'infiltre de plus en plus dans tous les aspects de la vie et de l'industrie du divertissement. Le problème est que l'IA peut certainement être un outil utile quand il s'agit de brainstorming, d'organisation, de recherche et ainsi de suite, mais elle est très mauvaise en matière de créativité réelle. Beaucoup de dirigeants et de bros de la tech ne comprennent pas vraiment cela – ils sont bons en affaires mais ne pourraient pas identifier la véritable créativité même si elle les giflait en plein visage.

Les champions de l'IA publient constamment des clips d'IA sur X et ailleurs et s'extasient sur la façon dont elle va complètement supplanter Hollywood, mais je n'ai encore jamais vu un seul clip d'IA qui ne soit pas rigide, faux et sans vie. Les évangélistes de la technologie poussent cela comme si c'était le second avènement des NFT, mais je pense qu'ils sous-estiment l'aversion généralisée pour tout ce qui concerne l'IA, et notre besoin humain d'une touche humaine.

Par ailleurs, Disney poursuit Google pour violation de droits d'auteur concernant son IA générative tout en vendant son âme à ChatGPT, en accordant des licences pour sa vaste bibliothèque de contenu à utiliser par le service de génération vidéo Sora AI. Rien de tout cela ne finira bien, je le soupçonne, mais au moins nous aurons des chatbots d'IA générative pour nous rassurer que tout ira bien. (Sérieusement, allez demander à ChatGPT et il vous rassurera que, bien que vous ayez toutes les raisons d'être inquiet, tout finira par s'arranger. Voulez-vous qu'il compile une liste de raisons de ne pas s'inquiéter de l'apocalypse à venir ?)

J'ai contacté Amazon pour obtenir un commentaire sur les récapitulatifs générés par l'IA et la décision de l'entreprise de retirer la vidéo de Fallout, et je mettrai à jour cet article si et quand ils répondront. C'est certainement le genre de mauvaise presse que l'entreprise voulait éviter à moins d'une semaine avant le début de la saison 2 sur Prime Video. Bien sûr, c'est une erreur non forcée s'il en est une. C'est la vie.

Je suis vraiment enthousiaste pour la saison 2 de Fallout. J'ai trouvé que la première saison était très amusante. Certes, elle a modifié certains éléments du lore, mais elle a bien capturé le ton des jeux vidéo et le casting était parfait. Cette fois-ci, au lieu de sortir tous les épisodes en même temps, Amazon publie judicieusement un épisode par semaine. Retrouvez mes récapitulatifs et critiques de la nouvelle saison ici sur ce blog. Vous pouvez consulter mon guide de streaming du week-end juste ici.