Sommaire
L’âge des médias anti-sociaux
Selon Wired, OpenAI s’apprête à lancer une application autonome pour son outil de génération de vidéos, Sora 2, qui inclura un défilement de vidéos à la manière de TikTok, permettant aux utilisateurs de naviguer à travers des vidéos entièrement générées par intelligence artificielle.
Cette initiative audacieuse fait suite au récent lancement par Meta d’un flux exclusivement réservé aux contenus générés par IA sur son application Meta AI, qui a été accueilli avec une large désapprobation.
Fonctionnalités de l’application Sora 2
Selon Wired, l’application Sora 2 intégrera le style de navigation bien connu “swipe-up-to-scroll”, présent sur de nombreuses plateformes de vidéos verticales comme TikTok, Instagram Reels ou YouTube Shorts. Un algorithme de recommandation personnalisé servira à proposer aux utilisateurs des contenus susceptibles de les intéresser.
Les utilisateurs pourront aimer, commenter, ou “remixer” un post, des fonctionnalités typiques des réseaux sociaux.
La particularité ici est que tout le contenu disponible sur la plateforme est généré par l’IA à partir de textes, photos ou vidéos existantes modifiées par OpenAI. Les vidéos seront limitées à 10 secondes, probablement parce que c’est le temps maximum durant lequel Sora peut générer des contenus avant de perdre en cohérence. Curieusement, il est impossible de télécharger des photos ou vidéos et de les publier sans passer par les filtres de l’application.
De manière intéressante, OpenAI a intégré un élément social dans l’application bien que cela comporte une certaine dose de malaise intrinsèque. Selon Wired, l’application Sora 2 demandera aux utilisateurs de vérifier leur identité via la reconnaissance faciale.
Après la confirmation, les utilisateurs pourront intégrer leur image dans des vidéos, ou d’autres pourront utiliser leur ressemblance dans leurs propres vidéos. Les utilisateurs seront avertis à chaque utilisation de leur image, même si la vidéo générée est sauvegardée dans les brouillons et jamais publiée.
Comme le rapporte Wired, “la seule chose sur laquelle le gouvernement fédéral a réussi à obtenir un consensus en matière de régulation de l’IA est de proposer des protections limitées contre les deepfakes non consensuels”.
Régulation et protection
La question de comment cette fonctionnalité sera appliquée lors du lancement public reste en suspens. Il est attendu, d’après le rapport, que de telles pratiques sans consentement soient un véritable cauchemar. Sera-t-il possible de choisir de ne pas autoriser l’utilisation de son image ou de restreindre cette utilisation par d’autres ?
Selon Wired, des protections seront mises en place concernant les types de contenus que Sora 2 autorisera à générer. Il est prévu de refuser la violation de droits d’auteur et d’inclure des filtres pour restreindre certains types de vidéos.
OpenAI a mis en avant les protections ajoutées au modèle original de Sora pour empêcher la génération d’images explicites, mais des tests ont montré que le système a quand même produit du contenu interdit à un faible, mais non nul, taux.
L’avenir incertain de Sora 2
Les spéculations sur le lancement de Sora 2 circulent depuis des mois avec des attentes selon lesquelles il pourrait être annoncé en même temps que GPT-5. Pour l’heure, l’application reste théorique, mais une bonne idée pourrait émerger du concept de flux social tout-IA : maintenir le contenu IA en quarantaine.
