Mieux maîtriser l’influence de l’IA sur nos contenus | Fonds des médias du Canada

Comme attendu, on a observé une incidence marquée de l’IA sur les contenus créatifs en 2023, et ce n’était que le début. Le problème, c’est que l’IA progresse plus vite que nous et que, sous son influence, notre industrie est en train de se transformer. Cela ouvre la porte à d’immenses possibilités, mais aussi à des risques considérables. Il est essentiel pour les principaux acteurs de l’industrie du divertissement et pour les gens dont le rôle est de protéger le public de mieux comprendre ce nouvel outil. Il est aussi impératif de mieux cerner son influence potentielle sur les histoires que nous créons et de saisir la façon dont l’IA se développe dans notre industrie.

Contenus créés par l’IA: probabilités et données d’entraînement

L’IA contribue à créer du contenu en se basant sur les calculs d’un outil génératif pour obtenir ce qu’elle considère comme le meilleur résultat probable. Depuis plus de 30 ans, Avi Bar-Zeev innove dans le domaine des technologies à vocation créative ou à usage commercial. Aujourd’hui président de XR Guild et de RealityPrime, il a cofondé Keyhole (Google Earth), co-inventé le casque de réalité augmentée Hololens, réalisé les univers en 3D de Second Life et dirigé l’équipe chargée d’élaborer le prototype du Vision Pro d’Apple. Les outils d’IA générative peuvent donner «des superpouvoirs aux gens qui ne sont pas doués pour écrire ou dessiner, mais ces outils ne sont pas à un niveau professionnel, révèle Avi Bar-Zeev. La raison principale étant que l’IA ne peut pas encore faire la distinction entre le bon et le mauvais contenu, entre ce qui est en phase avec l’auditoire et ce qui le désoriente, entre le vrai et le faux. Tout ce qu’elle peut faire, c’est nous donner le résultat le plus probable en se basant sur toute l’information qu’elle a ingérée… Mais l’IA doit se baser sur la vérité, notre survie à tous en dépend. Le fait de laisser la désinformation s’insinuer dans ces modèles pourrait causer du tort à énormément de gens de façons très subtiles.»

En outre, la génération constante de ce que l’IA perçoit comme étant les résultats les plus probables pourrait perpétuer certains biais, stéréotypes et inexactitudes dans les contenus. Cela pourrait avoir une incidence négative sur les histoires racontées et sur la façon qu’aurait le public de les recevoir. Il revient aux créatrices et créateurs de contenus de s’assurer que les données générées par l’IA soient approuvées, exactes et dépourvues de biais, pour ne pas entretenir ces derniers et pour raconter des histoires différentes, et toujours meilleures.

Protéger nos créations et notre apparence

«En ce moment, le sous-ensemble de la propriété intellectuelle (PI) que l’on appelle ‘’les droits d’auteur‘’ est le principal champ de bataille, dit Sam Posner, avocat spécialisé dans le divertissement chez Platform Law. Un jour, sans doute notre attention se portera-t-elle sur les marques de commerce, les brevets et autres sujets liés à la PI, mais aujourd’hui l’IA doit parfaire ses connaissances en matière de droits d’auteur. Dans la plupart des pays, pour être admissible à la protection par les droits d’auteur, le matériel doit être ancré dans un média (écrit sur papier ou dans un courriel, enregistré sur vidéo, peint, photographié, etc.) et doit être original. Autrement, il pourrait léser les droits d’un autre auteur.»

Il est aussi important de comprendre que tout ne peut pas être protégé. «On parle d’un ensemble d’éléments connus, tels que les titres d’œuvres (à moins qu’ils aient été enregistrés), les données factuelles (par exemple, les statistiques de baseball: la présentation graphique de ces données pourrait être protégée par des droits d’auteur, mais pas les données elles-mêmes), des termes ou bouts de phrases très courts et communs, ainsi que les idées qui n’ont pas été figées ou enregistrées. Les gens demandent souvent comment ils peuvent protéger leurs idées. Pour l’instant, la façon la plus proactive de s’y prendre d’un point de vue juridique est de mettre l’idée par écrit (ou un autre média), en donnant le plus de détails possibles, et d’enregistrer le tout à l’Office de la propriété intellectuelle. »

Sam Posner nous rappelle toutefois que les droits d’auteur pourraient faillir face à des entreprises aux poches profondes. Pour éviter le vol de contenu, on peut tenter de le détériorer, de le rendre “compliqué’’ ou frustrant à consulter… par exemple, en utilisant des tatouages numériques ou d’autres méthodes semblables, selon la nature du travail à protéger. Mais l’IA pourrait éventuellement trouver une façon de contourner ces obstacles.

Extrait d’une conversation entre l’autrice et ChatGPT datée du 24 mars 2023

Existe-t-il des moyens pour les créatrices et créateurs de savoir si leur PI a été utilisée pour entraîner l’IA? «La réponse à cette question est “probablement pas”, admet Sam Posner, à moins qu’une information présente dans le matériel généré par l’IA révèle sa connaissance de certaines œuvres. Je m’attends à ce qu’éventuellement l’IA soit capable d’échapper à ce genre de règles. En théorie, si l’on décidait de poursuivre une entreprise d’IA pour violation des droits d’auteur, le matériel utilisé pour entraîner le logiciel pourrait être “découvert” et l’entreprise défenderesse devrait révéler ses sources à la partie demanderesse. En pratique, ce serait un processus complexe, dispendieux et frustrant pour le demandeur, alors qu’il voulait obtenir une réponse toute simple à une question toute simple. »

Ce n’est pas toujours possible pour les artistes d’investir dans la protection de leurs droits d’auteur. Il faut en effet toujours plus de ressources pour défendre ce matériel. C’est particulièrement vrai pour les individus ou les petites agences qui se retrouvent face à de grandes entreprises d’IA. Pour défendre leurs œuvres, les artistes canadiens devraient participer à la recherche d’une solution en ce qui concerne la PI. Par ailleurs, les organismes qui investissent dans la PI canadienne ou qui la subventionnent devraient contribuer à trouver des façons de soutenir les entreprises à l’origine de cette PI.

L’IA a été au cœur des plus récentes négociations de la SAG-AFTRA et de la guilde des scénaristes américains, comme cela devrait être le cas pour tous les organismes représentant des artistes. Dans ces négociations, il a été question des données créatives produites par l’IA et de l’utilisation de l’image des acteurs et actrices. «Je crois que c’était important de résister face aux dirigeants, qui pourraient assurément tenter de remplacer les gens par l’IA pour économiser de l’argent», a lancé Avi Bar-Zeev.

«Si le Film A et le Film B sont quasi-identiques, mais que A est protégé par des droits d’auteur enregistrés, alors B empiète probablement», dit Avi Bar-Zeev. L’exemple du New York Times est parlant. «Si les éléments générés par OpenAI sont réellement transformatifs (et qu’ils respectent une utilisation équitable), alors les gens devraient utiliser les contenus créés à d’autres fins que ce qui se fait déjà. Si ChatGPT peut nous livrer un article identique à celui publié dans le NYT, quel est l’intérêt de payer le NYT? Si OpenAI nous offre un service différent de ce que propose le NYT ou un service que ce dernier ne peut offrir, alors peut-être est-il suffisamment transformatif pour survivre tel quel. »

Protéger le public

Les acteurs et actrices ne sont pas les seul.es à devoir protéger leur image. «Si les acteurs et actrices parviennent à établir qu’ils et elles devraient être rémunéré·es quand leur image est utilisée, est-ce que cela pourrait aider chaque individu à être maître de ses données personnelles? » demande Avi Bar-Zeev. L’occasion est belle «pour les gouvernements d’affirmer que cette décision sera valide pour tous et toutes, et pas uniquement pour les artistes. Il faut que tout le monde soit maître de ses données personnelles. Les entreprises peuvent continuer à nous demander notre consentement pour les utiliser, mais ça ne devrait pas être une «entente» coercitive comme c’est le cas en ce moment», dit-il en faisant référence à des plateformes d’IA et aux médias sociaux, qui reposent sur ce type d’ententes.

L’IA permet une hyperpersonnalisation du contenu, et cela représente à la fois une occasion et un risque pour le public. L’IA peut être entraînée à tromper l’auditoire. Selon Avi Bar-Zeev, le plus grand risque encouru, c’est qu’on peut «faire croire aux gens que du contenu très semblable à ce font les humains et produit à une fraction du prix est authentique, véridique et conçu dans leur intérêt, alors qu’il est plutôt conçu pour leur nuire secrètement. Ça va devenir très facile pour les compagnies de techno d’apporter de subtiles modifications à presque tous les contenus créés par l’IA afin de monétiser plus efficacement l’auditoire et les données personnelles. Notre façon de consulter les contenus aura encore plus d’importance aux yeux de telles entreprises, qui s’en serviront ensuite contre nous. En faisant une utilisation agressive de ces contenus que nous aimons tant, les entreprises pourront mieux s’insinuer dans nos vies. Par exemple, on peut aisément imaginer que, pour faire la promotion de produits, ces entreprises se serviraient de nos proches sans qu’ils en aient le moindrement conscience.»

Ajoutons que l’IA produit des contenus qui prennent vie dans les environnements personnels du public, reliant les contenus numériques et les espaces, les objets et parfois la personne elle-même (en suivant le mouvement des yeux ou des mains), par l’entremise d’appareils de réalité mixte. Cela ouvre la porte à de nouvelles possibilités narratives, mais nous rappelle également l’importance de protéger les données personnelles du public, aujourd’hui plus que jamais.

Outils d’IA et plateformes de distribution

Avi Bar-Zeev encourage les entreprises d’IA générative à proposer une formule du type «révéler la provenance, attribuer le crédit et payer les droits». Mais la grande question demeure: le feront-elles ? En cour, OpenAI a déjà affirmé «qu’il serait impossible aujourd’hui d’entraîner les meilleurs modèles d’IA sans utiliser de matériel protégé par des droits d’auteur.» Quand on lui a demandé si son entreprise cherchait à obtenir un consentement avant d’utiliser les œuvres d’artistes vivants ou encore des œuvres protégées par des droits d’auteur, le fondateur de Midjourney, David Holz a répondu non.

«Tous les collaborateurs devraient s’entendre sur les modalités d’un contrat établissant leur propriété et leur gouvernance respectives en regard de leur travail. Mais à partir du moment où on se sert de l’IA, ce sont les Conditions d’utilisation de la plateforme d’IA qui régissent l’utilisation du produit généré par l’IA, rappelle Sam Posner. La question la plus importante sera celle de la propriété : les contenus produits par l’IA appartiendront soit aux humains ayant utilisé les outils génératifs, soit à la plateforme d’IA, soit aux deux conjointement. »

«Les humains qui utilisent l’IA devraient également se demander s’il est possible pour l’IA de générer du contenu qui n’empiète pas sur la propriété intellectuelle d’une tierce partie, suggère Sam Posner. C’est une question qu’on se pose déjà par rapport au matériel créé sans la participation de l’IA, mais l’avènement de cette dernière n’a pas amélioré les choses. Pour avoir la certitude de ne pas empiéter sur la propriété intellectuelle, il faudrait que l’IA connaisse les registres et les enregistrements de PI de partout dans le monde. Et à cela s’ajoute le fait que ce n’est pas toute la PI qui doit être enregistrée pour être valide et applicable. C’est le cas, par exemple, des droits d’auteur. Alors à moins que les lois changent pour exiger que les droits d’auteur soient enregistrés, il existera un risque qu’une personne ait eu une idée avant l’IA (preuve à l’appui) et que l’IA se soit servie de ce matériel sans autorisation (un permis). En fait, peut-être faut-il se demander s’il est possible que l’IA parvienne à déterminer quels types d’utilisations de matériel protégé (par les droits d’auteur ou une marque déposée) seraient défendables d’un point de vue juridique.»

Laura Mingail

Laura Mingail est une spécialiste du marketing de renom, innovante en matière de produits, stratège et leader d'opinion primée dans le domaine du divertissement immersif. Mingail a fondé Archetypes & Effects afin de fournir aux organisations du secteur du storytelling un soutien stratégique en marketing et développement commercial. Elle est également autrice et contributrice à divers médias, se concentrant sur l'innovation en nouvelles narrations et technologies.

En savoir plus