Plus tard cette année, des millions d’appareils Apple commenceront à utiliser Apple Intelligence, la version de Cupertino de l’IA générative qui permet, entre autres, de créer des images à partir d’invites de texte. Mais certains membres de la communauté créative sont mécontents du manque de transparence de l’entreprise quant aux informations brutes qui alimentent le modèle d’IA qui rend cela possible.
« J’aurais aimé qu’Apple explique au public de manière plus transparente comment ils recueillent leurs données d’entraînement », a déclaré à Engadget Jon Lam, un artiste de jeux vidéo et un militant des droits des créateurs basé à Vancouver. « Je pense que leur annonce n’aurait pas pu tomber à un pire moment. »
Les créatifs ont toujours été parmi les clients les plus fidèles d’Apple, une entreprise dont le fondateur l’a positionnée à « l’intersection de la technologie et des arts libéraux ». Mais les photographes, les artistes conceptuels et les sculpteurs qui ont parlé à Engadget ont déclaré qu’ils étaient frustrés par le silence relatif d’Apple sur la façon dont l’entreprise collecte les données pour ses modèles d’IA.
L’IA générative n’est efficace que dans la mesure où les données sur lesquelles sont formés ses modèles sont utilisées. À cette fin, la plupart des entreprises ont ingéré à peu près tout ce qu’elles ont pu trouver sur Internet, sans tenir compte du consentement ou de la rémunération. Près de 6 milliards d’images utilisées pour former plusieurs modèles d’IA proviennent également de LAION-5B, un ensemble de données d’images récupérées sur Internet. Dans une interview avec ForbesDavid Holz, PDG de Midjourney, a déclaré que les modèles de l’entreprise ont été formés sur « juste un gros extrait d’Internet » et qu’« il n’y a pas vraiment de moyen d’obtenir cent millions d’images et de savoir d’où elles viennent ».
Des artistes, auteurs et musiciens ont accusé les entreprises d’IA génératrice d’aspirer leur travail gratuitement et d’en tirer profit, ce qui a donné lieu à plus d’une douzaine de poursuites judiciaires rien qu’en 2023. Le mois dernier, de grandes maisons de disques, dont Universal et Sony, ont poursuivi les générateurs de musique IA Suno et Udio, des startups valorisées à des centaines de millions de dollars, pour violation du droit d’auteur. Les entreprises technologiques ont – ironiquement – défendu leurs actions et ont également conclu des accords de licence avec des fournisseurs de contenu, notamment des éditeurs de presse.
Certains créatifs pensaient qu’Apple pourrait faire mieux. « C’est pourquoi je voulais leur accorder un léger bénéfice du doute », a déclaré Lam. « Je pensais qu’ils aborderaient le débat sur l’éthique différemment. »
Apple n’a révélé que très peu de choses sur la source des données d’entraînement d’Apple Intelligence. Dans un article publié sur le blog de recherche sur l’apprentissage automatique de l’entreprise, l’entreprise a écrit que, tout comme d’autres sociétés d’IA générative, elle récupère des données publiques sur le Web ouvert à l’aide d’AppleBot, son robot d’exploration Web spécialement conçu, ce que ses dirigeants ont également déclaré sur scène. Le responsable de l’IA et de l’apprentissage automatique d’Apple, John Giannandrea, aurait également déclaré qu’« une grande quantité de données d’entraînement a en fait été créée par Apple », mais n’est pas entré dans les détails. Et Apple aurait également signé des accords avec Shutterstock et Photobucket pour obtenir des licences d’images d’entraînement, mais n’a pas confirmé publiquement ces relations. Alors qu’Apple Intelligence tente de se faire féliciter pour une approche soi-disant plus axée sur la confidentialité utilisant le traitement sur l’appareil et le cloud computing sur mesure, les fondamentaux qui sous-tendent son modèle d’IA ne semblent guère différents de ceux de ses concurrents.
Apple n’a pas répondu aux questions spécifiques d’Engadget.
En mai, Andrew Leung, un artiste basé à Los Angeles qui a travaillé sur des films comme Panthère noire, Le roi Lion et Mulana qualifié l’IA générative de « plus grand vol de l’histoire de l’intellect humain » dans son témoignage devant l’Assemblée de l’État de Californie sur les effets de l’IA sur l’industrie du divertissement. « Je tiens à souligner que lorsqu’ils utilisent le terme « accessible au public », cela ne passe tout simplement pas », a déclaré Leung dans une interview. « Cela ne se traduit pas automatiquement par un usage équitable. »
Il est également problématique pour des entreprises comme Apple, a déclaré Leung, de ne proposer aux utilisateurs la possibilité de se retirer qu’une fois qu’ils ont déjà entraîné des modèles d’IA sur des données auxquelles ils n’ont pas consenti. « Nous n’avons jamais demandé à en faire partie. » Apple permet aux sites Web de refuser que AppleBot récupère les données d’entraînement d’Apple Intelligence – l’entreprise affirme qu’elle respecte le fichier robots.txt, un fichier texte que tout site Web peut héberger pour dire aux robots de rester à distance – mais il s’agirait au mieux d’un tri. On ne sait pas exactement quand AppleBot a commencé à récupérer les données du Web ni comment quelqu’un aurait pu se retirer avant cette date. Et, technologiquement, la question reste ouverte de savoir comment et si les demandes de suppression d’informations des modèles génératifs peuvent même être honorées.
C’est un sentiment que partagent même les blogs destinés aux fanatiques d’Apple. « Il est décevant de voir Apple salir un ensemble de fonctionnalités pourtant convaincantes (dont certaines que je souhaite vraiment essayer) avec des pratiques qui ne sont pas meilleures que celles du reste de l’industrie », a écrit Federico Viticci, fondateur et rédacteur en chef du blog des passionnés d’Apple. MacStories.
Adam Beane, un sculpteur basé à Los Angeles qui a créé une image de Steve Jobs pour Écuyer En 2011, il utilise exclusivement des produits Apple depuis 25 ans. Mais il a déclaré que le refus de l’entreprise de divulguer la source des données de formation d’Apple Intelligence l’avait déçu.
« Je suis de plus en plus en colère contre Apple », a-t-il déclaré à Engadget. « Il faut être suffisamment informé et averti pour savoir comment refuser de former l’IA d’Apple, et ensuite il faut faire confiance à une entreprise pour respecter vos souhaits. De plus, tout ce que je vois comme option de refus est plus loin « Entraîner leur IA avec vos données »
Karla Ortiz, une illustratrice basée à San Francisco, est l’une des plaignantes dans un procès intenté en 2023 contre Stability AI et DeviantArt, les sociétés à l’origine des modèles de génération d’images Stable Diffusion et DreamUp respectivement, et Midjourney. « En fin de compte, nous savons [that] pour que l’IA générative fonctionne telle quelle, [it] repose sur des excès massifs et des violations des droits, privés et intellectuels », a-t-elle écrit sur un fil de discussion viral de X sur Apple Intelligence. « C’est vrai pour tous [generative] Les entreprises d’IA, et alors qu’Apple nous impose cette technologie, il est important de se rappeler qu’elles ne constituent pas une exception.
L’indignation contre Apple fait également partie d’un sentiment plus large de trahison parmi les professionnels de la création à l’égard des entreprises technologiques dont ils dépendent des outils pour faire leur travail. En avril, un Bloomberg Un rapport a révélé qu’Adobe, qui fabrique Photoshop et de nombreuses autres applications utilisées par des artistes, des designers et des photographes, a utilisé des images d’origine douteuse pour entraîner Firefly, son propre modèle de génération d’images qu’Adobe prétendait avoir été formé de manière « éthique ». Et plus tôt ce mois-ci, l’entreprise a été obligée de mettre à jour ses conditions de service pour clarifier qu’elle n’utiliserait pas le contenu de ses clients pour former des modèles d’IA génératifs après l’indignation des clients. « L’ensemble de la communauté créative a été trahie par chaque société de logiciels à laquelle nous avons fait confiance », a déclaré Lam. Il n’est pas envisageable pour lui de se débarrasser complètement des produits Apple, il essaie de réduire ses dépenses – il prévoit d’abandonner son iPhone pour un Light Phone III.
« Je pense que l’on a de plus en plus le sentiment qu’Apple est en train de devenir comme les autres », a déclaré Beane. « Une entreprise géante qui donne la priorité à ses résultats financiers plutôt qu’à la vie des personnes qui utilisent ses produits. »
Cet article contient des liens d’affiliation ; si vous cliquez sur un tel lien et effectuez un achat, nous pouvons gagner une commission.