De toutes les émotions que j’attendais du discours d’ouverture de Google I/O de cette semaine, « l’effroi » n’était pas sur ma courte liste. Google a passé quelques décennies à créer des produits qui me facilitent la vie. Cette semaine, il a démontré exactement le contraire : un moyen d’aggraver la communication avec les autres.
Google I/O, cette année, était axé sur l’intelligence artificielle, et l’une de ses pièces maîtresses était la génération de texte basée sur des invites, en particulier dans la suite bureautique de Google. À plusieurs moments du discours d’ouverture, il a présenté un système appelé « Aidez-moi à écrire » – qui réécrit des invites simples dans Gmail et d’autres applications sous forme de paragraphes de texte plus raffinés. Mais plus poli ne signifie pas automatiquement mieux.
Une bonne écriture peut nous ravir avec une tournure de phrase intrigante. Il peut nous dire quelque chose sur la façon dont une personne pense et se sent. Ou cela peut offrir une sorte de détail utile sur le monde. Et il n’y a aucune raison pour que l’IA ne puisse pas jouer un rôle. J’ai vu des auteurs utiliser des outils génératifs pour créer prose inattendue ou résumer les données de manière lisible. Je suis ravi de voir les gens explorer de nouvelles utilisations.
Mais les idées de Google sur scène étaient presque impressionnantes dans leur capacité à ne servir précisément aucun des objectifs fondamentaux de l’écriture. Ses exemples d’Aide-moi à écrire calcifient les pires tendances des communications « professionnelles ». Ce sont des passe-partout fades et gonflés qui transforment une invite humaine en quelque chose qui utilise plus de mots pour en dire moins.
Prenons l’un des exemples. Au début du discours d’ouverture, un présentateur génère automatiquement une description de poste pour un poste de design textile qu’il (dans le scénario de la démo) envoie dans le monde. Plus tard, un autre présentateur y répond en fournissant l’invite suivante :
intéressé! 8 ans d’expérience avec des marques internationales. Appelez le mardi.
Aidez-moi à écrire fonctionne sa magie et produit ce qui suit :
Salut Lori,
Merci beaucoup d’avoir tendu la main ! Je suis très intéressé par le poste de Senior Textile Designer chez Cymbal. J’ai 8 ans d’expérience de travail avec des marques internationales, et je suis convaincu que j’ai les compétences et l’expérience que vous recherchez.
Je suis disponible pour un appel le mardi à votre meilleure convenance. S’il vous plaît laissez-moi savoir quelle heure fonctionne.
Cette dernière version est évidemment la façon dont vous êtes censé postuler à un emploi car, écrite par un humain, elle suggère que vous êtes suffisamment engagé pour taper une réponse de plusieurs paragraphes et que vous êtes capable de toucher certains signifiants de classe et culturels. Cependant, une réponse générée par l’IA ne sert aucun de ces objectifs. Il a été créé presque instantanément sur la base d’un système de texte prédictif qui nécessite une compétence minimale en anglais et, jusqu’à présent, ce système ne peut gérer qu’une écriture assez stéréotypée. il ne remplacera pas le travail humain dans de nombreuses situations du monde réel. Donc, tout ce qu’il fait est de construire une version plus longue et plus guindée de l’invite d’origine – une version qui n’a probablement de valeur que jusqu’à ce que tout le monde s’attende à ce qu’elle ait été écrite avec l’IA.
Et pire encore, la génération de l’IA renforce l’idée que le discours commercial américain trop enthousiaste est le requis façon d’écrire, qu’il s’agisse ou non d’une compétence nécessaire pour le travail. J’ai vu des histoires réfléchies sur des personnes atteintes de dyslexie utilisant ChatGPT pour produire du texte qui est – comme un Poste de Washington l’article le dit — « Infailliblement professionnel et poli. » Mais il existe une alternative tacite et plus simple : être prêt à accepter des variations plus larges dans la façon dont les gens communiquent. Je n’en veux à personne qui utilise l’écriture de l’IA pour répondre à des normes largement arbitraires, mais à l’échelle de la société, c’est une course aux armements linguistiques vers un avenir plus ennuyeux.
Pour un autre exemple, essayez ce message amical de félicitations du vice-président de l’ingénierie de Google Android, Dave Burke, au vice-président principal des appareils et des services, Rick Osterloh :
rick félicitations pour le lancement de pixel fold incroyable avec Android dave
Voici ce qui m’aide à écrire :
Cher Rick,
Félicitations pour le lancement réussi du Pixel Fold ! Je suis vraiment impressionné par l’appareil et par la façon dont il s’intègre à Android. L’écran pliable change la donne, et j’ai hâte de voir ce que vous en ferez ensuite.
Meilleur,
David
Je vais supposer que c’est ironique parce que je connais la façon dont les cadres envoient des e-mails personnels, et ils semblent tout à fait à l’aise avec des missives d’une phrase sans ponctuation. Mais encore une fois, c’est pire ! Cela m’en dit moins sur la voix de l’expéditeur. C’est plus long à lire. Il fait sonner l’expéditeur comme un robot interchangeable.
Pour comprendre la valeur pragmatique de ce processus en ce moment, vous devez regarder un e-mail dès le début de la keynote. Le noyau de la génération est en fait assez cool – il suffit d’une invite très simple pour une demande de remboursement d’une compagnie aérienne et la remplit avec des détails concrets tirés de votre boîte de réception, comme le nom et la date du vol. Mais après cela, il embellit les faits avec quelques paragraphes de prose irritée. Voici l’original :
demander un remboursement complet pour ce vol annulé
Et la version générée par l’IA :
Cher service client,
Je vous écris pour demander le remboursement intégral de mon vol annulé, DF 4542, le 4 février 2023. Je comprends que vous offrez un bon en signe de bonne volonté, mais je préférerais être remboursé du coût de mon billet.
Je suis un client fidèle de votre compagnie aérienne depuis de nombreuses années et j’ai toujours été satisfait de votre service. Cependant, je suis très déçu de la façon dont mon récent vol a été géré. Je n’ai reçu aucun préavis de l’annulation et j’ai été obligé de prendre d’autres dispositions à la dernière minute. Cela m’a causé beaucoup d’inconvénients et de dépenses.
Je crois qu’un remboursement complet est le seul moyen équitable de me dédommager pour les problèmes que j’ai rencontrés. J’ai joint une copie de mon billet original pour votre référence.
Merci pour votre temps et votre considération.
Sincèrement,
Sorbier des oiseleurs
Rien n’indique que ces affirmations furieuses soient exactes. C’est un bureaucrate affichage déimatique: convaincre un malheureux représentant du service client que vous êtes assez fou pour taper tout ce texte et que vous serez probablement une véritable nuisance jusqu’à ce que vous récupériez votre argent. J’ai vu cette idée mieux lancée sur Tumblr de tous les endroits. Dans un article populaire sur l’IA, quelqu’un décrit à l’aide de ChatGPT réaliser une sorte de version high-tech de Brésilc’est Formulaire 27B/6 gambit, générant une fausse lettre menaçante à un propriétaire qui enfreignait les lois sur le logement. En tant que locataire de longue date, je les applaudis.
Mais ce truc est efficace dans une brève période de transition alors que le texte génératif n’est pas largement utilisé, alors que les lecteurs sont susceptibles de supposer qu’il est lié à un écrivain humain. Si vous savez que c’est une machine, l’illusion s’évapore. Vous vous retrouvez avec un monde plein de communications qui sont plus longues, moins réfléchies et plus abrutissantes à lire. Je préfère embaucher quelqu’un sur la base d’un honnête « 8 ans d’expérience » plutôt que d’une lettre de motivation pleine de prose automatisée vide.
En revanche, l’exemple le plus utile de Google Aidez-moi à écrire impliquait simplement de transmettre des informations. Dans un e-mail concernant un repas-partage, son IA a pu consulter un document contenant une liste de plats que les personnes s’étaient inscrites pour apporter, puis résumer cette liste sous la forme d’une ligne dans un e-mail. Cela évite aux auteurs l’étape de coller dans une série d’éléments et aux lecteurs l’inconvénient de cliquer sur un autre onglet. Plus important encore, sa valeur ne repose pas sur le fait de prétendre qu’un humain l’a écrit – et si Google réussit, c’est une astuce qui ne durera pas longtemps.