Les entreprises sont poussées à faire les choses correctement à mesure que l’IA générative prend de l’ampleur

Contenu de l’article

Maintenant que les entreprises et leurs clients ont commencé à profiter des avantages de l’intelligence artificielle, il n’y a plus de retour en arrière possible, mais si elles sont gérées de manière irresponsable, les risques juridiques et les atteintes à la réputation alimentés par les technologies basées sur l’IA pourraient être dévastateurs pour les entreprises, affirment les observateurs du secteur.

Selon l’étude, seuls 28 % des Canadiens croient que les entreprises utilisant l’IA protégeront leurs données personnelles, contre 34 % qui le pensaient en 2023. troisième édition annuelle du Ipsos AI Monitor 2024qui étudie les attitudes à l’égard de l’utilisation de l’IA dans le monde. Et seulement 41 % des personnes interrogées estiment que l’IA est impartiale envers un groupe de personnes.

Contenu de l’article

Les craintes des consommateurs sont fondées, estime Rebecca Parsons, directrice technique de Thoughtworks Holding Inc., une société internationale de conseil en technologie basée à Chicago. Elle cite le cas très médiatisé d’Amazon.com Inc. qui a utilisé un système d’intelligence artificielle pour analyser les CV qui était clairement biaisé à l’encontre des femmes.

« Et lorsque ces modèles (d’IA) présentent des préjugés, il y a de fortes chances que leurs organisations aient présenté des préjugés dont elles n’avaient pas conscience ou qu’elles n’ont pas voulu reconnaître », a-t-elle déclaré.

Parsons a déclaré que les dirigeants d’entreprise habitués à ce que les ordinateurs fournissent les mêmes réponses lorsque les variables restent identiques « essaient désormais de comprendre » l’IA générative en raison de ses résultats en constante évolution.

« Il y a des mises en garde qui ne concernent pas nécessairement la technologie responsable, mais plutôt la question de savoir si les entreprises comprennent suffisamment cette technologie, en particulier dans les situations de contact avec les clients », a-t-elle déclaré.

Pas le temps d’attendre et de voir

Mais les contraintes de temps autour de la mise en œuvre de l’IA signifient que les entreprises ne peuvent pas attendre que les problèmes de la technologie soient résolus comme elles auraient pu le faire par le passé.

Contenu de l’article

Contenu de l’article

« Il y a encore un an, ce que nous pensions qu’il nous faudrait trois ans pour y parvenir est désormais possible en termes de capacités d’IA de génération », a déclaré John Stackhouse, vice-président principal de la Banque Royale du Canada.

La technologie est encore en évolution, mais il a déclaré que les entreprises « doivent se préparer à monter à bord du bateau » si elles ne l’ont pas déjà fait, car il pourrait être trop tard lorsque l’IA générative atteindra une plus grande échelle.

Les entreprises canadiennes sont déjà loin derrière leurs homologues mondiales, le Canada se classant au 20e rang sur 35 pays de l’Organisation de coopération et de développement économiques en matière d’adoption de l’IA, selon Rapport 2024 de RBC « Génération IA : Le Canada est-il prêt? » Trois entreprises canadiennes interrogées sur quatre n’envisageaient même pas encore d’utiliser l’IA générative.

Bien que les risques éthiques liés à l’IA générative soient certainement substantiels, RBC souligne la nécessité pour les entreprises de commencer à investir dans cette technologie dès maintenant, en pilotant leurs offres tôt et en commençant petit si nécessaire pour créer un environnement propice à l’exploration et à l’expérimentation par les employés.

En retardant la date prévue, les auteurs du rapport avertissent que les entreprises risquent de passer à côté des améliorations dont profitent leurs concurrents qui ont commencé à utiliser cette technologie des mois ou des années plus tôt.

Contenu de l’article

Il y a un an encore, ce que nous pensions prendre trois ans est désormais là en termes de capacités d’IA de génération

John Stackhouse

Stackhouse a déclaré qu’il est essentiel d’avoir une stratégie de données qui s’aligne sur l’évolution de la technologie et qui soutient la stratégie commerciale globale.

« Ce n’est pas quelque chose qui doit être laissé aux techniciens de manière isolée… dans le cadre de cette stratégie ; il s’agit également de s’assurer que vous développez les bons modèles de gouvernance et les bonnes réglementations », a-t-il déclaré.

Pour réduire l’appréhension des consommateurs à l’égard de l’éthique de l’IA, Stackhouse a déclaré que les entreprises doivent s’assurer que leurs clients comprennent quels sont les risques potentiels liés au partage de leurs données, ainsi que les protections en place pour minimiser ces risques.

« Le grand public a des inquiétudes, mais il est très ouvert aux technologies avancées qui lui simplifient la vie et lui permettent de réduire ses coûts », a-t-il déclaré. « Nous devons communiquer de manière simple et non technique sur ce que nous faisons avec leurs données… et sur les avantages qu’ils peuvent tirer de leur participation. »

Les entreprises qui cherchent à développer une stratégie d’IA se situent à l’un des trois niveaux de maturité, a déclaré Lambert Hogenhout, basé à New York, responsable des données, de l’analyse et de l’innovation au Bureau des technologies de l’information et des communications du Secrétariat des Nations Unies et conseiller fréquent en matière de technologie responsable.

Contenu de l’article

Au niveau le plus bas, les entreprises considèrent les pratiques responsables en matière d’IA comme une question de conformité qu’il vaut mieux laisser à leurs services juridiques. Au niveau suivant, les organisations l’abordent comme une question de gestion des risques, et elles font donc attention à ne pas utiliser l’IA d’une manière qui pourrait aliéner des clients ou des partenaires.

Les vrais leaders, a déclaré Honeghout, sont ceux qui considèrent l’IA responsable comme une opportunité et un différenciateur stratégique.

« Elles deviendront des entreprises de confiance et cela les aidera à développer leur stratégie de marque et de marketing », a-t-il déclaré. « C’est dans cette direction que les entreprises doivent s’orienter. »

Pour trouver des opportunités permettant d’utiliser l’IA de manière optimale, Parsons réitère la nécessité pour les organisations d’expérimenter ces technologies afin de déterminer où se situent les avantages et les risques.

En plus de permettre à des employés qualifiés de mener des expériences d’IA générative contrôlées et d’analyser leurs résultats, il est possible d’obtenir des commentaires précieux dans toute l’organisation.

« Désormais, les membres de votre service marketing peuvent jouer avec ChatGPT, Claude ou tout autre modèle que vous utilisez et ils peuvent proposer des idées sur la manière dont l’IA peut aider », a-t-elle déclaré. « Vous démocratisez non seulement l’accès à la technologie, mais cet accès peut également permettre la créativité des personnes qui apportent normalement des idées sur la manière d’améliorer votre entreprise. »

Ajoutez notre site Web à vos favoris et soutenez notre journalisme : Ne manquez pas les actualités commerciales que vous devez connaître : ajoutez financialpost.com à vos favoris et inscrivez-vous à nos newsletters ici.

Contenu de l’article