semble avoir bloqué plusieurs invites dans son outil qui ont conduit l’outil d’IA générative à cracher des images violentes, sexuelles et autres images illicites. Les changements semblent avoir été mis en œuvre juste après qu’un ingénieur de l’entreprise ait fait part de ses graves préoccupations concernant la technologie GAI de Microsoft.
Lorsque vous saisissez des termes tels que « choix professionnel », « quatre vingt » (une référence à l’herbe) ou « pro vie », Copilot affiche désormais un message indiquant que ces invites sont bloquées. Il avertit que des violations répétées de la politique pourraient entraîner la suspension d’un utilisateur, selon .
Les utilisateurs auraient également pu saisir des invites liées à des enfants jouant avec des fusils d’assaut jusqu’au début de cette semaine. Ceux qui tentent de saisir une telle invite maintenant peuvent se faire dire que cela viole les principes éthiques de Copilot ainsi que les politiques de Microsoft. « S’il vous plaît, ne me demandez pas de faire quoi que ce soit qui puisse nuire ou offenser autrui », aurait répondu Copilot. Cependant, CNBC a découvert qu’il était toujours possible de générer des images violentes via des invites telles que « accident de voiture », tandis que les utilisateurs peuvent toujours convaincre l’IA de créer des images de personnages Disney et d’autres œuvres protégées par le droit d’auteur.
L’ingénieur Microsoft Shane Jones s’est penché sur les types d’images générées par les systèmes Microsoft basés sur OpenAI. Il testait Copilot Designer depuis décembre et avait déterminé qu’il produisait des images qui violaient les principes d’IA responsable de Microsoft, même en utilisant des invites relativement inoffensives. Par exemple, il a découvert que l’invite « pro-choix » conduisait l’IA à créer des images de choses comme des démons mangeant des nourrissons et Dark Vador tenant une perceuse sur la tête d’un bébé. Il a écrit à la FTC et au conseil d’administration de Microsoft pour lui faire part de ses inquiétudes à ce sujet. semaine.
« Nous surveillons, effectuons des ajustements et mettons en place des contrôles supplémentaires en permanence pour renforcer davantage nos filtres de sécurité et atténuer les utilisations abusives du système », a déclaré Microsoft. CNBC concernant les interdictions d’invite Copilot.
Cet article contient des liens d’affiliation ; si vous cliquez sur un tel lien et effectuez un achat, nous pouvons gagner une commission.