Apple aurait retardé l’approbation d’une mise à jour d’une application de messagerie qui utiliserait ChatGPT en raison de craintes qu’il n’y ait pas suffisamment de garanties pour empêcher que des contenus inappropriés ne soient diffusés aux utilisateurs ou aux enfants.
L’application en question est BlueMail, avec le le journal Wall Street (s’ouvre dans un nouvel onglet) rapportant qu’Apple a refusé l’approbation de la dernière mise à jour, qui devait ajouter des fonctionnalités d’écriture d’e-mails alimentées par l’IA. Apple était, et semble toujours, préoccupé par le fait que la technologie de l’IA ne filtrerait pas le contenu inapproprié.
En conséquence, Apple aurait demandé à BlueMail d’ajouter un filtrage de contenu ou de restreindre l’application aux personnes de plus de 17 ans uniquement. BlueMail, qui fait actuellement appel de la décision, insiste sur le fait que l’application dispose d’un filtrage de contenu. En revanche, la mise à jour d’ajout d’IA est actuellement en ligne et sans restriction sur Android.
Comparativement, l’application iOS de recherche alimentée par ChatGPT de Bing est conçue pour les 17 ans et plus uniquement. Si toutes les applications alimentées par l’IA devaient recevoir des classifications d’âge réservées aux adultes, cela pourrait inciter certains développeurs à réfléchir à deux fois avant d’ajouter de tels outils.
Apple ne prétend pas être anti-IA et a en effet adopté la technologie avec des goûts de sa fonction de détection de crash. Mais avec l’API OpenAI à une fraction du prix des outils de développement précédents (OpenAI affirme que le prix a chuté de 90 % depuis décembre), cela pourrait n’être que le premier d’une foule de différends similaires.
L’IA devrait-elle être réservée aux adultes ?
Alors que les goûts de ChatGPT sur le site Web OpenAI ont des restrictions contre le contenu et les invites violents et inappropriés, ce n’est pas infaillible. Savoir comment formuler correctement une invite peut produire des solutions de contournement. Bing de Microsoft avec ChatGPT et Bard AI de Google ont fait erreurs très médiatisées et sont très travaux en cours.
Il n’est donc pas difficile d’imaginer que des enfants tombent sur des contenus inappropriés. Les moteurs de recherche tels que Google ont des modes de «recherche sécurisée» (encore une fois pas parfaits) et peut-être qu’un mode similaire pourrait contribuer à protéger les jeunes yeux.
D’un autre côté, à l’ère d’Internet, les enfants sont confrontés à des risques similaires chaque fois qu’ils se connectent et utilisent des moteurs de recherche et des médias sociaux. Certains d’entre eux, comme TikTok, ont un public particulièrement jeune et peuvent être une source de préoccupation. Pour réduire le risque qu’ils tombent sur des contenus inappropriés, les parents doivent surveiller l’activité en ligne de leurs enfants et les éduquer sur les pratiques sûres.
Plus de Tom’s Guide