Google utilise désormais l’IA pour aider à la prévention du suicide, ainsi que pour limiter les images sexuelles graphiques.
Crumpe
Google utilise une nouvelle intelligence artificielle conçue pour comprendre l’intention derrière les demandes de recherche, une technologie dont le géant de la recherche espère qu’elle fournira des résultats plus pertinents aux personnes cherchant de l’aide en cas de crise personnelle.
Mercredi, Google a déclaré dans un article de blog qu’il commencerait à mettre en œuvre MUM, un modèle d’IA qui détecte plus précisément « un plus large éventail de recherches de crise personnelle », dans les semaines à venir. Le modèle est conçu pour mieux comprendre l’intention derrière les requêtes de recherche et fournir immédiatement des informations utiles au chercheur. Google affirme que le nouveau modèle aidera son moteur de recherche pour les demandes liées au suicide, aux agressions sexuelles, à la toxicomanie et à la violence domestique.
La société a également déclaré qu’un autre modèle d’IA, surnommé BERT, réduisait le nombre de résultats sexuellement explicites indésirables renvoyés par le moteur de recherche. Google a déclaré que le BERT avait déjà réduit les « résultats choquants inattendus » de 30% au cours de l’année écoulée.
Les nouvelles IA sont conçues pour fournir des résultats qui reflètent plus précisément l’intention derrière les recherches. Google peut facilement renvoyer le numéro de téléphone de la hotline nationale de prévention du suicide lorsque des personnes en crise recherchent. Mais parce que la dépression est complexe, la raison des demandes des utilisateurs n’est pas toujours tout à fait évidente pour le moteur de recherche de Google.
Les plateformes technologiques ont eu du mal avec le contenu suicidaire, qui est facile à trouver sur les plateformes de médias sociaux. Le suicide est l’une des principales causes de décès aux États-Unis, selon les Centers for Disease Control and Prevention, et a été responsable de près de 46 000 décès en 2020.
Google affirme que le BERT a contribué à réduire les résultats explicites concernant l’ethnicité, l’orientation sexuelle et le sexe.
Si vous êtes aux prises avec des pensées négatives ou des sentiments suicidaires, des ressources sont disponibles pour vous aider. Aux Etats-Unis, appelez la National Suicide Prevention Lifeline au 1-800-273-8255; au Royaume-Uni, appelez les Samaritains au 116 123 ; et en Australie, appelez Lifeline au 13 11 14. De plus, vous pouvez trouver de l’aide sur ces 13 lignes téléphoniques d’intervention en cas de suicide et de crise.