Le Nevada dispose d’un nouvel assistant dans sa quête pour traiter l’arriéré des demandes d’allocations chômage : l’IA de Google. Gizmodo Selon les informations recueillies, l’initiative confiera à l’un des modèles d’intelligence artificielle de l’entreprise, basés sur le cloud, la tâche d’analyser les transcriptions des audiences d’appel et de suggérer si les cas doivent être approuvés. Bienvenue dans le futur, où un robot détermine si vous recevez l’argent du gouvernement que vous avez demandé.
Le Indépendant du Nevada En juin, le modèle d’IA, formé sur la loi et les politiques de l’État en matière de chômage, analysera les transcriptions des audiences d’appel virtuelles. Il rendra ensuite une décision, qu’un employé de l’État examinera pour déceler les erreurs et décidera s’il convient de l’honorer.
Il remplace le processus actuel du Département de l’emploi, de la formation et de la réadaptation du Nevada (DETR), qui prend en moyenne trois heures à un humain réel pour le compléter. Carl Stanfield, administrateur informatique du DETR, a déclaré au Indépendant du Nevada L’IA de Google (qui utilise le système cloud Vertex de l’entreprise) peut prendre une décision en cinq minutes. « Le gain de temps est assez phénoménal », a déclaré Stanfield.
Il est facile de comprendre pourquoi le Nevada souhaite s’appuyer sur cette technologie émergente. En juin dernier, l’État aurait un arriéré de plus de 10 000 recours non traités, dont environ 1 500 remontaient à la pandémie. Et si les évaluations de la technologie sont exactes – ou si les évaluateurs humains détectent ses erreurs – cela pourrait représenter un énorme gain de temps.
Cependant, les employés qui examinent les dossiers pourraient être soumis à une pression psychologique pour approuver les conclusions de l’IA. « Si un robot vous remet simplement une recommandation et que vous n’avez qu’à cocher une case et qu’il y a une pression pour éliminer un retard, c’est un peu inquiétant », a déclaré Michele Evermore, ancienne directrice adjointe de la politique de modernisation du chômage au ministère du Travail. Gizmodo.
Stanfield a dit Gizmodo Un comité de gouvernance se réunira chaque semaine pendant que l’État peaufine le modèle et chaque trimestre après sa mise en service pour surveiller les hallucinations et les biais. Les enjeux pourraient être élevés pour les plaignants, car le système alimenté par l’IA pourrait affecter leur capacité à faire appel de décisions erronées. « Dans les cas qui impliquent des questions de fait, le tribunal de district ne peut pas substituer son propre jugement à celui de l’arbitre d’appel », a déclaré Elizabeth Carmona, avocate principale chez Nevada Legal Services. Gizmodo. En d’autres termes, si l’humain qui examine la décision ne relève pas les erreurs de l’IA, un tribunal pourrait ne pas avoir la légitimité juridique pour l’annuler.
Un politicien du Nevada l’a exprimé de manière un peu plus directe. « Sommes-nous devenus fous ? » a déclaré le sénateur de l’État du Nevada Skip Daly (D-Reno) au Indépendant du Nevada Cet été, je suis tout simplement sceptique quant à l’idée même de trop dépendre des algorithmes et des ordinateurs. J’espère que nous serons prudents et que nous réfléchirons avant de dire : « Nous devons être plus rapides ou meilleurs que les autres ».