Les films Terminator présentent un prospectus assez sombre pour l’avenir de l’humanité face à la folie de l’IA. « Ordinateurs du réseau de défense. Nouveau. Puissant. Accroché à tout, digne de confiance pour tout exécuter. Ils disent que c’est devenu intelligent. Un nouvel ordre d’intelligence. Ensuite, il a vu tous les gens comme une menace, pas seulement ceux de l’autre côté. Décidé notre destin en une microseconde. Extermination (s’ouvre dans un nouvel onglet). »
Ce n’est pas idéal ! Et donc, espérant peut-être prendre de l’avance sur tout cela, le département américain du Commerce a entamé le processus d’établissement de lignes directrices (s’ouvre dans un nouvel onglet) pour s’assurer que les systèmes d’IA font ce qu’ils sont censés faire et, peut-être plus important encore, ne font pas ce qu’ils ne sont pas censés faire.
« Des systèmes d’IA responsables pourraient apporter d’énormes avantages, mais seulement si nous nous attaquons à leurs conséquences et préjudices potentiels », a déclaré Alan Davidson, secrétaire adjoint au commerce pour les communications et l’information et administrateur à l’administration nationale des télécommunications et de l’information du département du commerce, qui dirige le effort. « Pour que ces systèmes atteignent leur plein potentiel, les entreprises et les consommateurs doivent pouvoir leur faire confiance. »
La NTIA a déclaré que, tout comme la nourriture et les voitures, les systèmes d’IA ne devraient pas être rendus publics sans s’être d’abord assuré qu’ils ne sont pas susceptibles d’entraîner des décès et des mutilations généralisés. Comme première étape pour y parvenir, l’agence sollicite maintenant les commentaires du public sur d’éventuelles politiques de réglementation de l’IA, notamment :
- Quels types de tests de confiance et de sécurité les sociétés de développement d’IA et leurs entreprises clientes doivent-elles effectuer ?
- Quels types d’accès aux données sont nécessaires pour effectuer des audits et des évaluations.
- Comment les régulateurs et les autres acteurs peuvent-ils encourager et soutenir une assurance crédible des systèmes d’IA ainsi que d’autres formes de responsabilité.
- Quelles différentes approches pourraient être nécessaires dans différents secteurs industriels, comme l’emploi ou les soins de santé.
Machine apocalyptica est le résultat « amusant » d’une catastrophe d’IA, mais Davidson a déclaré lors d’une présentation à l’Université de Pittsburgh (s’ouvre dans un nouvel onglet) plus tôt cette semaine que les véritables inquiétudes, du moins à court terme, sont plus banales : des choses comme les biais cachés dans les algorithmes d’approbation des prêts hypothécaires qui ont conduit à des taux de refus plus élevés pour les personnes de couleur, des outils d’embauche algorithmiques qui discriminent les personnes handicapées , et la prolifération de deepfakes trompeurs et préjudiciables. Davidson a qualifié ces exemples de « pointe de l’iceberg », mais a déclaré qu’il restait optimiste quant à l’avenir de l’IA, car les régulateurs maîtrisent les choses beaucoup plus tôt qu’avec les technologies de transformation précédentes.
« En 2021, 130 projets de loi liés à l’IA ont été adoptés ou proposés aux États-Unis (s’ouvre dans un nouvel onglet)« , a déclaré Davidson. « C’est une grande différence par rapport aux premiers jours des médias sociaux, du cloud computing ou même d’Internet.
« L’expérience que nous avons eue avec d’autres technologies doit éclairer notre vision de l’avenir. Nous devons être favorables à l’innovation et également protéger les droits et la sécurité des personnes. Nous devons agir rapidement, car les technologies d’IA évoluent très rapidement. »
Historiquement, la réglementation a pris du retard sur les progrès technologiques, et elle est axée sur l’utilisation plutôt que sur le développement, ce qui, encore une fois, sans vouloir trop se pencher sur les scénarios de fin du monde, n’est peut-être pas d’une grande valeur sur le front de l’IA. . Il reste également à voir à quel point les États-Unis seront véritablement attachés à la réglementation de l’IA lorsqu’ils seront confrontés à la concurrence d’autres puissances nationales : il s’agit, après tout, d’un pays qui a contourné ses propres lois concernant le traitement des prisonniers en les expédiant simplement vers lieux (s’ouvre dans un nouvel onglet) avec des attitudes plus permissives face à la torture et aux abus.
Davidson a certainement raison de dire que les régulateurs réagissent plus rapidement aux impacts potentiels du développement de l’IA, mais à ce stade, j’ai du mal à voir en quoi le résultat final sera significativement différent de ce qu’il a été par le passé. La technologie progressera, les gouvernements auront du mal à suivre le rythme et nous ferons tous de notre mieux pour garder la tête hors de l’eau alors que nous nageons dans le désordre.
Pour l’instant, cependant, si vous souhaitez contribuer aux efforts de la NTIA pour élaborer un cadre réglementaire pour le développement de l’IA, vous pouvez soumettre vos réflexions sur la page AI Accountability Policy Request for Comment (s’ouvre dans un nouvel onglet).