William Watson : La pause de l’IA proposée : l’intelligence artificielle rencontre l’idiotie humaine

Contenu de l’article

Dans son budget discours la semaine dernière, la ministre des Finances, Chrystia Freeland, a qualifié la transition verte de « transformation économique la plus importante depuis la révolution industrielle ». Vraiment? Plus grand que l’électrification ? Plus gros que l’ordinateur ? En règle générale, il est prudent de laisser l’histoire se dérouler un moment avant de juger de l’importance à long terme de quelque chose qui ne fait que commencer. Surtout quand, contrairement à d’autres transformations économiques, celle-ci est commandée par les gouvernements, plutôt qu’induite par la découverte, l’invention ou les changements de prix. Bien sûr, comme le soulignaient les commentaires de la semaine dernière sur le budget, ce gouvernement n’est pas prudent.

Contenu de l’article

Dans le même ordre d’idées, Henry Kissinger, aujourd’hui dans sa centième année, a récemment co-écrit un article dans le Wall Street Journal catégorisant l’IA comme susceptible de « transformer le processus cognitif humain car il n’a pas été bouleversé depuis l’invention de l’imprimerie ». Encore une fois, vous pourriez penser que le télégraphe, le téléphone, la radio et la télévision ont beaucoup bousculé les choses à leur époque. Je me souviens quand nous avons eu notre première télévision, et cela a certainement bouleversé les relations sociales. Je suis également à peu près sûr que mon propre « traitement cognitif » est différent de ce que la télévision n’avait pas été inventée. Et pas forcément mieux.

Contenu de l’article

Les inquiétudes suscitées par le remaniement puissant de l’IA ont conduit plus de 1 000 penseurs influents, qui devraient vraiment en savoir plus, à demander pendant une pause de six mois dans son développement pendant que le monde décide d’une manière ou d’une autre si, dans l’ensemble, les changements à venir sont susceptibles d’être bons ou mauvais. « Des systèmes d’IA puissants ne devraient être développés qu’une fois que nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. »

Contenu de l’article

Contenu de l’article

Si l’on était cynique, toujours principalement un trait humain, on pourrait noter que l’introduction de machines et de robots remplaçant l’homme n’a pas encouragé les demandes très médiatisées d’une pause mondiale alors qu’ils ne faisaient que déplacer des cols bleus. Mais maintenant que ChatGPT et autres s’en prennent aux personnes qui écrivent et pensent pour gagner leur vie, le monde doit soi-disant entrer dans le verrouillage du développement.

Si vous appliquez une intelligence non artificielle à l’ancienne à cette demande de pause, vous en ressortez en vous demandant sur quelle planète ces gens pensent vivre. Pensez à imprimer. En 1900, Mark Twain, un humain doté d’une intelligence anormale qui avait lui-même considérablement bénéficié de l’invention des caractères mobiles, a été invité à commenter ce qui était célébré comme le 500e anniversaire de la naissance du grand imprimeur, bien que sa date de naissance réelle ne soit pas connue. Twain écrit que « Tout le monde reconnaît que l’invention de Gutenberg est le plus grand événement que l’histoire séculière ait enregistré. » Mais ensuite, il a ajouté : « L’exploit de Gutenberg a créé une Terre nouvelle et merveilleuse, mais en même temps aussi un nouvel enfer… Il a trouvé la vérité agitée sur Terre et lui a donné des ailes ; mais le mensonge aussi était répandu, et il était doté d’une double paire d’ailes. Ce qui ressemble beaucoup à la personne sage « Devrions-nous laisser les machines inonder nos canaux d’information de propagande et de contrevérité ?

Contenu de l’article

Twain a conclu que bien que l’imprimerie ait rendu la guerre « presque universelle », ait apporté « l’esclavage » à beaucoup et ait « rendu possible le despotisme là où il était auparavant impossible », le mal que « l’invention colossale de Gutenberg a provoqué est éclipsé mille fois. fois par le bien dont l’humanité a été favorisée.

« Mille » n’est, vous comprenez, qu’une estimation approximative. Le calcul est impossible. Vous menez une gigantesque analyse contrefactuelle et essayez de comprendre à quoi ressemblerait le monde aujourd’hui si la mère de Gutenberg était née plus haut, il a donc suivi son père dans la finance plutôt que de devenir inventeur – avec pour résultat que cette colonne est écrite avec une plume d’oie sur un parchemin écorné qui vous est remis dans un long et lent National Post Samizdat.

Contenu de l’article

Ou imaginez que lorsque la nouvelle du bricolage de Gutenberg avec le type est sortie pour la première fois, les figures de proue de son époque avaient appelé à une pause après laquelle il ne serait autorisé à continuer que « une fois que nous sommes convaincus que les effets (de type mobile) seront positifs et ( ses) risques seront gérables. Comment exactement auraient-ils décidé cela? Et quelle aurait été, selon vous, l’opinion de l’Église catholique ?

Le grand contrefactuel est assez difficile après coup, quand nous savons (bien que nous ne soyons généralement pas d’accord sur) comment l’histoire a évolué. Mais les grands du renseignement proposent d’anticiper ce qui va arriver, de déterminer tous ses impacts probables, de s’entendre là-dessus, puis de s’entendre sur ce que devrait être notre réponse politique prophylactique. À quel point cela est-il incroyablement arrogant, naïf et, pardonnez-moi – stupide ? Repensez à avant Internet, à 1990, disons, ceux d’entre vous qui étaient majeurs. Aviez-vous la moindre idée que vous vivriez comme vous le faites maintenant ?

Contenu de l’article

Gutenberg a fait face à du harcèlement alors qu’il développait et diffusait ses presses. Mais les développer, il l’a fait. Et s’il ne l’avait pas fait, quelqu’un d’autre l’aurait sûrement fait. C’est un monde beaucoup plus grand maintenant qu’il ne l’était alors, avec beaucoup plus de joueurs, vivant dans de nombreux pays différents. Les informaticiens russes et chinois cesseraient-ils de travailler sur une IA puissante simplement parce que 1 000 notables occidentaux le voulaient ? Et même s’ils disaient qu’ils le feraient, les gouvernements occidentaux leur feraient-ils confiance ?

Cette vague technologique que nous surfons va nous mener là où elle le fera. Nous ferons ce que nous faisons toujours : une fois que nous aurons une idée de la façon dont cela fonctionne et que cela a fonctionné sur nous, nous commencerons à légiférer et à réglementer après coup. Utilisez votre intelligence : c’est tout ce que nous pouvons faire.