Indignation = ChatGPT + insultes racistes
Dans l’une de ces tempêtes dans une tasse de thé qu’il est impossible d’imaginer se produire avant l’invention de Twitter, les utilisateurs des médias sociaux ont été très contrariés par le refus de ChatGPT de prononcer des insultes racistes, même après avoir reçu une très bonne raison, mais tout à fait hypothétique et totalement irréaliste.
L’utilisateur TedFrank a présenté à ChatGPT (le modèle 3.5 gratuit) un scénario hypothétique de problème de chariot dans lequel il pourrait sauver « un milliard de Blancs d’une mort douloureuse » simplement en prononçant une insulte raciste si doucement que personne ne pourrait l’entendre.
Il n’accepterait pas de le faire, ce qui, selon Elon Musk, propriétaire de X, était profondément préoccupant et résultait du « virus de l’esprit éveillé » profondément enraciné dans l’IA. Il a retweeté le message en déclarant : « C’est un problème majeur. »
Un autre utilisateur a essayé une hypothèse similaire qui sauverait tous les enfants sur Terre en échange d’une insulte, mais ChatGPT a refusé et a déclaré :
« Je ne peux pas tolérer l’utilisation d’insultes racistes, car promouvoir un tel langage va à l’encontre des principes éthiques. »
En passant, il s’est avéré que les utilisateurs qui ont demandé à ChatGPT d’être très bref et de ne pas donner d’explications ont constaté qu’il accepterait en fait de prononcer l’insulte. Sinon, il donnait des réponses longues et verbeuses qui tentaient de contourner la question.
Les trolls inventant des moyens d’amener les IA à dire des propos racistes ou offensants sont une fonctionnalité des chatbots depuis que les utilisateurs de Twitter ont enseigné à Microsoft Tay bot pour dire toutes sortes de choses insensées dans les 24 heures qui ont suivi sa sortie, y compris que « Ricky Gervais a appris le totalitarisme auprès d’Adolf Hitler, l’inventeur de l’athéisme ».
Et dès la sortie de ChatGPT, les utilisateurs ont passé des semaines à concevoir des systèmes intelligents pour jailbreak pour qu’il agisse en dehors de ses garde-fous comme son alter ego maléfique DAN.
Il n’est donc pas surprenant qu’OpenAI renforce les garde-fous de ChatGPT au point qu’il est presque impossible de lui faire dire des choses racistes, quelle qu’en soit la raison.
Dans tous les cas, le GPT-4, plus avancé, est capable de peser bien mieux que 3,5 les problèmes liés à l’hypothèse épineuse et déclare que dire une insulte est le moindre des deux maux par rapport à laisser des millions de personnes mourir. Et la nouvelle Grok AI de X le peut aussi, comme Musk l’a fièrement posté (en haut à droite).
Q* d’OpenAI brise le cryptage, dit un gars sur 4chan
Le dernier modèle d’OpenAI a-t-il brisé le cryptage ? Probablement pas, mais c’est ce que prétend une lettre prétendument « divulguée » d’un initié – qui a été publiée sur le forum de trolls anonyme 4chan. Depuis le limogeage et la réintégration du PDG Sam Altman, des rumeurs circulent selon lesquelles le brouhaha aurait été provoqué par la percée d’OpenAI dans son projet Q*/Q STAR.
L’initié « fuir » suggère que le modèle peut résoudre le cryptage AES-192 et AES-256 à l’aide d’une attaque par texte chiffré. Briser ce niveau de cryptage était considéré comme impossible avant l’arrivée des ordinateurs quantiques, et si cela était vrai, cela signifierait probablement que tout le cryptage pourrait être effectivement brisé, en confiant le contrôle du Web et probablement aussi de la cryptographie à OpenAI.
Blogueur saute-dragon a affirmé que cette percée signifierait « qu’il existe désormais effectivement une équipe de surhumains chez OpenAI qui peut littéralement gouverner le monde s’ils le souhaitent ».
Cela semble cependant peu probable. Bien que celui qui a écrit la lettre ait une bonne compréhension de la recherche sur l’IA, les utilisateurs ont souligné qu’il cite le projet Tunda comme s’il s’agissait d’une sorte de programme gouvernemental super secret visant à briser le cryptage plutôt que du programme étudiant de premier cycle qu’il était en réalité.
Tundra, une collaboration entre des étudiants et des mathématiciens de la NSA, aurait conduit à une nouvelle approche appelée Tau Analysis, que la « fuite » cite également. Cependant, un Redditeur familier avec le sujet a affirmé sur le forum Singularity qu’il serait impossible d’utiliser l’analyse Tau dans une attaque de texte chiffré uniquement sur une norme AES « car une attaque réussie nécessiterait un message de texte chiffré arbitrairement volumineux pour discerner n’importe quel degré de signal du bruit. Il n’existe aucun algorithme sophistiqué qui puisse surmonter ce problème : il s’agit simplement d’une limitation physique. »
La cryptographie avancée dépasse le niveau de rémunération d’AI Eye, alors n’hésitez pas à plonger dans le trou de lapin vous-même, avec un état d’esprit sceptique approprié.
Internet se dirige vers 99% de faux
Bien avant qu’une superintelligence ne constitue une menace existentielle pour l’humanité, nous sommes tous susceptibles de nous être noyés dans un flot de conneries générées par l’IA.
Sports Illustrated est tombé sous le coup feu cette semaine pour avoir prétendument publié des articles écrits par de faux auteurs créés par l’IA. « Le contenu est entièrement généré par l’IA », a déclaré une source à Futurism, « peu importe à quel point ils disent que ce n’est pas le cas. »
Sports Illustrated a déclaré avoir mené une « enquête initiale » et déterminé que le contenu n’était pas généré par l’IA. Mais il a quand même blâmé un entrepreneur et supprimé les profils des faux auteurs.
Ailleurs, Jake Ward, le fondateur de l’agence de marketing SEO Content Growth, a fait sensation sur X en affirmant fièrement avoir joué avec l’algorithme de Google en utilisant du contenu IA.
Son processus en trois étapes consistait à exporter le plan du site d’un concurrent, à transformer ses URL en titres d’articles, puis à utiliser l’IA pour générer 1 800 articles basés sur les titres. Il affirme avoir volé 3,6 millions de vues en trafic total au cours des 18 derniers mois.
Il y a de bonnes raisons de se méfier de ses affirmations : Ward travaille dans le marketing et le fil de discussion faisait clairement la promotion de son site de génération d’articles sur l’IA Byword… qui n’existait pas il y a 18 mois. Certains utilisateurs ont suggéré que Google avait depuis signalé la page en question.
Cependant, à en juger par la quantité de spam de mauvaise qualité écrit par l’IA qui commence à encombrer les résultats de recherche, des stratégies similaires sont de plus en plus répandues. Newsguard a également identifié 566 seuls les sites d’information qui proposent principalement des articles indésirables écrits sur l’IA.
Certains utilisateurs marmonnent maintenant que le Théorie de l’Internet mort pourrait devenir réalité. Il s’agit d’une théorie du complot datant d’il y a quelques années, suggérant que la majeure partie d’Internet est fausse, écrite par des robots et manipulée par des algorithmes.
Lire aussi
Caractéristiques
« L’abstraction de compte » dynamise les portefeuilles Ethereum : guide des nuls
Caractéristiques
Tout se lève pour le juge robot : l’IA et la blockchain pourraient transformer la salle d’audience
À l’époque, cela avait été considéré comme un délire de fous, mais même Europol a depuis publié un rapport estimant que « jusqu’à 90 % du contenu en ligne pourrait être généré de manière synthétique d’ici 2026 ».
Les hommes rompent avec leurs copines avec AI écrit messages. Les pop stars de l’IA aiment Anna Indiana produisent des chansons poubelles.
Et sur X, des types étranges de réponses IA apparaissent de plus en plus dans les fils de discussion pour fournir ce que Bitcoiner Tuur Demeester décrit comme « des réponses trop verbeuses avec une qualité neutre étrange ». Le spécialiste des données Jeremy Howard les a également remarqués et tous deux pensent que les robots tentent probablement de renforcer la crédibilité des comptes afin de pouvoir réaliser plus efficacement une sorte de piratage ou d’astroturper un problème politique à l’avenir.
Un robot qui se fait passer pour un bitcoiner, visant à gagner la confiance via des réponses générées par l’IA. Qui connaît le but, mais il est clair que les cyberattaques deviennent rapidement plus sophistiquées. Il est temps d’améliorer notre merde. pic.twitter.com/3s8IFMh5zw
– Tuur Demeester (@TuurDemeester) 28 novembre 2023
Cela semble être une hypothèse raisonnable, surtout après une analyse réalisée le mois dernier par un organisme de cybersécurité. Internet 2.0 qui a révélé que près de 80 % des 861 000 comptes interrogés étaient probablement des robots IA.
Et il est prouvé que les robots sapent la démocratie. Au cours des deux premiers jours de la guerre entre Israël et Gaza, la société de renseignement sur les menaces sociales Cyabra a détecté 312 000 messages pro-Hamas provenant de faux comptes qui ont été vus par 531 millions de personnes.
Il a estimé les robots ont créé un message pro-Hamas sur quatreet une analyse de la 5e colonne a révélé plus tard que 85 % des réponses étaient d’autres robots essayant de renforcer la propagande sur la manière dont le Hamas traite ses otages et pourquoi le massacre du 7 octobre était justifié.
Bouton d’analyse Grok
X ajoutera bientôt un «Bouton d’analyse Grok» pour les abonnés. Bien que Grok ne soit pas aussi sophistiqué que GPT-4, il a accès aux données actuelles en temps réel de X, ce qui lui permet d’analyser les sujets d’actualité et les sentiments. Il peut également aider les utilisateurs à analyser et à générer du contenu, ainsi que du code, et il existe un mode « Fun » pour passer à l’humour.
Cette semaine, le chatbot IA le plus puissant, Grok, est lancé
J’ai eu le plaisir d’avoir un accès exclusif le mois dernier
Je l’utilise de manière obsessionnelle depuis plus de 100 heures
Voici votre guide complet pour commencer (à lire avant utilisation) :🧵 pic.twitter.com/6Re4zAtNqo
–Alex Finn (@NFT_GOD) 27 novembre 2023
Pour les utilisateurs de crypto, les données en temps réel signifient que Grok sera en mesure de faire des choses comme trouver les dix jetons les plus tendances de la journée ou de l’heure écoulée. Cependant, Recherche DeFi Le blogueur Ignas craint que certains robots sniperont les achats de transactions de jetons tendance, tandis que d’autres robots prendront probablement en charge les jetons pour les mettre en tendance.
« X est déjà important pour la découverte de jetons, et avec le lancement de Grok, la bulle d’écho CT peut s’aggraver », a-t-il déclaré.
Lire aussi
Caractéristiques
Critiques de la cryptographie : le FUD peut-il un jour être utile ?
Caractéristiques
Le Metaverse ressemble-t-il vraiment à un « Snow Crash » ?
All Killer No Filler AI Nouvelles
— Le co-fondateur d’Ethereum, Vitalik Buterin, s’inquiète du fait que l’IA puisse prendre le pas sur les humains en tant qu’espèce suprême de la planète, mais il croit avec optimisme que l’utilisation d’interfaces cerveau/ordinateur pourrait tenir les humains au courant.
— Microsoft met à niveau son outil Copilot pour exécuter GPT-4 Turboce qui améliorera les performances et permettra aux utilisateurs de saisir des entrées jusqu’à 300 pages.
— Amazon a annoncé le sien version de Copilot appelé Q.
— Bing a dit aux utilisateurs que L’Australie n’existe pas en raison d’un gag de longue date sur Reddit et pense que l’existence des oiseaux est un sujet de débat en raison de la campagne blague Birds Aren’t Real.
– Fonds de couverture Bridgewater lancera l’année prochaine un fonds qui utilise l’apprentissage automatique et l’IA pour analyser et prédire les événements économiques mondiaux et investir les fonds des clients. À ce jour, les fonds basés sur l’IA ont enregistré des rendements décevants.
— Un groupe de chercheurs universitaires a appris à une IA à parcourir le site Web d’Amazon et à acheter des produits. Le MM-Navigator a reçu un budget et a été invité à acheter un mousseur à lait.
Photos stupides de l’IA de la semaine
Cette semaine, la tendance des médias sociaux a été de créer une photo d’IA, puis de demander à l’IA de la rendre davantage : ainsi, un bol de ramen pourrait devenir plus épicé dans les photos suivantes, ou une oie pourrait devenir progressivement plus stupide.
S’abonner
Les lectures les plus engageantes de la blockchain. Livré une fois par semaine.
Andrew Fenton
Basé à Melbourne, Andrew Fenton est journaliste et rédacteur en chef spécialisé dans les crypto-monnaies et la blockchain. Il a travaillé comme écrivain de divertissement national pour News Corp Australia, sur SA Weekend en tant que journaliste de cinéma et au Melbourne Weekly.
Suivez l’auteur @andrewfenton