Deux ans après le début de la pandémie, les conversations en ligne sont toujours pour beaucoup d’entre nous les principales interactions que nous avons tous les jours, et nous en avons collectivement des milliards. Mais comme beaucoup d’entre nous l’ont découvert, toutes ces expériences ne sont pas parfaitement nettes et positives. Aujourd’hui, une startup appelée Spectrum Labs – qui fournit une technologie d’intelligence artificielle aux fournisseurs de plateformes pour détecter et arrêter les échanges toxiques en temps réel (en particulier, 20 millisecondes ou moins) – annonce un financement de 32 millions de dollars. Il prévoit d’utiliser l’argent pour continuer à investir dans sa technologie afin de doubler son activité grand public en pleine croissance et d’aller de l’avant dans un nouveau domaine, en fournissant des services aux entreprises pour leurs conversations internes et avec les clients, en fournissant non seulement un moyen d’aider à détecter lorsque la toxicité s’insinue dans les échanges, mais pour fournir une piste d’audit de l’activité pour un suivi et des initiatives de confiance et de sécurité plus larges.
« Nous aspirons à être les leaders du langage là où la civilité compte », a déclaré le PDG Justin Davis dans une interview.
Le cycle est dirigé par Intel Capital, avec Munich Re Ventures, Gaingels, OurCrowd, Harris Barton et les précédents bailleurs de fonds Wing Venture Capital, Greycroft, Ridge Ventures, Superset et Global Founders Capital. Greycroft a mené la précédente ronde de 10 millions de dollars de Spectrum en septembre 2020, et la société a maintenant levé 46 millions de dollars au total.
Davis, qui a cofondé la société avec Josh Newman (le CTO), a déclaré que Spectrum Labs ne divulguait pas d’évaluation, mais la taille de l’entreprise aujourd’hui témoigne de la façon dont elle se porte.
Spectrum Labs travaille aujourd’hui avec un peu plus de 20 grandes plates-formes – elles comprennent les sociétés de réseaux sociaux Pinterest et The Meet Group, le site de rencontres Grindr, le wiki de divertissement de Jimmy Wales Fandom, Riot Games et la plate-forme d’apprentissage en ligne Udemy – qui à leur tour ont des millions de clients s’envoyant des milliards de messages chaque jour, soit dans des salons de discussion ouverts, soit dans des conversations privées plus directes.
Sa technologie est basée sur le langage naturel et fonctionne en temps réel à la fois sur les interactions textuelles et les interactions audio.
Davis note que son travail audio est « lu » comme audio, et non transcrit en texte d’abord, ce qui donne aux clients de Spectrum un saut significatif dans la réponse à l’activité et contrecarre ce que Davis a appelé « la nature de la voix du Far West », en raison de à quel point les réponses sont généralement lentes pour ceux qui n’utilisent pas la technologie de Spectrum : une plate-forme doit attendre que les utilisateurs signalent un contenu douteux, puis la plate-forme doit trouver cet audio dans les transcriptions, puis elle peut agir – un processus qui peut prendre des jours.
Ceci est d’autant plus important que les services vocaux – avec l’essor non seulement du podcasting, mais aussi des services comme Clubhouse et Spaces sur Twitter – gagnent en popularité.
Qu’il s’agisse de texte ou d’audio, Spectrum analyse ces échanges à la recherche de contenu toxique couvrant plus de 40 profils de comportement qu’il a initialement construits en consultation avec des chercheurs et des universitaires du monde entier et continue d’affiner à mesure qu’il ingère plus de données sur le Web. Les profils couvrent des paramètres tels que le harcèlement, le discours de haine, l’extrémisme violent, les escroqueries, le toilettage, la sollicitation illégale et le doxxing. Il prend actuellement en charge la numérisation dans près de 40 langues, me dit Davis, ajoutant qu’il pourrait fonctionner avec n’importe quelle langue, bien que Davis me dise qu’il n’y a pas de limite de langue.
« Nous pouvons techniquement couvrir n’importe quelle langue en quelques semaines », a-t-il déclaré.
Les exemples les plus visibles de toxicité en ligne ont été dans la sphère des consommateurs – où ils se sont déroulés dans des forums ouverts et plus privés en ligne, des discours de haine et d’intimidation et d’autres activités illégales, un domaine où Spectrum Labs continuera à travailler et à investir dans la technologie. pour détecter des approches toujours plus compliquées et sophistiquées de la part d’acteurs malveillants. L’un des objectifs de Spectrum Labs sera de travailler sur les moyens d’améliorer la façon dont les clients eux-mêmes peuvent également jouer un rôle dans la décision de ce qu’ils font et ne veulent absolument pas voir, ainsi que des contrôles et des outils pour l’équipe de confiance et de sécurité d’une plate-forme. C’est un domaine délicat, et on peut dire que l’une des raisons pour lesquelles la toxicité est devenue incontrôlable est que, traditionnellement, les plates-formes ont voulu adopter une approche de liberté d’expression et ne pas se mêler de contenu, car l’autre côté de la médaille est qu’elles peuvent également être accusé de censure, un débat qui se joue encore aujourd’hui.
« Il existe une tension naturelle entre ce que la politique met en œuvre et ce que les utilisateurs veulent et sont prêts à accepter », a déclaré Davis. Le point de vue de son entreprise est que le travail d’une plate-forme « est de garder le pire du pire à l’écart, mais aussi de fournir des contrôles aux consommateurs pour faire une sélection sur ce qu’ils veulent voir au fil du temps ».
Parallèlement à cela, Spectrum prévoit de s’orienter davantage vers les services aux entreprises.
L’opportunité dans l’entreprise est intéressante, car elle inclut non seulement la façon dont les personnes au sein d’une entreprise conversent entre elles (ce qui pourrait en grande partie prendre une forme similaire aux services destinés aux consommateurs que Spectrum Labs fournit déjà), mais aussi comment une entreprise s’interface avec le monde extérieur dans des domaines tels que les ventes, le service client et le marketing, puis en tirant parti des informations que Spectrum Labs recueille dans ses analyses pour potentiellement modifier le fonctionnement ultérieur de chacun de ces domaines.
Certes, ce n’est pas un segment de marché qui a été ignoré. Les concurrents de Spectrum incluront ici une autre startup dans l’espace de surveillance des conversations, Aware, qui se concentre exclusivement sur l’entreprise. (L1ght, quant à lui, est un autre concurrent dans la sphère grand public.)
Et il y en aura certainement d’autres. Nous avons noté lors de notre dernier article sur Spectrum Labs que les fondateurs et l’équipe fondatrice venaient de Krux, une société de technologie marketing acquise par Salesforce (où ils travaillaient avant de partir pour fonder Spectrum Labs). Je ne serais pas surpris de voir Salesforce jouer un rôle plus intéressé dans ce domaine à l’avenir, notamment parce qu’il développe un ensemble d’outils très large pour aider les entreprises à gérer leurs activités plus efficacement, et pas seulement limité au CRM ; mais aussi parce que Bret Taylor, qui a autrefois fondé un autre réseau social et était le CTO de Facebook, aide maintenant à diriger le spectacle, et pourrait bien avoir une emprise particulièrement éclairée sur la façon dont les forums de communication peuvent être utilisés et abusés.
Pour l’instant, pour répondre à la fois aux problèmes des consommateurs et des entreprises, Intel entre en tant qu’investisseur stratégique dans ce cycle, me dit Davis. Le plan consistera à intégrer la technologie de Spectrum Labs pour travailler plus étroitement avec les conceptions de puces d’Intel, ce qui augmentera encore plus la vitesse à laquelle cela fonctionne, et Intel pourra utiliser comme argument de vente unique avec les clients potentiels du matériel d’Intel comme ils accordent une plus grande priorité aux questions de confiance et de sécurité elles-mêmes.
« Nous pensons que la technologie de compréhension du langage naturel de Spectrum Labs a le potentiel de devenir la plate-forme centrale qui alimente les initiatives de confiance de milliers d’entreprises à travers le monde », a déclaré Mark Rostick, vice-président et directeur général d’Intel Capital, dans un communiqué. « Alors que la confiance numérique et les opérations éthiques apparaissent comme un facteur clé pour aider les organisations à se différencier, nous voyons une énorme opportunité de construire une couche technologique de confiance et de sécurité dans les opérations de l’entreprise. »