Ilya Sutskever, co-fondateur d’OpenAI et ancien scientifique en chef, lance une nouvelle société d’IA axée sur la sécurité. Dans un post mercrediSutskever a révélé Safe Superintelligence Inc. (SSI), une startup avec « un objectif et un produit » : créer un système d’IA sûr et puissant.
Le annonce décrit SSI comme une startup qui « aborde la sécurité et les capacités en tandem », permettant à l’entreprise de faire progresser rapidement son système d’IA tout en donnant la priorité à la sécurité. Il dénonce également la pression externe à laquelle les équipes d’IA d’entreprises comme OpenAI, Google et Microsoft sont souvent confrontées, affirmant que la « concentration singulière » de l’entreprise lui permet d’éviter « les distractions liées aux frais généraux de gestion ou aux cycles de produits ».
« Notre modèle commercial signifie que la sûreté, la sécurité et le progrès sont tous à l’abri des pressions commerciales à court terme », indique l’annonce. « De cette façon, nous pouvons évoluer en toute tranquillité. » Outre Sutskever, SSI est cofondée par Daniel Gross, ancien responsable de l’IA chez Apple, et Daniel Levy, qui travaillait auparavant en tant que membre de l’équipe technique chez OpenAI.
Alors qu’OpenAI poursuit ses partenariats avec Apple et Microsoft, nous ne verrons probablement pas SSI le faire de si tôt. Pendant un entretien avec BloombergSutskever affirme que le premier produit de SSI sera une superintelligence sûre et que l’entreprise « ne fera rien d’autre » d’ici là.