Suite au licenciement de Sam Altman  en tant que PDG de sa propre entreprise, OpenAI  a cédé à la pression des investisseurs et Altman est revenu à la tête de l’entreprise avec une nouveau conseil d’administration . Toutefois, des doutes subsistent quant aux raisons de cette décision.

Avant le licenciement, un certain nombre de chercheurs ont rédigé un lettre au conseil d’administration  au sujet d’une découverte d’intelligence artificielle qui, selon eux, pourrait menacer l’humanité. C’est ce que rapporte Reuters. La lettre et l’algorithme d’intelligence artificielle étaient les faits marquants  avant que le conseil d’administration ne licencie M. Altman. Cependant, plus de 700 employés ont menacé de démissionner et de se retirer. rejoindre Microsoft  s’il n’était pas réadmis.

Voici comment fonctionne le projet Q*

Cette lettre s’ajoute à une longue liste de plaintes formulées par le conseil d’administration, qui s’inquiète notamment de la commercialisation des développements avant d’en comprendre les conséquences. L’OpenAI a confirmé dans un message interne adressé au personnel qu’il y avait une appelé Q* prononcé Q star, et qu’une lettre avait été rédigée pour avertir de ses implications potentielles.

Certains pensent que Q* pourrait constituer une percée dans la poursuite par la startup de ce que l’on appelle l’intelligence générale artificielle (AGI), définie par l’OpenAI comme des systèmes autonomes qui surpassent les humains dans la plupart des tâches économiquement rentables.

Ce nouveau modèle met résoudre certains problèmes mathématiques . Et bien qu’ils n’aient fait que des mathématiques du niveau des élèves de l’école primaire, la réussite de ces tests a rendu les chercheurs très optimistes quant au succès futur de Q*. Les chercheurs considèrent les mathématiques comme une frontière dans le développement de l’IA générative. Actuellement, elle est capable d’écrire et de traduire des langues en prédisant statistiquement le mot suivant. Cependant, la capacité de faire des mathématiques implique que l’IA aurait de plus grandes capacités de raisonnement qui ressembleraient à l’intelligence humaine.

Dans la lettre, les chercheurs soulignent les prouesses et les dangers potentiels de l’IA. Ils soulignent également le travail d’une équipe de « scientifiques de l’IA ». Ce groupe, formé en combinant les équipes précédentes de « Code Gen » et de « Math Gen », étudie comment d’optimiser les modèles d’IA existants  pour améliorer leur raisonnement  et, à terme, de réaliser des travaux scientifiques. Altman a dirigé les efforts visant à faire de ChatGPT l’une des applications logicielles à la croissance la plus rapide de l’histoire et a attiré les investissements nécessaires pour s’approcher de l’AGI.

Lors d’un sommet réunissant des dirigeants du monde entier à San Francisco, M. Altman a déclaré en plaisantant qu’il pensait que des percées majeures se profilaient à l’horizon. « Quatre fois dans l’histoire de l’OpenAI, et plus récemment au cours des deux dernières semaines, j’étais dans la salle, lorsque nous avons en quelque sorte repoussé le voile de l’ignorance et fait avancer la frontière de la découverte », a-t-il déclaré. Un jour plus tard, il a été licencié.