OpenAI l’entreprise la plus en vue dans le domaine de la technologie, a connu une semaine riche en événements. la destitution, puis le remplacement et enfin la réintégration de son PDG, Sam Altman, inventeur de ChatGPT un chatbot basé sur l’intelligence artificielle et l’apprentissage automatique.
Mais que signifie le retour d’Altman ? Que peut-on attendre maintenant de la nouvelle conseil d’OpenAi ?
Le 17 novembre, c’est le chaos : le conseil d’administration d’OpenAI annonce le licenciement d’Altman. Le 22 novembre, après plusieurs jours de négociations pour le faire revenir dans l’entreprise, comme le demandaient les employés et son principal investisseur, Microsoft, OpenAI a annoncé qu’Altman reviendrait effectivement en tant que PDG. Et dans le cadre de l’accord pour le retour d’Altman à la tête d’OpenAI, la plupart des membres du conseil d’administration qui avaient voté en faveur de son licenciement ont été remplacés par des personnes qui partagent sa vision, axée sur une commercialisation plus poussée de l’IA. . Au sein du conseil ad interim Bret Taylor, ancien co-PDG de Salesforce, Larry Summers, ancien secrétaire au Trésor, et Adam D’Angelo, PDG de Quora et seul survivant du précédent conseil d’administration, ont pris la relève.
Il s’agit de exclues à la place, ceux qui étaient plus préoccupés par le dilemme éthique et plus généralement par le potentiel apocalyptique de l’IA dont Ilya Sutskever, cofondateur et scientifique en chef d’OpenAI, l’entrepreneur technologique Tasha McCauley et Helen Toner, directrice du Centre for Security and Emerging Technologies (CSET) de Georgetown, qui fait partie du mouvement de l’altruisme efficace, caractérisé par une approche philanthropique particulière qui cherche à maximiser, grâce à des preuves scientifiques et à l’utilisation de données, l’impact positif des dons et des actions caritatives sur la société. Les adeptes de l’altruisme efficace se sont toujours montrés préoccupés par les développements futurs de l’intelligence artificielle forte (AGI) et ont donc toujours eu une approche plus éthique et plus axée sur la sécurité.
Selon les analystes de l New York Times La réintégration d’Altman et le nouveau Cda intérimaire avec la représentation en son sein de Microsoft et d’autres investisseurs, montrent indéniablement comment les intérêts commerciaux ont gagné du terrain sur la frange qui, même au sein de l’Union européenne, n’a pas été épargnée. conseil L’ancien conseil d’administration d’OpenAI s’inquiétait d’aller trop vite pour faire progresser l’intelligence artificielle et réaliser des bénéfices, sans tenir compte des conséquences potentiellement désastreuses pour l’humanité. Il convient de rappeler non seulement que l’un des premiers principes contenus dans la charte de l’entreprise est lié à la sécurité, mais aussi qu’OpenAI a commencé comme un laboratoire de recherche sur l’IA basé sur l’idée d’ouverture et de transparence formé par l’organisation à but non lucratif OpenAI en 2015 et ne s’est transformé qu’en 2019 en une entreprise à but lucratif, supervisée par un conseil d’administration à but non lucratif et avec une culture d’entreprise à mi-chemin entre les intérêts commerciaux et les intérêts sociétaux.
Ce dont on a été témoin ces derniers jours reste d’une certaine manière inexpliqué. Au cours des dernières heures, une nouvelle histoire en coulisses a émergé, rapportée par Reuters: il semble que le créateur de ChatGPT, Sam Altman, ait fait des des progrès sur un nouvel algorithme Q* (prononcé Q-Star), dont il avait cependant caché l’existence au conseil d’administration. . Avant la décision du 17 novembre de licencier Altman, une lettre aurait été envoyée par un groupe de chercheurs au conseil d’administration, dans le but de le mettre en garde contre cette nouvelle découverte dans le domaine de l’intelligence artificielle, qui aurait pu conduire à une éventuelle percée dans les recherches de la start-up sur la super-intelligence, également connue sous le nom d’intelligence artificielle forte (AGI), et constituer une menace pour l’humanité.
Tout cela laisse cependant de grandes questions en suspens. On ne sait pas pourquoi le précédent conseil d’administration de l’OpenAI a pris la décision extrême d’écarter M. Altman, ni si les réserves qu’il avait émises à son sujet ont été dissoutes d’une manière ou d’une autre avant son retour. Et maintenant qu’il y a un nouveau conseil d’administration, qui comprend un ancien cadre de Meta et un ancien secrétaire au Trésor, il est difficile de prédire exactement ce que l’OpenAI fera de son avenir et de sa culture open source.