Son job était de vérifier que l’IA reste sans danger : il claque la porte d’OpenAI…

a toujours été en première ligne pour garantir que les avancées technologiques ne représentent pas une menace pour l’humanité. Cependant, un élément perturbateur vient de secouer l’entreprise. L’un des pionniers d’OpenAI, Ilya Sutskever, a quitté l’équipe de . Après, un autre dirigeant suit aussi son départ.

OpenAI, reconnue pour son avancement dans le domaine de l’intelligence artificielle, a vu plusieurs de ses figures de proue quitter l’organisation. Cela a commencé par le départ de Ilya Sutskever, co-fondateur et scientifique en chef, qui après presque une décennie a annoncé son départ pour explorer de nouvelles avenues.

Peu après, Jan Leike, qui codirigeait le groupe de superalignement d’OpenAI, a aussi fait ses adieux. « J’ai démissionné », a-t-il déclaré sur Twitter.

En septembre, avant son départ, Leike avait été nommé parmi les 100 personnes les plus influentes dans le domaine de l’IA par le magazine Time.

Les impacts des démissions sur la sécurité de l’IA

Les départs de Sutskever et Leike pourraient potentiellement compromettre la mission d’OpenAI de garder l’IA alignée sur les valeurs humaines.

Carroll Wainwright, un chercheur chez OpenAI, a exprimé sa tristesse en déclarant que le travail de Leike était essentiel pour rendre l’IA générale (AGI) sûre et bénéfique. Il a ajouté que son absence représenterait un véritable manque pour l’entreprise.

Ces événements surviennent à un moment crucial, alors que des discussions importantes se déroulent à Genève. Des envoyés de haut niveau de la Chine et des États-Unis y débattent de l’avenir de l’AGI.

Par ailleurs, ils examinent le potentiel de cette technologie à rivaliser avec les capacités humaines dans une grande variété de tâches.

OpenAI et les coûts de l’AGI, un grand défi pour continuer à innover !

Par contre, au-delà des défis internes, OpenAI est confrontée à des défis financiers notables. Sam Altman, PDG de l’entreprise, insiste sur la nécessité de financements conséquents pour continuer à innover.

En effet, le développement de l’intelligence artificielle générale (AGI) implique des coûts considérables.

Afin de répondre à ces exigences, OpenAI s’est engagée à allouer 20 % de ses ressources informatiques pour atteindre le superalignement au cours des quatre prochaines années.

Néanmoins, pour sa survie et son avancement, OpenAI doit pouvoir attirer des investissements importants.

À ce titre, des figures influentes telles que , PDG de , jouent un rôle clé dans le soutien financier de l’organisation. Oui, ces investissements sont cruciaux pour les opérations et pour maintenir l’avance technologique d’OpenAI.

Ces fonds soutiennent des projets innovants comme GPT-4o. Il représente une avancée significative dans l’IA. Cette technologie permet à l’IA de « raisonner » à travers du texte, de l’audio et de la vidéo en temps réel.

Notons aussi que ce développement a conduit à des comparaisons avec l’assistant vocal du film de science-fiction « Her ». Cela souligne son réalisme exceptionnel et son impact.

Jusqu’à maintenant, OpenAI a toujours impressionné avec ses technologies. Mais après les départs d’Ilya Sutskever et Jan Leike, quels changements attendre au sein de l’entreprise ?

Pour l’instant, il est difficile de prédire précisément, mais je pense que l’entreprise continuera d’innover, quelles que soient les circonstances. Et d’après vous, quel impact pensez-vous que ces départs auront sur l’entreprise, étant donné l’influence de ces deux pionniers ?

Cet article Son job était de vérifier que l’IA reste sans danger : il claque la porte d’OpenAI… a été publié sur LEBIGDATA.FR.

Cet article est paru en premier sur le site https://www.lebigdata.fr/son-job-etait-de-verifier-que-lia-reste-sans-danger-il-claque-la-porte-dopenai