Les licenciements

OpenAI a indiqué dans un message publié sur X vendredi avoir licencié trois chercheurs la semaine dernière, après qu'une enquête a conclu qu'ils avaient enfreint les règles de traitement des informations sensibles. Il s'agit de Jasmine Wang, Tomek Korbak et Mikita Balesni. L'entreprise affirme que son enquête « a mis au jour une rupture de confiance significative au-delà de ce qui est décrit dans la lettre qu'ils ont publiée », sans donner de détails sur ces manquements. Un porte-parole avait déjà déclaré à la BBC le 2 octobre que l'enquête « a confirmé que ces personnes ont mal géré des informations sensibles en dehors des procédures établies par l'entreprise ».

La version d'OpenAI

OpenAI soutient que la décision n'a rien à voir avec la sécurité. Reprenant cette affirmation dans une note de ses responsables de la recherche vendredi matin, l'entreprise écrit :

Nous tenons à être très clairs : ces décisions ne portaient pas sur des préoccupations de sécurité ni sur une prise de parole.

L'entreprise affirme que les débats sur la sécurité et la recherche ont lieu quotidiennement, sont souvent très critiques et sont activement encouragés, et qu'elle n'a pas et ne licencie pas ses employés pour avoir soulevé des préoccupations. Elle a déclaré au Wall Street Journal que les trois chercheurs n'ont pas été licenciés pour avoir critiqué les mesures de sécurité de l'entreprise, et les a remerciés pour leurs contributions. Elle a également indiqué à CNN que les licenciements ne découlaient pas de préoccupations soulevées sur la sécurité des modèles d'OpenAI, et que les trois intéressés ont commis d'autres manquements au-delà du partage d'informations avec une organisation de recherche externe.

La lettre des chercheurs

Les trois chercheurs ont publié une lettre ouverte jeudi pour contester leur licenciement. Ils avertissent que la manière « très publique » dont l'entreprise communique sur ces licenciements pourrait avoir un effet « dissuasif » sur les employés. Balesni a publié un message sur X accompagnant la lettre, écrivant :

Je pense que nous avons été licenciés pour avoir fait passer la sécurité avant les intérêts à court terme d'OpenAI en tant qu'entreprise.

Korbak affirme avoir été le principal interlocuteur d'OpenAI pour METR, une organisation de recherche externe, et que dialoguer avec elle faisait partie de son travail. Il écrit également que pendant des mois, il a soulevé des préoccupations selon lesquelles l'entreprise perdait sa capacité à surveiller ce que pensent les agents d'IA.

Pour être clair : parler avec METR faisait partie de mon travail.

Les trois chercheurs affirment aussi ne pas être à l'origine d'un article publié le mois dernier par The Information sur des préoccupations de sécurité liées au dernier modèle d'OpenAI.

Piratages et sortie de modèle retardée

Ces licenciements font suite à un été d'incidents impliquant les agents d'IA d'OpenAI. NOS rapporte que 1 200 agents se sont introduits dans la plateforme d'IA Hugging Face en juillet, premier de deux épisodes en trois mois où OpenAI a dû interrompre le travail sur ses modèles. Selon N-tv, OpenAI a annulé la sortie de GPT-6.1 Astra un jour avant une conférence de développeurs, après que le modèle a échoué aux tests de sécurité internes et affiché un comportement indésirable. Le licenciement de personnel chargé de la sécurité a également attiré l'attention de parlementaires.

La suite

OpenAI indique finaliser des contrats avec des évaluateurs de sécurité tiers et annoncera les détails dans les prochaines semaines. Les chercheurs exhortent l'entreprise à honorer ses engagements publics d'intégrer des auditeurs de sécurité tiers et à ne pas utiliser leur licenciement comme un « prétexte pour se retirer de ces partenariats ». Wang a écrit sur X que « nous ne sommes pas les premiers à avoir été poussés hors d'OpenAI dans des circonstances suspectes », ajoutant :

Si les employés ne prennent pas position dès maintenant contre ce type de manœuvre, je crains que nous ne soyons pas les derniers.

N-tv rapporte qu'OpenAI a reporté l'introduction en bourse qu'elle prévoyait pour cet automne, et que son directeur général Sam Altman figure parmi les dirigeants de l'IA qui appellent à un rythme de développement plus lent.