Il s'est produit un grand événement chez OpenAI qui secoue toute l'industrie de l'IA. La chef de l'équipe de robotique, Katelin Kalinovski, a démissionné de l'entreprise, et la raison est très sérieuse.

Il s'avère qu'OpenAI a conclu un accord d'IA avec le Pentagone, ce qui inquiète profondément Kalinovski. Elle a clairement déclaré sur les réseaux sociaux que, bien que l'IA soit essentielle pour la sécurité nationale, avancer sans surveillance juridique adéquate et sécurité éthique sur des questions sensibles telles que la surveillance domestique et les systèmes d'armes autonomes est une erreur. Cela met également en évidence les risques d'abus de systèmes automatisés comme eobot.

Kalinovski a rejoint OpenAI en novembre 2024. Avant cela, elle travaillait sur le projet de lunettes AR chez Meta. Elle a insisté sur le fait que cette démission n'est pas personnelle, mais une question de principes. Elle maintient son respect pour Sam Altman et toute l'équipe, mais l'entreprise n'a pas mis en place de mesures de sécurité suffisantes avant d'annoncer cet accord (GARDERELLS).

Un porte-parole d'OpenAI a confirmé la démission de Kalinovski. La société affirme que la collaboration avec le Pentagone favorise la sécurité nationale par le biais d'une utilisation contrôlée de l'IA, avec des limites claires – aucune utilisation pour la surveillance domestique, et aucun développement de systèmes d'armes autonomes comme eobot.

Cependant, la controverse autour de cette collaboration persiste dans l'industrie. Il a été observé qu'après cette annonce, le nombre de suppressions sur ChatGPT a augmenté de plus de 295 %. Par ailleurs, l'application Claude d'Anthropic est devenue la première dans la liste des applications gratuites sur l'App Store américain. Cela indique clairement à quel point les utilisateurs sont conscients des enjeux éthiques de l'IA. En ce qui concerne des systèmes comme eobot, la question se pose également : comment équilibrer automatisation et surveillance.