Researcher in Mathematical Sciences for AI Safety

Les entreprises d'IA de pointe investissent des milliards de dollars dans la mise à l'échelle des architectures et des méthodes existantes (par exemple, DPO, RLHF, RLVR). Bien que puissantes, ces approches sont fondamentalement imparfaites et entraînent des problèmes de désalignement, de complaisance et de nombreuses autres formes de comportements nuisibles.

LoiZéro est une organisation à but non lucratif fondée par Yoshua Bengio afin de concevoir des systèmes d'IA avancés qui soient sûrs dès leur conception (safe-by-design). Nous en sommes aux premières étapes du développement de la théorie, de la méthodologie et des systèmes d'apprentissage automatique visant à contrer les risques d'alignement posés par les modèles de pointe actuels, grâce à une approche fondamentalement nouvelle appelée l'IA Scientifique (Scientist AI).

Nous recherchons un·e chercheur·euse théoriecien.ne exceptionnel·le  pour contribuer à nos efforts fondamentaux et théoriques, en étroite collaboration avec Yoshua Bengio et notre équipe de recherche et d'ingénierie de calibre mondial.

Principales responsabilités:

• Explorer avec audace des territoires inconnus en étudiant de nouvelles architectures de systèmes d'IA, des cadres théoriques et de nouveaux mécanismes de sécurité, afin de définir un modèle d'IA forte (AGI) sûre ainsi que les garanties de sécurité correspondantes.
• Collaborer étroitement avec Yoshua Bengio et d'autres chercheur·euse·s de premier plan pour analyser et affiner les exigences formelles nécessaires à la construction et au déploiement sécurisés de l'IA Scientifique. Cela inclut la démonstration de garanties de sécurité probabilistes sous des contraintes de données et de puissance de calcul finies et, à mesure que le système progresse, le soutien aux équipes de recherche pour la validation empirique.
• Analyser, évaluer et contribuer aux travaux théoriques existants menés chez LoiZéro par Yoshua Bengio et ses chercheur·euse·s principal·e·s, y compris la rédaction et la diffusion d'articles scientifiques.
• Assurer une veille scientifique rigoureuse pour rester à l'affût de la recherche pertinente en sécurité de l'IA et en apprentissage automatique, et comprendre en profondeur les risques posés par les modèles de pointe (désalignement, détournement de récompense/reward hacking, objectifs instrumentaux, etc.).
• Examiner et enrichir le programme de recherche global de LoiZéro afin d'orienter et de hiérarchiser les expériences. L'objectif est de répondre efficacement aux questions de sécurité critiques, sans pour autant freiner l'atteinte des plus hauts niveaux de capacité.
• Partager vos connaissances en matière de sécurité de l'IA et aider les chercheur·euse·s et ingénieur·e·s de LoiZéro à mieux concevoir et implémenter de nouveaux algorithmes de ML et de nouvelles expériences.

Compétences et qualifications:

• Doctorat (PhD) en apprentissage automatique, informatique, mathématiques, statistiques, ou dans un domaine connexe pertinent pour le programme de recherche de l'IA Scientifique.
• Solide feuille de route en recherche, particulièrement dans la formalisation et l'analyse technique fructueuse d'intuitions par rapport à des modèles de language.
• Vif intérêt et idéalement une expérience concrète en sûreté technique de l'IA, accompagnée d'une capacité exceptionnelle pour la pensée systémique et abstraite.
• Compréhension approfondie des fondements mathématiques couramment utilisés dans la conception et l'analyse de l'apprentissage automatique probabiliste, en particulier pour les réseaux de neurones et les modèles de langage.
• Persévérance nécessaire pour s'attaquer à des problèmes complexes et mal définis et aptitude à transformer la confusion et les impasses en opportunités pour approfondir la réflexion et la compréhension.
• Excellentes compétences en communication : capacité à articuler des idées complexes, tant à l'oral qu'à l'écrit, auprès de publics techniques et non techniques.
• Aptitude à travailler dans un environnement collaboratif et à contribuer aux objectifs de recherche collectifs.

Un atout majeur :

• La capacité de voyager régulièrement aux côtés de Yoshua et des membres de l'équipe pour participer à des conférences, ce qui accélérera considérablement l'avancement des travaux !

À propos de LoiZéro

LoiZéro est une organisation à but non lucratif dédiée à faire progresser la recherche et à développer des solutions techniques permettant de concevoir des systèmes d'IA sécuritaires. Son approche scientifique repose sur de nouvelles recherches et méthodes proposées par le professeur Yoshua Bengio, le chercheur en IA le plus cité au monde. Basée à Montréal, LoiZéro mène des recherches pour concevoir des systèmes d’IA non agentiques qui apprennent à comprendre le monde plutôt qu'à y intervenir, en répondant de manière véridique aux questions posées sur la base d'un raisonnement probabiliste transparent et extériorisé. De tels systèmes d'IA pourraient être utilisés pour accélérer la découverte scientifique, superviser les systèmes d'IA agentiques et faire progresser notre compréhension des risques de l'IA et des moyens de les éviter. LoiZéro croit que l’IA doit être considérée comme un bien public mondial, développée et utilisée de manière sécuritaire pour favoriser l’épanouissement humain. Plus d’information : www.loizero.org 

Vous avez votre place ici

À LoiZéro, la diversité nous tient à cœur. Nous valorisons un environnement de travail équitable, ouvert et respectueux des différences. Nous encourageons les candidatures de personnes hautement qualifiées désireuses de travailler à la réalisation de notre mission dans un cadre respectueux, inclusif et collaboratif.

Vos informations personnelles seront collectées et traitées par LoiZéro afin d'évaluer votre demande d'emploi conformément à notre politique de vie privée. En vertu des lois sur la protection de la vie privée en vigueur dans votre pays de résidence, vous pouvez disposer de plusieurs droits en matière de protection de la vie privée, comme celui de demander l'accès à vos informations personnelles ou de demander que vos informations personnelles soient rectifiées ou effacées. Vous trouverez des détails sur la manière dont vous pouvez exercer vos droits dans notre politique de protection de la vie privée.