Mises à jour MIRI

• Evan Hubinger de MIRI utilise une notion de puissance d’optimisation pour définir si les systèmes d’IA sont compatibles avec l’hypothèse de vol de stratégie.
• Abram Demski de MIRI discute des approches de débat sur la sécurité de l’IA qui ne reposent pas sur la cognition factorisée.
• Evan soutient que les premiers systèmes AGI sont susceptibles d’être très similaires les uns aux autres et discute des implications pour l’alignement.
• Le bulletin d’information Import AI de Jack Clark traite des résultats négatifs de la recherche de notre mise à jour de fin d’année.
• Richard Ngo partage une discussion de haute qualité sur sa grande séquence d’introduction AGI Safety from First Principles, mettant en vedette Paul Christiano, Max Daniel, Ben Garfinkel, Adam Gleave, Matthew Graves, Daniel Kokotajlo, Will MacAskill, Rohin Shah, Jaan Tallinn et Evan Hubinger de MIRI et Buck Shlegeris.
• Tom Chivers discute de la communauté de la rationalité et Rationalité: de l’IA aux zombies. (Contrairement au titre, le COVID-19 fait l’objet de peu de discussions.)

Nouvelles et liens