Peut-on enseigner des valeurs humaines universelles à une intelligence artificielle?

Si vous rencontriez un robot dans la rue, vous vous écarteriez sûrement plutôt que de vous faire rouler sur le pied, pas vrai? Céder le passage est simple, mais c’est une des nombreuses valeurs humaines que nous tentons tant bien que mal d’inculquer à des machines de plus en plus prolifiques. Des informaticiens comme Stuart Russell et des entreprises spécialisées en intelligence artificielle affirment qu’ils souhaitent que les machines «s’alignent sur des valeurs humaines universelles». Un scientifique de la startup Anki a voulu rassurer Elon Musk et d’autres détracteurs en affirmant que l’intelligence artificielle serait notre amie, et non notre ennemie. À première vue, tout cela semble très louable. Depuis les célèbres Trois lois de la robotique d’Isaac Asimov, nous avons été conditionnés pour croire que sans notre orientation morale, des êtres dotés d’une intelligence artificielle commettront forcément des erreurs et prendront des décisions catastrophiques. Les ordinateurs sont puissants et intelligents mais tout aussi frustrants dans leur incapacité à comprendre l’ambiguïté ou le contexte. Russell veut s’assurer qu’ils seront capables de prendre la «bonne» décision quand ils seront en contact avec des humains, aussi bien en ce qui concerne les normes simples qui régissent un trottoir que pour des questions plus complexes et lourdes de conséquences, comme de décider quelle vie sauver en cas d’accident de ... Lire la suite