World News in French

Pourquoi l’IA Claude adorait faire du chantage (et comment Anthropic a mis fin à cette dérive)

Anthropic a expliqué dans un long billet de recherche comment ses modèles Claude sont passés d'un taux de chantage de 96 % à zéro dans ses tests d'alignement. La recette : leur enseigner le raisonnement derrière les bons comportements, pas seulement les bons comportements.

Читайте на сайте