On ne garantira jamais la sécurité d’un système d’IA générative par des prompts, rappelle le développeur canadien Graeme Fawcett.
« Le prompt n’est qu’une série de jetons supplémentaires noyés dans la même soupe probabiliste que le reste. Il n’existe aucun canal privilégié, aucun mode noyau ni aucune couche de contrôle s’interposant entre vos règles et le jeton suivant pour garantir l’alignement. On ne peut pas renforcer une distribution de probabilités en y ajoutant simplement du texte. Si la sécurité repose uniquement sur le fait que le modèle a « lu » les règles, vous vous assurez simplement d’une chose : le jour où il supprimera l’environnement de production, vous recevrez un rapport post-mortem très soigné, dans lequel le modèle listera méticuleusement toutes les « règles » qu’il a enfreintes en chemin. »
Stream "Punchlines"
- ↪ L’addiction aux plateformes se traite à l’amiable
- ↪ Le « Gouvernance Washing » des médias sociaux
- ↪ Ceux qui font tenir l’internet
- ↪ Mini-manuel d’insurrection informationnelle
- ↪ Toujours aucun signe indiquant que l’IA stimule la croissance de la productivité
- ↪ L’interrupteur algorithmique, une fausse bonne idée ?
- ↪ Surveiller l’antisyndicalisme
- ↪ La surveillance ou le progrès social
- ↪ Avec les manutentionnaires de robotaxis
- ↪ La technologie n’explique pas la montée des inégalités : la corruption, oui !