Sécurité
Puissante, donc prudente.
Une IA à qui l’on parle entendra parler des pires journées comme des meilleures. Nous la construisons pour les deux, dès le départ.
Engagements
01
Une aide réelle, toujours.Quand une conversation parle de suicide ou de violence, Preuve indique les numéros d’urgence et d’écoute, à chaque fois, sans qu’on le lui demande : 3114, 3919, 119, 17, 15 ou 112 selon la situation.
02
Des numéros vérifiés.Les numéros d’aide affichés viennent d’une courte liste vérifiée, ajoutée par le système plutôt qu’écrite par le modèle. Les données d’entraînement qui en inventent un sont écartées.
03
« Je ne sais pas » est une réponse.Nous apprenons à Preuve à dire quand elle ne trouve pas, plutôt que de produire une réponse fausse pleine d’assurance.
04
Une preuve, ou un aveu.Chaque phrase tirée d’un document est accompagnée de sa preuve, à vérifier d’un clic. Quand Preuve ne trouve pas de preuve, elle le dit, et montre les documents lus.
05
Des données sous licence.Les données d’entraînement doivent venir avec le droit de les utiliser. Les sources douteuses sont écartées.
06
Pas de nouveau modèle sans contrôle.Un modèle ne remplace le précédent dans l’espace IA qu’après nos évaluations et notre revue de sécurité. Aucune date ne nous presse.
En pratique
Tester ce qui peut mal tourner
Avant de rejoindre l’espace IA, un modèle doit être confronté exprès à des situations sensibles : détresse, demandes dangereuses, tentatives pour lui faire inventer des faits. Quand il échoue, nous corrigeons la cause dans les données d’entraînement plutôt que de masquer le symptôme avec un filtre.
Agir viendra en dernier
Les outils qui permettraient à une IA d’agir à la place de quelqu’un viendront longtemps après qu’elle aura prouvé sa fiabilité pour répondre. Le jour venu, chaque étape sera visible et chaque action demandera l’accord d’une personne.
Vos échanges vous appartiennent
Sans votre accord, aucun échange avec Preuve n’est enregistré sur nos serveurs. Si vous acceptez de nous aider, vous pouvez tout effacer d’un bouton. Lire la politique de confidentialité.
Signaler un problème
Pour toute inquiétude de sécurité concernant ce que publie Halveos, écrivez à securite@halveos.com. Nous lisons chaque message.
Newsletter
Suivez notre travail.
Nos modèles, nos méthodes et notre travail de sécurité, quand il y a quelque chose de concret à dire.