Malgré l'énorme utilité que les différents Assistants IA que nous avons actuellement à notre disposition, présentent également certains inconvénients. Et comme cela a été démontré à plusieurs reprises ces derniers mois, leurs conseils et leurs réponses peuvent parfois présenter un risque pour les utilisateurs.
C'est quelque chose que les principales entreprises responsables de ces assistants intelligents, comme c'est le cas par exemple avec OpenAI et votre ChatGPT, en sont pleinement conscients. Et le fait est que le recours à ces assistants par leurs clients n’est pas toujours approprié ou souhaité au premier abord.
En quoi consiste-t-il ? Contact de confiance sur ChatGPT
D'où précisément l'apparition d'un nouveau fonction de sécurité qui est apparu dans le ChatGPT susmentionné que la plupart d'entre vous ont utilisé à plusieurs reprises.
Nous parlons ici d'un nouvel outil appelé Trusted Contact dont le but est assez clair. Il se concentre sur la possibilité que son propre Plateforme d'IA Avertissez automatiquement un membre de la famille ou un ami s'il détecte que l'utilisateur est en danger à ce moment-là. Fondamentalement, cela signifie que nous aurons désormais la possibilité d'établir un certain contact de confiance sur ChatGPT.
Ici, la chose habituelle sera d'utiliser un ami ou un membre de la famille comme contact de confiance dans l'IA. Ce sera celui qui recevra un notification au cas où l'assistant intelligent considère que l'utilisateur est en danger. Dans ce cas, nous faisons référence, par exemple, à des situations dans lesquelles la personne qui interagit actuellement avec ChatGPT a l'intention de se faire du mal. Il enverra également une notification s'il estime que l'utilisateur court un risque à ce moment-là.
Et l’entreprise s’est désormais rendu compte que certaines personnes utilisent ChatGPT pour obtenir des réponses à des questions personnelles, y compris des moments difficiles. Dans ces cas, du moins dans certains d’entre eux, l’IA n’est pas la meilleure solution. Ainsi, le moment venu, dans des situations un peu délicates, l'assistant peut alerter des personnes de confiance s'il détecte situations à risque liés à votre sécurité.
Conditions requises pour être la personne de confiance pour l'IA
C'est là que la fonctionnalité Contact de confiance susmentionnée de ChatGPT entre en jeu. Ici, nous pouvons sélectionner une personne en qui nous avons confiance pour recevoir une notification si l'assistant reconnaît un comportement suspect à cet égard. Il convient de mentionner que cette fonction est utilisée via le systèmes de surveillance automatisés de l'assistante.
Lorsque le moment critique arrive, une certaine équipe OpenAI examinera la situation et si elle détermine que la conversation pose un problème de sécurité, elle enverra une notification au contact de confiance qui a été établi. De plus, et afin d'utiliser la fonction en tant que telle, il faut prendre en compte certains paramètres à respecter.
Tout d’abord, l’interlocuteur de confiance doit être majeur. De plus, une fois établie par e-mail, la personne sélectionnée recevra une invitation expliquant son rôle. A partir de ce moment-là, vous devez accepter ce poste, le tout en moins d'une semaine.
Tout sur la nouvelle fonctionnalité de contact d'urgence dans ChatGPT Il s'agit d'un nouvel outil de sécurité ChatGPT qui permet à l'IA d'avertir automatiquement un ami ou un membre de la famille si elle détecte que l'utilisateur se trouve dans une situation de danger ou de risque personnel pendant la conversation.
La notification est activée si les systèmes de surveillance détectent des intentions d'automutilation ou des risques graves pour la sécurité de l'utilisateur. Après détection automatique, une équipe humaine OpenAI examine la situation avant d'envoyer l'avis.
Le contact de confiance doit être majeur et disposer d’un compte email actif pour recevoir l’invitation et les éventuelles alertes.
Une fois que l'utilisateur l'aura ajouté par e-mail, la personne sélectionnée recevra une invitation formelle. Pour que la fonction soit opérationnelle, le contact doit accepter ledit travail dans un délai maximum d'une semaine.
Bien que le premier filtre soit un système de surveillance d'assistant automatisé, si un comportement suspect est détecté, une équipe humaine spécialisée d'OpenAI évaluera le contenu pour déterminer s'il est nécessaire d'alerter le contact.
Qu'est-ce que la fonctionnalité Contact de confiance ?
Dans quels cas OpenAI enverra-t-il une alerte à mon contact ?
À quelles exigences la personne que je choisis doit-elle répondre ?
Comment puis-je confirmer que quelqu'un est mon contact de confiance ?
Qui examine mes conversations si un risque est détecté ?