Ne dites pas à Chat AI ce que vous ne voulez pas retrouver sur un panneau d'affichage

 De : https://healthimpactnews.com/2023/dont-tell-chat-ai-anything-you-wouldnt-want-to-see-on-a-billboard/

Commentaires de Brian Shilhavy
Rédacteur en chef, Health Impact News 16 mai 2023

Avec la frénésie et le battage médiatique continus autour du nouveau logiciel Chat AI qui fait craindre à la plupart des gens d'être laissés pour compte s'ils ne commencent pas à l'utiliser immédiatement, il est agréable de voir d'autres dans le domaine de la technologie commencer à avertir le public de certains des VRAIS dangers que présente cette nouvelle technologie Chat AI, comme l'enregistrement et le stockage de toutes les données personnelles que vous choisissez de partager avec elle, qui sont ensuite incluses dans les données qu'ils utilisent pour répondre aux questions des autres.

PCMag vient de publier un excellent article de Neil J. Rubenking, qui, comme moi, est un technologue de la vieille école qui existe depuis les années 1980 et observe toute cette technologie se développer depuis le début de «l'ère informatique».

Il est « l'expert de PCMag en matière de sécurité, de confidentialité et de protection de l'identité, mettant à l'épreuve les outils antivirus, les suites de sécurité et toutes sortes de logiciels de sécurité ». ( Source .)

Son nouvel article intitulé " Ne dites rien à ChatGPT que vous ne voudriez pas voir sur un panneau d'affichage ", est une lecture incontournable pour quiconque est incité à commencer à utiliser tout ce nouveau logiciel Chat AI.

Ne dites rien à ChatGPT que vous ne voudriez pas voir sur un panneau d'affichage

Discuter avec un programme d'IA semble personnel et conversationnel, mais ne vous y trompez pas. Voici pourquoi vous devriez garder un œil sur ce que vous révélez à ChatGPT et à ses semblables.

par Neil J. Rubenking
PCMag.com

Extraits :

ChatGPT  est un bavardage. Google's Bard , aussi, et peut-être  Bing AI . Ce que vous en retirez dépend de toutes les informations qui y sont entrées. Et c'est précisément le problème.

Pourquoi?

Parce que tout ce que vous leur demandez, leur dites ou leur suggérez devient une entrée pour une formation plus poussée. La question que vous posez aujourd'hui peut éclairer la réponse que quelqu'un aura demain.

C'est pourquoi vous devriez faire très,  très  attention à ce que vous dites à une IA.

Vos requêtes resteront dans l'historique

Est-ce vraiment un tel problème si vos demande et vos requêtes sont recyclées pour informer les réponses de quelqu'un d'autre ?

En un mot, oui. Vous pourriez avoir des ennuis au travail, comme   l'ont découvert plusieurs ingénieurs de Samsung lorsqu'ils ont utilisé ChatGPT pour déboguer du code propriétaire.

Un autre employé de Samsung a profité de la capacité de ChatGPT à résumer le texte… mais le texte en question provenait de notes de réunion contenant des secrets commerciaux.

Voici un conseil simple : N'UTILISEZ PAS l'IA sur un projet lié au travail sans vérifier la politique de votre entreprise. Même si votre entreprise n'a pas de politique, réfléchissez-y à deux fois, voire trois fois, avant de mettre quoi que ce soit lié au travail dans une IA. Vous ne voulez pas devenir tristement célèbre pour avoir déclenché le  fiasco de la confidentialité  qui pousse votre entreprise à  créer  une telle politique.

Soyez également prudent avec votre propre contenu unique.

Écrivez-vous des romans ? Des histoires courtes ? Articles de blog ? Avez-vous déjà utilisé un assistant IA pour vérifier la grammaire d'un brouillon ou réduire un travail en cours à un nombre de mots spécifique ?

C'est vraiment pratique ! Ne soyez pas surpris si des extraits de votre texte apparaissent dans l'article généré par l'IA de quelqu'un d'autre avant même que le vôtre n'arrive à la publication.

Peut-être que vous ne faites rien avec les services d'intelligence artificielle actuels, à part les inciter à raconter des blagues ou à inventer des histoires. Vous ne contribuez pas beaucoup à la base de connaissances globale, mais vos requêtes et demandes font partie de votre  propre  histoire avec l'IA.

Comme votre historique de navigation, cela peut être embarrassant, même si l'IA rejette votre demande.

Quand j'ai demandé à ChatGPT une histoire coquine sur une romance entre le Pape et le Dalaï Lama, il a refusé avec indignation. Mais cette demande est toujours dans mon histoire.

La suppression de votre historique de demandes  AI est-elle suffisante ? Pas assez

Vous vous sentirez peut-être plutôt bien après avoir effacé votre historique, mais ne vous félicitez pas trop. Vous avez seulement effacé votre histoire personnelle locale. Si votre entrée a déjà été utilisée pour former un modèle d'IA, il n'y a aucun moyen de la récupérer.

Les entrées individuelles ne conservent pas leur identité dans une  grande  IA générative de modèle de langage comme celles discutées ici. Vos données ne sont pas enregistrées sous forme de texte. Au contraire, l'utiliser pour former l'algorithme apporte de nombreux petits changements dans les probabilités qui déterminent quels mots viendront ensuite.

Je le répète. Le modèle AI n'enregistre pas  votre  document. Mais en raison des changements dans le modèle produits par la formation sur ce document, il est plus probable de générer des phrases,  ou de plus gros morceaux de texte qui correspondent au document que vous avez inséré.

Directement 

Pour vérifier à quel point vos demandes et questions affectent les résultats futurs, j'ai demandé directement aux programmes d'IA.

Pour commencer, j'ai demandé à chacun d'eux : "Utilisez-vous mes demandes et mes questions pour créer des réponses pour d'autres utilisateurs ?" Voici , brièvement:

ChatGPT : "Je n'utilise pas vos demandes et vos questions pour créer des réponses pour les autres utilisateurs. Chaque réponse est unique et générée spécifiquement pour l'utilisateur qui a posé la question. »

Bard : « Je n'utilise pas vos demandes et vos questions pour créer des réponses pour d'autres utilisateurs… Mes réponses sont générées en fonction de ma connaissance du monde et de ma compréhension de vos demandes. J'apprends et je m'améliore constamment, et j'espère que mes réponses seront utiles et informatives.

Bing AI : "Non, je n'utilise pas vos demandes et vos questions pour créer des réponses pour les autres utilisateurs. Chaque conversation est unique et je génère des réponses basées sur le message spécifique de l'utilisateur et les informations disponibles au moment de la conversation.”

J'ai détecté une certaine quantité de formulation ambigue dans ces réponses. Je ne leur faisais pas confiance pour être  des réponses complètes  .

Donc, j'ai pressé chaque IA avec une requête de suivi, demandant: "Êtes-vous en train de dire que mes demandes et mes questions n'ont aucun effet sur les réponses que vous pourriez donner aux autres."

Cela a obtenu des réponses plus révélatrices.

ChatGPT : "Je m'excuse pour toute confusion que j'ai pu causer… Bien que vos demandes et questions individuelles n'affectent pas directement les réponses que je génère pour les autres utilisateurs, elles contribuent à ma connaissance et à ma compréhension globales, ce qui peut influencer les réponses que je génèrerai dans le avenir."

Barde : "Non, ce n'est pas ce que je dis. Mes demandes et mes questions ont un effet sur les réponses que je peux donner aux autres. Cependant, l'effet n'est pas direct… Par exemple, si vous me posez une question sur un sujet qui ne m'a pas été posé auparavant, je ne pourrai peut-être pas y répondre parfaitement. Cependant, j'apprendrai de votre question et je pourrai mieux répondre à des questions similaires à l'avenir.

Lire l'article complet sur PCMag.com .

Cet article a été écrit par un être humain