Quote from: F2b on Today at 02:32:32 PM

Franchement j'espère que ce sera possible, mais en supposant que les IA continuent à se développer, comme sera-t-on capable de les détecter ? En d'autres termes, si à force de prefectionner ces technologies pour qu'elles se rapprochent le plus possible d'un comportement humain, et qu'on les entraîne sur des données humaines, on finit par réussir à obtenir un résultat digne d'un humain (parce que c'est un peu le but...), comme faire pour distinguer ledit résultat d'une production humaine ?

Je me pose la même question..

Mais il y a quand même moyen que les solutions de détection de textes / photos / vidéos générées par IA se développent au même rythme en parallèle que les IA elles-mêmes non ? J'imagine que ça doit aussi être un marché très porteur, en tout cas ça devrait le rester tant que les IA ne sont pas parfaites et que leur contenu restera donc imparfait. J'arrive pas à concevoir que de grosses boites dans des domaines spécifiques (je veux dire potentiellement fortement impactés par l'émergence des IA) n'aient pas intérêt à disposer de tels outils.

J'avais lu un texte là dessus il y a quelques semaines (je viendrai éditer et mettre le lien quand je l'aurai retrouvé), qui explique que certaines IA auront des sortes de "watermark" intégrées au contenu généré. Le but serait de pouvoir vérifier que celui qui a posté a effectivement payé pour utilisé l'IA en question.
J'imagine que plein de pistes sont exploitables pour détecter ces contenus, mais je suis un peu dépassé par ça pour le moment.

Quelqu'un qui gère des employés de chat-support m'a dit que Zendesk (un outil très utilisé pour le support par Ticket / Chat) pourra bientôt disposer d'un plugin qui détectera les textes issus de ChatGPT, avec une tolérance assez grande pour le moment.. Cela devrait permettre aux agents Qualité d'avoir une "note" qui leur indique si suspicion il y a ou pas quant à l'usage de GPT... Je suis sceptique si c'est du même niveau que les sites de type "GPT-detector" etc qui sont pour l'instant toujours contradictoires entre eux quand tu copies un même texte, mais ça devrait se développer un jour ou l'autre.