Incidents associés
La plate-forme de primes de bogues de contrats intelligents Immunefi a interdit 15 personnes pour avoir prétendument soumis des rapports de bogues créés par l'outil d'intelligence artificielle générative ChatGPT.
La plate-forme Whitehat Hacker Bounty a insisté sur le fait que ChatGPT ne pouvait pas identifier les bogues car il n'a aucune capacité technique au-delà de fournir des réponses aux demandes humaines.
Selon Immunefi, les whitehats peuvent accélérer la résolution rapide d'un bogue logiciel en décrivant le problème avec leurs propres mots plutôt qu'avec des outils de langage d'intelligence artificielle.
Pourtant, la plate-forme de primes a déclaré que tout bogue authentique mis en évidence par l'outil devait être signalé par les canaux appropriés.
La plate-forme Whitehat Hacker Bounty a insisté sur le fait que ChatGPT ne pouvait pas identifier les bogues car il n'a aucune capacité technique au-delà de fournir des réponses aux demandes humaines.
ChatGPT ne devrait pas remplacer le rapport Whitehat
Selon Immunefi, les whitehats peuvent accélérer la résolution rapide d'un bogue logiciel en décrivant le problème avec leurs propres mots plutôt qu'avec des outils de langage d'intelligence artificielle.
Immunefi est une plate-forme de primes de bogues qui récompense les whitehats pour avoir trouvé des problèmes avec les contrats intelligents alimentant des projets de financement décentralisés comme Aave, Compound et Synthetix. En septembre 2022, la plateforme avait versé 65 millions de dollars aux whitehats, avec 138 millions de dollars supplémentaires disponibles pour les paiements futurs.
Les propriétaires de projets logiciels engagent des whitehats pour tester de manière éthique la sécurité de leur produit en échange d'une prime. Ces "bons" hackers s'opposent aux blackhats, qui exploitent criminellement les failles de sécurité. D'un autre côté, les soi-disant greyhats trouvent des bogues sans l'autorisation du propriétaire du projet.
Pourtant, la plate-forme de primes a déclaré que tout bogue authentique mis en évidence par l'outil devait être signalé par les canaux appropriés.
ChatGPT utilise un modèle de grande langue appelé GPT-3 pour converser naturellement avec les humains. Sa carte maîtresse est sa capacité à répondre aux questions en se concentrant davantage sur l'intention d'une question que sur ses mots. Pour le contexte, les moteurs de recherche traditionnels classent généralement les résultats en fonction de la quantité et de la qualité des liens vers une page Web.
Le PDG de ChatGPT déclare que l'outil est toujours un travail en cours
De son propre aveu, les données de formation parfois biaisées de ChatGPT signifient que ses réponses manquent souvent de bon sens et de contexte. De plus, son articulation peut parfois embellir des informations de mauvaise qualité. Un modérateur du forum de programmation StackOverflow a récemment confirmé que la présentation soignée de l'outil dissimule souvent avec succès des réponses inexactes.
Comme Immunefi, StackOverflow a interdit les réponses ChatGPT de sa plateforme.
Malgré ces limitations flagrantes, le directeur général d'OpenAI, la société à l'origine de ChatGPT, est convaincu que l'outil évoluera vers un outil de travail compétent. .
"Nous pouvons imaginer un 'employé de bureau IA' qui répond aux demandes en langage naturel comme le fait un humain", a déclaré Sam Altman dans un article de blog. l'année dernière. La plate-forme d'audit de contrats intelligents CertiK a noté que la plate-forme n'était pas «à moitié mauvaise» pour trouver des bogues. Dans le même temps, l'ingénieur logiciel canadien Tomiwa Aswmidum aurait utilisé avec succès l'outil pour créer un crypto wallet en lui enseignant des règles cryptographiques.
Le promoteur de Dogecoin et PDG de Tesla, Elon Musk, a déclaré en décembre 2022 que l'IA de ChatGPT est "effrayante", tandis que la capital-risqueuse de Next47, Kate Reznykova, a souligné le taux d'adoption stupéfiant des utilisateurs de ChatGPT. d'un million d'utilisateurs en seulement cinq jours.
Cependant, Altman a mis en garde contre une trop grande lecture des capacités de développement de ChatGPT, l'appelant un "aperçu des progrès" et ajoutant qu'il ne devrait pas être utilisé pour quoi que ce soit de critique.
C'est une erreur de s'y fier pour quoi que ce soit d'important en ce moment", a-t-il [dit](https:// fortune.com/crypto/2022/12/28/chatgpt-crypto-artificial-intelligence-nfts/).
De son propre aveu, les données de formation parfois biaisées de ChatGPT signifient que ses réponses manquent souvent de bon sens et de contexte. De plus, son articulation peut parfois embellir des informations de mauvaise qualité. Un modérateur du forum de programmation StackOverflow a récemment confirmé que la présentation soignée de l'outil dissimule souvent avec succès des réponses inexactes. Comme Immunefi, StackOverflow a interdit les réponses ChatGPT de sa plateforme.