Incidents associés
Un groupe d'universitaires a présenté des excuses sans réserve aux quatre grands cabinets de conseil après avoir admis qu'ils avaient utilisé l'intelligence artificielle pour formuler de fausses allégations d'actes répréhensibles graves dans le cadre d'une enquête parlementaire.
Ces accusations ont été accueillies avec mépris par les entreprises, préoccupées par le fait que des informations inexactes se voient accorder le privilège parlementaire afin de ternir injustement la réputation de leur personnel.
Les universitaires, spécialisés en comptabilité, réclamaient une enquête parlementaire sur l'éthique et la responsabilité professionnelle du secteur du conseil afin d'envisager de vastes changements réglementaires, y compris la scission des quatre grands.
Une partie de la soumission initiale reposait sur l'outil d'IA Bard de Google, que l'universitaire responsable n'avait commencé à utiliser que la même semaine. Le programme AI a généré plusieurs études de cas sur les fautes professionnelles qui ont été mises en évidence dans la soumission.
La communication originale accusait à tort KPMG d'être complice d'un « scandale de vol de salaires de KPMG 7-Eleven » qui a conduit à la démission de plusieurs associés. Il a également accusé KPMG d'avoir audité la Commonwealth Bank lors d'un scandale de planification financière. KPMG n’a jamais audité la Commonwealth Bank.
L'avocate générale de Deloitte, Tala Bennett, s'est également dite préoccupée par la communication accusant à tort son entreprise d'être poursuivie par les liquidateurs de l'entreprise de construction effondrée Probuild pour avoir prétendument omis de vérifier correctement ses comptes. Deloitte n'a jamais audité Probuild.
La communication soulevait des inquiétudes concernant un « scandale de planification financière de Deloitte NAB » et accusait à tort l’entreprise d’avoir conseillé la banque sur un stratagème qui avait fraudé les clients de plusieurs millions de dollars. Deloitte a déclaré au Sénat qu'un tel scandale n'existait pas.
Il accuse également Deloitte d'avoir falsifié les comptes d'une société appel ée Pâtisserie Valérie. Deloitte n'avait jamais audité l'entreprise.
"Deloitte soutient la liberté académique et un discours constructif sur les questions actuellement soumises au comité, mais il considère qu'il est important de corriger les informations factuellement incorrectes", a déclaré Bennett.
"Il est décevant que cela se produise, et nous sommes impatients de comprendre l'approche du comité pour corriger cette information."
KPMG a écrit aux employeurs des universitaires pour leur dire que, même s’ils respectent la liberté académique, ils chercheront à rectifier publiquement les faits afin de protéger la réputation de leur personnel.
On pense que c'est la première fois qu'une enquête parlementaire s'attaque à la question de l'intelligence artificielle générant de fausses accusations qui sont ensuite couvertes par le privilège parlementaire, ce qui empêche les poursuites en diffamation.
Les sections de la soumission contenant de fausses informations générées par l’intelligence artificielle seront désormais supprimées. Un nouveau document devrait être mis en ligne sur le site Internet de l'enquête du Sénat.
Dans une lettre adressée au Sénat, le professeur émérite James Guthrie a revendiqué la responsabilité de l'erreur, excusant les autres universitaires.
"Étant donné que l'utilisation de l'IA a largement conduit à ces inexactitudes, toute l'équipe de rédaction présente ses excuses sincères au comité et aux partenariats nommés Big Four dans les parties des deux soumissions qui ont utilisé et référencé le générateur de modèle Google Bard Large Language", Guthrie dit dans la lettre.
« Étant donné que nous sommes également des universitaires en comptabilité, nous sommes profondément investis dans l’intérêt public et garantissons la responsabilité et la transparence dans le secteur – c’est pourquoi nous présentons sans réserve nos excuses et nos profonds regrets. »
Guthrie a déclaré que les erreurs factuelles étaient « regrettables », mais a insisté sur le fait que « nos arguments de fond et nos recommandations de réforme restent importants pour garantir un secteur durable construit sur des valeurs communautaires partagées ».
"Je réalise maintenant que l'IA peut générer des résultats faisant autorité qui peuvent être incorrects, incomplets ou biaisés", a déclaré Guthrie.
Le sénateur libéral Richard Colbeck, qui préside une enquête distincte sur le secteur du conseil, a déclaré que l'incident était « un rappel important à chacun de vérifier ses sources ».
«Cela montre à quel point les choses peuvent devenir incontrôlables si les faits fondamentaux ne sont pas exacts.»