Problème 4932

De nombreuses personnes choisissent de devenir policières parce qu’elles aiment l’idée de travailler sur le terrain. Ce que beaucoup ne réalisent pas, c’est qu’en plus de ce travail sur le terrain, il y a la paperasse. Les rapports de police documentent les interactions et les réponses quotidiennes des policiers, et ils constituent un élément crucial du système de justice pénale. Il faut également du temps pour les rédiger, les éditer et les soumettre, ce qui peut être une source de frustration pour les policiers chargés de rédiger des milliers de rapports chaque année. « Quand vous pensez au métier de policier, vous pensez à mettre les méchants en prison, à aider les victimes de crimes, à être là pour votre communauté, à vous engager auprès des citoyens », explique le sergent Robert Younger du département de police de Fort Collins (FCPD) à Fort Collins, dans le Colorado. « Tout ce qui vous empêche de faire cela de manière plus engagée et plus rapide peut être une source de frustration. » Les rapports de police sont censés être un recueil de faits appliqués au droit qui montrent pourquoi la police a des soupçons à l’égard d’un individu amené dans le système judiciaire en vue d’éventuelles poursuites, explique Andrew Ferguson, professeur de droit à l’American University Washington College of Law qui étudie la façon dont les nouvelles technologies interagissent avec le droit. « Traditionnellement, les soupçons d’infraction pénale émanent de l’agent, soit de ses observations directes, soit de ses discussions avec d’autres personnes qui lui ont raconté ce qui s’est passé », explique Ferguson. « Ces traces écrites de soupçons guident le processus de justice pénale. Elles déterminent s’il y aura des poursuites, si quelqu’un sera placé en prison, s’il y a des questions constitutionnelles concernant les requêtes », poursuit-il. « Souvent, elles servent de base à un accord de plaidoyer, car la plupart des affaires ne sont pas jugées. » La manière dont ces traces écrites sont compilées et finalement rédigées pourrait cependant être sur le point de connaître un changement majeur aux États-Unis. Plusieurs fournisseurs ont lancé des produits au cours de l’année écoulée qui prétendent utiliser l’intelligence artificielle (IA) pour aider à la rédaction des rapports de police. « Ce qui est intéressant dans ce nouveau monde, c’est qu’une grande partie du document sera créée par l’analyse prédictive de texte via l’IA, ce qui signifie que l’ordinateur, l’algorithme, génère les soupçons et que ce seront les faits sous-jacents de ce qui se passera dans cette affaire », explique Ferguson. #### Nouvelles technologies Environ 62 % des services de police locaux aux États-Unis ont utilisé des caméras corporelles en 2023, l'année la plus récente pour laquelle des données sont disponibles, selon une analyse du [Bureau des statistiques judiciaires (BJS) du ministère de la Justice des États-Unis].](https://bjs.ojp.gov/document/lpdppt20st.pdf) Tous les services de police des États-Unis qui servent 1 million de personnes ou plus ont utilisé des caméras corporelles d'ici 2020. Bon nombre de ces services utilisent un produit de caméra d'Axon, y compris le FCPD qui a commencé à utiliser les caméras corporelles Axon au début des années 2010. Le département compte 238 agents assermentés et de service communautaire et environ 100 autres membres du personnel. Younger, un vétéran de 24 ans qui supervise la mise en œuvre de la technologie pour la force, affirme que relier tous les différents systèmes technologiques que les agents utilisent dans le cadre de leur travail peut faire de la rédaction de rapports de police une entreprise très chronophage. Certains agents rédigeaient leurs rapports de police alors qu'ils étaient dans leur véhicule en patrouille. D'autres policiers, en revanche, attendaient la fin de la journée pour retourner au commissariat ou au poste secondaire et rédiger leur rapport, un processus qui ajoutait parfois beaucoup de temps à leur journée de travail, ajoute Younger. Le FCPD a expérimenté plusieurs types de technologies pour résoudre ce problème. Lorsque Younger a rejoint la police, les policiers faisaient un enregistrement audio de leur rapport de police sur une mini-cassette. Cet enregistrement était ensuite envoyé à un transcripteur, qui le transcrivait, le compilait dans un rapport de police et le renvoyait au policier pour qu'il le relise. Le processus prenait cependant plusieurs semaines, alors le FCPD a changé le processus en demandant aux policiers de taper eux-mêmes leurs rapports, puis de les dicter automatiquement. « Chaque fois que nous trouvions quelque chose, nous écourtions un peu notre temps de travail, mais nous ne réduisions peut-être pas la frustration », explique Younger. « Nous voulions accroître l'efficacité et réduire la frustration des policiers. » Axon souhaitait développer un produit pour résoudre ce problème, qui est répandu dans les services de police à travers le pays, explique Noah Spitzer-Williams, chef de produit principal chez Axon. L'entreprise disposait d'une caméra corporelle et d'un produit de transcription efficaces, mais des avancées technologiques supplémentaires étaient nécessaires pour pouvoir aider au processus de rédaction du rapport. « Nous avions cette vision d'avoir ces caméras corporelles là-bas. Elles enregistrent tous ces incidents », explique Spitzer-Williams. « Imaginez si nous pouvions d'une manière ou d'une autre convertir cela en un rapport de police ? » Les outils technologiques se sont concrétisés pour faire de cette vision une réalité lorsque des produits d'IA générative, comme ChatGPT, ont commencé à faire leurs débuts en 2022. Axon a commencé à prototyper une solution appelée Draft One qui prendrait l'audio enregistré par les caméras corporelles de la police, le téléchargerait dans le système de gestion des preuves d'Axon, sélectionnerait un type d'incident et sa gravité, alimenterait l'enregistrement dans un grand modèle linguistique, puis utiliserait l'IA générative et les sélections de l'agent pour rédiger un rapport de police. Le rapport généré serait examiné par un humain avant d'être soumis. * * * * * * Nous voulions avoir une efficacité accrue et réduire la frustration des agents. * * * * * * Spitzer-Williams explique que l'entreprise a opté pour un produit qui exploite l'audio plutôt que la vidéo, car l'audio capturé tend à raconter une histoire plus complète pour la plupart des incidents. « Si vous pensez à un incident typique, en particulier ceux de faible gravité, ce qui se passe souvent, c'est que le crime a probablement déjà eu lieu », explique-t-il. « Le suspect n'est peut-être même pas connu, il n'est peut-être plus là, mais maintenant l'agent est appelé sur les lieux et va essentiellement parler aux victimes, aux témoins, et ils sont simplement en mode recherche d'informations. » Axon a mené des projets pilotes avec deux organismes d'application de la loi, dont environ 100 heures de suivi pour voir comment Draft One se comporterait sur de nombreux types différents de rapports de police, ainsi que pour observer comment les policiers utilisaient le système sur le terrain. L'une de ces agences était Fort Collins, qui a effectué les premiers tests au début de 2024 et a eu des réunions hebdomadaires avec Axon pour discuter des changements à apporter à Draft One pour qu'il fonctionne mieux sur le terrain. Younger se souvient que, au départ, Draft One ne générait que des rapports de police de longueur moyenne à longue. Mais il arrive parfois que les agents aient simplement besoin d'un rapport court. Par exemple, des personnes appellent régulièrement le FCPD pour signaler que quelqu'un les harcèle sur Facebook. Les agents conseillent souvent à la personne qui fait le rapport comment modifier les paramètres de son profil pour limiter la capacité du harceleur présumé à interagir avec elle en ligne. Ils peuvent également rédiger un rapport de police documentant que la personne a appelé pour signaler le harcèlement et les mesures prises pour y remédier. Younger dit avoir demandé à Axon, sur la base des commentaires des agents, de créer une option de rapport de police de format court, moyen et long sur Draft One. « Parfois, j'ai besoin d'un rapport court de 200 mots ou moins. Parfois, j'ai besoin de la Magna Carta - j'ai besoin d'un bouton long et de créer un rapport très détaillé », dit Younger. Au cours de ce processus de test, Younger dit qu'Axon a été réceptif aux commentaires et a mis en œuvre les changements - y compris les options de longueur des rapports - qui ont été demandés. Axon a également travaillé avec des intervenants externes pour tester l'exactitude et la partialité du produit. « Dès le premier jour, nous avons réalisé que nous avions affaire à une technologie assez puissante dans un environnement à enjeux assez élevés », explique Spitzer-Williams. « Il s'agit de rapports de police. Ils vont avoir un impact sur la liberté des gens, et nous avons donc très rapidement commencé à consulter de nombreuses voix externes. » Axon dispose d'une équipe interne d'impact communautaire, ainsi que d'un conseil consultatif externe sur l'éthique et l'équité composé de dirigeants de la justice pénale pour apporter des points de vue divers sur la technologie. Spitzer-Williams indique qu'ils ont également discuté avec des procureurs, des défenseurs publics et des groupes communautaires au sujet du développement du produit, transformant finalement ces conversations en garanties intégrées au produit lui-même. L'une des principales garanties est que, par défaut, Draft One ne peut pas être utilisé pour rédiger des rapports de police sur des crimes ou des arrestations. « Ce n'est pas que Draft One n'a pas bien fonctionné dans ces situations », explique Spitzer-Williams. « C’est juste que ce sont évidemment des environnements à très gros enjeux, des incidents à gros enjeux. » Axon a également introduit ce qu’il appelle des « ralentisseurs » dans le flux de travail de Draft One pour s’assurer que les policiers relisent les rapports avant de les signer et de les soumettre. Lors de la rédaction d’un rapport, par exemple, Draft One insère un paragraphe contenant des situations fantastiques qui ne pourraient jamais se produire dans la vie réelle. Si ces paragraphes ne sont pas supprimés, le produit ne permettra pas de signer et de soumettre le rapport. Le produit ne permettra pas non plus de copier et de coller des informations dans le formulaire de rapport. « Nous n’essayons pas d’exposer un quelconque officier ou quoi que ce soit de ce genre », explique Spitzer-Williams. « Nous essayons simplement d’insérer ces ralentisseurs pour nous assurer qu’ils lisent vraiment tout en détail. » Axon a lancé Draft One sur le marché en avril 2024. Plusieurs services de police utilisent déjà Draft One, notamment le département de police de Lafayette en Louisiane et le FCPD. Au moment de la mise sous presse, environ 70 policiers du FCPD utilisaient la solution Draft One et Younger a déclaré que son objectif était de déployer la solution au reste de la force dans les 30 prochains jours. Il ajoute que sur la base de tests internes, la solution a réduit le temps nécessaire aux policiers pour rédiger des rapports de police d'environ 64 à 67 pour cent. * * * * * * Nous essayons simplement de mettre en place ces ralentisseurs pour nous assurer qu'ils lisent vraiment tout en détail. * * * * * * Spitzer-Williams dit qu'il n'a connaissance d'aucune affaire judiciaire qui ait utilisé un rapport de police Draft One pour condamner avec succès un accusé, mais ces affaires pourraient être jugées au cours du premier et du deuxième trimestre de cette année. Actuellement, ce produit n'est pas commercialisé auprès des équipes de sécurité privées pour aider à la rédaction de rapports d'incident. Mais il est sur la table pour être examiné à l'avenir. « Nous avons conçu et développé Draft One, ainsi que toutes les mesures de protection et l’état d’esprit responsable de l’IA, pour pouvoir l’adapter à d’autres cas d’utilisation et secteurs similaires », explique Spitzer-Williams. « Je pense que nous sommes convaincus qu’il existe d’autres opportunités au-delà du service de police traditionnel. » Ferguson a commencé à faire des recherches sur Draft One à l’époque où Axon a lancé le produit sur le marché. Il était particulièrement intéressé car il s’agissait d’une solution d’IA, disponible aujourd’hui, qui cherchait à résoudre un problème de faible technologie qui afflige les services de police depuis qu’ils ont commencé à rédiger des rapports. Au départ, Ferguson se méfiait de la manière dont l’IA pouvait capturer avec précision ce qui se passait dans le monde réel, en particulier compte tenu de certains des dangers et des erreurs des premiers modèles d’IA. Mais lorsqu’il a commencé à étudier l’histoire des rapports de police, il a été frappé par l’idée erronée selon laquelle ces rapports sont des éléments constitutifs du système de justice pénale, car même ceux rédigés par des humains ne sont pas les plus fiables. « Les policiers traitent de nombreuses affaires au cours d’une journée », explique Ferguson. « Parfois, ils doivent revenir à leur bureau et se fier à leur propre mémoire humaine, se souvenir de ce qui s’est passé et remplir une page blanche, ce qui, comme nous le savons tous, comporte ses propres problèmes et défauts. Il n’était pas aussi évident pour moi que ce rapport de police infusé par la caméra corporelle de la police, indépendant de l’IA, soit nécessairement négatif. Il pourrait en fait fournir plus d’informations ou aider l’agent à se souvenir de ce qui s’est réellement passé qu’il ne le pensait initialement. » Son analyse, publiée dans l’article *Generative Suspicion and the Risks of AI-Assisted Police Reports *(partagé avec *Security Management et soumis à des revues juridiques pour publication plus tard cette année), a cependant révélé quelques domaines de préoccupation. Il existe près de 20 000 services de police aux États-Unis, et chacun opère dans un district unique avec des facteurs de risque, des données démographiques différentes et des types de criminalité. Tester un produit d’IA dans une juridiction peut le rendre adapté à cet endroit, mais moins pour une autre juridiction extrêmement différente, a constaté Ferguson. « L’une des réalités du maintien de l’ordre aux États-Unis est que c’est une expérience très différente de faire le maintien de l’ordre dans le centre-ville de Manhattan que dans une zone rurale du Wyoming », ajoute-t-il. « Si vous vendez une technologie qui a été modélisée et normalisée sur la base d’un scénario typique, puis qui est appliquée dans un scénario différent, vous pouvez rencontrer des problèmes. » Ferguson compare cela aux technologies de police prédictive, qui ont été initialement normalisées et testées à Los Angeles, en Californie, puis utilisées ailleurs aux États-Unis, bien qu’il n’y ait aucune preuve que la solution créée pour une grande ville fonctionnerait bien dans une petite ville. Il y voit un avertissement pour les utilisateurs d’être prudents lorsqu’ils s’appuient sur les modèles fournis par un produit d’IA qui a été appliqué dans un contexte différent. * * * * * *Si vous vendez une technologie qui a été modélisée et normalisée sur la base d’un scénario typique, puis qui est appliquée dans un scénario différent, vous pouvez rencontrer des problèmes. * * * * * * Axon a créé un produit qui comprend des pistes d’audit sur le fonctionnement de l’IA et d’autres moyens de vérifier l’exactitude tout en conservant la surveillance humaine. Mais l’essentiel, selon Ferguson, est que les services de police eux-mêmes suivent ces pratiques. « L’idée de s’assurer qu’un humain participe à la rédaction de ce rapport est évidemment positive, une bonne idée, mais nous ne savons pas vraiment comment cela fonctionne dans la pratique, car il n’y a aucune obligation de conserver toutes les pistes d’audit ou de s’assurer qu’il y a une double vérification pour s’assurer que tout fonctionne comme Axon l’a conçu », ajoute Ferguson. Le FCPD, par exemple, utilise Draft One pour tous les rapports de police et a désactivé la fonction de ralentisseur qui insère un scénario fantastique dans le rapport que l’agent doit supprimer lors de la vérification. Younger dit que le FCPD souligne aux agents qu’ils sont responsables de s’assurer que toutes les informations contenues dans le rapport de police sont exactes avant de le signer et de le soumettre à leur superviseur pour examen. « Nous sommes donc convaincus qu’il s’agit simplement d’un autre outil dans notre boîte à outils et qu’il n’est pas différent de tout ce que nous avons déjà fait, que ce soit lorsque j’appelle quelqu’un et qu’il rédige [le rapport] ou que ce soit Draft One qui crée le brouillon et que je le modifie et l’édite. C’est exactement le même processus », ajoute Younger. Ferguson n’a pas connaissance de cas où les avocats de la défense s’opposent à l’utilisation de rapports de police générés par l’IA, ce qui pourrait être dû au fait qu’il n’est pas toujours clair si un rapport de police a été rédigé par un agent ou un produit d’IA. Dans le cas de Draft One, les agents devraient suivre les instructions pour inclure une clause de non-responsabilité Axon au bas de leur rapport. Le FCPD, par exemple, n’inclut pas cela dans ses rapports de police compilés à l’aide de Draft One. Ferguson, qui était auparavant avocat de la défense, dit qu’il prévoit qu’il y aura des arguments selon lesquels les rapports de police générés par l’IA ne sont pas fiables en eux-mêmes pour arrêter quelqu’un et devront être vérifiés à deux reprises par rapport à la séquence vidéo elle-même. Il pourrait également arriver que l’avocat de la défense identifie une erreur dans un rapport de police généré par l’IA qui altère la manière dont le tribunal ou le parquet envisage l’affaire. « Tout cela pourrait avoir un impact sur la question de savoir s’ils ont trouvé la bonne personne ou s’il y a des questions constitutionnelles à régler », explique Ferguson. « Je pense que les avocats de la défense vont s’y opposer, car c’est l’un des éléments essentiels de la communication des preuves dans chaque affaire pénale. Nous verrons comment ils vont le contester en se basant sur le manque de fiabilité potentiel de l’IA génératrice du rapport. » Certaines juridictions prennent des mesures préventives. Un bureau de poursuite de l’État de Washington, dans le comté de Kings, aux États-Unis, a déclaré qu’il n’accepterait pas les rapports générés par l’IA pour le moment. « Nous ne craignons pas les avancées technologiques, mais nous avons des inquiétudes légitimes concernant certains produits actuellement sur le marché », a déclaré le procureur adjoint en chef Daniel J. Clark dans une note obtenue par les médias locaux. « L'IA continue de se développer et nous espérons atteindre un point dans un avenir proche où ces rapports pourront être fiables. Pour l'instant, notre bureau a pris la décision de ne pas accepter les récits de la police produits avec l'aide de l'IA. » L’Union américaine pour les libertés civiles (ACLU) a également publié un document appelant les services de police à ne pas recourir à l’IA pour rédiger leurs rapports. L’ACLU a identifié quatre raisons principales pour justifier son opinion sur cette technologie, notamment les problèmes liés à l’IA elle-même, les problèmes liés aux preuves et à la mémoire liés aux transcriptions des caméras corporelles, les problèmes de transparence et la nécessité de rappeler aux policiers de mettre par écrit les raisons pour lesquelles ils utilisent leur pouvoir discrétionnaire pour justifier leur autorité. « Comme nous le décrivons plus en détail dans notre livre blanc, la technologie de rédaction de rapports par l'IA supprime d'importants éléments humains des procédures policières et est trop nouvelle, trop peu testée, trop peu fiable, trop opaque et trop biaisée pour être insérée dans notre système de justice pénale », a écrit l'ACLU. Axon a fourni une déclaration à Security Management au sujet du livre blanc de l'ACLU, soulignant les garanties mentionnées dans cet article qu'elle a intégrées dans Draft One pour maintenir l'exactitude et la transparence. La société a également détaillé une partie du processus de développement qui a été mis en œuvre dans le produit pour tester et réduire les biais inhérents. « Axon a mené une étude en double aveugle pour comparer la qualité entre les récits de rapports rédigés uniquement par des agents et les récits générés par Draft One puis édités par un agent », indique le communiqué. Français « Les résultats ont montré que Draft One fonctionnait aussi bien ou mieux que les rapports narratifs rédigés uniquement par les agents sur cinq dimensions, notamment l'exhaustivité, la neutralité, l'objectivité, la terminologie et la cohérence. Cette étude a été menée auprès de 24 experts indépendants, dont des procureurs de district, des personnels de commandement des opérations sur le terrain et des spécialistes de l'inclusion. » Axon possède une certification Criminal Justice Information Services (CJIS) de Draft One, qui lui interdit de partager ou d'utiliser les rapports de police des clients pour la formation à l'IA. « C'est le cas pour tous nos produits : nous nous conformons au CJIS et il nous est interdit d'utiliser ces données à d'autres fins que la fourniture de notre service », a déclaré Axon. #### Utilisation de la sécurité privée Une solution d'IA pourrait être utile aux agents de sécurité privée qui ont peu de temps pour rédiger leurs propres rapports, et ce cas d'utilisation ne présente pas les mêmes problèmes que celui des services de police utilisant l'IA pour la rédaction de rapports, explique Ferguson. « En général, ce sont juste des rapports indiquant que quelque chose s'est produit », ajoute-t-il, donnant l'exemple d'une personne suspecte se présentant dans une usine en dehors des heures de bureau. « Il faut probablement que cela soit consigné par écrit. Mais rien ne s'est passé. Personne n'est arrêté. Il n'y a pas de poursuites judiciaires à venir. Cela permettrait probablement à cet agent de sécurité de gagner du temps si un rapport assisté par l'IA était rédigé pour lui. » Les agents de sécurité sont généralement chargés de rédiger des rapports d'incident pour documenter les événements qui constituent une violation des règles ou des règlements de la propriété où ils travaillent - ou même un incident criminel, explique Eddie Sorrells, CPP, PCI, PSP, président de DSI Security. « Les éléments de base que la sécurité privée enseigne depuis plusieurs années sont que l'agent de sécurité doit avoir tous les faits de base - le qui, quoi, quand, pourquoi et où - dans un rapport d'incident », explique Sorrells. « Selon le site, il peut s'agir de quelque chose d'assez fréquent ou de quelque chose d'assez rare. » Une fois qu'un rapport d'incident est déposé, il remonte généralement la chaîne pour être examiné par un responsable pour s'assurer qu'il est complet. Ce processus peut être accéléré si l'incident documenté est grave, comme un vol de biens de l'entreprise ou une agression dans le bâtiment. Parfois, les responsables envoient des rapports aux agents de sécurité en leur demandant plus de détails sur l'incident documenté, comme l'étage du bâtiment où l'incident a eu lieu et l'heure à laquelle il s'est produit. « J'ai toujours dit à notre équipe en formation au fil des ans que le cheminement de ce rapport d'incident peut prendre de nombreuses directions différentes », ajoute Sorrells. « Il peut être versé dans un dossier, et de nos jours, il s'agit généralement d'un fichier électronique, ou il peut se retrouver dans une affaire judiciaire. Il peut également aboutir à une enquête des forces de l'ordre. » Le processus de rédaction, de modification et de soumission des rapports d'incident peut prendre du temps. Au fil des décennies, les services de sécurité ont examiné diverses mesures pour rationaliser le processus, notamment la création de formulaires de type modèle que les agents doivent remplir énumérant les informations critiques nécessaires pour documenter l'incident. Certaines entreprises pourraient étudier comment utiliser l'IA dans le cadre de ce processus. Sorrells dit que l'idée a pris beaucoup d'ampleur au cours de l'année écoulée, car les gens se sont habitués à utiliser des outils d'IA. « Les gens utilisent l'IA de tant de façons différentes, il est certainement logique que nous commencions à l'utiliser pour des choses comme la rédaction de rapports », ajoute Sorrells. « Pour moi, il y a beaucoup d’avantages et beaucoup d’inconvénients. Personnellement, je pense que c’est quelque chose que l’industrie devrait adopter à un certain niveau. Mais en même temps, ils doivent s’attaquer à certains des facteurs qui devraient être atténués avant que nous n’adoptions pleinement ce nouvel outil. » L’avantage principal de l’utilisation de l’IA est qu’elle rendrait le processus de rédaction de rapports plus efficace. La plupart des grandes sociétés de sécurité privées utilisent déjà un processus de rapport électronique – où les agents de sécurité rédigent et classent les rapports d’incident par voie électronique au lieu de les rédiger manuellement sur papier – donc l’ajout de l’élément IA serait bénéfique du point de vue de la gestion du temps et permettrait de normaliser les rapports, explique Sorrells. « Nous prêchons toujours que nous devons avoir des rapports d’incident dans un format standard, qu’ils ne soient pas très différents d’un agent à l’autre », ajoute-t-il. « Cela peut normaliser cela. » Les outils d’IA pourraient également permettre aux agents de sécurité de passer moins de temps sur les rapports et plus de temps à être sur le terrain comme moyen de dissuasion visible et à observer les conditions du site, dit Sorrells. L’introduction de l’IA dans ce processus présente cependant des inconvénients. Selon Sorrells, la sécurité doit être consciente de la façon dont elle s'appuie sur la technologie et de ce qui se passe si cette technologie échoue. « Les agents deviennent-ils moins compétents en matière de rédaction de rapports ? S'ils doivent rédiger un rapport manuel et que l'IA n'est pas là, ou que c'est une situation où ce n'est pas approprié, comment peuvent-ils alors revenir à la capacité de rédiger ces rapports ? », demande-t-il. « Cette dépendance à la technologie peut parfois nous causer des problèmes si nous sommes obligés de le faire à l'ancienne. » Au FCPD, par exemple, les recrues sont évaluées sur leurs compétences en rédaction et en édition. Au cours de leur formation initiale, lorsqu'ils travaillent sur le terrain avec un agent de formation, Younger dit que les nouveaux agents n'utiliseront pas Draft One pour rédiger des rapports de police afin de s'assurer qu'ils développent de solides compétences en rédaction nécessaires pour les rapports, ainsi que pour les communications générales que les agents doivent envoyer - mémos, e-mails et mises à jour aux parties prenantes internes. * * * * * * Cette dépendance à la technologie peut parfois nous causer des problèmes si nous sommes obligés de le faire à l'ancienne. * * * * * * Sorrells souligne également les problèmes potentiels de confidentialité et de sécurité liés à l'utilisation de l'IA pour la rédaction de rapports d'incident. Certains États américains ont des lois différentes sur la manière dont l'IA peut être utilisée et sur la manière dont les données doivent être protégées. En outre, il pourrait y avoir des inquiétudes concernant le fait que des agents soient invités à témoigner devant un tribunal au sujet d'un rapport d'incident rédigé par l'IA dont ils étaient responsables. « Si je suis déposé ou si je suis devant un tribunal et que quelqu'un conteste ce rapport, par exemple, et me demande : "Avez-vous rédigé ce rapport ?" Cela peut aller dans les deux sens », explique Sorrells. « Certaines personnes peuvent dire : "Oui, je l'ai fait", et vous vous retrouvez alors dans le dilemme de : "Avez-vous vraiment rédigé ce rapport ?" » Une autre préoccupation concerne les nuances qui entrent en jeu dans la rédaction des rapports. Lorsque les agents de sécurité rédigent leurs propres rapports, ils doivent aborder des problèmes contextuels que l'IA pourrait manquer, simplifier à outrance ou sur lesquels elle pourrait tirer des conclusions inexactes. Par exemple, en cas d’effraction dans un bâtiment, un rapport généré par l’IA peut déterminer qu’un individu aperçu en train de rôder près du bâtiment plus tôt dans la journée est responsable de l’effraction sans preuve pour étayer cette conclusion. « Nous prônons vraiment la rédaction de rapports, qui reposent uniquement sur les faits. Nous avons juste besoin des faits », explique Sorrells. « Nous n’avons pas besoin de faire des suppositions ou des hypothèses qui ne sont pas étayées par les faits. » Pour les responsables qui réfléchissent à la manière dont l’IA pourrait être intégrée au processus de rédaction des rapports d’incident, Sorrells conseille de réfléchir d’abord à la plateforme technologique que vous utilisez. Évaluez si elle est digne de confiance, fiable et comment les modèles sont construits. Il est également important de réfléchir au moment où il serait approprié d’utiliser l’IA pour aider à la rédaction des rapports d’incident, qu’elle soit utilisée pour fournir des faits de base au lieu de tirer des conclusions, de former les agents à l’utilisation du système, puis d’en assurer la supervision. « Vous ne pouvez pas omettre cette étape finale où quelqu’un examine et examine [le rapport] parce que, encore une fois, qui sait où cela va nous mener à l’avenir ? » « Cela peut s'avérer très critique dans un cas juridique, une réclamation d'assurance, ou encore en ce qui concerne la responsabilité du client, ou encore en cas d'incident de recours à la force, ou encore pour la responsabilité personnelle de l'agent de sécurité, explique M. Sorrells. Ils doivent veiller à ce que le document soit examiné et approuvé de manière appropriée. »