Problème 6136
Un conseil municipal à court d'argent utilise l'IA pour déterminer si ses résidents âgés doivent être pris en charge.
Le conseil municipal de Derby a développé un algorithme entraîné à partir des données des services aux adultes afin de formuler des recommandations sur les soins et l'assistance qu'il devrait proposer. Un humain approuvera ensuite ces suggestions ou procédera à des ajustements.
Les recommandations automatisées porteront également sur les décisions relatives aux demandes d'aide à la vie autonome, aux évaluations des soins, aux placements et aux badges bleus pour les conducteurs handicapés. Un service similaire, basé sur l'IA, gère les paiements pour besoins spécifiques aux familles d'enfants handicapés.
Les associations caritatives ont appelé à la prudence lors de l'utilisation de l'IA, car les personnes qui dépendent de ces services comptent parmi les plus vulnérables de la société.
Dennis Reed, directeur de Silver Voices, un groupe de défense des droits, a déclaré : « Nous courons après l’IA, et les personnes âgées et vulnérables sont utilisées comme banc d’essai sans aucune protection. Un robot évaluant les besoins de soins : quelle est la prochaine étape ? »
Les services aux adultes du conseil municipal de Derby ont été jugés « à améliorer » par la Commission de la qualité des soins (CQC), et les responsables se sont tournés vers l’IA, faute de ressources budgétaires pour renforcer les effectifs.
Ce projet fait partie d’un ensemble d’outils d’IA que le conseil a commandés à ICS.AI, une entreprise technologique, dans le cadre d’un contrat de 7 millions de livres sterling.
Des documents obtenus par le Telegraph grâce à des demandes d’accès à l’information montrent que l’autorité espère réaliser 6 millions de livres sterling d’économies dans les services aux adultes uniquement grâce à l’adoption de l’IA.
La municipalité est pionnière dans l'utilisation de l'IA pour les services publics et a été la première à lancer un agent vocal génératif de réponse téléphonique par IA, appelé Darcie.
Les données montrent que cet agent est capable de répondre correctement aux questions des résidents concernant la taxe d'habitation, la collecte des poubelles et autres sujets similaires environ la moitié du temps, mais rencontre des difficultés avec l'accent et l'argot locaux. Plusieurs municipalités utilisent déjà des agents ICS.AI, et certaines envisageraient de lancer des mises à jour génératives de type Darcie.
Le conseil municipal de Derby, comme de nombreuses collectivités locales, gère un service délabré après des années de coupes budgétaires. Il est confronté à un dépassement de budget de 4 millions de livres sterling pour cet exercice.
Andy Appleyard, directeur des services sociaux aux adultes, a déclaré que le conseil accusait d'importants retards et constatait une augmentation de la demande de services.
« De plus en plus de personnes se présentent à notre porte, et le niveau de complexité de leur situation est plus élevé que par le passé », a-t-il déclaré lors d'une visioconférence avec ICS.AI, publiée sur YouTube.
Notre problème était de savoir comment envisager une approche différente, sachant que, d'un point de vue budgétaire, il était impossible de se contenter d'embaucher beaucoup plus de personnel et de procéder de manière traditionnelle pour résoudre certains de nos problèmes. C'est là que l'IA est entrée en jeu.
« Au-delà de l'aspect financier, notre problème résidait dans une demande croissante, des retards importants et l'impossibilité de mobiliser davantage de ressources. Il nous fallait donc trouver une autre approche. »
Il a ajouté que les produits que Derby espérait lancer prochainement formulaient des recommandations basées sur le dossier de la personne et sur les informations recueillies par l'IA dans la base de données des services aux adultes du conseil.
« Au départ, nous recherchions un produit qui nous aiderait à formuler des recommandations sur les évaluations », a expliqué M. Appleyard. « Il était proposé qu'il puisse effectuer des recherches dans notre système et trouver des recommandations pertinentes sur la manière dont les soins et l'accompagnement pourraient être dispensés. » Les produits qui seront déployés très prochainement à Derby formuleront des recommandations spécifiques sur la forme que devraient prendre les soins et l'accompagnement.
« L'IA ne prendra jamais de décisions sur la manière dont les soins et l'accompagnement doivent être dispensés ici à Derby, mais la proposition était qu'elle puisse effectuer des recherches dans notre système et trouver des recommandations pertinentes sur la manière dont les soins et l'accompagnement devraient être dispensés.
« L'IA ne prendra pas de décisions. Ce seront les employés qui examineront les recommandations de l'IA et diront : "Je suis d'accord, c'est l'approche que je souhaite adopter." »
Hardyal Dhindsa, conseiller municipal, a déclaré que Derby s'était tournée vers « l'innovation numérique globale en matière d'IA à l'échelle du conseil » pour faire face aux coupes budgétaires imposées par le gouvernement central, qui avait réduit les services à leur plus simple expression.
Il a ajouté : « Nous avons adopté une approche centrée sur les racines, le cœur et l’esprit pour proposer des solutions d’IA innovantes aux défis auxquels sont confrontées les collectivités locales. »
« Tout le monde devrait être prudent. »
ICS.AI garantit aux conseils municipaux 5 millions de livres sterling par an d’économies grâce à cette technologie, et Derby a déclaré avoir réalisé 7,5 millions de livres sterling d’économies à ce jour. L’autorité est surveillée de près par d’autres conseils municipaux, qui se lancent prudemment dans l’adoption de l’IA.
Les conseils municipaux, plus tendus, qui peinent à soutenir leurs services avec des budgets en baisse et une demande croissante, pourraient bientôt suivre l’exemple de Derby, mais Caroline Abrahams, directrice de l’association caritative Age UK, a appelé à la retenue.
Elle a déclaré : « L’IA est là pour durer ; utilisée à bon escient, elle devrait bénéficier à tous à terme, tout en aidant les organismes publics en difficulté à gérer leurs budgets serrés.
Cependant, cette nouvelle technologie n’en est qu’à ses balbutiements. Si nous ne devons pas la craindre – et même l’adopter –, nous en sommes encore à découvrir ses atouts et ses faiblesses.
Les personnes ayant besoin de services sociaux sont par définition vulnérables. Chacun doit donc veiller à ce que son intérêt soit toujours la première considération lors de l’expérimentation de nouvelles approches et à ce que les risques qui en découlent soient correctement gérés. »