Incidents associés
Un différend fiscal entre un ranch dans le désert du Néguev, au sud d’Israël, et l’administration fiscale du pays a donné lieu à un problème qui pourrait avoir des répercussions considérables sur la capacité du public à surveiller et même à comprendre les actes du gouvernement.
La question, actuellement débattue au ministère de la Justice, est de savoir si un logiciel ou son code source peut être considéré comme une « information » que les autorités sont tenues de divulguer au public.
L'histoire a commencé en 2014 lorsque la ferme Har Shemesh, qui ne fait partie d'aucune communauté, a demandé à l'administration fiscale d'expliquer comment elle avait calculé une amende qu'elle devait payer.
Les responsables de l'administration n'ont pas pu expliquer comment ils étaient arrivés au montant final de l'amende, affirmant que le calcul avait été effectué automatiquement par leur logiciel informatique. Les propriétaires de la ferme ont demandé plus de détails, demandant éventuellement le programme ou son code source afin qu'ils puissent examiner la formule de calcul de leur amende. Cependant, l'administration fiscale a refusé.
Le tribunal de district a rejeté l'appel de la ferme pour recevoir le code du programme et a accepté la position de l'État. La ferme a alors fait appel devant la Cour suprême et le Mouvement pour la liberté d'information s'est joint à l'affaire. L'État est revenu sur sa position et le ministère de la Justice débat maintenant de la question.
Discrétion logicielle
La ferme, représentée par son propriétaire Moshe Har Shemesh, a fait valoir que l'ordinateur de l'administration fiscale était programmé pour exercer son pouvoir discrétionnaire à la place des fonctionnaires de l'administration. Il a déclaré que le logiciel a le pouvoir de faire ce que les greffiers des impôts sont censés faire : imposer des amendes aux déclarations de revenus tardives, déduire les déclarations de revenus, imposer des sanctions financières et même refuser le droit à la retenue à la source.
La décision de l'autorité d'accorder ces pouvoirs à un logiciel est une décision, affirme-t-il, qui a été prise en tant que mesure administrative, sans débat public et en l'absence d'une sensibilisation suffisante du public aux implications, a-t-il soutenu.
Non seulement la discrétion a été donnée à l'ordinateur, mais les directives pour l'exécuter n'ont pas été rendues publiques ni même aux employés de l'autorité eux-mêmes, a-t-il déclaré.
"Lorsqu'un système informatisé est chargé de mettre en œuvre la procédure, les directives de fonctionnement sont programmées dans le logiciel. Ils sont inédits et inconnus, mis à part ces "gourous de la programmation" qui les ont programmés dans le langage informatique », a-t-il déclaré.
Har Shemsh a mentionné un recours collectif intenté par Aiad Mahajna, qui a découvert que le même ordinateur de l'administration fiscale recalculerait les amendes pour retard de paiement de la TVA uniquement lorsque l'indice des prix à la consommation augmenterait, mais pas lorsque l'indice diminuerait. Les directives données au programme dans l'affaire n'avaient pas été mises par écrit et ni le procureur ni le public n'avaient aucun moyen de les comprendre. Ils ne pouvaient être déduits que par une laborieuse collecte de données. Le juge a statué dans l'autre affaire en faveur du plaignant et a ordonné à Israël de payer une indemnisation de plus de 2 millions de shekels.
L'administration fiscale a fait valoir devant le tribunal qu'elle n'avait aucun moyen d'extraire les directives du logiciel, car il ne s'agissait pas simplement d'appuyer sur un bouton, et qu'elle exigerait une allocation déraisonnable de ressources.
"Pour obtenir les directives, il faudrait que l'autorité utilise des techniques d'ingénierie inverse et trace les processus de programmation", a écrit l'autorité. « Il n'est pas du tout certain que ces techniques donneront les résultats escomptés. De plus, cela obligerait l'autorité à mettre en place une équipe de programmeurs pour identifier tous les logiciels de l'ordinateur traitant de cette demande.
L'autorité a estimé que la tâche prendrait des milliers d'heures de travail de programmeur.
Quant à la remise du logiciel lui-même à l'appelant pour qu'il puisse en extraire lui-même les directives, l'autorité a affirmé que cela mettrait en danger la sûreté de l'État.
Une telle décision, selon l'autorité, pourrait perturber son fonctionnement, car elle ouvre le logiciel à des agents hostiles qui pourraient attaquer le système informatique critique de l'autorité et le rendre vulnérable aux cybermenaces et aux fuites de données, perturbant ainsi le système fiscal et d'autres choses.
Programmes juridiques
Le juge du district de Jérusalem, Ram Vinograd, a déclaré qu'un logiciel ne peut pas constituer une information, car il en est plutôt un produit externe, ou un "outil de travail". Le juge a fait valoir que la demande équivalait à ce qu'un bureau gouvernemental ordonne à un architecte d'intérieur de retravailler son bureau afin qu'il soit conforme aux directives légales et que le bureau lui-même devienne ainsi une « information » car il est basé sur ces exigences.
Un outil de travail, qu'il s'agisse d'un bureau, d'une machine de découpe ou d'un programme, a-t-il dit, ne se transforme pas en "information" parce qu'il a été créé pour servir des fins légales ou répondre à des exigences légales.
Il a également statué que l'autorité, qui a créé le logiciel et y a programmé ses directives, est le propriétaire de la propriété intellectuelle du logiciel. Cette propriété a une valeur financière, même si l'autorité n'envisage pas de la vendre.
En revanche, Har Shemesh a fait valoir que les directives administratives, qu'elles soient dans un dossier papier ou un logiciel informatique, ne peuvent pas être la propriété intellectuelle privée de l'autorité, tout comme la Knesset n'est pas le propriétaire des droits d'auteur de la législation et des amendements qu'elle publie.
Quant à la valeur financière, tout comme il est impensable qu'Israël achète à l'Islande les directives pour mettre en œuvre les lois fiscales de cette dernière, il est impensable qu'un État achète les directives administratives d'Israël.
Il a également déclaré que prétendre que le logiciel a une valeur financière contredit l'affirmation selon laquelle le logiciel était secret et que sa diffusion pourrait nuire à la sécurité de l'État.
"Si donner l'information à quelqu'un pouvait nuire à la sécurité de l'État, alors elle n'a évidemment aucune valeur commerciale, car l'autorité ne la vendrait jamais et ne compromettrait pas la sécurité de l'État", a-t-il déclaré.
Le Mouvement pour la liberté de l'information, une ONG apolitique créée pour faire avancer le droit à l'information en Israël, a demandé à se joindre à l'appel en tant qu'ami de la Cour et à montrer pourquoi le terme « information » comprend toutes les informations qui peuvent être transmises - y compris un logiciel, un code ou un algorithme.
L'ONG a déclaré que la loi sur la liberté d'information visait à permettre au public de superviser les activités du gouvernement et que dans un monde technologique, où les décisions sont également prises par des ordinateurs, les logiciels doivent également être soumis à un examen minutieux. Le public ne peut pas superviser le gouvernement si la loi est « cachée » dans l'algorithme d'un programme. En outre, cela exempte totalement les gardiens de l'auto-examen.
Les militants de l'ONG ont déclaré que depuis des années, les responsables gouvernementaux utilisaient divers logiciels informatiques, tels que des logiciels commerciaux prêts à l'emploi ou des logiciels conçus pour l'État par des sociétés commerciales. Dans de nombreux cas, le logiciel n'est livré qu'avec un fichier exécutable (fichier .exe) écrit en langage informatique, contrairement à un code source compris par les programmeurs. Dans ce cas, toute la supervision est conditionnée à la rétro-ingénierie, dans laquelle des expérimentations prolongées sont menées sur le logiciel pour connaître son code source. En l'absence d'un être humain pour prendre la décision et sans logiciel open source, il n'y a pas de véritable superviseur - un employé public, un gardien ou le public - sur la façon dont les décisions sont prises.
Les êtres humains, comme les employés de l'administration fiscale dans ce cas, ont tendance à se fier à la décision de la machine, mais le résultat atteint par la machine n'est pas nécessairement le bon, et les décisions de la machine doivent être supervisées. Ce n'est pas une affirmation théorique - un logiciel évaluant le danger des détenus aux États-Unis, par exemple, a attribué une importance considérable à la couleur de peau du détenu et à l'augmentation des biais structurels dans le système judiciaire.
Logiciel d'état open source
L'ONG affirme que les considérations dans la conception du programme ou l'intelligence artificielle remplaçant désormais, bien que partiellement, le jugement humain, doivent être ouvertes au public. Les lois sur la protection de la vie privée dans le GDPR européen exigent qu'en cas de décisions informatiques automatiques, des informations soient fournies concernant le raisonnement impliqué dans la décision, sa signification et ses implications attendues. Une loi française de 2016 oblige à expliquer les décisions, y compris les processus de programmation qui ont conduit à ce.
Pour ce faire, l'État doit avoir un accès complet aux logiciels qu'il exploite, et même être open-source, le code et les logiciels étant ouverts à tous. Cela lui permet d'être examiné par d'autres.
L'utilisation de logiciels open source permettra de trouver des bogues dans le code d'un programme et de surveiller la manière dont le logiciel a été construit ou mis en œuvre. Cela permettra également à la communauté des développeurs d'améliorer le code et de détecter les vulnérabilités qu'il contient, explique l'ONG.
La position de l’ONG a été rédigée par l’avocate PDG du mouvement Rachely Edri et l’avocate Or Sadan, avec l’aide des étudiants Shir Toledano, Shahar Mandil et Igor Bistrov de la clinique de liberté d’information de Sadan au College of Management Academic Studies. Des étudiants de la cyberclinique des droits de l'homme de l'Université de Haïfa, guidés par le Dr Dalit Ken-Dror, ont également aidé.
La Cour suprême a renvoyé l'affaire devant le tribunal de district pour achever la procédure.