📅 This Friday, Oct 17, join us for an exceptional
@GREDEG_UMR
seminar featuring Prof
@barryfriedman1
on "Policing Agency Data Trusts." Insights from our distinguished discussants,
@nataliabielova
and
@svannuccini
. 🌟
For details and registration 👉
Âgée de 17 ans au moment des faits, cette jeune américaine et sa mère s'exposent à de lourdes sanctions pénales pour avoir avorté illégalement. En cause,
@Meta
qui a contribué à leur inculpation en fournissant à la police leurs messages privés Messenger.
13.01.2022, maîtresse de conférences depuis 6 ans, énième remarque sur mon physique. Cette fois-ci indiquant que mes cheveux « attachés », j’aurais plus de chances de devenir, un jour, peut-être, professeure des universités.
Nous y voilà, les deux pieds dans le 21e siècle : en Angleterre, manifestations étudiantes contre un algorithme.
Commentaire sur la "politique universitaire algorithmique" à venir... 🤖
Il est enfin là: *Le* rapport tant attendu du
@Conseil_Etat
sur l'
#intelligenceartificielle
.
Lecture incontournable de la rentrée pour tous ceux qui s'intéressent à la digitalisation du service public!
J’ai le plaisir, et le grand honneur, de vous annoncer l’ouverture du Master II Droit algorithmique et Protection des données que je dirigerai à la rentrée prochaine.
@DL4Torg
@uca_education
@DroitScPoNice
Le programme 🔽
Informations complémentaires :
À tous les étudiants qui suivent ce compte et aux autres: la communauté universitaire a besoin de vous. Ces écrans noirs sont le signe d’une colère et d’un combat: ceux d’une éducation de qualité. Relayez: votre soutien compte! 🖤
@VidalFrederique
"Etat plateforme", "modernisation de l'administration", "digitalisation des services publics",c'est aussi ça : l'exclusion accrue des invisibles de la République et des gens qui crèvent.
Je lance ici un
#thread
sur les pratiques et les dérives de l'administration 2.0.👇
Le master Droit algorithmique et gouvernance des données accueillera, à la rentrée prochaine, sa 2e promotion.
Une formation pluridisciplinaire (droit public & privé), avec une forte composante technologique, ouverte à l'alternance.
👇Quelques nouveautés au programme 2020-2021.
J’ai le plaisir, et le grand honneur, de vous annoncer l’ouverture du Master II Droit algorithmique et Protection des données que je dirigerai à la rentrée prochaine.
@DL4Torg
@uca_education
@DroitScPoNice
Le programme 🔽
Informations complémentaires :
La
@laquadrature
a introduit une requête en référé visant à obtenir la suspension du recours au logiciel TestWe par l'
@UnivParis8
pour la surveillance des examens à distance.
Aujourd'hui, le Sénat examine la proposition de loi relative à la reconnaissance biométrique dans l'espace public.
👉
Je replace ici notre récent rapport sur ces questions
👉
C'est reparti pour 15h!
@AssoM2DAGD
Au programme cette année : normativité digitale, redevabilité algorithmique et technologies de surveillance.
Syllabus à venir pour ceux qui seraient intéressés.
C’est officiel! Je rejoins
@ObservatoireEP
pour travailler sur les enjeux juridiques d’une technologie éthique & responsable. Merci à Matthieu Caron pour son accueil, et au plaisir des échanges à venir!
Dans la suite de notre atelier technique, et pour participer au débat public sur la
#reconnaissancefaciale
, je publie à ce jour une Tribune dans
@lemondefr
.
« L’encadrement des technologies de surveillance est une condition de la démocratie ».
Riche expérience que de rejoindre le Board Ethique de
@orange
. L'entreprise soutient une démarche originale, fondée sur les valeurs de l'IA responsable et orientée vers l'action de terrain.
Curieuse et enthousiaste à l'idée de suivre ces travaux.
Merci
@ndemassieux
@roxane_adle
[CP 📝]
@orange
annonce la création de son Conseil d’#éthique de la
#Data
et de l’
#IA
composé de 11 personnalités reconnues dans le domaine et présidé par
@srichard
⤵️
Je reprends aujourd'hui ce 🧵de veille sur la digitalisation du service public, pour y ajouter notre contribution (téléchargable ici: ).
Après une année de terrain et d'échanges, voici nos principales conclusions et recommandations 👇
1/12
"Etat plateforme", "modernisation de l'administration", "digitalisation des services publics",c'est aussi ça : l'exclusion accrue des invisibles de la République et des gens qui crèvent.
Je lance ici un
#thread
sur les pratiques et les dérives de l'administration 2.0.👇
Pour les fidèles lecteur du Recueil
@Dalloz
qui ne sont pas abattus par la chaleur, je partage quelques réflexions sur la
#reconnaissance
faciale dans le dernier numéro: encadrement des usages dans l’espace public et tension entre régime de droit public et privé.
Aujourd'hui, j'étais auditionnée par la Commission des Lois du
@Senat
dans le cadre de la mission d’information sur la
#reconnaissancefaciale
.
Des discussions techniques poussées qui furent l'occasion de rappeler l'importance d'encadrer très strictement les usages.
La situation a la triste force de l’habitude pour la condition féminine. Profond sentiment de désillusion et de colère face à un système universitaire qui doit, socialement, l’exemplarité. « On ne peut pas tout avoir madame ».
À 18h10 sur
@franceculture
, j’aurai le plaisir de participer au Temps de débat de
@fsaltiel
. Tous identifiables dans l’espace public: quels dangers pour nos libertés ?
La lecture incontournable du moment à tous les publicistes qui s'intéressent aux questions d'explicabilité algorithmique.
Nous en discuterons vendredi au sein de
@AssoM2DAGD
avec l'un de ses (tout aussi incontournables) auteurs :
@DMerigoux
Le droit du numérique, un “droit des risques, trajectif et pragmatique”.
Bravo (et merci!)
@arnaudltl
pour ces précieuses analyses. Vient à paraître (03.23) chez
@Dalloz
Retour sur un grand classique : J. Ellul, La Technique, 1990. Je chéris davantage ses écrits juridiques que philosophiques. C'est le juriste qui prend manifestement la plume au chapitre IV, dont je relève ci-dessous, à grands traits, quelques idées et intuitions marquantes🧵
Publication à ce jour de mon rapport "New Surveillance Technologies in Public Spaces - Challenges and Perspectives for European Law at the Example of Facial Recognition".
Réalisé au nom
@EUUrbanAgenda
à destination de la
@EU_Commission
Droit et Science, Archives de Philosophie du Droit 1991 t.36. Une réflexion sur l’accueil des sciences par le droit. Le propos, qui conduit la démonstration de la biologie au magnétisme, offre des pistes théoriques intéressantes. À réinvestir à l’heure de l’information numérique.
Un dernier article pour clore cette saison sur la surveillance technologique. Je partage qques observations sur la récente décision du
@Conseil_constit
(Loi JO) et la proposition de loi
@Senat
relative à la reconnaissance biométrique. Ouvrage collectif à paraître!
@CentrePerelman
Brève analyse 🧶 du projet de loi introduisant, à titre expérimental, un régime pour le traitement, en temps réel, des images de vidéosurveillance "par un système d’intelligence artificielle" en discussion au Sénat 👇
Au Recueil
@Dalloz
de la semaine, je signe pour
@ObservatoireEP
cet éditorial sur les modèles éthiques de l'
#IA
.
Dans la suite des débats initiés par nos collègues anglo-saxons, j'envisage la formation d'un 3e modèle, "opératoire" qui appelle la juridicisation des enjeux.
Les prisons algorithmiques de la pauvreté.
Réflexions sur les risques de l'IA et les temporalités de l'action politique. Au Recueil
@Dalloz
de la semaine.
Juristes de tous horizons! Une histoire de l’Europe par le droit ou “l’histoire des valeurs qui fondent la société européenne”. Dévoré dans un endroit tout aussi inspirant 🥰.
Aux juristes de droit (public) économique : cette fantastique leçon d'Alain Supiot sur la fondamentalisation des droits des entreprises au départ de la pensée de Saleilles.
Une réflexion profonde sur le sens de la constitution économique au XXIe siècle.
Promotion du Master II DAGD 2023! Grande joie et fierté que de pouvoir accompagner ces talentueux étudiants, futurs DPO et experts en droit de l’
#IA
dans la dernière ligne droite de leur parcours universitaire.
@AssoM2DAGD
#UniversiteCotedAzur
#EURLex
Quelques réflexions sur le pouvoir et la norme à l’ère digitale inspirées par les applications de traçage.
Numéro (passionnant) de la Revue Éthique publique dédié à la
#gouvernancealgorithmique
coordonné par
@CastetsRenard
&
@lyse_langlois
💫🙏🏻 en ligne 👉🏻
Ce n'est pas le "chiffon rouge chinois" Monsieur le député, mais des centaines d'études scientifiques relatives à la vidéosurveillance intelligentes et ses traductions technologiques qui en montrent l'inefficacité, le caractère discriminatoire et le coût💶 qui inquiètent.
Discussion générale du texte
@2024ParisJo
en commission.
Le
@DeputesDem
propose de déférer proactivement le texte au
@Conseil_constit
pour s'assurer de sa constitutionnalité et que le législateur a fait bon usage de l'art 34 de la constitution.
Dans le
@Dalloz
IP/IT de ce mois, un bref état des lieux de l'encadrement de la
#reconnaissancefaciale
en Europe et quelques perspectives sur les usages à l'ère du
#Covid
.
De la permanence de la dynamique de surveillance insufflée par l'adoption de ces technologies.
Voici la version de travail du texte qui m'a conduit de l'autre côté de l'Atlantique. Pour tous ceux qui s'intéressent à la question des effets de l'IA sur les plus précaires.
Version définitive dans le superbe ouvrage de
@CastetsRenard
&
@EynardJessica
🙏
Dans le
@Dalloz
#IPIT
de ce mois de juin, pour tous ceux qui ont envie de réfléchir aux enjeux de la
#reconnaissancefaciale
sur la 🏖, voici ma modeste contribution: une réflexion sur le terrain des droits fondamentaux & un commentaire sur le rapport du
@CoE_fr
🙏🏻
@StPrevost
Le dernier rapport du
@Conseil_Etat
consacre de longs développements à la numérisation du service public : de Kafka aux promesses des futurs algorithmiques de l'administration.
Conclu à ce jour (🤪): rapport sur la
#Redevabilit
éAlgorithmique de l'administration 🇫🇷 pour
@iacl_aidc
coordonné par
@DominiqueCustos
.
Le sujet m'est apparu tout aussi complexe que décisif. Quelques remarques (non conclusives)👇.
Conclusion d'un article sur le droit à la
#ViePriv
ée et les usages de la
#ReconnaissanceFaciale
pour le
#Dalloz
IP/IT.
Les constats sont amères alors que l'état de droit semble un bien faible rempart face au déploiement de la société de surveillance.
🙏
@StPrevost
@arnaudltl
C'était ce matin, sur
@franceculture
.Je confirme ma position : l'interdiction de la
#ReconnaissanceFaciale
doit demeurer le principe et son autorisation, une exception circonstanciée dans le cadre d'un régime d'exploitation des données garant des libertés.
(Re)découvrir l’iconoclaste Lewis Mumford au travers de ce court texte de 1964, dans lequel l’auteur livre son testament: une philosophie politique des techniques dénonçant le « triomphe des technologies autoritaires ».
Les prisons algorithmiques de la pauvreté.
Réflexions sur les risques de l'IA et les temporalités de l'action politique. Au Recueil
@Dalloz
de la semaine.
Début, à ce jour, du cours de "Service public de la donnée" au sein des masters
@Univ_CotedAzur_
@AssoM2DAGD
& DCPA.
👇 Bibliographie sélective regroupant quelques références doctrinales françaises incontournables.
#OpenData
Tout autre suggestion bienvenue!
Relecture des épreuves pour un ouvrage collectif
@SFFP2017
consacré à la légitimité. J'avais eu beaucoup de plaisir à réfléchir au sujet. Pour ceux qui seraient intéressés, une version de travail de mon article est disponible 👉
A paraître le 12/05.
La pépite du jour : les enjeux de la « régulation technologique » pour les libertés aux Mélanges Colliard, Droit et Libertés à la fin du XXe siècle, influence des données économiques et technologiques, 1984.
Très heureuse de voir la contribution de ces deux doctorants prometteurs
@Mehdi_KMI
&
@_Pierre_Legros
dans le dernier numéro de la Revue de Droit Fiscal
@LexisNexisFr
. Retour sur le régime juridique du contrôle
fiscal algorithmique.
Aujourd'hui, début du cours "Etat plateforme et gouvernement ouvert" au sein du Master Droit algorithmique et gouvernance des données
@3IAcotedazur
@AssoM2DAGD
Je partage une petite bibliographie sélective de la 1ere séance, consacrée au "Service Public de la Donnée". 👇
À la suite du colloque sur la transformation numérique du service public, je conclue à ce jour ma contribution sur les actes numériques.
Les recherches m'ont passionnées : plongée dans l'automatisation des SP et réflexion quant à leur juridicité. Merci
@CluzelLucie
@cathprebissy
🚨 Grande nouvelle pour le Master II Droit algorithmique et gouvernance des données : la formation décroche le label
@3IAcotedazur
!
Une belle reconnaissance qui installe cette jeune formation en droit dans le paysage de l'
#IA
.
Demain, Cours de
#deeplaw
dans le Master Droit algorithmique et gouvernance des données
@DL4Torg
@AssoM2DAGD
, avec une séance spéciale "Technologies de surveillance & Etat de droit".
Une petite bibliographie sommaire, que je partage 👇pour ceux qui s'intéressent au sujet.
Aux origines de l’
#opendata
, le long chemin de la transparence administrative qui suscitait la plus grande circonspection. Aux (formidables) Mélanges Jacques Ellul, mars 1983.
🗓️26.05 prochain : webinaire sur les enjeux de la digitalisation du service public sous l'égide de
@ObservatoireEP
@MSHSSudEst
Au programme : échanges pluridisciplinaires sur les vulnérabilités numériques et l'administration.
Inscriptions en ligne :
Retour vers le futur : excellent ouvrage collectif sur les univers virtuels qui témoigne du fait que oui, le juriste peut être en avance sur son temps, voire sur la réalité (au devenir incertain…)
#web3
Le Master II DAGD fait sa rentrée!
Aujourd'hui débutaient les ateliers techniques qui offriront, cette année encore, une introduction au langage informatique, à la statistique, l'algorithmie et la physique quantique 👇
Excellent dossier de la
@ColumLRev
sur
#droit
&
#IA
. Je recommande particulièrement l'article de
@katecrawford
&
@Lawgeek
"AI Systems as State as State Actors" qui invite à repenser la relation des pouvoirs publics aux opérateurs techniques.
Le Master II Droit algorithmique et gouvernance des données de
@DroitScPoNice
a accueilli sa 1ère promotion, sous le parrainage du Pr. K. Benyekhlef. Merci à
@uca_education
et tout l'équipe enseignante pour leur confiance et leur engagement au service de cette nouvelle formation.
"Supprimer la
@CNIL
pour suivre les fichés S dans l'espace public". Concentré d'inepties juridiques, politiques et techniques. 👇
Témoigne d'une méconnaissance à tous égards de ce que peut (et ne peut) faire la reconnaissance faciale, de surcroit dans un régime démocratique.
Comment mieux suivre les fiches S et les individus dangereux ? "L'intelligence artificielle et la reconnaissance faciale, pour mieux s'armer " Christian Estrosi, Maire de
@VilledeNice
au micro de
@WendyBouchard
@cestrosi
#MaFRance
@CNIL
J2 à Ottawa, sous le signe de l'
#IA
et des vulnérabilités. Merci à
@CBCRadioCanada
pour l’intérêt porté à nos travaux
@ObservatoireIA
@CastetsRenard
Les exigences démocratiques de notre contrat social imposent une attention particulière aux effets de l'IA sur les plus précaires.
Le Livre Blanc, "Surveiller les foules - Pour un encadrement des IA physiognomoniques", co-écrit avec
@djokeller_LP
pour l'
@ObservatoireEP
paraitra vendredi, en ligne.
Dans la perspective des échanges à venir, quelques éléments d'analyse 🧶👇
Digitalisation du service public : pour une éthique numérique inclusive. Voici les 9 recommandations que nous formulons pour améliorer la situation des plus vulnérables 👉
A l'ordre des débats du jour, en attendant le rapport final à paraître le 15.06.
Retour sur un cas d'usage de l'administration algorithmique : le crédit universel britannique. Conçu pour simplifier les démarches administratives en agrégeant les aides sociales, il se révèle désastreux pour les plus modestes.
Il est des moments merveilleux dans la carrière universitaire.
Accompagner ces deux promotions de Master a été un privilège et une joie. Belle route à eux et longue vie au Master II DAGD
@AssoM2DAGD
Développer des outils de police prédictive inefficaces et biaisés pour 10 millions de £, dans un effort de « normalisation » (ô joie!) avorté... Puissent les errances 🇬🇧 nous servir de leçon, et les deniers publics soutenir de plus nobles projets...
Grand plaisir que celui de recevoir l'ouvrage de
@vincentberthet
et Leo Amsellem sur l'usage des algorithmes en matière sécuritaire. Sujet d'une éminente actualité, que je me réjouis de lire et de partager ici.
Grand merci aux auteurs!
Enquête bienvenue sur la vidéosurveillance automatisée ou le « troublant mélange des genres »: vendue comme l’« outil à tout faire pour la gestion urbaine », elle décuple « la capacité de contrôle policier qui engendre les conditions matérielles d’une surveillance généralisée ».
Les aventures universitaires, c’est aussi retrouver ses doctorants en stage à l’autre bout du monde! 2 stars en devenir à suivre:
@_Pierre_Legros
sur les données de santé &
@BlaszykLeonie
sur la désinformation!
Merci à l’
@ObservatoireIA
pour l’expérience et l’accueil !
Je découvre le précieux rapport réalisé au sein de
@_DINUM
sur "l'Évaluation des besoins de l’État en compétences et expertises en matière de donnée". Il montre combien les enjeux de culture et de formation sont essentiels à l'effectivité des droits algorithmiques. 👏
@schignard
Ds le cadre du débat démocratique entourant la gestion numérique de la crise, nous initions un collectif de data scientists, ingénieurs et juristes
#TFC19
pour être force de proposition. Nous soumettons ce soir la V1.0 de notre dispositif techno-normatif.
[THREAD] Alors que le recours à la
#ReconnaissanceFaciale
dans l'espace public occupe une place centrale dans le débat public, la multiplication des dispositifs de reconnaissance "comportementale" et "émotionnelle" suscite de vives inquiétudes.
Hier, l’université nous annonçait que les enseignants étaient prioritaires. Ce soir j’ai reçu ma 1ère dose de
#Vaccin
: de quoi entrevoir quelques perspectives heureuses, comme le retour aux amphis. Vive la France et vive la science!
Très heureuse de l'aboutissement de ce travail conduit au sein de la Fablex avec nos étudiants.
Merci aux fabricateurs pour leur travail, à
@jja_fr
@JCharpenet
,
@MarionMusso
,
@uca_research
pour le précieux soutien institutionnel
#IDEX
et l'ensemble des acteurs de terrain.
📢 La 1ère version du rapport de la Fablex, "La
#ReconnaissanceFaciale
dans l'espace publique - Une cartographie juridique européenne" est en ligne 👇.
Une étude de droit comparé pour saisir les enjeux juridiques de la technologie dans 9 Etats européens.
🇪🇺🇩🇪🇧🇪🇪🇸🇫🇷🇮🇹🇳🇱🇨🇿🇬🇧🇸🇪
La lecture géniale du week-end: 29 auteurs, autant de problématiques et de perspectives variées sur la transition numérique.
Très heureuse d’y avoir co-signé une petite contribution sur l’e-administration avec ma chère
@CluzelLucie
! ✨
Merci et félicitations à
@Raphnin
Quelques éléments d’analyse (entre autres) sur l’encadrement des technologies de surveillance en 🇫🇷 et l’articulation de la proposition de loi sur la biométrie & l’AIA.
Merci à
@emile_marzolf
pour ce riche échange autour de l’administration algorithmique.
A lire pour tous ceux qui s'intéressent aux questions de
#d
ésinformation, et plus largement à la régulation des
#R
éseauxSociaux : l'excellent Rapport Bronner.
Richesse du diagnostic, pragmatisme des propositions, modèle de co-régulation. 👉
@HValoche
*L'ouvrage* de référence! 💫Encore un immense bravo à
@CastetsRenard
et
@EynardJessica
!
Accessoirement, un grand merci de m'avoir sollicitée sur les questions de pauvreté et
#IA
: parmi les articles que j'ai eu le plus grand plaisir à écrire.
[Parution] Un droit de l’intelligence artificielle. Entre règles sectorielles et régime général. Perspectives comparées, dir. Céline Castets-Renard et Jessica Eynard
@larciergrp
@CastetsRenard
SCOOP with colleague
@bsmithmey
:
The EU is considering to ban the use of facial recognition in public spaces for up to five years until safeguards to mitigate the technology's risks are in place, according to a draft we obtained.
Plongée dans les affres des algorithmes de
@pole_emploi
, je tombe sur cette phrase qui traduit notre réalité normative, dont les standards techniques sont aujourd'hui une composante incontournable: "Ces algorithmes sont la traduction de la réglementation de l’assurance chômage".
En pleine réflexion/rédaction sur le fichage des indigents (qui donne le vertige quand on prend conscience du spectre et de la granularité des données), je me dis qu'il y aurait un beau sujet à traiter sur les rapports entre la CNAF
@cnaf_actus
et la
@CNIL
.
Police municipale,
#IA
et disproportionnalité des usages : un rappel pas inutile du tribunal administratif de Caen concernant l'usage des caméras augmentées.
« Il semble qu'il existe dans le cerveau une zone tout à fait spécifique qu'on pourrait appeler la mémoire poétique et qui enregistre ce qui nous a charmés, ce qui nous a émus, ce qui donne à notre vie sa beauté. »
- Milan Kundera, 1929-2023.
Coup de ❤️ absolu pour cette grande lecon. En tant que juriste, elle me parle à deux égards au moins: dans la généalogie médiévale de la gouvernementalité moderne qu’elle annonce; dans la réflexion sur la place des sciences sociales qu’elle ouvre.