Kate Crawford
Kate Crawford est une chercheuse australienne. Elle est professeure à l’Université de New York et chercheuse à Microsoft. Elle est connue pour ses travaux sur les effets sociaux du numérique, et notamment du big data et de l'intelligence artificielle. En 2017, elle a co-fondé avec Meredith Whittaker le AI Now Institute. En 2019, elle est la première professeure invitée de la chaire de « Recherche intelligence artificielle et justice » à l'École normale supérieure de Paris, en partenariat avec la Fondation Abeona. Kate Crawford a aussi été musicienne dans le groupe de musique électronique B(if)tek (en).
...plusCompte non officiel
68
@kateCrawford
Bien que les ensembles de données massifs puissent sembler très abstraits, ils sont complets liés au lieu physique et à la culture humaine. Et les endroits, comme les gens, ont leur propre caractère et céréales individuels.
@kateCrawford
Les nombres ne peuvent pas parler d'eux-mêmes et les ensembles de données - peu importe leur échelle - sont toujours des objets de conception humaine.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Les livres sur les start-ups technologiques ont un modèle. Tout d'abord, il y a la grande vision des fondateurs, puis le parcours héroïque de la production de nouveaux mondes à partir de codage toute nuit et d'abus de caféine, et enfin la grande finale: immense richesse et sainteté laïque. Appelons cela le récit des emplois.
@kateCrawford
Les ensembles de données et de données ne sont pas objectifs; Ce sont des créations de design humain. Nous donnons des nombres leur voix, nous en tirerons des inférences et définissons leur signification à travers nos interprétations.
@kateCrawford
Les algorithmes apprennent en se nourrissant de certaines images, souvent choisies par les ingénieurs, et le système construit un modèle du monde basé sur ces images. Si un système est formé sur des photos de personnes majoritairement blanches, il aura plus de mal à reconnaître les visages non blancs.
@kateCrawford
Nous avons besoin d'un débat radical sur l'éthique, les limites et la réglementation des technologies de données de localisation.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Les histoires de discrimination peuvent vivre dans des plateformes numériques, et si elles sont incontestées, elles font partie de la logique des systèmes algorithmiques quotidiens.
@kateCrawford
Lorsqu'ils traitent des données, les scientifiques ont souvent eu du mal à expliquer les risques et les dommages qui l'utilisent pourraient infliger. Une préoccupation principale a été la confidentialité - la divulgation de données sensibles sur les individus, soit directement au public, soit indirectement à partir d'ensembles de données anonymisés par le biais de processus de calcul de la réidentification.
@kateCrawford
Plutôt que de supposer que les conditions d'utilisation sont équivalentes au consentement éclairé, les plates-formes doivent offrir des paramètres d'opt-in où les utilisateurs peuvent choisir de rejoindre des panneaux expérimentaux. S'ils ne s'opportent pas, ils ne sont pas obligés de participer.
@kateCrawford
La peur n'est pas que les mégadonnées discriminent. Nous savons déjà que c'est le cas. C'est que vous ne savez pas si vous avez été victime de discrimination.
@kateCrawford
L'anxiété surveillante est toujours un jumeau conjoint: l'anxiété des personnes surveillées est profondément liée à l'anxiété des surveillants. Mais l'anxiété des surveillants est généralement difficile à voir; Il est caché dans des documents classifiés et livré dans des langues hautement codées devant les comités du Sénat.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Alors que nous entrons dans une ère où les appareils personnels sont considérés comme des substituts des besoins publics, nous courons le risque que les inégalités déjà existantes soient encore enracinées. Ainsi, avec chaque ensemble de données volumineuses, nous devons nous demander quelles personnes sont exclues. Quels endroits sont moins visibles ? Que se passe-t-il si vous vivez dans l'ombre des grands ensembles de données ?
@kateCrawford
Les systèmes d'intelligence artificielle sujets aux erreurs ou biaisés ont le potentiel de pénétrer notre écosystème social d'une manière initialement difficile à détecter, nocive à long terme et coûteuse - ou même impossible - à inverser.
@kateCrawford
Les données sont quelque chose que nous créons, mais c'est aussi quelque chose que nous imaginons.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Comme toutes les technologies qui l'ont saisie, l'intelligence artificielle reflétera les valeurs de ses créateurs. L'inclusivité est donc importante - de qui le conçoit à qui siège aux conseils d'administration de l'entreprise et à quels perspectives éthiques sont incluses.
@kateCrawford
Il n'y a pas de solution technique rapide pour un problème social.
@kateCrawford
Si vous avez des chambres très homogènes, qui ont toutes eu les mêmes expériences de vie et horizons éducatifs, et ils sont tous relativement riches, leur perspective sur le monde va refléter ce qu'ils savent déjà. Cela peut être dangereux lorsque nous fabriquerons des systèmes qui affecteront tant de populations diverses.
@kateCrawford
Les gens pensent que le `` Big Data '' évite le problème de la discrimination parce que vous avez affaire à des ensembles de Big Data, mais, en fait, les mégadonnées sont utilisées pour des formes de discrimination de plus en plus précises - une forme de données rouge.
@kateCrawford
L'auto-suivi à l'aide d'un appareil portable peut être fascinant.
@kateCrawford
Si vous avez des chambres très homogènes, qui ont toutes eu les mêmes expériences de vie et horizons éducatifs, et ils sont tous relativement riches, leur perspective sur le monde va refléter ce qu'ils savent déjà. Cela peut être dangereux lorsque nous fabriquerons des systèmes qui affecteront tant de populations diverses.
@kateCrawford
Les préjugés et les angles morts existent dans les mégadonnées autant que dans les perceptions et expériences individuelles. Pourtant, il y a une croyance problématique que les données plus importantes sont toujours de meilleures données et que la corrélation est aussi bonne que la causalité.
@kateCrawford
Alors que nous entrons dans une ère où les appareils personnels sont considérés comme des substituts des besoins publics, nous courons le risque que les inégalités déjà existantes soient encore enracinées. Ainsi, avec chaque ensemble de données volumineuses, nous devons nous demander quelles personnes sont exclues. Quels endroits sont moins visibles ? Que se passe-t-il si vous vivez dans l'ombre des grands ensembles de données ?
@kateCrawford
Les ensembles de mégadonnées ne sont jamais terminés.
@kateCrawford
Si vous ne réfléchissez pas à la façon dont le biais systémique peut se propager par le système de justice pénale ou la police prédictive, il est très probable que, si vous concevez un système basé sur des données historiques, vous allez perpétuer ces biais .
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Nous avons besoin de toute urgence plus de procédure régulière avec les systèmes algorithmiques qui influencent nos vies. Si vous avez une partition qui met en danger votre capacité à obtenir un emploi, un logement ou une éducation, vous devriez avoir le droit de voir ces données, de savoir comment il a été généré et d'être en mesure de corriger les erreurs et de contester la décision.