Kate Crawford
Kate Crawford est une chercheuse australienne. Elle est professeure à l’Université de New York et chercheuse à Microsoft. Elle est connue pour ses travaux sur les effets sociaux du numérique, et notamment du big data et de l'intelligence artificielle. En 2017, elle a co-fondé avec Meredith Whittaker le AI Now Institute. En 2019, elle est la première professeure invitée de la chaire de « Recherche intelligence artificielle et justice » à l'École normale supérieure de Paris, en partenariat avec la Fondation Abeona. Kate Crawford a aussi été musicienne dans le groupe de musique électronique B(if)tek (en).
...plusCompte non officiel
68
@kateCrawford
Le sexisme, le racisme et d'autres formes de discrimination sont intégrés dans les algorithmes d'apprentissage automatique qui sous-tendent la technologie derrière de nombreux systèmes «intelligents» qui façonnent la façon dont nous sommes classés et annoncés.
@kateCrawford
Alors que de nombreux fournisseurs de grosses données font de leur mieux pour désidentifier les individus à partir d'ensembles de données sur les sujets humains, le risque de réidentification est très réel.
@kateCrawford
Vivametrica n'est pas la seule entreprise en lice pour le contrôle de l'espace de données de fitness. Il y a une puissance considérable à devenir le standard par défaut pour les mesures de santé. Toute entreprise qui devient le groupe d'analyse de données incontournable pour des marques comme Fitbit et Jawbone devrait gagner beaucoup d'argent.
@kateCrawford
Les systèmes d'intelligence artificielle sujets aux erreurs ou biaisés ont le potentiel de pénétrer notre écosystème social d'une manière initialement difficile à détecter, nocive à long terme et coûteuse - ou même impossible - à inverser.
@kateCrawford
Alors que l'IA devient la nouvelle infrastructure, coulant de manière invisible dans notre vie quotidienne comme l'eau de nos robinets, nous devons comprendre ses effets à court et à long terme et savoir qu'elle est sans danger pour tous.
@kateCrawford
Les promoteurs des mégadonnées aimeraient que nous croyions que derrière les lignes de code et de vastes bases de données réside dans des informations objectives et universelles sur les modèles de comportement humain, que ce soit des dépenses de consommation, des actes criminels ou terroristes, des habitudes saines ou une productivité des employés. Mais de nombreux évangélistes de grandes données évitent de regarder attentivement les faiblesses.
@kateCrawford
Nous devons toujours être suspects lorsque les systèmes d'apprentissage machine sont décrits comme exempts de biais s'ils ont été formés sur des données générées par l'homme. Nos biais sont intégrés à ces données de formation.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Les algorithmes apprennent en se nourrissant de certaines images, souvent choisies par les ingénieurs, et le système construit un modèle du monde basé sur ces images. Si un système est formé sur des photos de personnes majoritairement blanches, il aura plus de mal à reconnaître les visages non blancs.
@kateCrawford
Les gens pensent que le `` Big Data '' évite le problème de la discrimination parce que vous avez affaire à des ensembles de Big Data, mais, en fait, les mégadonnées sont utilisées pour des formes de discrimination de plus en plus précises - une forme de données rouge.
@kateCrawford
Les systèmes d'intelligence artificielle sujets aux erreurs ou biaisés ont le potentiel de pénétrer notre écosystème social d'une manière initialement difficile à détecter, nocive à long terme et coûteuse - ou même impossible - à inverser.
@kateCrawford
Si vous avez des chambres très homogènes, qui ont toutes eu les mêmes expériences de vie et horizons éducatifs, et ils sont tous relativement riches, leur perspective sur le monde va refléter ce qu'ils savent déjà. Cela peut être dangereux lorsque nous fabriquerons des systèmes qui affecteront tant de populations diverses.
@kateCrawford
Les mégadonnées ne sont ni les couleurs ni les sexes. Nous pouvons voir comment il est utilisé dans le marketing pour segmenter les gens.
@kateCrawford
Les algorithmes apprennent en se nourrissant de certaines images, souvent choisies par les ingénieurs, et le système construit un modèle du monde basé sur ces images. Si un système est formé sur des photos de personnes majoritairement blanches, il aura plus de mal à reconnaître les visages non blancs.
@kateCrawford
Facebook n'est pas le monde.
@kateCrawford
Il y a eu l'émergence d'une philosophie que les mégadonnées sont tout ce dont vous avez besoin. Nous suggérons que, en fait, les chiffres ne parlent pas d'eux-mêmes.
@kateCrawford
Les promoteurs des mégadonnées aimeraient que nous croyions que derrière les lignes de code et de vastes bases de données réside dans des informations objectives et universelles sur les modèles de comportement humain, que ce soit des dépenses de consommation, des actes criminels ou terroristes, des habitudes saines ou une productivité des employés. Mais de nombreux évangélistes de grandes données évitent de regarder attentivement les faiblesses.
@kateCrawford
Les promoteurs des mégadonnées aimeraient que nous croyions que derrière les lignes de code et de vastes bases de données réside dans des informations objectives et universelles sur les modèles de comportement humain, que ce soit des dépenses de consommation, des actes criminels ou terroristes, des habitudes saines ou une productivité des employés. Mais de nombreux évangélistes de grandes données évitent de regarder attentivement les faiblesses.
@kateCrawford
Les promoteurs des mégadonnées aimeraient que nous croyions que derrière les lignes de code et de vastes bases de données réside dans des informations objectives et universelles sur les modèles de comportement humain, que ce soit des dépenses de consommation, des actes criminels ou terroristes, des habitudes saines ou une productivité des employés. Mais de nombreux évangélistes de grandes données évitent de regarder attentivement les faiblesses.
@kateCrawford
Les biais cachés dans les étapes de collecte et d'analyse présentent des risques considérables et sont aussi importants pour l'équation des grandes données que les nombres eux-mêmes.
@kateCrawford
Nous devrions avoir des protections de traitement due équivalentes pour les décisions algorithmiques comme pour les décisions humaines.
@kateCrawford
Nous devons être vigilants sur la façon dont nous concevons et formons ces systèmes d'apprentissage machine, ou nous verrons des formes de biais enracinées intégrées à l'intelligence artificielle du futur.
@kateCrawford
Avec le Big Data, de grandes responsabilités.
@kateCrawford
Le montant d'argent et de l'énergie industrielle qui a été mis dans l'accélération du code d'IA a signifié qu'il n'y a pas eu autant d'énergie pour réfléchir aux cadres sociaux, économiques et éthiques pour ces systèmes. Nous pensons qu'il y a un besoin très urgent que cela se produise plus rapidement.
@kateCrawford
L'anxiété surveillante est toujours un jumeau conjoint: l'anxiété des personnes surveillées est profondément liée à l'anxiété des surveillants. Mais l'anxiété des surveillants est généralement difficile à voir; Il est caché dans des documents classifiés et livré dans des langues hautement codées devant les comités du Sénat.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.
@kateCrawford
Les données porteront toujours les marques de son histoire. C'est une histoire humaine tenue dans ces ensembles de données.
@kateCrawford
Il y a eu l'émergence d'une philosophie que les mégadonnées sont tout ce dont vous avez besoin. Nous suggérons que, en fait, les chiffres ne parlent pas d'eux-mêmes.
@kateCrawford
Les algorithmes apprennent en se nourrissant de certaines images, souvent choisies par les ingénieurs, et le système construit un modèle du monde basé sur ces images. Si un système est formé sur des photos de personnes majoritairement blanches, il aura plus de mal à reconnaître les visages non blancs.
@kateCrawford
Beaucoup d'entre nous s'attendent maintenant à ce que nos activités en ligne soient enregistrées et analysées, mais nous supposons que les espaces physiques que nous habitons sont différents. L'industrie du courtier de données ne le voit pas de cette façon. Pour eux, même l'acte de marcher dans la rue est un ensemble de données légitime à capturer, catalogué et exploité.