Un algorithme d'adoption basé sur l'IA suscite des inquiétudes quant à son efficacité
Des travailleurs sociaux mettent en garde contre les limites de l'algorithme Family-Match, conçu pour jumeler des enfants vulnérables à des familles adoptives.
Inspiré par les rencontres en ligne, cet outil d'intelligence artificielle prétend prédire quelles familles seront les mieux adaptées, mais son efficacité est mise en doute.
Aux USA, alors que les travailleurs sociaux font face au défi de trouver des foyers durables pour les enfants vulnérables, Thea Ramirez, fondatrice de l'outil Family-Match, affirme que l'IA peut optimiser ces appariements. Cependant, l'expérience montre que les résultats sont mitigés révèle une enquête d’AP.
Le Tennessee a abandonné le programme avant même de le mettre en place, et la Virginie a signalé qu'il n'avait pas prouvé son efficacité. Les fonctionnaires remettent en question le manque de transparence sur le fonctionnement de l'algorithme et soulignent que des données sensibles sont collectées.
Bien que Mme Ramirez insiste sur le fait que l'outil est un point de départ pour les travailleurs sociaux et ne détermine pas à lui seul les adoptions, les experts soulignent qu'il n'existe pas de moyen infaillible de prédire le comportement humain, en particulier dans des situations aussi complexes que l'adoption.
Malgré les inquiétudes, Family-Match a revendiqué le mérite de centaines d'adoptions réussies en Floride et en Virginie, bien que les agences aient du mal à fournir des statistiques précises. Les travailleurs sociaux rapportent que l'outil recommande parfois des familles qui ne sont pas adaptées, soulevant des questions quant à la précision de l'algorithme.
À LIRE AUSSI: Les outils d'intelligence artificielle et leur utilisation
Des critiques soulignent également que l'outil collecte des données sensibles, telles que les antécédents d'abus sexuels et le statut LGBTQIA des enfants, des informations normalement limitées aux dossiers de protection de l'enfance strictement sécurisés.
Au-delà de ces problématiques, des experts en protection de l'enfance et en sécurité des données soulignent les risques liés à la dépendance croissante des agences gouvernementales à l'égard de l'analyse prédictive. Ils mettent en garde contre les possibles discriminations basées sur des caractéristiques inchangeables.
En dépit des critiques, Adoption-Share, l'organisation derrière Family-Match, cherche à étendre son utilisation dans d'autres États, suscitant ainsi davantage de débats sur l'efficacité et l'éthique de cette technologie dans le domaine de l'adoption.
