Doit-on avoir une confiance aveugle envers l'IA ? #machinelearning

Extrait de la conférence Floa Bank.


Sous-titres accessibilité :
Je vais répondre aujourd'hui mais c'est en tout cas de se poser la question de jusqu'où on doit aller dans l'explicabilité finalement C'est aussi de se dire qu'il y a pas mal d'études qui ont démontré que nous humains on a tendance à penser qu'une décision qui vient de l'IA est plus objective qu'une décision qui vient d'un humain Et donc on a aussi nous une attente qui est plus forte et c'est ça aussi qui peut justifier qu'on ait un besoin qui soit plus fort en termes d'explicabilité et en termes de performance Pour qui l'IA doit être explicable Finalement lui ce qu'il dit ce n'est pas des black box car ça n'y comprend rien on fait confiance aveugle au truc Finalement je vais faire confiance à des experts qui vont travailler sur un modèle à des organismes de contrôle qui vont vérifier finalement que le processus a été suivi Et derrière moi je vais pouvoir faire une confiance presque aveugle comme je l'ai dans un médicament dans ce modèle-là et je ne vais pas avoir besoin qu'il soit expliqué pour moi D'ailleurs comment on a une approche qui est holistique et collective sur ce sujet Parce que ce n'est pas chacun dans notre coin qu'on va réussir à craquer ça et c'est comment on renforce les échanges entre personnes