CFPB continua testando tecnologia algorítmica | Alston & Vogel

Em 26 de maio de 2022, o Consumer Financial Protection Bureau emitiu um Circular sobre a proteção financeira do consumidor Afirma que, de acordo com o ECOA e o Regulamento B. O CFPB, os credores que usam ferramentas algorítmicas na tomada de decisões de crédito “devem fornecer justificativas específicas aos solicitantes contra os quais uma ação adversa é tomada”. declarado anteriormente que as circulares são declarações de políticas destinadas a “fornecer orientação a outras agências com responsabilidade pela proteção financeira do consumidor sobre como o CFPB pretende fazer cumprir a lei federal de financiamento ao consumidor”. A circular em questão postula que alguns algoritmos complexos equivalem a uma “caixa preta” não interpretável que torna difícil – se não impossível – identificar com precisão os motivos específicos para recusar crédito ou tomar outras medidas adversas. O CFPB concluiu que “[a] O credor não pode justificar a não conformidade com os requisitos do ECOA e do Regulamento B apenas pelo fato de que a tecnologia que ele usa para avaliar os pedidos é muito complicada ou opaca para entender.”

Esta última circular segue uma proposta do CFPB referente à revisão da IA ​​utilizada em Modelos Automatizados de Avaliação (“AVMs”). Como encontramos em nosso postagem anterior sobre este tema, o CFPB declarou que certos sistemas algorítmicos poderiam potencialmente entrar em conflito com o ECOA e os regulamentos de implementação (“Regulamento B”). Nisso esboço anterior das propostas Em relação à entrada de dados, o CFPB reconheceu que certos algoritmos de aprendizado de máquina geralmente são “opacos” demais para testes. O CFPB teorizou ainda que os modelos algorítmicos “podem replicar padrões históricos de discriminação ou introduzir novas formas de discriminação devido à forma como um modelo é projetado, implementado e usado”.

De acordo com Regulamento B, uma justificativa para uma ação adversa “deve ser específica e indicar o(s) principal(is) motivo(s) para a ação adversa. São insuficientes as declarações de que a ação adversa foi baseada em normas ou políticas internas do credor, ou que o requerente, requerente conjunto ou parte similar não conseguiu obter pontuação de qualificação no sistema de classificação de crédito do credor. formulários de divulgação, “se os motivos listados nos formulários não forem os fatores realmente usados, um credor deixará de satisfazer o requisito de notificação simplesmente marcando o próximo fator listado identificável”. avaliação apropriada, a CFPB também alegou no início deste mês que as disposições do ECOA e Reg B se aplicam não apenas aos solicitantes de empréstimos, mas também àqueles que já obtiveram um empréstimo. Esta posição corresponde à anterior da Mesa amicus curto enviado no mesmo tópico John Fralish x Bank of Am., NA, #21-2846(L), 21-2999 (7º Círculo). Como resultado, o CFPB alega que a ECOA exige que os credores forneçam “avisos de ação adversa” aos mutuários com empréstimos existentes. Por exemplo, o CFPB alega que o ECOA proíbe os credores de reduzir o limite de crédito de certas contas de mutuários ou de certos mutuários que se envolvem em práticas de cobrança de dívidas mais agressivas de forma proibida, como B. Corrida para subjugar.

A recente circular do CFPB sinaliza uma visão menos positiva da tecnologia de IA em comparação com as declarações anteriores do Conselho de Administração. em um Postagem do blog de julho de 2020, o CFPB destacou os benefícios para os consumidores do uso de IA ou aprendizado de máquina em empréstimos, observando que “tem o potencial de expandir o acesso ao crédito, permitindo que os credores avaliem a solvência de alguns dos milhões de consumidores avaliados que não podem ser avaliados usando métodos tradicionais. técnicas de subscrição.” O CFPB também reconheceu que a incerteza em torno da estrutura regulatória existente poderia retardar a adoção de tal tecnologia. Na época, o CFPB observou que o ECOA manteve um grau de “flexibilidade”, observando que “um credor não precisa descrever como ou por que um fator divulgado afeta negativamente um pedido… ou, no caso de sistemas de pontuação de crédito, como o Fator que afeta a solvência. Nesse post anterior, a CFPB concluiu que “um credor pode divulgar um motivo para uma recusa, mesmo que a relação desse fator divulgado com a previsão de solvência possa não ser clara para o requerente. Essa flexibilidade pode ser útil para os credores ao emitir avisos de ação adversa com base em modelos de IA em que as variáveis ​​e as causas-raiz são conhecidas, mas podem ser baseadas em relacionamentos não intuitivos -Política de carta de ação e política de sandbox para apoiar a conformidade pelo Bureau destacadas como ferramentas para ajudar a fornecer um porto seguro para o desenvolvimento de IA. Porém em um declaração mais recente, o CFPB criticou esses programas como ineficazes e parece que esses programas não são mais uma prioridade para o Conselho de Administração. Da mesma forma, esta postagem de blog anterior agora inclui um aviso de isenção de responsabilidade de que “transmite uma descrição incompleta dos requisitos do ECOA e do Regulamento B para notificação de ação adversa, que se aplicam igualmente a todas as decisões de crédito, independentemente da tecnologia usada para tomá-las. O ECOA e o Regulamento B não permitem que os credores usem tecnologia para a qual eles não possam fornecer razões específicas para ação adversa.” A isenção de responsabilidade direciona os leitores para a circular mais recente do CFPB para obter mais informações. Esta última atualização deixa claro que o CFPB examinará os fundamentos dos sistemas que utilizam tais tecnologias e exigirá explicações detalhadas para suas conclusões.